Back to list All Articles Archives Search RSS Terug naar lijst Alle artikelen Archieven Zoek RSS

Mythe: Als robots en computers slimmer worden, hoeven mensen niet meer verantwoordelijk te zijn

Mythe: Als robots en computers slimmer worden, hoeven mensen niet meer verantwoordelijk te zijn

Photographer:Fotograaf: Archief Merel Noorman

Naar het rijk der fabelen

Zelfrijdende auto’s, drones die in oorlogsgebieden worden ingezet, robots die chirurgische ingrepen doen. Allemaal voorbeelden waarin de computer een grote rol speelt, maar wat gebeurt er als er iets misgaat? Als een zelfrijdende auto niet meer stopt voor een zebrapad? Wie draagt dan de verantwoordelijkheid?
Volgens Merel Noorman, techniekfilosoof en postdoc aan de faculteit cultuur- en maatschappijwetenschappen, wekt het idee dat slimme computers taken overnemen van mensen de suggestie dat mensen buiten spel geplaatst worden. “Maar dat beeld klopt niet. Bepaalde menselijke taken of beslissingen zijn misschien wel overgenomen door een computer, maar er zijn andere taken voor in de plaats gekomen. Als een organisatie of bedrijf gaat automatiseren, zoals bij de IB Groep (nu: Dienst Uitvoering Onderwijs) tientallen jaren geleden, is het niet meer de ambtenaar die bepaalt of een student wel of niet studiefinanciering ontvangt, maar een computer. Is dat systeem dan verantwoordelijk? Nee natuurlijk. Dat zijn de managers die het systeem hebben ingekocht, de ontwikkelaars en de fabrikanten.”

Een mythe over robots en slimme computersystemen. Maar wat zijn dat eigenlijk? “Binnen de kunstmatige intelligentie maken we slimme computers die kunnen zoeken, gezichten herkennen, patronen uit data halen, teksten lezen of robots aansturen”, zegt Noorman. “Ook autonomie is een belangrijk kenmerk. De robot voert voor langere tijd, zonder dat een mens zich ermee bemoeit, taken uit. Bovendien zijn die meestal vrij ingewikkeld. Een van de paradepaardjes onder de drones die nu in ontwikkeling is in de Verenigde Staten is de X-47B, an unmanned combat air vehicle. Deze wordt gezien als meer autonoom dan andere drones omdat hij in staat is zelf op te stijgen en te landen op een vliegdekschip, wat moeilijk is omdat zo’n schip wiebelt en een kleine startbaan heeft.”
Maar waarom willen we (meer van) dit soort drones en andere robots? “Ze worden vaak ingezet in missies die te vies, gevaarlijk of onmogelijk zijn voor mensen, zoals na de kernramp van Fukushima. Ook zijn ze efficiënter en sneller. Toch klinkt er ook kritiek als het gaat om bewapende drones die op doel schieten. Mensen kunnen moe worden en vergissingen maken, zeker, maar er zit ook iets immoreels aan deze taken: beslissingen over leven en dood worden overgedragen aan een automatisch systeem. En daarnaast: wat houdt een overheid tegen om nog meer drones in te zetten? Het lijkt grenzeloos.”

Terug naar de verantwoordelijkheid. Waar mag ik een claim indienen als mijn zelfrijdende auto stoplichten negeert? “Daarover vinden nu onderhandelingen plaats. In Amerika wordt veel met zelfrijdende auto’s geëxperimenteerd. Het geldende aansprakelijkheidsbeleid zal moeten worden aangepast. Als je in een auto rijdt die beslissingen voor jou maakt, dan is het lastig om alle schuld op je te nemen als het fout gaat. Volvo, Google en Mercedes-Benz hebben alle drie gezegd dat zij van plan zijn zelf de kosten te dragen van eventuele ongelukken.”
Noorman vindt de discussie over aansprakelijkheid niet meer dan terecht. “Als ik een robot maak die vuil van de straat raapt, dan heb ik daar bepaalde verwachtingen bij. Ik wil toch geen robot die tegen mensen rijdt? Dan moet hij nodig opnieuw afgestemd worden. Dus in die zin hebben mensen (programmeurs, inkopers van systemen, fabrikanten) altijd een eigen verantwoordelijkheid voor de condities waaronder een robot of computersysteem kan opereren.”

Dit is een serie waarin wetenschappers misvattingen op hun vakgebied naar het rijk der fabelen verwijzen

Categories:Categorieën:
Tags:

CommentsReacties

There are currently no comments.Er zijn geen reacties.

Post a Comment

Laat een reactie achter

Door een reactie te plaatsen gaat u akkoord met de verwerking van de ingevulde gegevens door Observant.
Voor meer informatie: Privacyverklaring
By responding, you agree to send the entered data to Observant.
For more info: Privacy statement

Naam (verplicht)

E-mail (verplicht)