Boeken

Tuesday, February 20, 2018

Techreuzen: 'Angst voor kunstmatige intelligentie onnodig'

Op zaterdag 17 februari 2018 was ik aanwezig bij vier debatten over de toekomst van kunstmatige intelligentie bij de conferentie AAAS2018 in Austin, Texas.

Onderzoeksleiders op het terrein van kunstmatige intelligentie Peter Norvig (Google), Yann LeCun (Facebook) en Eric Horvitz (Microsoft) betoogden waarom we echt niet bang hoeven te zijn dat kunstmatige intelligentie binnenkort de menselijke intelligentie overtreft. De huidige verwachtingen over kunstmatige intelligentie zijn volgens hen te hoog gespannen.

Voor het Radio 1-programma Nieuws en Co deed ik verslag van de conferentie. Klik op onderstaande afbeelding om mijn bijdrage te beluisteren:







Monday, January 22, 2018

Computerbeslissingen moeten transparant zijn

Wie krijgt er wel of niet een lening van de bank? Welke sollicitanten mogen er op gesprek komen? Wie komt er op de no-fly-lijst van een vliegtuigmaatschappij? Toont een medische scan wel of niet een  tumor? Steeds vaker nemen computers belangrijke beslissingen over mensen. Hoe belangrijker de beslissing, hoe meer we ook mogen verwachten dat computers kunnen uitleggen wat ze hebben beslist.

Mark Beekhuis maakte voor BNR Nieuwsradio een podcast over dit soort vragen, waarin ik ook uitgebreid aan het woord kom. En behalve mijzelf ook de hoogleraren Aske Plaat en Catholijn Jonker.

Klik op onderstaande afbeelding om de podcast te beluisteren (22 min.):




Sunday, January 21, 2018

Binnen één dag speelt AlphaZero iedereen onder tafel

AlphaZero leert zichzelf binnen een dag beter schaken, go en shogi spelen dan wereldkampioenen.


Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 20 januari 2018

Volgens historicus Johan Huizinga komt de menselijke cultuur voort uit het spel. Dat is de essentie van zijn klassieke boek Homo ludens. Nu één enkel computerprogramma, AlphaZero, er voor het eerst in is geslaagd om zowel schaken, go als shogi (Japans schaken) op bovenmenselijk niveau te leren spelen, zonder enige andere voorkennis dan de basale spelregels, moeten we misschien ook spreken over de Compu ludens: de computer die zijn slimheid al spelend ontwikkelt.

Spellen als dammen, schaken en go zijn al decennialang een belangrijke drijvende kracht achter de ontwikkeling van kunstmatige intelligentie. Computerprogramma AlphaZero is ontwikkeld door het Londense bedrijf DeepMind (eigendom van Google), als opvolger van AlphaGoZero. Afgelopen oktober verpletterde AlphaGoZero zijn één jaar oudere voorganger AlphaGo zonder enige vorm van menselijke kennis over het go-spel te gebruiken. DeepMind heeft als ultieme droom om mensachtige intelligentie in een computer te ontwikkelen. Een belangrijke stap daarbij is om dezelfde software meerdere spellen te laten spelen. Tot nu toe konden computers slechts één spel goed leren spelen, terwijl een menselijk brein een heleboel spellen kan spelen. Maar met AlphaZero is het in december 2017 voor het eerst gelukt, en nog op bovenmenselijk niveau ook.

Lees het hele artikel op de website van NRC Handelsblad.

Wednesday, January 17, 2018

Moeten we bang zijn voor robots?

De website Frankwatching publiceerde vandaag een interview met mij over het boek Hallo robot van Nieske Vergunst en mijzelf:

Robots worden omgeven met een zweem van mysterie. In films staan robots te popelen om de macht van ons mensen over te nemen. Economen waarschuwen ervoor dat veel van ons onze baan gaan verliezen aan robots. Ondernemers uit de tech-industrie, zoals Elon Musk, menen dat robots ons de hel op aarde zullen brengen. Maar, als robots zo gevaarlijk zijn, waarom zouden wij mensen robots vertrouwen? Waarom zouden we met robots willen communiceren en hen als stofzuiger ons huis, of als operatierobot zelfs ons lichaam toevertrouwen?

Het boek Hallo robot – de machine als medemens van Bennie Mols en Nieske Vergunst zoekt uit waartoe robots in staat zijn. Het is tijd voor een goed gesprek met auteur Bennie Mols.

Klik op onderstaande afbeelding om het hele artikel te lezen:



In december 2017 verscheen trouwens al de tweede druk van het boek.



Friday, January 5, 2018

Fietscultuur, fietsinnovaties en de ideale fietsstad

Op oudjaarsdag stond NPO Radio 1 tussen 14-17 uur in het teken van de fiets: over fietscultuur, fietsinnovaties en de ideale fietsstad. 

Zelf schoof ik als fietsliefhebber aan als tafelheer bij presentator Jeroen Dirks.

Klik op onderstaande afbeelding om de uitzending te beluisteren:




Monday, November 20, 2017

De robot als medemens

Dit artikel is verschenen in de VPRO Gids van 28 oktober - 3 november 2017



Terwijl twee astronauten op de planeet Mercurius verblijven, ontstaat er een probleem met hun zonnepanelen. Als ze het probleem niet op tijd oplossen, zitten ze spoedig zonder energie. De dood is dan onvermijdelijk. Om de zonnepanelen te repareren hebben ze de stof selenium nodig, maar die is niet op voorraad. De astronauten weten dat er een poel met vloeibaar selenium op Mercurius ligt, maar die poel is veel te gevaarlijk om er zelfs in hun ruimtepakken dichtbij in de buurt te komen. Gelukkig hebben ze een snelle robot, bijgenaamd Speedy, die ze de opdracht geven om selenium te halen. 

Als Speedy niet snel terugkeert, ruiken de astronauten onraad. Ze ontdekken dat de robot als een dronkenman rondjes loopt rond de seleniumpoel. Hij blijkt in conflict te zijn gekomen tussen twee wetten waarmee hij is geprogrammeerd. Volgens de ene wet moet hij opdrachten van mensen gehoorzamen en dus selenium gaan halen. Volgens de andere wet moet hij zijn eigen voortbestaan veilig stellen. Helaas blijkt het selenium ook gevaarlijk voor zijn robotbrein. Door rondjes te gaan lopen rond de seleniumpoel brengt hij zichzelf niet te zeer in gevaar, maar hij komt ook geen stap dichter bij zijn opgedragen doel. Via een list lossen de astronauten dit probleem op.

Sciencefictionschrijver Isaac Asimov publiceerde dit verhaal onder de titel Runaround in 1942, waarin hij trouwens ook het woord ‘robotica’ introduceerde. Het ging deel uit maken van zijn klassieke verhalenbundel Ik, robot, dat talloze bekende robotici heeft geïnspireerd.

Asimov was zijn tijd ver vooruit. De eerste echte robots − machines die kunnen waarnemen, denken en handelen en die een computer als brein gebruiken − werden pas eind jaren veertig gebouwd, toen de computer net was uitgevonden. Maar nog voordat deze eerste robots ten tonele verschenen had Asimov al zijn buik vol van sciencefictionverhalen waarin robots zo intelligent zijn geworden dat ze de mens gaan overheersen. Hij gaf er de term Frankensteincomplex aan, naar het moordende monster dat werd geschapen door dokter Frankenstein in de briljante negentiende eeuwse roman van Mary Shelley, geschreven toen ze pas negentien jaar oud was. Zelf verzon Asimov drie ethische wetten voor robots die hij gebruikte om volgens hem veel interessantere en realistischere verhalen over robots te vertellen die weg bleven van het door hem verfoeide Frankensteincomplex.

Asimov vond dat robots slimme instrumenten moesten zijn en net als alle andere instrumenten die de mens in de loop van de geschiedenis heeft gemaakt, ontwerpt de mens een instrument om hem te dienen en niet om zich tegen hem te keren.

Fantasierijke voorspellingen
Het Frankensteincomplex ligt diep verankerd in het culturele bewustzijn van de westerse mens. Hoe anders is dat in Japan. Daar bestaat een veel vriendelijker en socialer beeld van de robot. Google in een westers land op afbeeldingen van robots, en je krijgt relatief veel oorlogszuchtige, mensvijandige robots te zien. Doe hetzelfde in Japan en je ziet relatief veel vriendelijke, menslievende robots.

Met de sterk toegenomen denkkracht van computers in de afgelopen tien jaar − de kunstmatige intelligentie − staat het Frankensteincomplex weer volop in de spotlights. Natuurkundige Stephen Hawking heeft geroepen dat kunstmatige intelligentie het einde van de mensheid kan betekenen. Tesla-oprichter Elon Musk vreest dat de mens niet meer dan een huisdier van superslimme robots gaat worden.

Hawking mag dan alles van zwarte gaten weten, hij is geen expert als het gaat om robots en kunstmatige intelligentie. Van aandacht houdt hij wel. En Musk zou zich beter druk kunnen maken over de veiligheid van zijn zelfrijdende Tesla’s en de privacy van de rijgegevens die hij van alle Tesla-rijders verzamelt. Dat zijn veel nijpender problemen dan een theoretisch mogelijke, maar in de praktijk extreem onwaarschijnlijke Robocalyps.

Eind 2016 publiceerde een groep invloedrijke experts in robotica en kunstmatige intelligentie een onderzoeksrapport onder de titel One hundred year study on artificial intelligence (AI100). Zij concludeerden: ‘In tegenstelling tot de fantasierijke voorspellingen over kunstmatige intelligentie in de populaire pers, vond deze studiegroep geen reden dat kunstmatige intelligentie een op handen zijnde bedreiging voor de mensheid is. Er zijn nog geen machines gebouwd die eigen intenties hebben en zelfstandig langetermijndoelen ontwikkelen. En het is ook niet waarschijnlijk dat deze in de nabije toekomst worden ontwikkeld.’

Kracht en zuinigheid
Wie te ver vooruit kijkt, ziet noch de kansen, noch de problemen vlak voor zich. Dat is het probleem met dystopieën als die van Hawking en Musk. Ja, de beste menselijke schaker werd eind jaren negentig al door een computer verslagen. Ja, de beste menselijke go-speler dolf dit jaar het onderspit tegen computer AlphaGo. Maar koop eens een stofzuigrobot en de beperkingen van robots worden pijnlijk duidelijk. Stofzuigrobots zijn ideaal voor grote, lege, gladde vloeren, voor geordende omgevingen. Zet ze echter neer in rommelige huizen vol met spullen en de robot weet zich geen raad. Hij schuift geen spullen aan de kant, komt niet in lastige hoekjes en rijdt zich geregeld vast. Wel kan je kat er met veel plezier rondjes op rijden. Wat de mens makkelijk afgaat, gaat de robot vaak moeilijk af, en andersom, iets waar de robotica zelfs een aparte term voor heeft: de paradox van Moravec.

In strikte gecontroleerde omgevingen als autofabrieken zetten robotarmen al sinds de jaren zestig met groot succes onze auto’s in elkaar, maar zich voortbewegen in de alledaagse, ongestructureerde mensenwereld is andere koek. Sensoren worden steeds beter, computers steeds sneller, maar het robotlichaam is nog steeds gemaakt van harde metalen of plastics, materialen die zichzelf niet repareren en inflexibel zijn. Een grote inktvis kan zich door kleine openingen wurmen. Een kakkerlak kan zijn uitwendig skelet uitschuiven om in een spleet te kruipen die vier maal nauwer is dan het beestje zelf. Een gekko loopt ondersteboven langs plafonds. Menselijke topatleten rennen ultra-trails van honderd kilometer in bergachtige terreinen.

Er is nog geen enkele robot die ook maar enigszins in de buurt komt bij deze prestaties van biologische organismen. Van sterke robots loopt de accu razendsnel leeg. Bekijk eens een You Tube-filmpje van de viervoetige robot Big Dog. Big Dog loopt als een echte hond en wanneer hij een trap krijgt (wat op zichzelf een heel onaangenaam gevoel geeft om te zien) dan corrigeert hij zijn loop en blijft perfect overeind. Big Dog vreet energie en het Amerikaanse leger, waarvoor hij werd ontwikkeld, besloot er geen gebruik van te maken omdat hij te veel lawaai maakt. Niet zo handig met een vijand in de buurt.

Er bestaan weliswaar zuinige, tweebenige looprobots, maar die vallen bij een beetje wind of oneffenheid al om. De robotica is er nog niet in geslaagd om kracht en zuinigheid te combineren, zoals de natuur dat in de loop van de evolutie op de meest wonderbaarlijke manieren wel voor elkaar heeft gekregen.

En dan hebben we het alleen nog maar gehad over de fysieke beperkingen van robots. Ondanks de spectaculaire vooruitgang in de kunstmatige intelligentie op terreinen als spraakherkenning, automatisch vertalen, beeldherkenning en dialogen, zijn er talloze beperkingen voor wie iets dieper kijkt. Tot nu toe is kunstmatige intelligentie beperkt tot specialistische, goed gedefinieerde taken: een computer kan goed schaken en gezichten herkennen, een robot kan een auto in de lak zetten en een zelfrijdende auto kan op de snelweg zelfstandig inhalen.

Ook de lerende computers die de afgelopen jaren sterk in opkomst zijn, hebben hun beperkingen. Ze hebben altijd heel veel voorbeelden nodig om van te leren. Het menselijk brein heeft vaak maar heel weinig voorbeelden nodig. Een baby hoeft maar een paar keer het gezicht van haar moeder of vader te zien om te hebben geleerd dat het haar moeder of vader is. Hoe we dit onze robots moeten leren? We hebben nog geen idee.

In het bouwen van algemene kunstmatige intelligentie, zoals mensen die hebben, is in de afgelopen vijftig jaar veel minder vooruitgang geboekt dan in specialistische kunstmatige intelligentie. Daarom hebben we nog steeds geen computer die over willekeurig welk onderwerp kan praten, nog steeds geen creatieve robotwetenschapper, nog steeds geen robots als hulp in de huishouding, en nog steeds geen volledig zelfrijdende auto’s waaraan we onze kinderen toevertrouwen om ze in een drukke stad van huis naar de voetbalclub te brengen.

Robots hard nodig
Door de toenemende vergrijzing zullen westerse landen in de komende decennia steeds minder werkenden tellen ten opzichte van het aantal niet-werkenden. Om op zijn minst dezelfde welvaart te behouden, betekent dat dat elke werkende meer zou moeten presteren. Daarvoor zullen we robots hard nodig hebben. Robot en mens samen zijn veel efficiënter dan ieder afzonderlijk.

Als er één ethische uitgangspunt is dat de robotontwikkeling zou moeten drijven, dan is het dat de mensheid met robots meer moet floreren dan zonder robots. Robotisering is geen natuurverschijnsel dat ons overkomt, maar een ontwikkeling waar we met ons allen − burgers, bedrijven, overheden, maatschappelijke organisaties − invloed op hebben. De robot is er voor de mens en niet andersom.

De toekomst van robots op de korte en middellange termijn − voordat de onzekerheid zo groot wordt dat niemand er meer een zinnig woord over kan zeggen − ligt vooral in de combinatie van de robot als slim instrument aan de ene kant, en als sociaal wezen aan de andere kant. In de komende jaren zullen robotarmen, al decennialang de werkpaarden van de robotica, steeds makkelijker steeds meer verschillende taken aankunnen. In plaats van het eindeloos uitvoeren van een-en-dezelfde taak zullen de robotarmen nieuwe taken kunnen leren wanneer een mens het voordoet. De robotarmen zullen daardoor producten steeds meer op maat kunnen maken in plaats van eindeloze series van exact hetzelfde. De robotarm wordt geleidelijk een collega van de mens op de werkvloeren van de maakindustrie, de verpakkingsindustrie, de logistiek. En de zelfrijdende auto wordt de eerste grootschalige ervaring van gewone burgers met de grote mogelijkheden van mobiele robots.

Tegelijk met de ontwikkeling van robots als steeds slimmere instrumenten, nemen ook hun sociale vaardigheden toe. Ze gaan onze taal beter begrijpen en spreken, ze zullen onze lichaamstaal beter gaan begrijpen en ze zullen zelf beter worden in het uitdrukken wat ze denken en willen via hun lichaam. Wanneer een mobiele robot rondrijdt in een kantoor en geen handen heeft om een deur te openen kan hij de hulp van mensen inroepen. Hij kan een vragend gezichtje opzetten. Of hij kan letterlijk om hulp vragen.

De robot hoeft hiervoor helemaal geen perfecte kopie van een mens te zijn. In een smiley van twee puntjes en een haakje, zien we al een gezicht. Een bureaulamp die in een tekenfilm begint te dansen, dichten we al emoties toe. Het menselijk brein is zo goed in het antropomorfiseren van zijn omgeving, dat we ook niet-menselijke robots al snel menselijke eigenschappen toedichten. Net zoals nu iedereen een computer in huis heeft zal over enkele decennia iedereen een robot in huis hebben. En zonder dat je iets van programmeren hoeft te weten, kun je je huisrobot al pratend nieuwe taken laten doen. De robot niet alleen als collega, maar ook als maatje.

Creativiteit
Maakt de robot mensen dan niet massaal werkloos? In de afgelopen decennia is daarvan niets gebleken. Het effect van automatisering en robotisering op de totale arbeidsmarkt is in deze periode neutraal of zelfs lichtjes positief geweest. Dat is goed nieuws voor de toekomst. Slechts een klein aantal banen zal helemaal verdwijnen. Maar dat is nooit anders geweest in de geschiedenis. Daar staat tegenover dat er ook geheel nieuwe banen bijkomen. Tien jaar geleden bestond er nog geen app-industrie. Een grotere bron van zorg is de aanwijzing dat robotisering wel tot een schevere welvaartsverdeling kan leiden. Als we dat willen voorkomen zullen we wel goed moeten nadenken over maatregelen om inkomens en vermogens eerlijker te herverdelen.

De meeste banen zullen door robotisering van karakter veranderen. Sommige taken doen robots nu eenmaal sneller en nauwkeuriger dan mensen. Trouwens, sommige taken kunnen alleen al in ethisch opzicht beter door een robot worden gedaan, denk aan gevaarlijke taken als het werken in een mijn, constructiewerk waar de rug zwaar onder te lijden heeft, gevaarlijk reddingswerk na een natuurramp en het inspecteren van opslagplaatsen waar giftige gassen rondhangen. Andere taken zijn voorlopig nog ver buiten het bereik van robots omdat we nog geen idee hebben hoe we bepaalde vaardigheden in een robot kunnen inbouwen: creativiteit, algemeen probleemoplossend vermogen, systeemdenken, het vermogen om te blijven leren en veranderen, en last but not least het vermogen om te bedenken wat mensen willen. De toekomst is aan mensen die het beste met robots kunnen samenwerken en die robots slimmer kunnen maken.


Dit is Sophia, ze heeft een paspoort

Dit artikel is gepubliceerd in NRC Handelsblad van 6 november 2017



Sophia is een robothoofd dat er akelig menselijk uitziet. Ze beweegt, praat, luistert, maakt gezichtsuitdrukkingen en ziet de wereld via een camera in haar borstkas. Sophia produceert begrijpelijke zinnen – een prestatie op zichzelf – maar heeft geen idee waar ze het over heeft en heeft geen eigen leven.

Toch kende Saoedi-Arabië deze robot onlangs het staatsburgerschap toe. Sophia heeft juridisch gezien nu dezelfde rechten en plichten als een Saoedische man, maar het is onduidelijk wat daarvan de praktische consequenties zijn.

Het toekennen van het Saoedische staatsburgerschap aan een robot was in de eerste plaats een publiciteitsstunt: ‘kijk ons eens technologisch vooruitstrevend zijn’. Misschien was het ook een reactie op de aanstelling van een minister voor kunstmatige intelligentie door buurland de Verenigde Arabische Emiraten een paar dagen eerder. Maar van een land dat vrouwen niet dezelfde rechten toekent als mannen, is het toekennen van het staatsburgerschap aan een robothoofd wel het laatste wat je verwacht.

Wat de motieven van Saoedi-Arabië ook mogen zijn, de actie maakt duidelijk dat de recente ontwikkelingen in kunstmatige intelligentie ons voor nieuwe vragen stellen. Moeten slimme computers en robots rechten krijgen? Hoe zorgen we ervoor dat wij nog begrijpen hoe en waarom intelligente systemen de beslissingen nemen die ze nemen? Hoe voorkomen we dat intelligente systemen discrimineren of anderszins schade berokkenen? Hoe zorgen we ervoor dat kunstmatige intelligentie iedereen ten goede komt en niet alleen de happy few?

Wetenschappers en andere partijen zijn tal van initiatieven gestart voor het opstellen van ethische principes voor onze omgang met kunstmatige intelligentie. Bijvoorbeeld het in Boston gevestigde Future of Life Institute, met mensen als Tesla-oprichter Elon Musk en sterwetenschapper Stephen Hawking in de wetenschappelijke adviesraad. Ook onder andere de Californische non-profitorganisatie XPrize, de Verenigde Naties en het Europese Parlement zijn bezig met onze ethische principes in verhouding tot slimme computers.

Principes

Deze initiatieven proberen los van elkaar standaarden te ontwikkelen om kunstmatige intelligentie in goede banen te leiden. Zo heeft het Future of Life Institute 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen. Bijvoorbeeld het principe dat als een kunstmatig intelligent systeem schade veroorzaakt, duidelijk moet kunnen worden gemaakt waarom die schade is veroorzaakt. En dat zulke systemen zo ontworpen en gebruikt moeten worden dat ze recht doen aan de idealen van menselijke waardigheid, mensenrechten, vrijheden en culturele diversiteit. Ook moet een wedloop in autonome wapens worden voorkomen.

Universitair hoofddocent Virginia Dignum van de TU Delft, gespecialiseerd in ethiek van kunstmatige intelligentie en robotica, is betrokken bij drie andere initiatieven: de IEEE Global Initiative for ethically aligned design of AI, ADA-AI en het nieuwe instituut Design for Values van de TU Delft. Zij noemt drie principes die ze afkort met ART: accountability, responsibility en transparancy.

Accountability (rekenschap) betekent dat er uitgelegd moet kunnen worden waarom een systeem doet wat het doet. Wat zijn de aannames? Waarom neemt het systeem een bepaalde stap? Responsibility (verantwoordelijkheid) staat voor het principe dat mensen verantwoordelijk zijn en niet machines. Die mensen kunnen ontwikkelaars zijn, bouwers, eigenaars of gebruikers. Ten slotte betekent Transparantie dat je duidelijk moet kunnen maken volgens welke motieven, waarden en principes een systeem is ontworpen.

Ethische principes kunnen op verschillende manieren worden geïmplementeerd, legt Dignum uit. „Een mogelijkheid is wettelijke regelgeving, of het ontwikkelen van standaarden of keurmerken. Je zou zelfs kunnen voorstellen dat ontwikkelaars een soort eed afleggen, zoals artsen dat doen in hun eed van Hippocrates.” We staan pas aan het begin en uiteindelijk zullen er combinaties van deze mogelijkheden ontstaan, denkt Dignum.

Verbrokkeling

Leiden al die verschillende initiatieven niet tot verbrokkeling en daardoor tot minder effectieve acties? „Elke groep ontwikkelt zijn eigen ideeën, maar natuurlijk is er veel overlap”, zegt Dignum. Er zijn wel pogingen gedaan om groepen te laten samenwerken of zelfs een soort internationaal agentschap te vormen, maar die zijn tot nu toe niet echt gelukt, zegt ze. „Ik denk dat het daarvoor nog wat te vroeg is. Maar op de lange termijn is samenwerking noodzakelijk.”

Het is natuurlijk mooi dat er ethische principes worden opgesteld, maar belangrijker is dat bedrijven zich hier aan gaan houden. Wat dat betreft is Dignum optimisch: „Ethics are the new green. Ethische principes horen bij een trend van maatschappelijk verantwoord ondernemen. Het is niet voor niets dat ook consultancybedrijven als PwC en Accenture richtlijnen voor kunstmatige intelligentie voor bedrijven hebben opgesteld.”

Wat helpt is dat bedrijven die ethische principes willen implementeren hun algoritmen niet volledig openbaar hoeven te maken, zegt Dignum. „Als ze in staat zijn om aan controles mee te doen waarin ze kunnen bewijzen dat ze aan bepaalde regels voldoen, kunnen ze bijvoorbeeld een certificaat krijgen terwijl tegelijkertijd hun algoritmen bedrijfsgeheim blijven.”

Ook staten kunnen er zo hun eigen ideeën op na houden over wat wel of niet ethisch verantwoord is. Kijk naar de toekenning van staatsburgerschap aan robot Sophia door Saoedi-Arabië.

Dignum is niet enthousiast: „Machines worden gebouwd. Net zoals bij een auto of een hamer, zijn het mensen – de ontwikkelaars, de bouwers, de eigenaars en de gebruikers – die verantwoordelijkheid dragen. Het geven van staatsburgerschap aan een machine opent de weg voor deze partijen om hun eigen verantwoordelijkheid en aansprakelijkheid af te schuiven. Naar mijn mening zouden we dit als maatschappij niet moeten willen.”

Van alle bekende initiatieven die ethische principes voor kunstmatige intelligentie hebben opgesteld is er geen een die staatsburgerschap aan robot Sophia zou toekennen. De voorlopige consensus is: wij mensen blijven verantwoordelijk voor onze machines, hoe menselijk ze er ook uitzien. 

-----------------------------------------------------------------------------------------------------------------

Initiatieven voor het opstellen van ethische principes voor kunstmatige intelligentie
Het Future of Life Institute heeft 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen.

Het IEEE Global initiative for Ethically Aligned Design of AI ontwikkelt industriële standaarden.

In de Stanford One Hundred Year Study on Artificial Intelligence (AI100) geven topwetenschappers aanbevelingen hoe kunstmatige intelligentie in goede banen kan worden geleid.

ADA-AI is een net gelanceerd initiatief van wetenschappers en mensen uit het bedrijfsleven dat onderzoekt hoe kunstmatige intelligentie ook ten goede kan komen aan minder bedeelden en minder gerepresenteerden.

AI Now heeft tien aanbevelingen gepubliceerd voor ethisch gebruik van kunstmatige intelligentie.

AI for Good belegde eerder dit jaar een conferentie om te onderzoeken hoe AI gebruikt kan worden om de 17 VN-doelen voor duurzame ontwikkeling te halen.

Het Europees Parlement onderzoekt zaken als aansprakelijkheid, veiligheid, verandering van de arbeidsmarkt door kunstmatige intelligentie en verkende de vraag of robots rechten moeten krijgen,

De Britse instelling voor financiering van wetenschappelijk onderzoek EPSRC stelde vijf principes op voor ontwerpers, bouwers en gebruikers van robots.

Het TU Delft Design for Values ontwikkelde drie principes waarop AI gebaseerd zou moeten zijn: accountability, responsibility en transparancy.