Kunstmatige intelligentie 'irl': een realitycheck
Een intelligente computer is maar zo veelzijdig als de mensen die de computer dingen leren.
Robert Ito
De afgelopen drie zomers zijn ongeveer 24 computerwetenschappers in spe naar Stanford University gekomen om meer over kunstmatige intelligentie te leren van experts in de branche. De deelnemers werden geselecteerd uit honderden aanmeldingen. Ze gingen op excursies naar tech-bedrijven in de buurt, werkten met sociale robots en hexacopters, en kwamen meer te weten over computationele taalkunde (bijvoorbeeld wat machines doen wanneer woorden meerdere betekenissen hebben) en het belang van timemanagement. Ze speelden met frisbees. Maar als je bij kunstmatige intelligentie denkt aan een stel jongens die werken aan nog moeilijkere vijanden voor hun favoriete games, heb je het bij het verkeerde eind. Alle deelnemers aan het SAILORS-programma (Stanford Artificial Intelligence Laboratory's Outreach Summer program) zijn meiden van een jaar of vijftien. Hun onderzoek is gericht op het verbeteren van levens, niet op het leuker maken van games. Het draait om vraagstukken als: 'Hoe kunnen we kunstmatige intelligentie inzetten om te voorkomen dat jumbojets op elkaar botsen?' 'Hoe kunnen we zorgen dat chirurgen hun handen wassen voordat ze de ok binnenlopen?' "We wilden het onderwijs over kunstmatige intelligentie anders aanpakken om de diversiteit en studenten uit elke bevolkingslaag te stimuleren," zegt Fei-Fei Li, directeur van het Stanford-lab voor kunstmatige intelligentie en een van de oprichters van het SAILORS-programma. "Als de groep toekomstige technologen echt gevarieerd is, zijn ze des te gemotiveerder om te zorgen dat technologie wordt ingezet om de mensheid vooruit te helpen."
“Als de groep toekomstige technologen echt gevarieerd is, zijn ze des te gemotiveerder om te zorgen dat technologie wordt ingezet om de mensheid vooruit te helpen.”
Fei-Fei Li Google en Stanford
SAILORS is in 2015 opgericht door Li en ex-student Olga Russakovsky (nu assistent-professor aan Princeton University) om voor meer gelijkheid binnen de tech-branche te zorgen. Het doel is zowel nobel als urgent: volgens een recent onderzoek daalt het aantal vrouwen dat computerwetenschappen studeert. In de kunstmatige intelligentie wordt minder dan 20% van de hogere posities bekleed door vrouwen. Het is een gigantische branche om van te worden uitgesloten, zeker als je bedenkt dat elke dag steeds meer mensen gebruikmaken van kunstmatige intelligentie om hun levens makkelijker en efficiënter te maken. Om maar een paar voorbeelden te noemen: via kunstmatige intelligentie kunnen foto-apps gezichten en zelfs de locatie van een foto herkennen. Via kunstmatige intelligentie begrijpen je apparaten je wanneer je om het weerbericht van morgen vraagt. En dan zijn er nog minder bekende toepassingen, zoals diagnoses van diabetische retinopathie (wat vaak tot blindheid leidt) of het sturen van drones tijdens reddingsmissies in de meest afgelegen plekken.
Kunstmatige intelligentie wordt steeds alomtegenwoordiger en daarmee groeit de behoefte voor gelijke behandeling in deze branche verder dan alleen de pure correctheid van het doel: diversiteit is een cruciaal onderdeel van kunstmatige intelligentie vanwege de manier waarop machine learning werkt. Een doel van kunstmatige intelligentie is om machines aan te sturen om taken te voltooien die mensen natuurlijkerwijs doen: spraak herkennen, besluiten nemen, het verschil tussen een burrito en een enchilada weten. Hiervoor krijgen machines ongelofelijke hoeveelheden informatie te verwerken, vaak miljoenen woorden of gesprekken of afbeeldingen, net zoals iedereen informatie opneemt tijdens elk wakker moment en dat vanaf de geboorte (dit is eigenlijk wat machine learning inhoudt). Hoe meer auto's een machine ziet, hoe beter de machine ze kan identificeren. Maar als die gegevenssets beperkt of bevooroordeeld zijn (als onderzoekers bijvoorbeeld geen afbeeldingen van Trabants hebben toegevoegd) of als de mensen in de kunstmatige-intelligentiesector deze limieten of vooroordelen niet zien of hier geen rekening mee houden (misschien zijn ze geen kenners als het om obscure Oost-Duitse auto's gaat), zijn de machines en de uitvoer ontoereikend. Dit gebeurt nu al: in één specifiek geval dacht beeldherkenningssoftware dat er op foto's van Aziatische mensen werd geknipperd.
“Het gaat er niet alleen om dat de gegevens transparant zijn. We moeten er ook voor zorgen dat de cijfers de juiste richting op gaan.”
Tracy Chou Project Include
Hoe zorg je voor meer diversiteit op de werkplek en in het lab? Een aantal projecten en personen gaan die uitdaging aan. Dit jaar heeft Li, hoofdwetenschapper voor kunstmatige intelligentie en machine learning bij Google Cloud, met een aantal andere Google-medewerkers de lancering ondersteund van AI4ALL. Deze nationale non-profitorganisatie wil de diversiteit in kunstmatige intelligentie vergroten en zet mentoren in op het gebied van genomica, robotica en duurzaamheid. De organisatie bouwt voort op het werk van SAILORS, maar is ook gericht op mensen met een migratieachtergrond en studenten met een laag inkomen in de hele VS via partnerschappen met niet alleen Stanford, maar ook Princeton, UC Berkeley en Carnegie Mellon. "Veel collega's en marktleiders kwamen naar ons toe en gaven aan dat ze SAILORS geweldig vonden, maar dat het beperkt bleef tot Stanford die per jaar enkele tientallen studentes uit de Bay Area ondersteunt," zegt Li. "Bij AI4ALL draait het om diversiteit en mogelijkheden voor iedereen, niet alleen voor vrouwen."
Vergelijkbare initiatieven zijn onder andere Code Next, een project van Google Oakland om latino- en Afrikaans-Amerikaanse studenten aan te moedigen een loopbaan in de tech-wereld te zoeken; DIY Girls, het educatieve coachingsprogramma STEAM (Science, Technology, Engineering, Art and Math) voor minder bedeelde bevolkingsgroepen in Los Angeles; en Project Include, een project dat nieuwe en relatief jonge start-ups helpt bij het aannemen van meer vrouwen en mensen met een migratieachtergrond. Tracy Chou, eerder werkzaam bij Pinterest, heeft vorig jaar Project Include opgericht met zeven andere prominente vrouwen in de tech-branche. In 2013 moedigde Chou tech-bedrijven aan om aan te geven hoeveel vrouwen er in die bedrijven werkzaam zijn. Terwijl de cijfers binnendruppelden, werd duidelijk wat iedereen in Silicon Valley al wist: de tech-wereld, van de grootste onderneming tot de kleinste start-up, is vooral blank en man. Project Include was volgens Chou de logische volgende stap. "Na een aantal jaren van deze gegevensrapporten en weinig verandering kwam er een verschuiving in de discussie," zegt ze. "Het gaat er niet meer alleen om dat deze gegevens transparant zijn. We moeten er ook voor zorgen dat de cijfers de juiste richting op gaan."
Die richting omvat het toegankelijker maken van kunstmatige intelligentie voor de rest van de wereld. Er zijn relatief weinig mensen werkzaam op het gebied van kunstmatige intelligentie en we zien nu al dat robots mensen helpen en dat persoonlijke assistenten anticiperen op onze behoeften. Als de mens de gegevens en criteria beheert en machines het werk laat doen, leidt meer en betere input van mensen tot meer en betere resultaten.
Eigenlijk is de democratisering van kunstmatige intelligentie al gestart. Een voorbeeld: In Japan heeft een boerenzoon kunstmatige intelligentie gebruikt om de komkommeroogst op de boerderij van zijn familie te sorteren op verschillende kenmerken. Dit soort verhalen spreekt Li aan. Li kwam toen ze zestien was vanuit China naar de Verenigde Staten en wist vrij weinig over haar adoptieland, en nog minder over New Jersey, waar ze uiteindelijk terechtkwam. Na verschillende baantjes, van huizen schoonmaken tot honden uitlaten en kassamedewerker zijn in een Chinees restaurant, ging Li naar Princeton en later naar Caltech.
Li is een drievoudig outsider: een immigrant, een vrouw en iemand van een andere etniciteit in een wereld die door blanke mannen wordt gedomineerd. Wat voor anderen obstakels lijken, zijn stimulansen voor Li. Ze besteedt veel van haar tijd aan het bestuderen van computervisie, een onderdeel van machine learning dat ze 'de killer-app van kunstmatige intelligentie' noemt. Computervisie analyseert en identificeert visuele gegevens en kan in de toekomst bijdragen aan het ontwikkelen van responsievere robot-ledematen of het oplossen van de moeilijkste wiskundige vraagstukken. Maar de sleutel tot deze technologie, net als met alle kunstmatige intelligentie, is machines aanleren informatie van vele verschillende plekken en perspectieven juist te gebruiken. Ze moeten dus eigenlijk visuele wereldburgers worden, net als Li.
Zorgen dat er een diverse groep makers meewerkt aan het vormgeven van die wereld, is van essentieel belang voor het oplossen van de verhaaluitdagingen en technische problemen waarmee contentstrategist Diana Williams dagelijks te maken krijgt. Diana werkt bij ILMxLAB, het topgeheime Lucasfilm-droomcentrum waar ontwikkelaars interactief 360º-entertainment maken (zoals een VR-ontmoeting met Darth Vader), geïnspireerd op het immense Star Wars-universum. Williams is zeer betrokken bij pro-tech-organisaties zoals Black Girls Code en herinnert zich het gebrek aan vrouwen van andere etniciteiten tijdens haar studententijd in de jaren 80. "Ik was altijd de enige bij wiskunde, de enige bij bedrijfskunde," zegt ze "Dat is vervelend en op den duur wordt het eng." Haar oplossing om meer vrouwen richting de tech-wereld te krijgen: "Begin op jonge leeftijd en geef ze meer zelfvertrouwen, zodat ze niet rechtsomkeert maken wanneer ze een ruimte binnenstappen en daar de enige blijken."
“Begin op jonge leeftijd en geef ze meer zelfvertrouwen, zodat ze niet rechtsomkeert maken wanneer ze een ruimte binnenstappen en daar de enige blijken.”
Diana Williams Lucasfilm
Maya Gupta, een machine learning-onderzoeker bij Google, werkt ook aan het verbeteren van kunstmatige intelligentie, maar dan vanuit een ander perspectief. Bij Stanford heeft ze een Noors bedrijf geholpen om scheuren in onderzeese gasleidingen op te sporen. "Je kunt er niet echt goed bij, dus we moesten schatten op basis van gedeeltelijke informatie," vertelt ze. Machines aanleren om genuanceerde schattingen te doen, is bekend terrein voor Gupta. Als je op YouTube luistert naar 'Truth' van tenor-saxofonist Kamasi Washington en de muziek loopt vloeiend over in 'Turiya and Ramakrishna' van Alice Coltrane, alsof er een hele slimme dj aan het werk is, dan heb je dat te danken aan Gupta. Haar team helpt computers bij het afstemmen van hun aanbevelingen. "Het gaat allemaal om voorspellen, toch?" zegt ze. "Je probeert met beperkte gegevens te raden wat er gebeurt."
Op dit moment geeft ze leiding aan een onderzoeks- en ontwikkelingsteam bij Google om onder andere machine learning nauwkeuriger te maken. "Stel dat ik een accent uit Boston net zo nauwkeurig wil kunnen identificeren als een accent uit Texas, maar ik heb een spraakherkenner die het accent uit Texas net iets beter herkent," zegt ze. "Moet ik dan de mensen met een accent uit Texas straffen door de herkenning net zo slecht te maken als die voor het accent uit Boston om zo voor meer eerlijkheid te zorgen? En wat als het gewoon moeilijker is om mensen met een accent uit Boston te herkennen?"
Daarnaast verfijnen Gupta en haar team systemen die oneindig veel transparanter worden dan hun ontwerpers van vlees en bloed. Met machines hopen we veel van de vooroordelen of onbewuste processen van het menselijk denken weg te nemen, of ze in ieder geval gemakkelijker te herkennen als ze zich voordoen. Machines raken nooit hun concentratie kwijt omdat ze moe of geïrriteerd zijn of honger hebben. Een onderzoek toont aan dat rechters net voor de lunch minder geneigd zijn om voorwaardelijke straffen uit te spreken, omdat ze er dan niet volledig met hun gedachten bij zijn en aan eten denken. "Het is moeilijk om te meten wat er nu echt allemaal gebeurt in het brein van mensen," zegt Gupta. "We willen dat onze systemen voor machine learning kunnen worden uitgelegd en eerlijk gezegd zijn veel van die systemen nu al beter uit te leggen dan de mens."
“We willen dat onze systemen voor machine learning kunnen worden uitgelegd en eerlijk gezegd zijn veel van die systemen nu al beter uit te leggen dan de mens.”
Maya Gupta Google
Nu kunstmatige intelligentie steeds nuttiger (en gebruiksvriendelijker) wordt, moet er iets worden gedaan om dit voor zo veel mogelijk mensen beschikbaar te maken. Christine Robson, voormalig IBM-onderzoeker en nu werkzaam bij Google, is een enthousiast voorstander van open-sourcesoftware zoals TensorFlow, een machine learning-systeem dat voor verschillende taken kan worden ingezet, van vertalingen tot opsporing van ziekten en het maken van originele kunstwerken.
Voor Robson betekent inclusiviteit op het gebied van kunstmatige intelligentie het toegankelijk maken van tools voor meer dan alleen de wiskundenerds waar zij ook zichzelf toe rekent. "Het is geweldig dat machine learning nu wereldwijd beschikbaar is," zegt ze. "We hebben het vaak over de democratisering van machine learning, maar ik geloof er ook echt in. Het is zo belangrijk om deze tools echt gebruiksvriendelijk te maken en deze technieken beschikbaar te stellen aan iedereen."
Sciencefictionboeken en -films laten al heel lang voorbeelden zien van problemen op het gebied van kunstmatige intelligentie (het is volgend jaar 200 jaar geleden dat Frankenstein van Mary Shelley verscheen). Veel mensen in de branche, waaronder Li, Robson en Chou, maken zich vandaag de dag minder zorgen over wat kunstmatige intelligentie met ons kan doen en meer over wat wij als mensen met kunstmatige intelligentie kunnen doen. Een voorbeeld: Programmeurs geven virtuele assistenten een vrouwenstem omdat zowel mannen als vrouwen daar de voorkeur aan geven. "Maar het wekt daarmee ook de indruk dat assistenten doorgaans vrouwelijk zijn. Als we dus met deze systemen werken, wordt dat vooroordeel versterkt," zegt Chou. Veel van de grootste breinen uit de branche maken zich zorgen over wat er als input in echte systemen voor kunstmatige intelligentie wordt gebruikt, en daarmee ook wat de output zal zijn. Dat is waar een stimulans voor meer diversiteit in kunstmatige intelligentie om de hoek komt kijken. Veel hiervan zal niet makkelijk zijn, maar de voorstanders zijn slim, vindingrijk en toegewijd.
“Het is ontzettend belangrijk om deze tools voor kunstmatige intelligentie echt gebruiksvriendelijk te maken en de technieken beschikbaar te stellen aan iedereen.”
Christine Robson Google
"We moeten ervoor zorgen dat iedereen zich welkom voelt," zegt Gupta. Ze herinnert zich de wand met foto's van gepensioneerde elektrotechniek-professors op haar alma mater Rice die totaal niet op haar leken. "We moeten meisjes ervan overtuigen dat kunstmatige intelligentie geen magie is," voegt Robson toe. "Het is wiskunde."
Bij SAILORS leren studenten hoe ze de verwerking van natuurlijke taal kunnen inzetten om social media te doorzoeken en hulp te bieden tijdens rampen. "Het kan reddingsdiensten helpen om hulpbehoevende mensen in realtime op te sporen via Twitter-berichten," zegt Li. De impact van de lessen en projecten is ook nog ver na de onvergetelijke zomers te merken. Sommige studenten zijn eigen robotica-clubs op school begonnen, hebben artikelen in wetenschappelijke tijdschriften gepubliceerd en hebben workshops op middelbare scholen georganiseerd om de bekendheid van kunstmatige intelligentie onder nog jongere meisjes te vergroten. Voor die studenten, met achtergronden en ervaringen die net zo divers zijn als de talloze projecten waaraan ze tijdens het kamp hebben gewerkt, is kunstmatige intelligentie niet de nieuwste coole gadget, maar een zeer sterke kracht waarmee ze iets goeds kunnen doen. In de aanloop naar de eerste SAILORS-bijeenkomst in 2015 deelde het programma berichten van binnenkomende deelnemers, waaronder deze ambitieuze wens: "Ik hoop dat ik mijn reis door de kunstmatige intelligentie nu ga beginnen, zodat ik in de toekomst een impact op de wereld kan hebben."
