L'intelligence artificielle à l'épreuve du monde réel
De l'influence de l'homme sur la machine
Robert Ito
Au cours des trois derniers étés, une vingtaine d'informaticiennes en herbe sélectionnées parmi des centaines de candidates sont venues à l'université de Stanford pour s'initier à l'intelligence artificielle auprès de certains des plus grands spécialistes. Elles ont pu visiter des entreprises technologiques à proximité et interagir avec des robots sociaux et des hexacoptères. Elles ont aussi découvert la linguistique informatique (traitement des homonymes par les machines, etc.), ainsi que la grande importance de la gestion du temps. Mais si vous pensez que l'intelligence artificielle consiste à créer des ennemis encore plus rusés pour des jeux vidéo, détrompez-vous. Toutes les étudiantes du programme Stanford Artificial Intelligence Laboratory's Outreach Summer (SAILORS) viennent de terminer la classe de seconde. Elles ne sont pas là pour améliorer leur gameplay, mais pour travailler sur des solutions bénéfiques au plus grand nombre, par exemple en cherchant comment utiliser l'intelligence artificielle pour éviter que des avions de ligne n'entrent en collision. Ou encore comment vérifier que les chirurgiens se sont bien lavé les mains avant d'entrer dans le bloc opératoire. "Notre objectif est de repenser l'enseignement de l'intelligence artificielle pour encourager la diversité et recruter des étudiants de tous les horizons", explique Fei-Fei Li, directrice du laboratoire d'intelligence artificielle de Stanford et l'une des fondatrices du programme SAILORS. "Si les futurs experts en technologie viennent de différents milieux socioculturels et économiques, ils seront plus à même d'utiliser la technologie pour le bien de l'humanité."
“Si les futurs experts en technologie viennent de différents milieux socioculturels et économiques, ils seront plus à même d'utiliser la technologie pour le bien de l'humanité.”
Fei-Fei Li Google et Stanford
Le programme SAILORS a été créé en 2015 par Fei-Fei Li et son ancienne étudiante Olga Russakovsky (désormais enseignante adjointe à l'université de Princeton) afin de favoriser l'égalité hommes/femmes dans le monde de la technologie. La cause est à la fois noble et urgente. D'après une enquête récente, le nombre d'étudiantes en informatique a diminué. Dans le secteur de l'intelligence artificielle, les femmes occupent moins de 20 % des postes de direction. Or, c'est quelque chose de trop important pour que les femmes en soient exclues. Surtout si l'on considère que de plus en plus de personnes utilisent l'intelligence artificielle pour gérer leur quotidien de manière plus simple et efficace : c'est grâce à elle que des applications de photo peuvent reconnaître votre visage parmi ceux de vos amis, sans parler de la plage sur laquelle une photo a été prise. C'est également l'intelligence artificielle qui permet à vos appareils de vous comprendre lorsque vous les interrogez sur la météo du lendemain. Il existe aussi des applications moins connues, comme le diagnostic de la rétinopathie diabétique (qui entraîne souvent la cécité) ou l'envoi d'un drone en mission de sauvetage dans des régions reculées du monde.
L'intelligence artificielle est de plus en plus présente dans notre réalité. La lutte pour la parité dans ce domaine n'est pas simplement une cause juste : la diversité est un élément crucial de l'intelligence artificielle, en raison de la nature de l'apprentissage automatique. L'un des objectifs de l'intelligence artificielle est de permettre aux machines d'accomplir des tâches que les humains font naturellement : reconnaître le langage, prendre des décisions, faire la différence entre un burrito et une enchilada, etc. Pour cela, les machines analysent de très nombreuses informations (souvent des millions de mots, de conversations ou d'images) tout comme nous absorbons des informations au quotidien depuis notre naissance (à proprement parler, c'est de l'apprentissage automatique). Plus une machine voit de voitures, plus elle est à l'aise pour les identifier. Mais si ces données sont limitées ou biaisées (par exemple, si les chercheurs n'incluent pas d'images d'automobiles Trabant), ou si les personnes travaillant sur l'intelligence artificielle ne voient pas ou ne tiennent pas compte de ces limites/préjugés (par exemple, parce qu'ils ne connaissent pas bien les vieilles automobiles d'Allemagne de l'Est), les résultats seront faussés. C'est déjà arrivé. Un logiciel de reconnaissance d'images a ainsi considéré que les personnes d'origine asiatique sur les photos clignaient des yeux.
“Il ne s'agit plus seulement de transparence des données. Nous devons faire en sorte que ces chiffres évoluent dans la bonne direction.”
Tracy Chou Project Include
Comment créer des laboratoires et des espaces de travail plus ouverts ? Plusieurs personnes se sont penchées sur la question. Cette année, Fei-Fei Li (également responsable de l'intelligence artificielle et de l'apprentissage automatique dans l'équipe Google Cloud) et d'autres personnes ont contribué à lancer AI4ALL. Cette organisation à but non lucratif a pour objectif d'encourager la diversité dans le domaine de l'intelligence artificielle, avec l'aide d'experts en génomique, en robotique et en durabilité. Ce projet s'appuie sur le travail de SAILORS, un programme d'initiation à l'intelligence artificielle organisé par Stanford et réservé aux lycéennes. Mais il cherche aussi à attirer des personnes de différentes origines ethniques et issues de milieux défavorisés dans tout le pays, via des partenariats avec Princeton, l'université de Californie à Berkeley, Carnegie Mellon et Stanford. "De nombreux collègues et responsables du secteur viennent nous voir en disant que SAILORS est une bonne initiative, mais que seules quelques dizaines d'étudiantes en bénéficient chaque année, et principalement dans la région de la baie de San Francisco", explique Fei-Fei Li. "C'est pourquoi AI4ALL prône la diversité et l'intégration pour tous. L'égalité hommes-femmes n'est qu'une partie du problème".
D'autres initiatives similaires existent. Prenez par exemple Code Next, un projet Google basé à Oakland et visant à encourager les étudiants latino et afro-américains à choisir des carrières technologiques, DIY Girls, un programme d'enseignement et de tutorat dans les domaines des sciences, de la technologie, de l'ingénierie, de l'art et des mathématiques pour les communautés défavorisées de Los Angeles, ou encore Project Include, qui aide les jeunes start-up à engager davantage de femmes et de personnes de couleur. Tracy Chou, qui travaillait auparavant chez Pinterest, a fondé Project Include l'année dernière avec sept autres femmes influentes dans le secteur de la technologie. En 2013, Tracy Chou a fait sensation en demandant aux entreprises technologiques de révéler le nombre de femmes parmi leurs employés. Quand les résultats ont été publiés, ils ont confirmé ce que l'on savait déjà dans toute la Silicon Valley : le monde de la technologie, de la plus grosse entreprise à la plus petite start-up, est essentiellement composé d'hommes de race blanche. Selon Tracy Chou, Project Include n'était que la suite logique de ce constat. "Après avoir vu passer de tels rapports pendant plusieurs années sans qu'aucun changement significatif ne survienne, le discours a commencé à évoluer", explique-t-elle. "Il ne s'agit plus seulement de transparence des données. Nous devons faire en sorte que ces chiffres évoluent dans la bonne direction."
Pour cela, le secteur de l'intelligence artificielle doit être plus accessible. Peu de gens sont effectivement employés dans ce domaine, et nous voyons déjà apparaître des robots spécialisés dans le soin à la personne et des assistants personnels qui anticipent nos besoins. Si ce sont les humains qui contrôlent les données et les critères, et les machines qui font le travail, cela signifie qu'avec des humains plus impliqués et ouverts, nous obtiendrons de meilleurs résultats.
À de nombreux égards, la démocratisation de l'intelligence artificielle est déjà en marche. Par exemple, au Japon, le fils d'un fermier y a eu recours pour trier la récolte de concombres de sa famille selon plusieurs critères. C'est le genre d'histoire qui parle à Fei-Fei Li. Elle a quitté la Chine pour les États-Unis à l'âge de 16 ans en sachant très peu de choses sur son pays d'adoption, et encore moins sur le New Jersey, où elle a atterri. Après plusieurs petits boulots comme femme de ménage, promeneuse de chiens ou caissière dans un restaurant chinois, Fei-Fei Li s'est frayée un chemin jusqu'à Princeton, puis Caltech.
Immigrante, femme et asiatique dans un monde dominé par des hommes de race blanche, Fei-Fei Li cumule ce qui aurait pu être considéré par d'autres comme des handicaps. Mais elle y a vu une raison de se surpasser. Elle passe le plus clair de son temps à étudier la vision par ordinateur, un composant de l'apprentissage automatique qu'elle appelle "l'appli la plus géniale de l'intelligence artificielle". La vision par ordinateur consiste à analyser et à identifier des données visuelles, dans l'idée de créer plus tard des membres robotiques plus réactifs, ou encore de résoudre des problèmes mathématiques particulièrement complexes. Mais comme pour tous les domaines liés à l'intelligence artificielle, la clé de cette technologie est d'apprendre à des machines à analyser de nombreuses informations provenant de différentes sources et perspectives. À devenir, en résumé, des citoyens du monde dotés d'une vision, un peu comme Fei-Fei Li.
Pour créer ce monde, il faut faire appel à un groupe de créateurs hétérogène en mesure de résoudre les problèmes techniques et scénaristiques auxquels l'experte en stratégie de contenu Diana Williams est confrontée chaque jour à ILMxLAB. Il s'agit du laboratoire secret de Lucasfilm où des développeurs créent des divertissements immersifs et interactifs inspirés de l'univers Star Wars (comme une rencontre en RV avec Dark Vador, par exemple). Très impliquée dans des organisations pro-technologiques comme Black Girls Code, Diana Williams se souvient du faible nombre d'étudiantes de couleur présentes dans son université dans les années 1980. "J'étais toujours la seule dans mon cours de maths, dans mes cours de commerce", explique-t-elle. "C'est fatigant et cela fait peur au bout d'un moment." Sa solution pour orienter davantage de femmes vers la technologie : "Commencer à les former le plus tôt possible et leur donner confiance en elles, pour qu'elles ne fassent pas demi-tour le jour où elles entreront dans une classe et se sentiront en minorité."
“Commencer à les former le plus tôt possible et leur donner confiance en elles, pour qu'elles ne fassent pas demi-tour le jour où elles entreront dans une classe et se sentiront en minorité.”
Diana Williams Lucasfilm
Maya Gupta, chercheuse en apprentissage automatique chez Google, travaille sur l'amélioration de l'intelligence artificielle, mais sous un angle différent. À l'université de Stanford, elle a aidé une entreprise norvégienne à détecter des fêlures dans ses pipelines de gaz sous-marins. "Comme il est difficile d'aller voir sur place ce qu'il en est, nous avons dû utiliser des informations partielles et établir des hypothèses", explique-t-elle. Apprendre à des machines à faire des hypothèses nuancées est un terrain que Maya Gupta connaît bien. Par exemple, si vous écoutez le titre "Truth" du saxophoniste ténor Kamasi Washington sur YouTube et que le programme enchaîne sur le magnifique "Turiya and Ramakrishna" d'Alice Coltrane, comme si un DJ invisible était aux commandes, remerciez Maya Gupta. C'est son équipe qui apprend aux ordinateurs à affiner leurs recommandations. "Tout repose sur les prévisions", explique-t-elle. "Il faut essayer de prédire ce qui va suivre avec des données limitées."
Aujourd'hui, elle dirige une équipe de recherche et développement chez Google chargée, entre autres, d'améliorer la précision de l'apprentissage automatique. "Imaginez que nous cherchions à reconnaître avec exactitude l'accent de Boston et celui du Texas. Si le capteur utilisé reconnaît un peu mieux celui du Texas, dois-je pénaliser les Texans en réduisant la qualité du système de reconnaissance, par souci d'égalité avec Boston ? Et si l'accent de Boston était tout simplement plus difficile à reconnaître ?", nous explique-t-elle.
Maya Gupta et son équipe peaufinent également des systèmes qui seraient infiniment plus objectifs que leurs créateurs humains. L'hypothèse est que les machines permettront d'éliminer la plupart des préjugés et processus inconscients qui polluent la pensée humaine, ou tout du moins de les reconnaître plus facilement lorsqu'ils émergent. Les machines ne se déconcentrent pas sous le coup de la fatigue, de l'agacement ou de la faim. Une étude a montré que les juges sont moins enclins à accorder une libération conditionnelle à un prisonnier avant le déjeuner, lorsque la faim commence à se manifester. "Il est difficile de mesurer ce qui se passe vraiment dans l'esprit humain", explique Maya Gupta. "Nous voulons pouvoir expliquer nos systèmes d'apprentissage automatique. À vrai dire, nous comprenons déjà la plupart d'entre eux bien mieux que nous ne comprenons les humains."
“Nous voulons pouvoir expliquer nos systèmes d'apprentissage automatique. À vrai dire, nous comprenons déjà la plupart d'entre eux bien mieux que nous ne comprenons les humains.”
Maya Gupta Google
L'intelligence artificielle s'avérant de plus en plus utile et facile à utiliser, il convient d'en démocratiser l'accès au maximum. Christine Robson, qui était chercheuse chez IBM avant d'intégrer Google, est une experte enthousiaste de logiciels Open Source tels que TensorFlow. Ce système d'apprentissage automatique peut être utilisé pour diverses tâches, de la traduction à la détection des maladies en passant par la création d'œuvres d'art.
Selon elle, pour promouvoir l'intégration dans le domaine de l'intelligence artificielle, il faut démocratiser l'accès aux outils pour faire en sorte qu'ils ne soient plus réservés aux passionnés de mathématiques comme elle. "L'idée de rendre l'apprentissage automatique accessible à tous m'enthousiasme énormément", explique-t-elle. "On parle beaucoup de la démocratisation de l'apprentissage automatique, mais j'y crois vraiment. Ces outils doivent être faciles à utiliser et accessibles à tous."
La littérature et les films de science-fiction regorgent d'histoires sur des formes d'intelligence artificielle au destin tragique, comme le Frankenstein de Mary Shelley, écrit il y a près de 200 ans. Aujourd'hui, de nombreux acteurs du secteur, y compris Fei-Fei Li, Christine Robson et Tracy Chou, s'inquiètent moins de ce que nous risquons face à l'intelligence artificielle que de l'impact des êtres humains sur l'intelligence artificielle. Remarquez par exemple que les programmeurs ont donné aux assistants virtuels une voix féminine. En effet, c'est bien connu, les hommes comme les femmes préfèrent les voix féminines. "Mais cela perpétue l'idée que le rôle d'assistant est dévolu aux femmes. En interagissant avec de tels systèmes, nous ne faisons que renforcer ce préjugé social”, explique Tracy Chou. Bon nombre des plus grands experts du secteur s'inquiètent de telles applications de l'intelligence artificielle dans notre quotidien, et donc de l'avenir de cette technologie. D'où cette initiative d'encourager la diversité dans le domaine de l'intelligence artificielle. Ce ne sera pas chose facile, mais les défenseurs de cette cause sont intelligents, pleins de ressources et très engagés.
“Ces outils doivent être faciles à utiliser et accessibles à tous."”
Christine Robson Google
"Nous devons faire en sorte que tout le monde se sente bien accueilli", explique Maya Gupta. Elle se rappelle un mur de photos d'anciens professeurs en ingénierie électrique partis à la retraite à l'université de Rice qui "ne me ressemblaient pas". "Il faut convaincre les jeunes filles que l'intelligence artificielle, ce n'est pas de la magie", ajoute Christine Robson. "Ce sont des maths."
Dans le cadre du programme SAILORS, les étudiantes apprennent à utiliser le traitement du langage naturel pour faire des recherches sur les médias sociaux et accélérer ainsi l'aide d'urgence en cas de catastrophe. "L'objectif est d'aider les secours à retrouver des personnes en temps réel, à l'aide de leurs messages Twitter", explique Fei-Fei Li. Les cours et les projets proposés par cette université d'été ont un profond impact sur les étudiantes. Certaines ont ainsi créé leurs propres clubs de robotique au lycée, publié des articles dans des journaux scientifiques et animé des ateliers dans des collèges pour sensibiliser d'autres jeunes filles à l'intelligence artificielle. Pour ces étudiantes, dont les parcours et les expériences sont aussi variés que les myriades de projets qu'elles ont traités lors de ces cours d'été, l'intelligence artificielle est bien plus qu'un gadget à la mode. C'est un outil puissant qui peut être utilisé pour faire le bien. À l'approche de la première session du programme SAILORS en 2015, des messages provenant des étudiantes avaient été publiés, dont celui-ci : "Je veux commencer à me former à l'IA tout de suite. Grâce à ça, plus tard, je ferai quelque chose d'important pour le monde."
