Искусственный интеллект и реальный мир
Широта познаний разумных компьютеров определяется кругозором их создателей.
Robert Ito
Три года подряд более двадцати будущих компьютерных инженеров посещают летом Стэнфордский институт. Там они изучают вопросы создания искусственного интеллекта, а преподают им лучшие специалисты в этой отрасли. Эти студенты были отобраны из сотен желающих, и программа их обучения в Стэнфорде очень разнообразна. В нее входят экскурсии в технологические компании, работа с гексакоптерами и интерактивными роботами, изучение компьютерной лингвистики (в частности, это позволит обучить компьютер различать значения слов в зависимости от контекста) и даже тайм-менеджмент, который зачастую важен не менее всего остального. Но у студентов остается время и на то, чтобы побегать за фрисби. Думаете, что искусственный интеллект создают неопрятные парни, чтобы персонажи компьютерных игр вели себя умнее? Это далеко не так. Ведь все участники программы SAILORS (Stanford Artificial Intelligence Laboratory’s Outreach Summer, Летние курсы при Стэнфордской лаборатории ИИ) принадлежат к прекрасной половине человечества. Эти юные старшеклассницы занимаются не разработкой компьютерных игр, а вполне серьезными проблемами. Например, они ищут способы предотвращать столкновения самолетов или проверять стерильность рук у хирургов. Вот что говорит об этом Фэйфэй Ли, директор Стэнфордской лаборатории ИИ и основатель программы SAILORS: "Мы хотели преподавать ИИ по-новому, вовлекая учащихся из самых разных социокультурных групп. Если над технологиями будущего работают разные специалисты, они действительно стремятся к тому, чтобы эти технологии использовались на благо всего человечества".
“Если над технологиями будущего работают разные специалисты, они действительно стремятся к тому, чтобы эти технологии использовались на благо всего человечества.”
Fei-Fei Li Google, Стэнфорд
Программа SAILORS стартовала в 2015 г. Ее организовали Фэйфэй Ли и Ольга Русаковски (некогда студент Стэнфорда, а теперь доцент Принстонского университета) с целью компенсировать гендерный дисбаланс в индустрии высоких технологий. И у них были на это причины. Согласно недавнему исследованию, число женщин, изучающих компьютерные науки, снижается, и в секторе ИИ женщины занимают менее 20% руководящих должностей. А этот сектор сегодня развивается невиданными темпами и предлагает новые решения, которыми пользуется почти каждый. Например, искусственный интеллект распознает людей на фотографиях и позволяет компьютерам понимать речь. К менее очевидным областям применения ИИ относится выявление диабетической ретинопатии (которая часто приводит к слепоте) или спасательные экспедиции с использованием беспилотников.
По мере того как ИИ проникает во все сферы жизни, потребность в гендерном балансе отрасли перестает быть лишь вопросом справедливости. Электронный разум развивается благодаря машинному обучению, и разнообразие – один из ключевых факторов этого процесса. Назначение ИИ в том, чтобы научить компьютер выполнять задачи, с которыми люди справляются без труда: понимать речь, различать предметы и принимать решения. Для этого компьютеры обрабатывают огромные объемы данных, например миллионы слов, изображений и записей речи. Машинное обучение похоже на процесс формирования человеческой личности, когда информация впитывается каждое мгновение с момента рождения. Так, чем больше фотографий автомобиля показать компьютеру, тем увереннее он будет опознавать его. Но если эти наборы снимков ограничены или составляются предвзято (например, на них нет изображений "Трабантов") или если специалисты по ИИ не видят или не учитывают эти ограничения или предубеждения (возможно, они мало что знают об автомобилях производства Восточной Германии), то у компьютера не будет полного объема знаний о внешнем виде автомобилей. Это не голословный пример. Известен случай, когда программа считала, что люди азиатского происхождения закрывают глаза во время фотосъемки.
“Мы ставим своей целью не просто обнародовать сведения о кадровом составе сферы информационных технологий, но и направить ситуацию в нужное русло.”
Tracy Chou Project Include
Как создаются лаборатории и офисы, объединяющие представителей разных культур и этносов? Решением этой задачи занимается множество коллективов и отдельных энтузиастов. В 2017 г. Фэйфэй Ли – ведущий исследователь по проблемам искусственного интеллекта и машинного обучения в команде Google Cloud – наряду с другими специалистами приняла участие в учреждении AI4ALL. Эта национальная некоммерческая организация призвана способствовать гендерному и этнокультурному многообразию в сфере ИИ. К ее работе привлечены эксперты в области геномики, робототехники и устойчивого развития. AI4ALL следует идеологии программы SAILORS, но также ориентирована на представителей небелого населения США и малообеспеченных учащихся по всей стране. Представители этой организации уже установили партнерские отношения с Стэнфордским и Принстонским университетами, Калифорнийским университетом в Беркли и Университетом Карнеги – Меллон. "Наши коллеги и ведущие специалисты в этой отрасли говорили нам, что SAILORS – отличная программа, но она ограничена возможностями Стэнфорда. По ней учатся несколько десятков студентов в год, которые представляют в основном область залива Сан-Франциско, – рассказывает Ли. – А программа AI4ALL учитывает не только гендерный, но также этнокультурный и социально-экономический аспекты".
Перечислим несколько похожих инициатив. Code Next – это программа Google, которая помогает латиноамериканцам и чернокожим студентам построить карьеру в области высоких технологий. DIY Girls – образовательная и наставническая программа в бедных районах Лос-Анджелеса. Она охватывает такие области, как наука, высокие технологии, инженерия, математика и искусство. Наконец, Project Include – инициатива, в рамках которой начинающие и молодые компании получают поддержку, если берут на работу больше женщин и представителей разных этносов. Трейси Чу, бывший сотрудник Pinterest, в прошлом году основала Project Include совместно с семью женщинами, добившимися успеха в области высоких технологий. В 2013 г. Трейси призвала хайтек-компании раскрыть данные о том, сколько женщин работают в их рядах. Когда цифры были обнародованы, подтвердилось то, что знали все в Кремниевой долине: мир высоких технологий, от крупнейших корпораций до гаражных стартапов, состоит преимущественно из белых мужчин. Программа Project Include была призвана изменить эту ситуацию. "Года два после публикации ничего не менялось, но сейчас компании охотнее обсуждают этот вопрос, – рассказывает Чу. – Мы ставим своей целью не просто обнародовать сведения о кадровом составе сферы информационных технологий, но и направить ситуацию в нужное русло".
Помимо прочего, движение в нужном русле подразумевает создание среды, в которой проблемами искусственного интеллекта будут заниматься представители более широких слоев общества. В этой сфере работает относительно немного специалистов. Они уже разработали роботов-помощников и личных ассистентов, которые призваны удовлетворять наши потребности. Но ИИ получает информацию, нужную для его развития, от людей. И чем разнообразнее будут эти люди, тем лучше будут результаты.
Рукотворный разум ближе, чем нам кажется. Например, в Японии сын фермера использовал ИИ, чтобы сортировать огурцы по различным характеристикам. Эта история близка Фэйфэй Ли, которая в 16 лет переехала в США из Китая, и которой было нелегко адаптироваться к новой стране. В первое время он зарабатывала, прибираясь в домах, выгуливая собак и стоя за кассой в китайском ресторане. Но затем ей удалось поступить в колледж Принстона, а после и в Калифорнийский технологический институт.
Ли препятствовали три обстоятельства: она была иммигрантом и женщиной, а также не принадлежала к белой расе. Но все это ее не остановило. Основная область исследований Ли – машинное зрение, которое она считает важнейшей областью применения ИИ. Эта дисциплина является неотъемлемой частью машинного обучения. С помощью машинного зрения компьютеры анализируют и идентифицируют изображения. Оно может пригодиться при создании более чувствительных манипуляторов для роботов или при решении сложнейших математических задач. Но, как и с другими аспектами ИИ, главное в этой технологии – обучать компьютеры на большом количестве данных, поступающих из разных источников и отражающих разные точки зрения. Тогда машина не будет судить предвзято и станет "гражданином мира", как и Фэйфэй Ли.
Специалист по контенту Диана Уильямс из ILMxLAB, подразделения Lucasfilm, в котором создаются захватывающие интерактивные развлечения, уверена, что в группе авторов должно царить разнообразие. По ее словам, это помогает решать как сюжетные, так и технические задачи. Среди разработок ее лаборатории – виртуальное знакомство с Дартом Вейдером, одним из главных персонажей "Звездных войн". Диана активно участвует в работе таких организаций, как Black Girls Code. Она помнит, что в ее колледже в 80-е годы преобладали белые девушки. "На занятиях по математике и основам бизнеса я была единственной афроамериканкой. Мне было там неуютно". У Дианы есть рецепт, как привлечь больше женщин в индустрию информационных технологий: "Пусть они начинают с ранних лет и будут уверены в своей профессиональной пригодности. Тогда они смогут работать наравне с мужчинами".
“Пусть они начинают с ранних лет и будут уверены в своей профессиональной пригодности. Тогда они смогут работать наравне с мужчинами.”
Diana Williams Lucasfilm
Майя Гупта, специалист Google по вопросам машинного обучения, тоже работает над совершенствованием ИИ, хотя и в другом аспекте. Во времена работы в Стэнфордском университете она разрабатывала для норвежской компании инструменты, позволяющие находить трещины в подводных газопроводах. "Инспектировать конструкции в морских глубинах непросто, поэтому нам приходилось делать выводы на основе неполной информации", – объясняет Майя. Полученный опыт помогает ей обучать компьютеры принимать решения в условиях недостатка данных. Если вы слушаете на YouTube композицию Truth в исполнении Камаси Вашингтона, а затем ее органично сменяет Turiya and Ramakrishna Элис Колтрейн, скажите спасибо Майе. Именно ее команда создала систему, которая подбирает для вас подходящую музыку. "Можно назвать это предсказанием, – говорит Майя. – Система пытается угадать нужное решение, опираясь на ограниченный объем данных".
Сегодня Майя Гупта возглавляет в Google коллектив исследователей, который, помимо прочего, занимается повышением точности машинного обучения. Майя приводит пример проблемы, с которой ей приходилось сталкиваться. "Предположим, нам нужно с одинаковой точностью различать бостонский и техасский говор. И у нас есть система распознавания речи, которая чуть лучше справляется с произношением техасцев. Нужно ли ущемлять техасцев, ухудшая распознавание так, чтобы оно выполнялось с такой же точностью, как для уроженцев Бостона? А вдруг выяснится, что понимать бостонский говор в принципе технически сложнее?"
Майя Гупта и ее команда также разрабатывают системы, которые будут несравнимо более объективными, чем их создатели из плоти и крови. Благодаря компьютерам удастся избежать влияния предубеждений и подсознательных процессов, присущих человеческому мышлению, или, по крайней мере, такие проявления будет проще обнаружить. Компьютеры всегда сосредоточены, они не устают, не раздражаются и их не отвлекает голод. В частности, исследованиями доказано, что американские судьи менее склонны выносить решение об условно-досрочном освобождении, если дело рассматривается перед обедом. Природа заставляет их думать о еде, а не о снисхождении. "Нелегко узнать, что на самом деле думают люди, – объясняет Майя. – Мы хотим, чтобы наши машинно-обучаемые системы были предсказуемыми, и надо признать, что многие из них уже более предсказуемы по сравнению с людьми".
“Мы хотим, чтобы наши машинно-обучаемые системы были предсказуемыми, и надо признать, что многие из них уже более предсказуемы по сравнению с людьми.”
Maya Gupta Google
Поскольку искусственный интеллект становится полезнее и проще в использовании, необходимо обеспечить доступ к нему всем и каждому. Таково мнение Кристин Робсон, которая прежде была сотрудницей IBM, а теперь работает в Google. Она энтузиаст ПО с открытым исходным кодом, такого как TensorFlow. Это система машинного обучения, которая может использоваться для решения множества задач – от перевода на другие языки и диагностики болезней до создания оригинальных произведений искусства.
Кристин считает, что инструменты ИИ нужно сделать доступными не только узкому кругу специалистов. "Я очень хочу, чтобы машинное обучение нашло дорогу в повседневную жизнь, – рассказывает она. – Об этом много говорят, но пока подобные технологии заперты в лабораториях. Очень важно, чтобы средствами искусственного интеллекта было легко пользоваться, и эти возможности стали доступны всем".
Научно-фантастические книги и фильмы давно предупреждают нас об опасности, которую может нести рукотворный разум. В 2018 г. роману "Франкенштейн" Мэри Шелли исполнится 200 лет. Но сегодня многие в отрасли, в том числе Фэйфэй Ли, Кристин Робсон и Трейси Чу, не так озабочены тем, что ИИ может сделать с людьми, как тем, что люди могут сделать с ИИ. Вот простой пример. Как правило, у виртуальных помощников женский голос, потому что это нравится пользователям (как мужчинам, так и женщинам). "Но так укрепляется мысль, что помощники – это женщины. И когда мы взаимодействуем с такими системами, то усиливаем эту социальную предвзятость" – говорит Трейси Чу. Многие из лучших умов индустрии обеспокоены тем, что закладывается в основу реальных систем искусственного интеллекта, и тем, что получится в результате. В связи с этим растет понимание того, что среда разработчиков должна быть разнообразной. Реализовать эту идею будет непросто, однако ее сторонники умны, влиятельны и убеждены в своей правоте.
“Очень важно, чтобы средствами искусственного интеллекта было легко пользоваться, и эти возможности стали доступны всем.”
Christine Robson Google
"Мы должны сделать так, чтобы никто не чувствовал себя некомфортно", – говорит Майя Гупта. Она вспоминает галерею портретов в Университете Райса, своей alma mater. Все эти профессора электроники выглядели совсем не так, как Майя. Кристин Робсон добавляет: "Надо убедить девушек, что ИИ – это не магия. Это математика".
Обучаясь по программе SAILORS, студенты узнают, как использовать распознавание естественных языков для поиска информации в социальных сетях и для помощи пострадавшим от стихийных бедствий. Фэйфэй Ли разъясняет, что это поможет спасателям находить попавших в беду в реальном времени по их сообщениям в Twitter. То, чему учат на курсах SAILORS, запоминается студентам надолго и зачастую определяет их судьбу. Слушатели курсов создают кружки робототехники в своих школах, публикуют статьи в научных журналах и проводят семинары, пропагандируя изучение ИИ среди учениц младших классов. Для тех, кто прошел программу SAILORS, искусственный интеллект не очередная техническая безделушка, а эффективный инструмент, способный приносить немалую пользу. Когда в 2015 г. начинался первый сезон программы, одна из участниц выразила свои амбиции так: "Я сегодня начинаю изучать ИИ, чтобы завтра изменить мир".
