автордың кітабынан сөз тіркестері  Искусственный интеллект

Клиффорд Пиковер

Если вы решите обыграть в шахматы чемпиона мира Магнуса Карлсена, вы возьмете в помощники компьютер, — пишет журналист Ларри Эллиот. — А если захотите убрать фигуры после игры, то позовете человека». В этом суть парадокса Моравека, на который в 1980-е гг. обращали внимание некоторые исследователи ИИ

Для меня искусственный интеллект — источник постоянного удивления по поводу границ разума, будущего человечества и нашего места в огромном пространственно-временном ландшафте, который мы называем своим домом.

Мы сравниваем себя с роботом, пытаясь понять, что делает нас людьми, и опасаясь, что, даже если мы станем более роботизированными, наши создания станут человечнее и в конце концов превзойдут или заменят нас…

ПРЕДСКАЗАТЕЛЬ СМЕРТИ

2019
В 2016 г. исследователи из Стэнфордского университета обучили ИИ-систему предсказывать, умрет ли человек в течение ближайших трех — двенадцати месяцев. Для данной книги этот результат важен как пример широкого спектра задач, которые в ближайшие годы будут решать ИИ и глубокое обучение.

Паллиативная помощь обычно предполагает облегчение боли, стресса и других симптомов пациента со смертельным диагнозом, когда выздоровление невозможно. Знание о том, когда потребуется такая помощь, облегчает жизнь самого пациента, его семьи и медперсонала, а также позволяет определить, в каких случаях паллиативный уход наиболее эффективен. Для создания ИИ под названием Death Algorithm группа ученых из Стэнфорда использовала данные примерно 170 тысяч пациентов, умерших от рака, сердечно-сосудистых, неврологических и других заболеваний. Информация из медицинских карт — включая диагноз, медицинские процедуры, результаты обследований, прописанные препараты и т. д. — использовалась в качестве входных данных для обучения ИИ-системы. Затем глубокая нейросеть тренировалась, корректируя веса нейронов. Нейросеть состояла из входного слоя размерности 13 654 (коды диагнозов и препаратов), 18 скрытых промежуточных слоев (каждый размерности 512) и выходного слоя скалярного типа.

В итоге девять из десяти человек, которым система предсказала смерть в ближайшие три — двенадцать месяцев, действительно умерли в течение этого срока. Кроме того, 95% из тех, кому алгоритм напророчил более двенадцати месяцев жизни, действительно прожили дольше. Однако врач Сиддхартха Мукерджи в недавней статье в New York Times отмечает: «[Система глубокого обучения] учится, но не может объяснить нам, как именно; она назначает вероятности, но неспособна внятно их обосновать. Подобно ребенку, который осваивает велосипед методом проб и ошибок, а в ответ на просьбу сформулировать правила езды просто уносится вдаль, пожав плечами, алгоритм непонимающе смотрит на нас, когда мы спрашиваем: “Почему?” Это еще один черный ящик — как и сама смерть». И все же разработки предсказателей смерти на основе ИИ продолжаются. В 2019 г. группа экспертов из Ноттингемского университета показала, что машинное обучение превосходит по точности традиционные методы прогнозирования безвременной смерти, основанные на демографических, биометрических, клинических и бытовых факторах.

СМ. ТАКЖЕ , ,

Исследователи обучили ИИ-систему предсказывать, умрет ли человек в ближайшие 3–12 месяцев. А вы решились бы узнать день или хотя бы год своей смерти, будь у вас такая возможность

РОБОТЫ СОБИРАЮТ КУБИК РУБИКА

2018
На протяжении многих лет специалисты по ИИ конструировали самых разных роботов, способных собирать кубик Рубика с помощью компьютерного зрения и физических манипуляций. Оригинальную головоломку в 1974 г. создал венгерский изобретатель Эрнё Рубик (р. 1944); к 1982 г. в Венгрии было продано 10 миллионов таких кубиков (как ни странно, это больше, чем население страны). К настоящему времени, согласно оценкам, в мире продано более 100 миллионов штук.

Кубик Рубика представляет собой конструкцию 3 × 3 × 3 из меньших кубиков, окрашенных таким образом, что каждая из шести граней большого куба имеет свой цвет. Двадцать шесть внешних кубиков снабжены шарнирами, чтобы их можно было вращать. Цель в том, чтобы «собрать» кубик, то есть вернуть его в первоначальное состояние, в котором каждая грань состоит из квадратов одного цвета. Всего существует 43 252 003 274 489 856 000 вариантов расположения маленьких кубиков, и лишь один соответствует исходной позиции. Если бы у вас имелось по одному кубику для каждой возможной раскладки, вы могли бы покрыть ими всю поверхность Земли (включая океаны) примерно в 250 слоев.

В 2010 г. было доказано, что из любой конфигурации кубик можно собрать не более чем за двадцать ходов. В 2018 г. проворный робот под названием Rubik’s Contraption преодолел полусекундный барьер, собрав кубик всего за 0,38 секунды (столько времени в сумме потребовалось на захват изображения, расчеты и физические манипуляции). В этом устройстве, созданном студентом-робототехником из Массачусетского технологического института Беном Кацем и разработчиком программного обеспечения Джаредом Ди Карло, использовались шесть двигателей Kollmorgen ServoDisc и так называемый двухфазный алгоритм Коцембы. (Для сравнения: в 2011 г. мировой рекорд среди роботов составлял 10,69 секунды.) В том же 2018 г. устройство, основанное на глубокой нейросети, научилось собирать кубик Рубика методом обучения с подкреплением без опоры на человеческие знания.

Существует вариация головоломки, которая никогда не появится на полках магазинов, — четырехмерная версия кубика Рубика, или тессеракт Рубика. Общее количество позиций тессеракта Рубика — головокружительная цифра: 1,76 × 10120. Если бы вращающиеся грани тессеракта меняли положение каждую секунду с момента возникновения Вселенной, они и по сей день не успели бы продемонстрировать все возможные конфигурации.

СМ. ТАКЖЕ , , ,

Патент США № 4378116, выданный Эрнё Рубику в 1983 г. на «пространственную логическую игрушку». На рисунке показано внутреннее устройство кубика

СОСТЯЗАТЕЛЬНЫЕ ПРИМЕРЫ

2018
Представьте себе значок, который можно прикрепить к рубашке, или картинку, которую можно приклеить на знак остановки, чтобы обмануть ИИ-устройство (например, умную камеру наблюдения или беспилотный автомобиль) и заставить его думать, будто вы или знак — это любой другой объект на ваше усмотрение. Такой сценарий не выдумка, и он в действительности представляет угрозу для ИИ-систем на основе машинного обучения, а также для визуальных и аудиосистем, принимающих решения.

В 2017 г. исследователи из Google разработали круглые вставки с красочными психоделическими узорами, чтобы отвлечь классификаторы изображений с ИИ. Такие вставки могут обмануть ИИ-систему и заставить ее думать, что банан — или любой другой объект — это, например, тостер. Для этого достаточно просто поместить вставку рядом с объектом. Ранее с помощью других приемов экспериментаторы уже обманывали ИИ-системы, выдавая черепах за винтовки, а винтовки — за вертолеты. И хотя видоизмененные состязательные примеры со вставками хорошо заметны человеческому глазу, странные узоры и конструкции (скажем, граффити на стене здания или сложную трехмерную скульптуру) легко принять за обычное творчество — так что никто даже не догадается, что они призваны сбить с толку беспилотник, чтобы тот, например, принял больницу за военную цель.

В других экспериментах ИИ-системы неверно классифицировали знаки остановки как знаки ограничения скорости. В ряде работ уже анализировались потенциально опасные изменения, незаметные для человека, такие как подмена нескольких пикселей в изображении. В 2018 г. ученые из Калифорнийского университета в Беркли разработали состязательные примеры для систем распознавания речи. Иными словами, исследователи могли создать форму звуковой волны, почти идентичную реальной, и тем самым обмануть программу преобразования речи в текст, чтобы та превратила аудиосигнал в любую фразу по желанию исследователей.

Опыты с состязательным машинным обучением предполагают манипулирование тренировочными данными в ходе обучения ИИ. Хотя некоторые состязательные примеры можно нейтрализовать, потребовав от ИИ использовать сразу несколько систем классификаторов или запрограммировав их так, чтобы при обучении они не реагировали на состязательные примеры, во многих сферах применения ИИ сохраняются потенциальные риски.

СМ. ТАКЖЕ , , ,

Исследования показали: если поместить круглые психоделические пятна в поле зрения ИИ-системы, можно обмануть ее и заставить «думать», что банан — это тостер. Это указывает на возможные риски при использовании ИИ в некоторых сферах

АВТОНОМНЫЕ РОБОТЫ-ХИРУРГИ

2016
В 2016 г. роботизированная хирургическая система STAR (Smart Tissue Autonomous Robot) провела успешную операцию на тонком кишечнике свиньи, используя улучшенное зрение, машинный интеллект и ловкость. STAR наложила более надежные швы, чем обычно получаются у живых хирургов, и тем самым защитила кишечник от протечек вблизи швов. Во время этой «операции под наблюдением» на ткани кишечника проецировались флуоресцентные метки ближнего инфракрасного диапазона, которые помогали ориентироваться искусственной системе зрения. STAR планировала наложение швов и вносила коррективы при смещении тканей.

В наши дни роботы-хирурги становятся все более самостоятельными. Это неудивительно, если вспомнить, как давно подобные машины помогают людям на операциях. Одна из самых распространенных форм роботизированной хирургии напоминает лапароскопию, также называемую хирургией замочной скважины или минимально инвазивной хирургией. Такая операция выполняется через небольшие разрезы, что позволяет минимизировать кровопотерю и боль и при этом ускорить выздоровление пациента. В ходе роботизированной операции хирург не склоняется над пациентом и не манипулирует трубчатыми устройствами, вставленными в его тело, а сидит в удобном кресле за консолью, управляя инструментами, прикрепленными к нескольким рукам роботов, и глядя на трехмерные изображения оперируемых органов. В отличие от лапароскопии, роботизированная хирургия позволяет нивелировать дрожание рук хирурга, а при мелких ювелирных манипуляциях нужные движения рук могут масштабироваться для большей точности. В новой области телехирургии роботизированные инструменты, подключенные к высокоскоростным коммуникационным сетям, позволяют хирургу проводить операцию, находясь вдали от пациента.

В 2000 г. Мани Менон (р. 1948) стал первым в США хирургом, использовавшим робота для удаления раковой опухоли в предстательной железе. В том же году он основал первый в стране центр роботизированной простатэктомии. Сейчас роботизированная лапароскопия применяется при гистерэктомии, восстановлении митральных клапанов сердца, лечении грыж, удалении желчного пузыря и во многих других случаях. Роботы также используются для выполнения ключевых этапов процедур замены коленного сустава, пересадки волос и лазерной коррекции зрения.

СМ. ТАКЖЕ , ,

Представьте себе будущее хирургии, в котором автономные роботы выполняют все более сложные задачи, задействуя свои системы зрения и машинный интеллект. Возможно, они станут главными героями операционных, поскольку способны быстро и эффективно анализировать данные компьютерной томографии и МРТ-сканирования

ALPHAGO — ЧЕМПИОН ПО ИГРЕ В ГО

2016
«В то время как замысловатые шахматные правила могли быть придуманы только человеком, правила го столь изящны, естественны и строго логичны, что если где-то еще во Вселенной и существуют разумные формы жизни, они почти наверняка играют в го», — отмечал немецко-американский шахматист и игрок в го Эдуард Ласкер (1885–1981).

Го — настольная игра для двух игроков — появилась в Китае предположительно около 2000 г. до н. э., а затем попала в Японию, где обрела популярность в XIII в. н. э. В ходе партии игроки поочередно размещают черные и белые камни на пересечениях линий игральной доски размером 19 × 19 линий. Камень или группа камней считаются захваченными и удаляются с доски, если попадают в окружение камней противника. Цель в том, чтобы захватить бóльшую территорию, чем противник. Го сложна по многим причинам, включая большой размер игровой доски, замысловатые стратегии и огромное количество возможных позиций. Известно, что число допускаемых правилами позиций намного больше, чем число атомов в видимой Вселенной!

В 2016 г. AlphaGo стала первой программой, без форы победившей профессионального игрока в го высшего ранга, Ли Седоля (р. 1983) из Южной Кореи. Программу разработали в DeepMind Technologies, британской компании, специализирующейся на ИИ, которую в 2014 г. приобрела корпорация Google. Для обучения и игры программа использует метод Монте-Карло для поиска по дереву и искусственные нейросети. В 2017 г. новая версия программы, AlphaGo Zero, освоила игру в го, не используя данные о партиях, проведенных людьми, а лишь сыграв много миллионов раз против самой себя, — а затем быстро обыграла AlphaGo. В каком-то смысле AlphaGo Zero всего за несколько дней прошла тысячелетний путь человеческих изысканий, озарений, тренировок и творческих идей, а затем сама изобрела еще более эффективные приемы игры.

Говоря об удивительных игровых способностях AlphaGo, журналист Дон Чан отмечает: «В целом складывается впечатление, будто инопланетная цивилизация сбросила нам на Землю загадочный путеводитель, и это поистине гениальный учебник — по крайней мере, в той его части, которую мы способны понять».

СМ. ТАКЖЕ , , , ,

Компьютерная программа AlphaGo победила южнокорейца Ли Седоля. Это был первый случай, когда программа без форы обыграла профессионального игрока в го девятого дана

В то время как замысловатые шахматные правила могли быть придуманы только человеком, правила го столь изящны, естественны и строго логичны, что если где-то еще во Вселенной и существуют разумные формы жизни, они почти наверняка играют в го»

НАЗОВЕМ ИХ ИСКУССТВЕННЫМИ ПРИШЕЛЬЦАМИ»

2015
«Самое важное, что нужно помнить при создании мыслящих машин, — это то, что они будут мыслить иначе», — пишет Кевин Келли (р. 1942), главный редактор и основатель журнала Wired, в своем знаменитом эссе 2015 г. «Назовем их искусственными пришельцами». «Чтобы постичь великие тайны квантовой гравитации, темной энергии и темной материи, нам, вероятно, понадобится разум, отличный от человеческого, — продолжает Келли. — Затем возникнут новые чрезвычайно сложные вопросы, которые потребуют участия других разумов, еще более сложных и далеких от нашего. Возможно, нам придется изобрести промежуточный интеллект, чтобы тот помог нам разработать еще более изощренный разум, который мы не в силах создать самостоятельно».

В будущем нам придется решать настолько глубокие и трудные проблемы, что нам потребуется множество различных «видов разума», а также новые навыки взаимодействия с такими разумами. Келли заканчивает свое эссе сравнением мыслящих машин с инопланетянами: «Аббревиатуру ИИ можно расшифровать и как „инопланетный интеллект“. Мы не знаем наверняка, вступим мы ли в контакт с внеземными существами… в ближайшие 200 лет, но можем быть почти на сто процентов уверены, что за это время создадим инопланетный разум. Имея дело с этими искусственными пришельцам, мы получим те же преимущества и столкнемся с теми же проблемами, которых ожидаем от контакта с инопланетянами. Они заставят нас пересмотреть наши роли, убеждения, цели и нашу идентичность».

Мы едва ли можем представить себе, чтобы антилопа разбиралась в простых числах, однако после модификаций нашего мозга и совершенствования интерфейсов ИИ нам может открыться целый ряд глубоких концепций, которые сегодня от нас полностью скрыты. Если юкковая моль, мозг которой состоит лишь из нескольких ганглиев, с рождения способна распознавать геометрию цветка юкки, то какая часть наших способностей «прошита» в наших мозговых извилинах? Конечно, некоторые тайны Вселенной нам не удастся постичь никогда, так же как и антилопа никогда не начнет разбираться в высшей математике, черных дырах, символической логике или поэзии. Многие идеи никогда не придут нам в голову, многие образы могут лишь промелькнуть в сознании. Именно на этой тонкой, туманной границе между человеческой реальностью и запредельным миром мы, возможно, найдем нечто сокровенное, что можно сравнить с танцем с искусственными богами.

СМ. ТАКЖЕ , , ,

В будущем, по мнению Келли, мы создадим «искусственных пришельцев». Взаимодействуя с ними, мы получим те же преимущества и столкнемся с теми же проблемами, которых ожидаем от контакта с разумными инопланетянами