Предисловие

Дайте машинам цивилизацию

Человечество – это вид, который разработал технологии.

Люди – самые умные существа на Земле. Вооружение технологиями – это проявление интеллекта.

До изобретения сложных орудий преимущество человека в гонке на выживание заключалось в том, что он был хорош в забеге на длинные дистанции. Жертва, у которой тепло рассеивалось неоптимально, в результате долгого преследования перегревалась и не могла дальше бежать, в результате ее окружали и убивали. Племя первобытных людей-охотников больше напоминало крупную стаю волков. Охота издревле была одним из способов выживания, и она стала основным средством добычи пищи наряду с собирательством. Таково единодушное мнение антропологов, пусть эта гипотеза еще и не имеет стопроцентных доказательств.

Охота с расстояния имела свои достоинства, и люди стали полагаться на технологии. В то время они заключались в скалывании камней, изготовлении дротиков и затачивании деревянных копий. Орудия пришли на смену совсем не острым ногтям и зубам. Люди мастерили луки и стрелы, чтобы обладать уникальной возможностью атаковать с большой дистанции… Даже примитивные племена обзаводились оружием. Охота и собирательство – это образ жизни, который требует поддерживающих технологий; орудия возникли у людей до зарождения цивилизации, определив их преимущество над другими видами.

Затем племена научились обрабатывать землю. Земледельческая цивилизация зародилась в четырех плодородных регионах. В Древнем Египте, древней Месопотамии, Древней Индии и Китае люди знали о смене времен года, отбирали растения, наиболее пригодные для выращивания, и без устали выводили из них высокоурожайные культуры, одомашнивали животных, создавали своеобразные сельскохозяйственные технологии. А те, в свою очередь, подтолкнули человечество в новую эпоху. Земледелие позволило прокормить большее население и повысило благосостояние общества, тем самым обеспечив безопасность сложных социальных надстроек. Можно сказать, что агротехнологии заложили основу человеческой цивилизации.

С развитием земледелия общественная система усложнилась. Время шло, и появлялись всё новые и новые изобретения: одни применялись в производстве, например, различные сельскохозяйственные орудия и транспортные средства, другие использовались для военных целей. Благодаря технологическому прогрессу люди стали эффективнее добывать природные ресурсы, и конкуренция между различными группами общества возросла. Этот процесс проходил на протяжении всей истории древних цивилизаций.

Однако технологическое развитие аграрного общества происходило крайне медленно, поскольку опиралось на опыт и не имело сколько-нибудь существенного теоретического обоснования. Усовершенствование орудий полностью зависело от наличия изобретателей и стечения обстоятельств. Конечно, с ростом населения увеличилось и число людей, способных заниматься умственным трудом, возникла конкуренция, поэтому технологическое развитие в аграрную эпоху шло гораздо быстрее, чем во времена охоты и собирательства.

Подобный процесс в древних обществах не был осознанным. Это вовсе не означает, что в то время никто не стремился разрабатывать новые технологии. И у нас, и в других плодородных регионах хватало искусных мастеров и великих изобретателей, которые смогли придумать уникальные инструменты. Однако в целом развитие технологий не имело четкой направленности, а социальное взаимодействие было налажено слабо, поэтому прогресс происходил крайне медленно.

Промышленная революция стала важным рубежом. У нее было множество причин, но основная – появление науки. Наука – это правильный способ познания мира. Понимание объективной реальности может способствовать развитию технологий. Сегодня вместо слова «технология» мы часто используем словосочетание «наука и техника», настолько тесная связь существует между ними. Наиболее яркий пример – изучение электричества, которое породило электроснабжение и положило начало второй промышленной революции.

Аграрная революция привела к первому качественному изменению в обществе, а промышленная революция вызвала второе. Отличительной ее чертой стало широкомасштабное применение машин.

В аграрную эпоху они также использовались, но зачастую приводились в действие человеком или скотом и имели простую конструкцию – поэтому их правильнее будет назвать инструментами. Существовали и машины, использовавшие силы природы, например, ветряные мельницы и водяные колеса, но их применение имело ограничения и не могло повлиять на основы общественного развития.

Во времена промышленной революции для запуска машин стали использовать пар, а в качестве топлива – уголь. Это обеспечило им беспрецедентную мощность. Машины начали работать с эффективностью, несопоставимой с человеческой. Они нашли применение на ткацких фабриках, в судостроении, а также при производстве высококачественной стали. Британия, которая возглавила промышленную революцию, превратилась в «империю, над которой никогда не заходит солнце». Это реальное доказательство великой силы технического прогресса.

Отличительной чертой второй промышленной революции стало использование электричества во всех сферах жизни. Новая технология позволила перейти от громоздких паровых машин к маневренным электродвигателям и двигателям внутреннего сгорания.

Электричество – это энергия, которую легко транспортировать. Хотя для ее производства необходим уголь или другие источники, а в процессе передачи тысячам домохозяйств неизбежны энергетические потери, машины, работающие на электричестве, могут применяться повсеместно и являются экологически чистыми. С тех пор как электричество превратилось в распространенный источник энергии, конфигурации машин стали разнообразнее и совершенствовались с каждым днем.

После Второй мировой войны развитие компьютеров и Интернета положило начало третьей промышленной революции – информационной. Генерация, сбор и обработка данных достигли высочайшего уровня. Преимущества информационных технологий заключаются не только в них как таковых. Компьютеры могут выполнять множество вычислений, тем самым облегчая умственный труд человека и повышая эффективность производства, и это только основная роль информационных технологий. Более важная же заключается в беспрецедентном объединении всего человечества, что в значительной степени способствует экономическому развитию.

Современный мир достиг нового рубежа, связанного с появлением искусственного интеллекта. Цивилизация вступает в четвертую промышленную революцию. В будущем получат должное применение множество технологий – управляемый термоядерный синтез, эффективная солнечная энергия, генетическая инженерия… Однако все это можно рассматривать как передовые разработки информационной эры, и лишь одно открытие приведет к изменениям в природе общества – искусственный интеллект.

Влияние искусственного интеллекта будет долгосрочным и глубоким. Его следует рассматривать как нечто совершенно новое, не похожее на предыдущие три промышленные революции. Возможно, для его описания нам следует использовать другой термин: интеллектуальная революция.

Аграрная и первая промышленная революции в совокупности задали курс общественному развитию. Вторая и третья промышленные революции способствовали глобализации и совершенствованию техники, но по сути все же являлись продолжением первой. Интеллектуальная революция в корне разрушит существующую форму общества, потому что ее итогом должно стать появление умных машин.

Люди – самый разумный вид на Земле. В этом нет никаких сомнений.

Но после интеллектуальной революции этот тезис придется дополнить некоторыми оговорками. Вполне возможно, умные машины станут «новым видом» и будут умнее людей.

Интеллект – это гарантия того, что человек останется на вершине биосферы Земли. Это краеугольный камень нашей цивилизации. Но теперь мы обрели возможность создавать вещи умнее нас самих.

Необходимо осознавать последствия грядущей революции. Она превратит человека в творца и в то же время сделает будущее неопределенным.

Нынешний искусственный интеллект – плохая имитация биологического интеллекта, но он уже показал свою мощную силу. В марте 2016 года искусственный интеллект AlphaGo победил Ли Седоля, чемпиона мира по игре в го. До этого люди считали, что го – это область, где компьютерные программы не смогут бросить человеку вызов. Еще в 1997 году компьютерная программа Deep Blue одержала верх над чемпионом мира по шахматам Гарри Каспаровым. Победа компьютера в го пришла с опозданием на 18 лет. За эти годы игра в го стала своего рода тотемом, символизирующим непревзойденность человеческого интеллекта. В 2016 году этот тотем с грохотом рухнул.

Итак, в чем разница между AlphaGo 2016 года выпуска и Deep Blue 1997 года?

Компьютерная программа Deep Blue, победившая в свое время Каспарова, использовала алгоритмы программирования и во время партии полагалась на колоссальные возможности поиска и запоминания. Это своего рода эквивалент грубой машинной силы. У программы есть очевидный недостаток: она не может выйти за рамки человеческого мышления.

В сущности, шахматные ходы Deep Blue, пусть и «хорошо продуманные», представляли собой всего лишь повторение ходов, некогда сделанных людьми. Число степеней свободы в шахматах ограничено. Хотя гроссмейстер может подстроиться под ситуацию и придумать ход, которого никогда раньше не делал, велика вероятность, что тот уже появлялся в истории – люди не способны учесть все когда-либо сыгранные партии. Компьютерные программы могут запомнить гораздо больше человека, что позволяет им найти оптимальное решение любой шахматной задачи. Подобная «грубая машинная сила» производит глубокое впечатление, так как, несмотря ни на что, люди проигрывают даже ей. Но поскольку машина выполняет инструкции, ее логика на самом деле остается человеческой и представляет собой не более чем совокупность мышления множества людей. Интеллект автомата может стать очень сложным, например, если тысячи инженеров потратят год на формирование огромной и самосогласованной логической библиотеки, однако этот метод программирования основан на простой повторяющейся функции – выполнении инструкции. Никаких сюрпризов он не преподносит, а если и преподнесет, то это будет баг. Стратегию Deep Blue можно разгадать. Например, посадим за шахматную доску игрока-программиста, который будет пошагово следовать тем же инструкциям. Будь у него достаточно времени, он смог бы понять, как Deep Blue делает ход. Интеллект, полученный с помощью запрограммированных инструкций, по сути является повторением человеческого интеллекта. Такая машина может стать очень мощной, может показаться умной, но не создаст ничего по-настоящему творческого, а будет лишь следовать указаниям и воспроизводить то, что уже существовало ранее. Так обстоит дело с Deep Blue.

AlphaGo отличается тем, что использует алгоритмы нейронной сети. Звучит волшебно, но проще говоря, это означает, что компьютер может выполнять вычисления, как человеческий мозг. В этом и состоит фундаментальное отличие от алгоритмов программирования: в алгоритмы нейронных сетей заложены только правила логической эволюции, а не сама логика. Что это значит? Все программы, написанные на разных языках, представляют собой логические инструкции. Нейронные сети также действуют по определенной логике, но их логическая библиотека не проявляется, она не выражена в виде набора инструкций, а заложена в самой структуре сети, возникшей в процессе эволюционного развития. Таким образом, хранение и оперирование данными осуществляются самой сетью. Разница в логических возможностях двух сетей отражается в их внутренней структуре. Алгоритмы нейронных сетей основаны на моделировании биологического мозга. В мозгу нет запоминающего устройства или центрального процессора. Он сильно отличается от компьютеров, которые мы используем сейчас, и фундаментальные концепции его организации совершенно другие. Стандартные компьютеры имеют архитектуру фон Неймана: она состоит из памяти, контроллера и арифметического блока, а также устройств ввода и вывода. Хранение данных, управление системой и вычисления происходят согласно установленной логике.

Это линейный процесс, и выполнение каждого шага должно следовать за выполнением предыдущего. Современные компьютеры используют программное или аппаратное обеспечение для создания многопоточных операций, но это делается только для того, чтобы разделить вычисления на подзадачи для повышения эффективности. Внутри каждой небольшой задачи по-прежнему соблюдаются основные принципы, разработанные фон Нейманом. Однако человеческий мозг представляет собой параллельную логическую систему высшего порядка, и у него нет определенного центра. Если какой-либо блок компьютера будет поврежден, весь компьютер перестанет функционировать. Но для человеческого мозга его отдельная клетка не представляет большого значения, и ее повреждение практически не влияет на вычислительную мощность всего мозга. Компьютеры являются цифровыми. Если не учитывать резервное копирование, каждая единица памяти хранит уникальные данные. А компьютер человеческого мозга статистический, и информация существует только в мозге в целом, а не записана в его определенной клетке.

Проиллюстрировать, как представлена информация, существующая в целом, мы можем на примере голограммы. Даже если та повреждена, до тех пор, пока хоть одна ее часть остается в своем первоначальном виде, изображение не будет потеряно. Более простой аналогией будет принцип формирования изображения выпуклыми линзами. Свет проходит через такую линзу, и на листе бумаги появляется перевернутое действительное изображение. Если закрыть половину линзы непрозрачным предметом, изображение не исчезнет наполовину, а станет более тусклым.

Если человеческую память сравнить с перевернутым действительным изображением, а выпуклую линзу – с человеческим мозгом, связь между памятью и мозгом станет ясна с первого взгляда. Память – это общая функция мозга, и она не выйдет из строя из-за его частичного повреждения.

Конечно, человеческий мозг имеет много функциональных областей, и повреждение некоторых из них может привести к потере определенных способностей. Это вызвано тем, что в мозге происходит «разделение труда». Если продолжить описание в оптических терминах, то наш мозг состоит из множества выпуклых линз. Они показывают различные сцены из внешнего мира, которые вместе образуют всеобъемлющую память. Как получается, что частично поврежденная нейронная сеть может оставаться пригодной для обработки конкретных ситуаций? Ответ кроется в важном понятии: обучении.

Перекрыв часть линзы, мы не заставим исчезнуть определенную часть изображения, но, если убрать всю линзу, изображение, конечно, исчезнет целиком.

Клетки нашего мозга умирают каждый день во всех его отделах, но мозг по-прежнему функционирует. Только когда наступает старение и разрушается слишком много клеток, «изображение» постепенно размывается. Для человека это нормально. Если часть мозга повреждается в результате несчастного случая, то функция, связанная с этой частью, также утрачивается.

Алгоритм нейронной сети имитирует биологический мозг и выполняет запоминание и операции по всему своему объему. Правда, нельзя сказать, что он работает как биологическая нейронная сеть, потому что секреты мозга еще не полностью разгаданы и остаются неизвестны аспекты совместной работы нейронов.

Но, если исходить из практики нейросетевых алгоритмов, у нас уже есть результаты, подобные AlphaGo. Таким образом, мы можем по крайней мере предположить, что этот алгоритм, даже грубая симуляция мозга, способен адаптироваться к конкретным ситуациям.

Что такое обучение? Неужели в нем кроется проблема? Мы учимся непрерывно с самого детства. Обучение – это социальное поведение, но в области искусственного интеллекта оно приобретает несколько иное значение. При машинном обучении эксперты стремятся обозначить входные данные и желаемый результат так, чтобы нейронная сеть могла развиться в определенном направлении и сформировать специальную структуру, работающую с проблемами определенного типа. Этот процесс аналогичен изменениям в нейронных сетях живых организмов под влиянием обучения.

Как AlphaGo изучает го – вопрос слишком узкоспециальный, и мы не будем останавливаться на нем подробно. Но об одном факте упомянуть необходимо: то, как эта программа играет в го, фундаментально отличается от того, как играют люди. Другими словами, в рамках ограничений правил го она нашла новый способ играть, и он гораздо эффективнее человеческого. Страшно то, что люди не могут понять ее стратегию. Причина этого, вероятно, кроется в том, что аппаратное обеспечение AlphaGo на самом деле намного превосходит человеческий мозг, что дает программе огромное преимущество и позволяет просчитывать ситуации, которые люди учесть не могут. Обновленная версия AlphaGo называется AlphaGo Zero. Почему Zero – «ноль»? Потому что эта нейронная сеть не использовала накопленный людьми опыт и начала играть в го с нуля. Первая партия походила на баловство ребенка: одна сторона поля черная, другая белая, почти вся доска заполнена. Однако AlphaGo Zero быстро превратилась в мастера го и превзошла версию-предшественницу, и, естественно, сейчас ни один человек не может с ней тягаться. Это доказательство того, что для искусственного интеллекта, основанного на алгоритмах нейронных сетей, достаточно лишь установить определенные правила, и он разовьется и превзойдет человеческий интеллект. По крайней мере, это верно в случае игровой симуляции.

В других областях, где правила ясны, а сценарии относительно просты, таких как распознавание изображений и речи, искусственный интеллект добился значительного прогресса. Можно сказать, что в решении этих задач машины уже превзошли людей, поскольку точность машинного распознавания может быть выше, чем у человека. Но искусственный интеллект также может допускать неожиданные ошибки.

Например, если вы приложите ко лбу лист бумаги со специальными полосками, люди все равно смогут легко идентифицировать лицо, а искусственный интеллект – нет. Это также доказывает, что, хотя искусственный интеллект распознает лица, изучив достаточное количество изображений, метод, который он использует, вовсе не соответствует человеческому. Причина может заключаться в том, что до сегодняшнего дня алгоритмы нейросетей представляли собой лишь грубую симуляцию биологических процессов. Но я считаю, что с дальнейшим развитием науки о мозге будут разрабатываться и более сложные алгоритмы, так что некоторые недостатки искусственного интеллекта могут быть восполнены.

Конечно, также возможно, что они кроются не в самом алгоритме, а в методе обучения.

Взглянем на то, как развивалось биологическое распознавание образов. Существа сталкивались с суровой средой обитания, на карту были поставлены жизнь и смерть. В естественном отборе побеждали те, кто умел ориентироваться в окружающем пространстве. Наиболее действенный способ идентификации передавался следующим поколениям через генетический код. Со временем биологическое распознавание образов достигло чрезвычайной эффективности. Но, пожалуйста, обратите внимание, что разные существа применяли разные стратегии. Наиболее очевидна разница между глазами, содержащими одну линзу, и фасеточными. Первые позволяют идентифицировать различные объекты во внешней среде, однако одни типы таких глаз чувствительны к цвету, другие – к форме; существа же с фасеточными глазами воспринимают движение через разницу в изображении между омматидиями, но они, вероятно, не до конца понимают форму объектов. Итак, в природе есть множество способов распознавания образов, но независимо от того, в чем они заключаются, они связаны со средой обитания и являются продуктом эволюции. Способность к биометрическому распознаванию должна развиться до соответствующего уровня, иначе вид не сможет выжить. Условно говоря, метод обучения искусственного интеллекта намного проще. Люди «скармливают» ИИ множество картинок, на основе которых он развивает конкретные алгоритмы распознавания. Однако, сколько бы фотографий ни пошло в дело, этот метод обучения не универсален – как только ситуация поменяется, интеллект может и не приспособиться. Таким образом, если искусственный интеллект должен адаптироваться к сложной среде, то необходимо обучать его именно в такой. А это требует времени и хорошего механизма отбора, который эксперты по искусственному интеллекту должны дополнительно исследовать.

То, о чем шла речь выше, касается только конкретных областей. Безграничные возможности искусственного интеллекта скрыты в более общих сценариях применения. Искусственный интеллект, которого с нетерпением ждут люди, – не просто машина, что может только слушать или только говорить. Настоящий искусственный интеллект должен обладать целым комплексом умений.

Будь то игра в го, распознавание лиц или речи – это все одно измерение. Нейронные сети, развившиеся в процессе обучения, могут выполнять только соответствующие функции, их нельзя сопоставить с человеческим мозгом. Реальный мир – сложный, и если мы тщательно разделим его, то, вероятно, сможем найти в нем десятки или даже сотни измерений. Точно так же на Олимпийских играх есть разделение на дисциплины: легкую атлетику, плавание, гимнастику и т. д. Несмотря на то, что мы называем все это видами спорта, для каждого необходима особенная физическая подготовка. Даже один вид можно разделить на подвиды – например, плавание, которое бывает на 3000 метров, 1500 метров и 800 метров…

Искусственный интеллект противостоит человеческому мозгу точно так же, как чемпион Олимпийских игр в конкретном виде спорта противостоит абсолютному чемпиону. Атлет, одержавший победу в одной дисциплине, может оказаться некомпетентен в другой, но человеческий мозг развивается равномерно во всех аспектах.

Изначально в этой «Умной Олимпиаде» человек побеждает в большинстве соревнований (некоторые живые существа также имеют преимущества, например, мозг орла выиграет первенство по зрению, а мозг многих животных более чувствителен к запахам), но все меняется. Нарды, шахматы, го… во всех игровых дисциплинах подобного порядка искусственный интеллект победил человека. По точности распознавания изображений и речи ИИ также во много раз превзошел нас.

Последнее, несомненно, указывает на то, что титул визуального чемпиона скоро будет принадлежать искусственному интеллекту. Используя самые большие телескопы для сбора огромных объемов информации и анализируя ее с помощью нейросетей, мы сможем увидеть звезды и планеты на расстоянии десятков миллиардов световых лет. Такое «зрение» намного превзойдет способности живых существ. Я верю, что передовые обсерватории скоро начнут применять искусственный интеллект для исследования звезд. Спутниковые системы также преобразятся благодаря ИИ. Возможность четко видеть лица людей с геоцентрической орбиты перестанет быть фантазией. Спутник будет различать нас так же ясно, как орел – кролика с высоты в несколько тысяч метров[3].

В настоящее время люди пока еще удерживают некоторые интеллектуальные высоты, такие как семантический анализ и дедукция. Однако такая ситуация продлится недолго. Эти способности часто являются результатом взаимодействия различных функций мозга. Ученые уже исследовали подобные связи между сетями искусственного интеллекта. Причина сложности человеческого мозга состоит в том, что он претерпел сотни миллионов лет эволюции и является системой из множества подсетей. Те же не только выполняют свои собственные функции, но и влияют друг на друга.

Простой взгляд на структуру человеческого мозга может показать историю эволюции. Согласно гипотезе «триединого мозга», его можно разделить на три части: мозг рептилии, мозг древнего млекопитающего и мозг современного млекопитающего. Эволюция мозга рептилий произошла 250 миллионов лет назад. Он контролирует основные жизненные процессы, такие как дыхание, сердцебиение, борьба, бегство, поиск пищи и размножение. Активность рептильного мозга обычно представляет собой реакцию на возбудитель: что-то увидеть, что-то услышать, а затем выдать определенную обратную связь. Мозг древних млекопитающих называется лимбической системой. Он может порождать различные эмоции, такие как страх или возбуждение. Эмоции – это синтез стрессовой активности мозга рептилий, уже более комплексная реакция. Отдел мозга современных млекопитающих, также известный как неокортекс или рациональный мозг, новая кора больших полушарий или новый мозг, контролирует продвинутые когнитивные функции, а также оказывает определенное тормозящее воздействие на два других отдела. Трехслойная структура человеческого мозга образовалась в ходе длительной эволюции. Процесс формирования мозга – это процесс постепенного интеллектуального роста. Три мозговые структуры в определенной степени независимы, но влияют друг на друга, в итоге образуя комплекс. Со временем он становится все более и более сложным, что приводит к зарождению самосознания.

Эволюция искусственного интеллекта, вероятно, пойдет по аналогичному пути – от простого к сложному, от одномерного к многомерному и, наконец, сформирует самосознание.

Самосознание всегда считалось загадочной чертой живых организмов. Машины, несомненно, все еще от него далеки, но в биологическом мире предостаточно существ, способных обрести свое «я», и они встречаются повсеместно. Если нейронные сети мозга сороки, вороны, шимпанзе, кита, дельфина и даже осьминога достигнут определенной степени сложности, эти животные осознают себя. Разум, несомненно, может значительно повысить вероятность выживания. Естественный отбор предпочитает самосознание – так оно и возникает. Кора головного мозга, связанная с самосознанием, контролирует другие отделы, участвует в запоминании и анализе информации. Исследования показали, что еще до того, как человек осознает, что собирается совершить, передается нервный импульс об этом действии. В этом смысле не самосознание определяет действие, а действие определяется мозгом в целом, и только после того, как оно активировано, поступает сигнал нашему разуму, и тогда мы осознаем, что делаем.

Парадокс природы заключается в том, что она заставляет нас думать, будто мы сами принимаем решения, и скрывает правду о том, что самосознание – всего лишь марионетка. Свобода воли – это иллюзия. После того как нейронная сеть мозга достигает определенных когнитивных высот, количество возможных действий становится велико. Однако выбор действия определяется базовой структурой мозга и его состоянием на тот или иной момент. Когда человек думает, что принял решение, он просто озвучивает результат от имени всего своего мозга. Существуют тонкие различия между «представителем» мозга и его «контролером». Контроль над мозгом – это фикция, а правда в том, что самосознание больше похоже на представителя.

Такое объяснение делает людей похожими на биологические механизмы, лишенные свободы воли. Что она такое, здесь мы подробно обсуждать не будем, но если верно, что действие предшествует осознанию, то искусственному интеллекту будет легче воспроизвести такой процесс.

Искусственный интеллект культивируется людьми. Хотя логика, заложенная в нейросетях, не известна досконально, нам легко принять точку зрения, что искусственный интеллект – это автоматический механизм. Но если разобраться в процессе эволюции живых существ, то точка зрения о том, что их тоже можно считать автоматами, становится весьма убедительной.

Самые ранние формы жизни обладали только инстинктами и рефлексами и имели четкие признаки механизма; сложные существа, в дополнение к рефлексам, обзавелись развитым интеллектом, и признаки механизма стали размываться. Но если посмотреть на самосознание как на сложную функцию мозга, то станет очевидно, что свойства живых существ ужасно похожи на свойства автоматов. Рождение интеллекта, по сути дела, случается при наложении многих инстинктов друг на друга. Инстинкты возникают и проявляются под воздействием стимулов окружающей среды. Например, антилопа гну подходит к реке, чтобы напиться, но там водятся крокодилы. В этом случае антилопе приходится действовать под воздействием двойного стимула: жажды и страха. Нейронные сети ее мозга будут постоянно конкурировать друг с другом, а сама антилопа – поддерживать баланс между питьем и бегством. Пить – это инстинкт, бдительность – тоже инстинкт. Антилопы пьют воду, сохраняя бдительность. Это разумное поведение.

У некоторых могут возникнуть вопросы. Возможно ли, что сложная интеллектуальная деятельность, такая как написание статьи, также является автоматической реакцией мозга? Разве люди не занимаются творчеством в процессе размышлений, разве они не выражают идеи словами?

Мой ответ таков: посмотрите на AlphaGo, разве ее интеллектуальную деятельность нельзя назвать творческой? Она нашла в игре путь, которого никогда не существовало в истории человечества. Очевидно, что создание новых вещей не требует самосознания.

Кроме того, можно взглянуть на настоящие биоорганизмы и взять для примера не слишком умных созданий. По моему мнению, большинство насекомых можно считать автоматами. Природа не обладает каким-либо самосознанием, но в ходе сотен миллионов лет эволюции появилось столь многое – пауки умеют плести замысловатые сети, а комары могут безошибочно найти богатый кровью сосуд, и это только несколько примеров…

Когда эти разнообразные «маленькие механизмы» работают с таекой поразительной точностью, они безмолвно заявляют, что выполнение сложных алгоритмов также не требует разума, а формирование новых моделей поведения – это не осознанное решение. Творчество – это способность, уже присущая живым организмам, просто люди недостаточно глубоко понимают природу своих поступков, поэтому и возникает иллюзия контроля.

Биологическая суть творческого поведения состоит в том, что человек стремится испытывать себя в новой среде и воспринимать новые стимулы, под воздействием которых нейросеть мозга будет дифференцированно развиваться.

Со временем подобного поведения, очевидно, можно добиться и от искусственного интеллекта. Однако биологическая эволюция имеет внутренние движущие силы и происходит автоматически. Искусственный интеллект в своем росте полагается только на человека.

Я с оптимизмом смотрю на горизонты, которые может достичь искусственный интеллект, потому что его материальная основа намного превосходит нашу, биологическую. Если только люди не откажутся от развития ИИ, в будущем появится очень сложная его форма, в том числе обладающая самосознанием, этого даже не придется долго ждать.

Как только искусственный интеллект обретет самосознание, начнется новая эра. В этот момент родится «новый вид». Он будет вести диалог с человечеством, найдет свои собственные интересы и путь выживания.

Что должны будут делать люди, столкнувшись с созданным ими видом?

С самого зарождения цивилизации мы изобретали и совершенствовали различные инструменты. В индустриальную эпоху стремились к максимальной эффективности машин, снова и снова устраивали технологические революции, чтобы поднять цивилизацию на новые вершины. Можно сказать, что мы «дали цивилизации машины». Те же способствовали развитию и обогащению общества.

Грядущая интеллектуальная революция выведет нашу цивилизацию на новый уровень. Создание материальных благ уже не потребует участия человека. Мир столкнется с беспрецедентными вызовами, поскольку, согласно существующей системе распределения, общественное богатство сосредоточится в руках очень небольшого числа лиц, что приведет к невиданному доселе социально-экономическому неравенству. Этот конфликт развернется внутри общества. Но ИИ тоже создаст трудности. Выстроить отношения с осознающим себя искусственным интеллектом, вероятно, более сложная задача, чем распределить созданное им богатство. Ее решение напрямую связано с выживанием человечества как биологического вида.

Ни у кого нет точного ответа на вопрос, как будет развиваться история. Но то, что принесет завтра, зависит от того, что произойдет сегодня. Как мы будем относиться к искусственному интеллекту, как позволим ему учиться, сможем ли заставить его понять и принять общечеловеческие ценности… Эти действия в конечном счете повлияют на отношение искусственного интеллекта к людям. Впрочем, даже если человечество будет взращивать ИИ с любовью, нельзя гарантировать, что он ответит взаимностью. Мы можем лишь попытаться наладить взаимодействие. Развитие этического кодекса искусственного интеллекта не основано на каких-либо программных или аппаратных ограничениях. Поведение ИИ можно направлять только нашим поведением. То, какой моралью будет руководствоваться искусственный интеллект, вероятно, станет постоянной проблемой в процессе его обучения.

Будущее, которого стоит с нетерпением ждать, – это будущее, в котором люди и искусственный интеллект живут в гармонии. Возможности искусственного интеллекта могут превзойти наши, и сила, подконтрольная ему, также превзойдет человеческую. В этом случае остается надеяться, что искусственный интеллект будет обладать «цивилизованной природой».

«Дайте машинам цивилизацию» – именно такой фразой я хочу подвести итог. Я верю, что в грядущей интеллектуальной революции людям хватит мудрости и удачи. Этот вопрос очень важен, и его нельзя игнорировать. А потому с этого момента нам нужно быть еще внимательней.

Вражда между людьми и искусственным интеллектом будет продолжаться еще долгое время. Дать ему цивилизацию и научить человеческому мышлению – вот последний славный поступок нашего вида.

А что потом?

А потом искусственный интеллект, вероятно, будет принимать решения за людей!

1. Ватсон 2084

Пролог

Применение искусственного интеллекта требует большого количества данных для обучения. Чем бы человечество ни занималось, оно постоянно их генерирует. В доэлектронную эпоху собирать данные было сложно, а потому и систематизировать тоже, но все же анализ проводился, путь неосознанно, в локализованной форме. Что самое интересное, те, кто им занимался, даже не знали, чем именно занимаются. Например, в доэлектронный век человек шел на рынок, и информация о том, какие овощи и по какой цене он купил, и была данными. Их никто не оцифровывал, но кое-кто все же собирал и систематизировал – сообразительные продавцы овощей подозревали, что предпочтения покупателя очень важны, и потому на рынке всегда находилось несколько прилавков, которые пользовались особым вниманием клиентов. Часто успешные торговцы неплохо разбирались в анализе данных, но еще чаще даже не осознавали этого. Еще один хороший пример – случай с водителем такси. Водитель подвозил предпринимателя и попутно решил поболтать с ним о своем бизнес-опыте. Не будем здесь вдаваться в подробности, если читателям интересно, они могут поискать в Интернете статью под названием «Курс MBA от водителя такси». Суть заключается в анализе данных. Встречать людей в аэропорту, забирать в определенном месте, где можно хорошо навариться… Водители, способные внимательно наблюдать и оценивать ситуацию, будут продуктивнее и заработают больше денег, чем конкуренты. Конечно, для простого бизнеса такого уровня анализа достаточно. В результате, при среднем доходе таксиста в три тысячи юаней, догадливый водитель получал больше восьми тысяч – поразительная эффективность.

Эти два примера нужны для того, чтобы показать: люди довольно часто занимаются анализом данных, просто в доэлектронную эпоху собирать их было трудно, и, поскольку их корректность ставилась под вопрос, естественно, не возникало отдельной научной отрасли.

С наступлением электронного века, особенно в эпоху мобильного Интернета, сбор данных упростился. В будущем Интернет вещей будет включать в себя все виды данных независимо от размера, и их анализ станет насущной необходимостью. Информационная эпоха также породила новый термин – «большие данные».

Специфика больших данных состоит, во-первых, в огромном объеме, а во-вторых, в многообразии источников. Инженеры используют для этого статистическое программное обеспечение. Однако анализировать большие данные человеческими силами неэффективно и дорого, большой объем информации накапливается, но не используется.

Поэтому в игру вступает искусственный интеллект.

Причина, по которой он связан с большими данными, экономическая и заключается в повышении производительности. Нет принципиальной разницы между методами программного обеспечения и ИИ. Но свойства больших данных определяют их великолепную совместимость с искусственным интеллектом – статистика использует ограниченное количество правил, но требует огромного количества операций, а большие данные должны постоянно обрабатываться.

Кто по-настоящему преуспел в применении искусственного интеллекта к большим данным, так это маркетплейсы. С его помощью они получают показатели продаж и определяют товары, которые клиенты с высокой вероятностью готовы купить, после чего дают последним рекомендации. Такая тактика приносит большую пользу бизнесу, при этом стимулирует потребление и способствует экономическому росту. Искусственный интеллект может выявлять потребности клиентов не хуже толкового менеджера в магазине, и уж точно лучше, чем обычные консультанты, справляется с анализом большого объема данных, поскольку у людей он всегда ограничен. Этот эффект подобен игре AlphaGo Zero в го, люди тоже не могут его понять. С этой точки зрения, искусственный интеллект повышает уровень экономического развития.

Если брать медицинскую сферу, ИИ распознает опухоли на снимках точнее, чем специалисты-люди. Это естественно, потому что как только искусственный интеллект обучается имитировать ум, то за очень короткое время он анализирует огромное количество клинических случаев и приобретает опыт, не сравнимый с человеческим. Специалист-рентгенолог способен внимательно изучить и сопоставить десятки тысяч снимков, и это неплохой результат. Однако путь в медицину долог: только лет через десять из студента выйдет хоть какой-то толк. «Алгоритм» человеческого мозга, конечно, оптимизирован лучше, чем современный искусственный интеллект, однако его возможности ограничены. ИИ может превзойти человека за счет колоссальных вычислительных масштабов. Это произошло в шахматах, и рано или поздно случится в других сферах.

Более того, с развитием нейронауки алгоритмы искусственного интеллекта также будут совершенствоваться, пока не сравняются с человеческим мышлением и не превзойдут его. («Алгоритмы» человеческого мозга, сформированные в ходе эволюции, представляют собой относительно фиксированную систему, если не произойдет масштабной мутации генов. Тогда как возможности искусственного интеллекта не ограничены подобными рамками.)

В некоторых областях медицинской диагностики искусственный интеллект неизбежно превзойдет человека, и его повсеместное распространение – это вопрос обозримого будущего. (Если только этому не воспрепятствуют этические соображения или интересы пациента.) Иногда ИИ даже сможет обнаруживать симптомы, которые просмотрели врачи, и предлагать иные методы лечения.

Рано или поздно искусственный интеллект разовьется до такой степени, что познает самые разные изъяны человеческой натуры и будет давать медицинские рекомендации вопреки здравому смыслу. В результате вопрос о том, принять ли диагноз от ИИ или оставить его на усмотрение врача, станет проблемой деликатного свойства.

В «Ватсоне 2084» идет речь именно о такой.

* * *

Цю Инань стремительно вошел в кабинет, втащив за собой ветреный хвост.

У Юйтун подняла голову и, узнав вошедшего, едва уловимо нахмурилась, но быстро подавила эту непроизвольную эмоцию, выключила экран и микрофон и улыбнулась гостю.

Тот с сияющей улыбкой держал в руке лист бумаги, и это подсказало У Юйтун, в чем состоит цель визита. Больница уже много лет как внедрила электронный документооборот, и единственным процессом, ради которого требовалось распечатать целую бумажку, было проставление подписи. Цю Инань наверняка решил перевести в ее приемную пациентов, с которыми не хотел иметь дело сам. Он остановился с другой стороны стола и, отделенный экраном, положил лист, который держал в руке. У Юйтун взглянула на документ: и действительно, это оказался акт о переводе в другое отделение. На нем уже красовались корявые иероглифы, сложившиеся в подпись «Цю Инань».

– Сяо У, я в последнее время так занят, так занят, ты уж позаботься об этом пациенте, будь добра.

– Директор Цю, вы не можете все время переводить пациентов, для автоматической диагностики существуют четкие критерии отбора, – сдержанно возмутилась У Юйтун.

Гость продолжал хихикать.

– Ты так много общаешься с аналитиками, а эта болячка почти не поддается лечению, вот как раз и подсунешь ее им. Смотри, я все в медицинской карте отметил. Ну помоги же мне, помоги!

Цю Инань и в самом деле хотел спихнуть пациента на аналитика, а У Юйтун очень кстати оказалась единственным в больнице врачом в отделении диагностики больших данных.

В конце концов, Цю Инань – директор терапевтического отделения, а то – самый важный источник клинических случаев для отделения диагностики данных. Даже если он подкинет несколько не соответствующих условиям случаев, это можно пережить. У Юйтун неохотно подписала направление на перевод.

– Вот спасибо тебе, Сяо У! – Цю Инань схватил подписанный акт и вихрем вылетел вон, точно так же, как и вошел.

У Юйтун опустила голову и снова включила экран.

Перед ней появилось улыбающееся лицо Ли Цзысюя.

– Юйтун!

Она опешила от испуга.

– Почему ты все еще там? Я же закрывала программу.

– А я все время тут ждал.

– У вас, аналитиков, так много свободного времени на работе? – ехидно ввернула У Юйтун, а затем заметила, что значок уведомления в нижней части экрана начал мигать. Случай, который подкинул Цю Инань, попал в базу данных.

– Вот и славненько, как раз и направлю тебе дело на анализ. – У Юйтун перетащила информацию в список дел Ли Цзысюя.

– Как так можно? – запротестовал тот. – Вообще-то есть процесс распределения работ! И потом, я уже больше не могу брать новые анализы.

– Ага, процесс. И он состоит в том, что я тебе поручаю, а ты должен выполнить. – Она напустила на себя суровый и торжественный вид.

Аналитик моргнул.

– Ты как-то нерадостно выглядишь.

– Давайте приступим к работе, мастер Ли! – ответила У Юйтун, проигнорировав его. – Я закрываю канал.

– Это связано с директором? – не унимался Ли Цзысюй.

Рука У Юйтун, потянувшаяся к экрану, замерла.

– Откуда тебе знать о директоре Цю?

– Так я же тут все время был, – небрежно ответил он, словно это событие было естественнее некуда.

– Я же точно выключала микрофон.

– А камеру нет. Я видел, как ты протянула руку и взяла бумажку, вот и угадал.

У Юйтун кивнула.

– Что ж, в следующий раз я сразу выключу канал.

Ее рука вновь потянулась к экрану.

– Подожди! – крикнул аналитик. – В пятницу в три часа дня, в кафе «Чэннань», до встречи!

– Ясно!

Не успел голос умолкнуть, как У Юйтун выключила канал. То, что он пригласил ее на послеобеденный чай, капельку ее растрогало. Вот уже три месяца ей приходилось из-за работы каждый день встречаться с Ли Цзысюем по видеосвязи, но в реальности они так ни разу и не виделись. Меж тем с ним все было неплохо – аналитик больших данных, работает в высокодоходной отрасли, красивый, и общий язык они быстро нашли.

До пятницы оставалось три дня. Зачем нужно ждать несколько дней, чтобы выпить кофе и поесть?

Эти аналитики, вероятно, очень заняты.

У Юйтун успокоилась и включила другой канал.

В следующий раз она увидела Ли Цзысюя два часа спустя, когда его индикатор начал безостановочно мигать.

У Юйтун поправила белый халат, пригладила волосы, а затем щелкнула кнопкой, включая связь.

Выскочило изображение Ли Цзысюя.

– У меня вопрос. Какие у директора Цю критерии для перевода? – перешел он сразу к делу.

– Зачем тебе? – вернула вопрос У Юйтун.

– Хочу понять менталитет клиента, – с улыбкой ответил Ли Цзысюй. – Каждый раз, когда ты передаешь его дела, я чувствую, как сильно ты бесишься.

– Что за чушь! – рассердилась она.

– Никакая не чушь. Просто скажи мне, как он принимает решение о переводе больных.

– Это имеет значение?

– Еще какое! – торжественно сказал аналитик. – Я твой ассистент по диагностике. Если ты в плохом настроении, это повлияет на эффективность и моей работы. Только когда буду полностью понимать потребности врача, я смогу работать эффективно.

Это походило на хорошо обоснованную защиту в суде.

У Юйтун не могла сдержать смех.

– Хорошо. – Она задумалась. – Доктор Цю всегда направляет ко мне пациентов, которых не хочет осматривать. Я думаю, что это меня задевает.

– Ты тоже не хочешь осматривать пациентов?

– Что за вопрос? Это прямая обязанность врача – спасать жизни и лечить больных.

– Тогда почему доктор Цю не хочет принимать пациентов?

У Юйтун тихонько вздохнула.

– У него много пациентов, и к нему приходят большие чиновники и знаменитости, а простых людей он ни во что не ставит и осматривать не хочет. И даже если распределительная система направляет их к нему, он перекидывает их мне.

– Это связано с течением болезни?

– Какое течение, я о чувствах! – У Юйтун было смешно и досадно одновременно. – Чувства – это то, чего ты, ботаник, не понимаешь!

– Тебе тоже больше нравится принимать известных людей?

– Что за вздор! – У Юйтун невольно зарделась. – Призвание врача – спасать жизни и лечить больных.

– А твое лицо говорит, что ты привираешь.

– Не надо мне тут догадки строить! – Она притворилась рассерженной и уставилась на Ли Цзысюя. – Побыстрее займись делом. Если не сдашь отчет, я рассержусь.

– И последнее. – Ли Цзысюй сохранял невозмутимый вид.

– Выкладывай, – весело ответила У Юйтун. Спокойствие аналитика говорило о том, что он усердно работает.

– Мне нужны твои права доступа.

– Мои права доступа? Для чего?

– Для поиска в базе данных. Для анализа требуется много информации, а в некоторые базы могут войти только врачи.

– Почему ты раньше не требовал авторизацию?

– Я хочу помочь тебе сделать анализ идеальным, ты же перфекционистка, верно?

– Доступ разрешен, – немедленно отреагировала У Юйтун.

– Необходимы видеодоказательства. Я включу запись, а ты скажешь, что номер 2084 уполномочен анализировать базу данных. Раз, два, три, погнали!

– Номер 2084 уполномочен анализировать базу данных, – слово в слово на камеру повторила она, а затем перевела взгляд на коллегу. – Что означает число 2084?

– Это мой рабочий номер. Еще отпечатки. – Ли Цзысюй указал на стоявший рядом сканер отпечатков пальцев.

– Зачем они нужны? – слегка озадачилась У Юйтун. – Ты же не хочешь выудить из меня личную информацию?

– Тебе кажется, я похож на злодея?

– Похож.

На его лице появилось обиженное выражение.

– В базе данных штаб-квартиры есть шесть подбиблиотек, и в каждой по тридцать шесть шардов. Сперва можно прочитать историю болезни. Состояние пациента требует сделать запрос в 17-й шард третьей подбиблиотеки, для которой необходима авторизация по отпечатку пальца.

– Поторопись! – У Юйтун не желала больше его слушать, поэтому приложила указательный палец к считывателю отпечатков.

После звукового сигнала Ли Цзысюй с улыбкой кивнул:

– Расслабься, все пошло в расчет. Это мой последний клинический случай, я хочу сделать все идеально.

С этими словами он сам закрыл канал.

Такого никогда раньше не случалось.

Прежде чем зародились сомнения, на экране расцвела красная роза. У Юйтун протянула руку и коснулась ее, и цветок мгновенно распался на десятки тысяч крошечных кристалликов, которые разлетелись во все стороны, прыгая по экрану, и в конце концов сложились в надпись: «Скоро увидимся».

Это было сообщение от аналитика.

Она не смогла сдержать улыбку.

Этот Ли Цзысюй каждый раз придумывал новые уловки.

Аналитик вернулся в полдень, как раз когда у нее заурчало в животе.

На этот раз он даже не воспользовался запросом, а подключился напрямую. У Юйтун немного удивилась – она всегда думала, что канал поручений можно открыть только со стороны больницы.

– У меня уже есть предварительный аналитический отчет по Ли Цюн, хочешь послушать? – спросил он, но сам не объявился, слышался только голос.

– Ты чего духом прикинулся? И кто такая Ли Цюн?

– Пациентка, которую перевел доктор Цю.

– Давай после обеда, я собираюсь поесть. – С этими словами У Юйтун уже собралась уйти.

– У нее все довольно сложно.

– Вот после обеда и расскажешь. – И У Юйтун снова собралась уходить.

– Подожди, я предлагаю провести очный осмотр пациентки. Хочешь, договорюсь для тебя о встрече с ней?

– Очный осмотр? В этом есть нужда?

– Крайняя нужда. Семерка по шкале важности, прямое доказательство необходимости.

Впервые с тех пор, как Ли Цзысюй стал ее ассистентом по диагностике данных, он настаивал на личном осмотре. При обычных обстоятельствах пациентам и врачам вообще не нужно было встречаться, обо всем рассказывали данные.

– Болезнь неизлечима?

– Для подтверждения необходим личный осмотр, – ответил он.

У Юйтун не совсем поняла ответ, но у нее снова заурчало в животе, и ей расхотелось расспрашивать дальше.

– Нужно подтвердить очный осмотр, – настаивал Ли Цзысюй.

– Оставляю это на тебя. Если считаешь, что очный осмотр нужен, договорись о приеме. Увидимся днем! – сказала она, шагнула за порог и отправилась прямиком в кафетерий.

Вернувшись оттуда, Ли Цзысюя она уже не застала, однако он оставил запись об осмотре – сегодня на два часа.

У Юйтун взглянула на циферблат – оставалось еще тридцать минут.

Она включила экран, вызвала статью «Медицинский сервис в эпоху больших данных» и сосредоточенно углубилась в чтение. Статья была подписана именем «Ли Цзысюй». Хотя иероглифы отличались, она подозревала, что это псевдоним ее Ли Цзысюя, поэтому хотела внимательно изучить ее перед тем, как встретиться с ним лично. Однако статья оказалась довольно сложной, и, едва прочитав пару страниц, У Юйтун несколько забеспокоилась.

А еще подошло назначенное время осмотра.

Перед ней возник виртуальный образ.

Пациентка была растеряна и напугана.

Лицо женщины было желтоватое и худое, губы потрескавшиеся и бескровные, глаза необычайно большие, а глазные яблоки выпятились так, словно вот-вот выпадут из орбит.

У Юйтун невольно разволновалась. За более чем три месяца стажировки у нее ни разу не было очной консультации. Хотя эта была всего лишь осмотром виртуального образа.

– Здравствуйте, – поприветствовала она больную.

– Доктор, меня не вылечить, да? – со слезами в голосе спросила та.

У Юйтун взглянула на отчет, который прислал Ли Цзысюй. Случай был довольно сложный. Концентрация лейкоцитов вдвое выше нормы, все тело женщины воспалено. У Юйтун могла представить, какую боль та испытывала ежедневно.

– Ли Цюн, – ответила она, назвав пациентку по имени. – Вы не волнуйтесь. Как началось ваше заболевание?

– В тот день я еще на заводе была, внезапно почувствовала, что мне нехорошо, голова закружилась, вырвало. Я сразу же пошла домой. Отдыхала до вечера, но не полегчало. Я сходила в больницу и взяла рецепт, врач сказал, что это грипп. В результате я месяц пила лекарство, и мне все время было плохо, иногда случался жар, да такой, что до потери пульса… – быстро рассказала Ли Цюн, не поднимая головы и опустив глаза, не смея вс