Глава 1. Технологическая революция в XXI веке: Как избежать качественно новых рисков и угроз?
1.1 Прорыв в искусственном интеллекте: Научная или антинаучная революция?
Человек — его сознание и поведение. Эти ключевые функции определяются исключительно человеческим мозгом или здесь задействованы и другие структуры, возможно неизвестные науке? Приступая к этой чрезвычайно интересующей меня теме, я мучилась сомнениями. У нас уже сформировались хотя и схематичные, но достаточно устойчивые представления в этой области. Дальнейшее их развитие, мне казалось, требовало более профессионального подхода, может быть кооперации с научным сообществом и с религиозной наукой. Чтобы выявить потенциальных партнеров, я решила соотнести наши представления с тем, что уже открыто в этой области — психологами, физиологами, исследователями в других науках, тесно сотрудничающих с психологией. Однако даже беглый взгляд позволяет понять, что открыто всего очень много. В настоящее время одна только Американская Психологическая Ассоциация, наиболее влиятельное в мире объединение профессиональных психологов, включает 54 секции (divisions). Все они так или иначе изучают то, что является предметом психологии — умственные способности и поведение человека и групп людей. Сколько авторитетных имен, сколько книг и статей ими написано! Где взять столько времени, чтобы ознакомиться с этим потоком информации?!
Татьяна Владимировна Черниговская, нейролингвист, заведующая Лабораторией когнитивных исследований и кафедрой проблем конвергенции естественных и гуманитарных наук Санкт-Петербургского государственного университета, своим участием в авторской программе «Познер» на «Первом канале» помогла мне разрешить мои мучительные сомнения. На вопрос В. В. Познера: «Какие Вы открыли секреты мозга?» — она ответила: «Я думаю, один секрет… Что нам никогда не удастся его открыть. Не хочется банальные вещи говорить, но совершенно очевидно, что при том огромном количестве знаний, которые у человечества уже есть, и которые, более того, появляются в больших дозах, ситуация не только не проясняется, а наоборот, становится все яснее, что непонятно, что с этим делать, что это такой сложный… объект. Но объект или субъект — это еще вопрос. Во всяком случае, это нечто такое сложное, что, я думаю, это нам не по силам. То есть я скептически отношусь к нашей возможности, даже потенциальной, узнать, как это действует».
Нечто подобное мне приходилось слышать и раньше, от другого авторитетного ученого. В 2009 году Константин Владимирович Анохин, нейробиолог, член-корреспондент Российской академии наук, был гостем С. П. Капицы в передаче «Очевидное — невероятное». Он сравнил проект познания мозга и разума с космическим проектом «по степени удивления, которую вызывает эта глубокая загадка». Ученым удалось установить, что мыслительные процессы сопровождаются активацией или синхронной работой очень больших групп клеток в головном мозге. Более того, они смогли даже зафиксировать, что соседние нейроны могут кодировать совершенно разные идеи, концепты, мысли. Но объяснить наличие феноменов когнитивного уровня у этих клеток они не могут. «Это глубочайший вопрос сам по себе, — отметил К. В. Анохин. — Наши нервные клетки — это ведь обычные клетки организма. В них нет ничего мистического. Они синтезируют обычные белки, они выделяют обычные химические вещества, коммуницируя друг с другом, подобно секреторным клеткам и гормональным веществам. Это обычные клетки с точки зрения биологии. И вместе с тем они имеют такие выраженные когнитивные специализации высшего уровня?!..»
С тех пор прошло почти 9 лет. У нас появилось более совершенное оборудование — «более мощные лупы», по выражению Т. В. Черниговской. Но это нисколько не помогло прояснить ситуацию: «Состав мозга, сколько бы в нем ни было гидратов, жиров, белков и углеводов, к сожалению, ничего не говорит о том, как функционирует этот невероятный… организм, скажем так. Это мир, это целый мир. Вряд ли во вселенной есть что-то сопоставимое по сложности с мозгом».
Вот я и подумала в связи с этим. Если все это огромное количество знаний и это невероятное множество различных парадигм, зачастую конкурирующих и несовместимых, ничего не объясняет, стоит ли мне тратить время на их изучение? Не проще ли сотням ученых в этой области прочитать одну эту книгу о духовных тайнах, открытых Богом, чем мне читать сотни их книг — о субъективных гипотезах чаще всего? Может быть, наши выводы как раз и позволят им объяснить те феномены, которые они наблюдают уже многие годы?
Прояснив для себя, что науке, несмотря на широкомасштабные усилия, так и не удалось совершить сколь угодно значимый прорыв в понимании психической деятельности человека, я решила вернуться к плану, который давно наметила. Прежде всего этот план подразумевал возвращение к истокам, к классикам — к Уильяму Джеймсу и его работе «Многообразие религиозного опыта». Будучи убежденным, что религиозный опыт оказывает огромное влияние на жизненное поведение человека, что религиозная жизнь порождает не только психологические, но даже физиологические последствия, Джеймс одним из первых попытался разработать методологический подход к «науке о религиях». Поскольку мы занимаемся практически тем же, анализ потенциала методологии, предложенной Джеймсом, и ее сравнение с нашим методологическим подходом является весьма актуальной и интересной инициативой. Как осуществляется влияние религии на поведение человека? Для объяснения этого феномена я намеревалась опираться не только на выводы Джеймса и наши наблюдения, но и на работы А. А. Ухтомского, архиепископа Луки (В. Ф. Войно-Ясенецкого), Э. Кейси, А. И. Клизовского.
Когда я уже приступила к реализации этого плана, случились 2 события, совершено неожиданные, которые вынудили меня отклониться от него. Это уже отмечалось в Предисловии. Одним из этих событий стало то, что я узнала о небывалом прогрессе в развитии искусственного интеллекта. По оценке экспертов, мы находимся на пороге крупнейшей научной революции, может быть, самой крупной в истории человечества. За последние 5 лет в области искусственного интеллекта сделано больше, чем за предыдущие 50. Уже на самом высоком уровне звучит, что страна, добившаяся лидерства в создании искусственного интеллекта, станет «властелином мира». Поэтому в мире идет новая гонка — гонка за искусственным интеллектом. В 2016 году инвестиции в эту сферу опередили стоимость космических и ракетных проектов и составили 26–39 млрд долларов, а их ежегодный прирост достигает 50–70 процентов. Армия из 300 тысяч человек уже исследует все возможные применения искусственного интеллекта. В этой связи возникают вопросы, которые становятся предметом серьезного обсуждения современных ученых и специалистов. Может ли искусственный интеллект обладать человекоподобным разумом и сознанием? Через какое время это произойдет? Некоторые эксперты полагают, что это может произойти очень быстро, некоторые — что это займет десятилетия. Но большинство из них сходятся в том, что в XXI веке это может стать реальностью.
Более того, нейрофизиологи, специалисты в области человеческого интеллекта, объединились со специалистами в области машинного интеллекта, и сегодня тот же К. В. Анохин надеется, что в конце этой крупнейшей научной революции мы получим также ответы на вопросы о человеческом сознании и разуме. Мы получим ответы на вопросы: Кто мы? Как мы мыслим? Как мы познаем окружающий мир? По его убеждению, прежние неуспехи в науке о сознании можно преодолеть с помощью новых подходов, новой фундаментальной теории мозга и сознания в нем. Уже несколько лет он работает над такой теорией — гиперсетевой теорией мозга. Поняв с ее помощью, как можно вырастить разум в биологической системе, мы сможем вырастить разум и психику в искусственной системе.
Если в книге «Новый мировой порядок» (третьей книге серии «Единая наука») я лишь вскользь коснулась идеи искусственного интеллекта как возможного будущего человечества, то теперь уже невозможно отмахнуться от этой информации. Поскольку большинство экспертов в этой области сходятся, что создание искусственного интеллекта — это вопрос ближайшего будущего, важно обсудить не только техническую и технологическую осуществимость и возможные социальные последствия и риски этого проекта, но и его духовные аспекты. Понимая, кто стоит за этой инициативой, я задаюсь вопросом: Прорыв в искусственном интеллекте — это научная или антинаучная революция? Ответ на этот вопрос я бы хотела обосновать в следующих разделах с помощью экспертов и обычных слушателей, принявших участие в панельной дискуссии «Cмогут ли андроиды грезить об электрических овцах? От искусственного интеллекта к искусственному сознанию» в рамках Всероссийского фестиваля науки NAUKA 0+. Участниками этой дискуссии стали эксперт в области искусственного интеллекта С. А. Шумский и уже упомянутые мной исследователь мозга К. В. Анохин и специалист по когнитивной науке Т. В. Черниговская. Начнем с того, каково состояние развития искусственного интеллекта сегодня.
1.2 «Машины великие, могут все… Зачем мы нужны?»: Искусственный интеллект или Человек, созданный По Богу?
Сергей Александрович Шумский (кандидат физико-математических наук, Центр науки и технологий искусственного интеллекта МФТИ) объясняет, что первая идея о машинном интеллекте заключалась в том, что его можно запрограммировать: можно понять алгоритм разума и запрограммировать машину мыслить. Первые 50 лет наука шла по этому пути, но результаты не оправдали ожиданий. Компьютеры многое умеют. Однако того, что обычно подразумевается под интеллектом, мы до сих пор не наблюдали.
Новая парадигма, которая появилась в науке о машинном интеллекте и позволила существенно продвинуться в этом направлении, исходит из того, что не надо программировать разум. Разум — это, по определению, очень сложная система. Ее трудно понять извне, но ее можно вырастить, воспитать. Разум может появиться в процессе обучения. Нужно только научить его учиться. Другими словами, задача ученых — найти алгоритмы обучения, а не алгоритмы разума. Этот подход позволил создать прорывы в 2 областях.
Во-первых, возник сенсорный интеллект (или искусственные органы чувств): компьютеры распознают объекты, речь, могут генерировать речь, музыку, рисовать картины.
Во-вторых, возник стратегический интеллект (или стратегия достижения целей в борьбе с противником, который мешает достичь этих целей): сюда относятся всевозможные игры — шахматы, Go, покер. В этой сфере достигнуты впечатляющие успехи. Сегодня машины обыгрывают человека во все стратегические игры, что стало полной неожиданностью для многих.
Следующий шаг за сенсорным и стратегическим интеллектом — это искусственная психика робота, свидетелем которой мы станем, по мнению С. А. Шумского, в ближайшие 5 лет: «Это такой искусственный зверушка с архитектурой мозга, примерно как у млекопитающих, который способен на то, на что способны зверушки. Потом уже мы будем доводить этого зверушку до уровня человека со всеми последствиями (здесь и далее выделение подчеркиванием во всех цитатах сделано автором)».
Я не знаю в деталях, как ученые намерены «воспитывать» разум, посредством какого «обучения», но знаю некоторые (не все) особенности того, как функционирует разум или психика у человека как он есть, в истинном его понимании. Поэтому первой моей реакцией на изложенное выше было: «Это невозможно». Вероятность создания машинного интеллекта, подобного человеческому, равна 0. А вслед за этой первой, интуитивной реакцией возник вопрос ко всем, кто так или иначе вовлечен в этот проект: Как вы собираетесь научить искусственный интеллект принимать решения? Так же, как обучают людей, — по Методу проб и ошибок? Перебором вариантов, субъективных гипотез и особых мнений? Но ведь ничего другого человечество и не умеет. Вообще, эта инициатива очень похожа на историю с изобретением Эдисоном научно-исследовательского института. Напомню, что при создании им, например, электрической лампы накаливания первые заметные успехи появились только после 6 тысяч опытов, а при изобретении щелочного аккумулятора — после 50 тысяч!.. Чем сложнее становились изобретательские задачи, тем больше вариантов приходилось проверять, прежде чем найдется эффективное решение. Тогда Эдисон и придумал создать научно-исследовательский институт, что стало главным его изобретением. 50 тысяч проб он поделил на 1000 сотрудников в надежде, что с главным недостатком Метода проб и ошибок покончено навсегда. Однако он ошибся. Количество и сложность задач возрастают из года в год, а рост научно-исследовательских лабораторий сдерживается ограниченностью ресурсов — финансовых, людских, материальных. И вот опять человечество пытается изобрести очередной НИИ, в данном случае в виде искусственного интеллекта, чтобы обойти трудности, создаваемые Методом проб и ошибок.
Да и сам искусственный интеллект создается по Методу проб и ошибок, о чем свидетельствуют и колоссальные инвестиции, и численность вовлеченного в проект персонала. Не пора ли ученым, наконец, всерьез задуматься об альтернативе этому не только разорительному, но и безнравственному и разрушительному методу? А ведь такая альтернатива давно уже сформулирована Е. П. Молчановым. Чтобы подойти к ней, я воспользуюсь вопросами, которые были заданы в ходе панельной дискуссии. Они касаются того, кто мы, где наше место во вселенной. Один из этих вопросов был задан из аудитории: «Насколько велика, если это оценено, вероятность психологического краха от проблем с самооценкой у человечества в связи с возникновением искусственного интеллекта, в плане: они — великие, могут все, а мы — уже вроде как ничто. Зачем мы нужны?» А второй вопрос — от Т. В. Черниговской: «А что будет после человеческой цивилизации? Нам вообще-то никто не обещал, что мы — последние цари природы…»
Начну с ответа на второй вопрос. Вообще-то человек как раз и есть венец творения. Что (или кто) может быть совершеннее того, кто является «образом и подобием Божиим» (Быт. 1:26—27; 5:1)? Все дело в том, что человечество еще не стало этим образом и подобием в полном смысле. Человек, сотворенный Богом как «душа живущая», должен стать в конечном счете «духом животворящим», или, другими словами, человек душевный должен стать духовным: «Так и написано: „первый человек Адам стал душою живущею“; а последний Адам есть дух животворящий. Но не духовное прежде, а душевное, потом духовное. Первый человек — из земли, перстный; второй человек — Господь с неба… И как мы носили образ перстного, будем носить и образ небесного» (1 Кор. 15:45–47, 49; 2:13–16). Чтобы стать образом и подобием Божьим, человеку нужно пройти в общей сложности 5 ступеней духовного развития: от духовного младенчества, детства и юности до зрелой и совершенной духовных стадий (1 Ин. 2:12–14; Еф. 4:13). Этот вопрос уже достаточно освещен в наших предыдущих книгах. Но вот что удивительно. Татьяне Владимировне удалось с поразительной точностью определить возраст современного человечества: «…наше общество невзрослое. Я вообще думаю, что ему лет 11 примерно». Эта оценка достаточно близка к истине. Бог подтверждает, что даже большинство Христиан не вышли пока что за рамки детского духовного возраста.
Но когда человечество повзрослеет и станет духовным, познав законы духовности и теоретически, и практически, оно научится мыслить и творить, как Создатель творит. А Его интеллект, как уже отмечалось, выше нашего безгранично — как «небо выше земли» (Ис. 55:8–9). О Его изобретательском гении говорит тот факт, что наука до сих пор не может даже разгадать, что Он придумал (имеется в виду созданный Им материальный мир), а о Его вычислительных способностях свидетельствуют те же фундаментальные физические постоянные, многие из которых являются бесконечными величинами. При этом Е. П. Молчанову ни разу не довелось увидеть, что Бог использует компьютеры или хотя бы калькуляторы: все расчеты Он выполняет в уме. В этом я убеждалась не раз. Мне по роду деятельности (я — экономист по профессии) часто приходилось сталкиваться с необходимостью принятия решений в условиях большой неопределенности, иногда в условиях элементарного недостатка данных. В таких ситуациях Бог выручал — Он подсказывал мне некоторые параметры. Однажды Он поступил не так, как обычно. Хотя этого и не требовалось, Он подсказал неизвестную величину с точностью до 5 или 6 знаков после запятой. Я не прохожу мимо таких деталей. В тот момент я понимала, что Бог может назвать сколько угодно знаков после запятой. Он — очень умный. А в такой сфере, как, например, прогнозирование, с Ним не сравнится никакой искусственный интеллект. Он единственный, кто знает будущее. Никто, кроме Него, не может надежно предсказать будущие события — таких алгоритмов просто нет.
Здесь собственно и содержится ответ на первый вопрос: Не будет ли у человечества психологических проблем с самооценкой при сравнении себя с машинами? Таких проблем не будет, если люди вырастут духовно до уровня «духов животворящих», когда в них активизируются сверхспособности от Бога. В таком случае человечество сможет отказаться от пресловутого Метода проб и ошибок — антинаучного «метода тыка». Оно будет способно войти в общение с Создателем и выполнять любую деятельность в кооперации с Ним по законам Его Единой науки — законам духовности, общественных и естественных наук. Этот подход, предложенный Е. П. Молчановым как альтернатива Методу проб и ошибок, позволяет качественно (на порядок и более) поднять эффективность любых человеческих начинаний и совершить то, что является настоящей научной революцией. Открытые Богом закономерности духовного преображения человека до уровня «духа животворящего» станут главной темой этой книги.
Вместе с тем я не увидела ничего плохого в том, что у нас могут появиться «умные помощники», которым можно было бы поручить некоторые функции. И поэтому я подумала, что если искусственный интеллект «воспитывать» или обучать с помощью Бога, то он мог бы быть качественно иным, более совершенным, а процесс его создания потребовал бы как минимум на порядок меньше затрат — и времени, и денег. Реакция Бога на это мое допущение была удивительной. Он был возмущен. Он так и сказал: «Это возмутительно! Думать, что Я могу участвовать в подобных проектах!?»
Этой реакцией Бог дал изрядную пищу для размышлений. Что конкретно Ему не понравилось? Сама идея, что нужны подобного рода «умные» помощники? Как она реализуется? Области возможного применения? Или что-то еще? Однако Бог сказал, что в этом проекте вообще нет и намека на интеллект, озадачив меня еще больше. Будучи вынужденной несколько углубиться в тему искусственного интеллекта, я смогла понять причины возмущения Бога, во всяком случае, основные причины.
Во-первых, я нашла ответ на вопрос, который чуть раньше адресовала разработчикам искусственного интеллекта. Он, действительно, обучается принимать решения по Методу проб и ошибок, как, впрочем, и человек. Об этом явно свидетельствуют следующие данные.
О. А. Ускова, президент группы компаний Cognitive Technologies — российского разработчика программного обеспечения и лучших решений в области искусственного интеллекта, объясняет, что у человека, помимо «оперативной» памяти, которая загружается в мозг при жизни, есть еще генетическая база, которая поступает «из архивов». Нечто подобное имеет место и в случае с искусственным интеллектом. Генетической базой для него является максимальный объем различной информации, которая загружается в его память.
Что собой представляет эта информация? То, что наработано человечеством в той или иной сфере деятельности. Не только эта «генетическая база», но и некоторые практические результаты попыток использования искусственного интеллекта служат доказательством того, что все это и есть в чистом виде Метод проб и ошибок: «Корпорация Amazon… закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий „Святой Грааль“, который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты. Применение алгоритмов в рекламных инструментах Facebook привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен».
Во-вторых, даже поверхностное ознакомление с задачами, для решения которых уже используется искусственный интеллект, показывает, что эти задачи так или иначе вызваны несовершенством человека и той системы, того порядка, который создан им по Методу проб и ошибок, без учета законов Бога. Более того, решая одни проблемы с помощью искусственного интеллекта, мы создаем массу других в точном соответствии с наблюдением, процитированном мной лет десять назад: «То, что мы называем прогрессом, — это вопрос замены одних проблем на другие». Поясню это на конкретных примерах.
Внедрение беспилотных автомобилей, например, имеет целью сокращение или полную ликвидацию смертности от ДТП. Однако, мало того, что беспилотники не так уж и безопасны пока что, они порождают массу проблем юридического и этического плана, рациональные способы решения которых не просматриваются: «Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo… Машина сбила женщину насмерть… Tesla зафиксировала уже два дорожных инцидента со смертельным исходом — в 2016 и 2018 годах». При этом, создавая беспилотные автомобили, мы уклоняемся от задачи устранения причин ДТП, сконцентрировавшись на следствиях. Мы не ищем ответы на сущностные вопросы, как то: Почему мы нарушаем правила дорожного движения? Почему мы можем сесть за руль, будучи пьяными? Почему мы вообще не приучены соблюдать установленные законы и правила? Почему водители вынуждены работать сутками, без должного отдыха, чтобы прокормить свои семьи? А может быть, проблема в самих технологиях — в несовершенных транспортных средствах, которые тоже создаются по Методу проб и ошибок? Или в несовершенстве всей транспортной системы — транспортной инфраструктуры, транспортных средств и управления в целом?
Другой пример — это использование искусственного интеллекта банками для принятия решений о выдаче кредитов. Согласно информации Сбербанка на одобрение кредита юридическим лицам до 2 млрд рублей ранее требовалось как минимум 2–3 недели. Внедрение искусственного интеллекта позволило сократить время от запроса клиента до выдачи денег до 7 минут. На первый взгляд, все выглядит очень даже здорово. Но и здесь есть свои подводные камни. Начну с вопроса: Почему процедура одобрения кредита настолько сложна, что занимает до 2–3 недель, если этим занимается человек? Думаю, это связано преимущественно с оценкой рисков. Но устраняются ли сами риски простой передачей той или иной функции искусственному интеллекту? Я переформулирую этот вопрос: Почему наша экономика организована так, что вообще существуют какие-то риски, в том числе невозврата кредитов?
Если мы обратимся к вышеупомянутому (неудачному) опыту Amazon в части найма сотрудников на основе искусственного интеллекта, то и здесь есть свои вопросы: Почему есть хорошие специалисты и не очень? Почему не все компании одинаково привлекательны, так что у некоторых из них возникает необходимость выбора 5 лучших кандидатов из нескольких сотен?
Я уверена, что если бы мы нашли ответы на эти и многие другие «Почему?», то и искусственный интеллект нам бы не понадобился. А найти их можно, если отказаться от деятельности по Методу проб и ошибок и взять на вооружение методику принятия решений и их реализации на основе законов Единой науки Бога, что подтверждено нашей более чем 40-летней практикой.
Подведем промежуточные итоги этому краткому экскурсу:
(1) Проект по созданию искусственного интеллекта не направлен на устранение причин имеющихся проблем:
— он не нацеливает человека на улучшение самого себя; он призывает нас согласиться с тем, кто мы, с тем, какие мы есть;
— он также не нацеливает человека на изменение существующего порядка вещей, который как раз и является результатом его несовершенства.
(2) Этот проект нацелен на борьбу со следствиями. Но поскольку искусственный интеллект все-таки имеет определенный потенциал для устранения или смягчения некоторых следствий, он тем самым закрепляет существующий статус-кво. И я думаю, что это главная причина негативного отношения Бога к данному проекту.
О том, почему Бога не устраивает закрепление существующего положения дел, мы поговорим чуть позже, после того, как накопим достаточную информацию для этого. А пока перейдем к следующему вопросу дискуссии.
Эксперты соглашаются, что понимание того, как можно вырастить разум в биологической системе, может помочь вырастить разум и психику в искусственной системе. Что нового по поводу человеческого сознания и разума говорит современная наука? Об этом нам рассказывает Константин Владимирович Анохин, член-корреспондент РАН, доктор медицинских наук, руководитель Центра нейронаук и когнитивных наук МГУ имени М. В. Ломоносова. Поскольку это последнее слово в науке о сознании, я решила скрупулезно процитировать почти все, что им было сказано.
1.3 «Психика, память, Я»: Гиперсетевая теория мозга
Как отмечает К. В. Анохин, сегодня в мире наблюдается «целая буря исследований механизмов сознания». Эта научная революция должна будет ответить на вопросы о сознании и разуме — «не просто о работе мозга как биологическом органе, похожем на печень или почки, а на то, почему нейроны мозга продуцируют мысли, чувства, эмоции и желания». В этой сфере выделяют 2 термина: сознание (consciousness — в англоязычном варианте) и разум или психика (mind — в англоязычной версии). Понимание нервных основ сознания сегодня важно не только само по себе, не только с познавательной точки зрения. В условиях бурного развития искусственного интеллекта и опасностей движения в этом направлении, весьма «великих» по оценке Анохина, понимание того, что такое сознание и как оно возникает, имеет дополнительную цель. Мы должны точно знать это, чтобы понимать, когда сознание возникнет у искусственного интеллекта, и «управлять им, не давая ему подняться до высокого уровня самосознания».
Что же такое сознание в современном научном понимании? Есть несколько отношений к этому предмету.
Сознание — это состояние целого организма. Это «я» в этот момент.
Сознание вегда подразумевает содержание — «некоторое качество того кадра, в котором я нахожусь».
Сознание — это процесс в мозге. Начиная с конца XVIII века многие прогрессивные мыслители, которых можно отнести к когнитивной науке первого поколения (хотя они были философами и психологами), уже понимали это. Наш соотечественник И. М. Сеченов был первым из нейрофизиологов, кто предпринял попытку представить себе, каким образом этот процесс происходит в нервной системе.
Сегодня нейрофизиологи и философы определяют сознание как любой субъективный опыт. Это может быть:
— состояние бодрствования (по сравнению с состоянием глубокого сна или под наркозом);
— осмысленное восприятие;
— ощущения, эмоции;
— воля, намерения, цели;
— мышление;
— самоощущение, концепция «я» и т. д.
Доминирующий подход в исследованиях сознания сегодня заключается в том, чтобы найти минимальный набор нервных механизмов, совместно достаточных для любого сознательного опыта. Однако подход посредством нервных коррелятов не дает ответов на целый ряд вопросов. В частности, почему сознание зависит от активности одних структур мозга больше, чем от активности других? Почему активность нейронов многих сенсорных структур определяет состав субъективного восприятия, но при этом сама не осознается? Почему выполнение одной и той же задачи мозгом может осознаваться, когда она новая, и переставать осознаваться, когда она становится рутинной? Почему в одни моменты активность одного и того же нейрона может быть связана с субъективным опытом, а через некоторое время нет? Коррелятивный подход не позволяет понять также массу других вещей. Например, имеет ли сознание недоношенный ребенок? Когда вообще сознание появляется у ребенка? Обладают ли сознанием, скажем, осьминоги? Их нервная система совершенно не похожа на человеческий мозг, тем не менее даже головоногие моллюски, согласно современным исследованиям, обладают достаточно развитой психикой, то есть субъективным опытом. Наконец, как понять из чисто нейропсихологических исследований, когда появится сознание в искусственной системе?
Если разум и сознание нельзя объяснить редукционно, то требуется нередукционная теория, заключает К. В. Анохин: «Такая теория должна описывать субъективный опыт как фундаментальный феномен, появляющийся лишь у определенных уровней организации материи. Фундаментальные феномены не могут быть объяснены в терминах чего-то более простого. Там, где есть фундаментальные феномены, всегда требуется фундаментальная теория. Сегодня нам недостает именно такой фундаментальной теории мозга и сознания в нем». Ученый как раз работает над такой теорией (гиперсетевой теорией мозга КОГНИТОМ) и объясняет вкратце свою концепцию.
Исследование проблемы сознания, по гиперсетевой теории мозга (далее — теория), не может начинаться с сознания. Задавать вопрос сразу о сознании (consciousness) — это неправильный вход в проблему сознания. Мы должны сначала понять, что такое разум или психика (mind). Теория говорит, что разум — это специфическая структура, которая имеет свое устройство, очень сложное устройство. Но это материальная структура. В ней протекают специфические процессы. Это, выражаясь фигурально, некий трафик в городе, который состоит из определенных улиц. Когда есть структура — тогда есть и процессы, которые будут протекать в ней. Но сначала нужно понять, каково строение этой структуры. Когда мы это поймем, можно будет перейти к следующему вопросу — как в ней протекают процессы. Поэтому теория и говорит: давайте разберемся с тем, что такое разум.
И здесь теория задает вопрос: Кто мы? Ответ на этот вопрос показан на рис. 1. Теория говорит, что разные концепции, которые развивались в философии и психологии, на самом деле могут быть сведены к одному и тому же. Это понятие mind (разума и психики), понятие memory (памяти или всего набора субъективного опыта, которым мы обладаем) и понятие Me или Self (Я). Эту структуру M теория определяет как гиперсеть над нейронной сетью.
Рис. 1. Кто Мы?
Далее ученый переходит к двум важным моментам теории, которые следует подчеркнуть. Мы должны отказаться сегодня от двух предрассудков, которые сопровождают человечество на протяжении нескольких веков как минимум.
Первый тезис: Мы должны отказаться от того, что психика (mind) нематериальна. Теория говорит: Это материальная структура, это высокоорганизованная структура, которую мы еще не знаем.
Второй тезис: Мы должны отказаться от понимания мозга как низко материально устроенного объекта, как обычного физиологического органа, похожего на печень, почки и т. д. Мозг имеет другую структуру. Она более сложная, она состоит из распределенных групп нервных клеток, которые кодируют индивидуальный опыт; они возникают в ходе эволюции развития мозга и индивидуального обучения.
И здесь теория говорит: Эта структура М, являющаяся гиперсетью над нейронной сетью, возникала в эволюции много раз, судя по всему, в совершенно разных ветвях и таксонах эволюции. Поэтому мы, млекопитающие или окружающие нас умные птицы, такие как вороны, имеющие абсолютно другую ветвь развития мозга и не имеющие ни коры головного мозга, ни многих других структур мозга человека, и даже осьминоги, являющиеся приматами в царстве головоногих моллюсков, развили такие гиперсетевые структуры на нервной системе, которые несут одно и то же устройство, топологию и функциональные свойства. Они несут разум.
Отсюда следует важный вывод. Может быть, не надо строить новый разум, считав каждый нейрон и каждый синапс головного мозга крысы или человека и пытаясь воспроизвести это, загнав в суперкомпьютерный симулятор? А именно такой подход используется в некоторых крупных сегодняшних проектах. Это не приведет к возникновению разума. Теория говорит, что если разум развивался много раз таким образом, то существуют очень простые первые принципы возникновения разума. Их всего 3 на самом деле. В системе, которая живет в дарвиновском мире, то есть обладает наследственностью, вариациями, естественным отбором, нужны всего 3 вещи для того, чтобы она начала накапливать в себе разум:
(1) у нее должны быть функциональные системы, которые определяют ее потребности, мотивации, интересы и т. д., причем физиологического уровня вначале;
(2) у нее должна появиться нервная система, нейронная сеть, которая связывает большие участки этой сети друг с другом и весь организм, куда заселятся эти функциональные системы. Они начнут жить в этой нервной сети и управлять поведением целого организма. То есть интересы организма, его метаболические потребности, необходимости выживания и т. д. переселятся вместе с этими функциональными системами в эту нервную сеть;
(3) эта нервная сеть должна начать обладать способностями к обучению и долговременной памяти.
Если эти 3 условия есть, то этот простой алгоритм, повторенный сотни миллионов раз за сотни миллионов лет нашей эволюции, начнет накапливать в эволюции то, что мы называем разумом. И то же самое будет происходить в ходе индивидуального развития и обучения. Таким образом мы можем вырастить разум в биологической системе. И поняв эти фундаментальные принципы, мы можем вырастить разум и психику в искусственной системе.
Вопрос критический, который Константин Владимирович относит к дискуссии: Где тут ловушка? Если такое происходит, если системы способны к обучению, машинному обучению, то будет ли это автоматически означать, что у них возникает психика и разум? Ответ ученого: Нет, не будет в современных версиях. И ловушка заключается в слове «обучение». То, что называется обучением в искусственных системах, не похоже на то, что является обучением в биологических системах. Для того чтобы биологическая система обучалась, она должна иметь мотивацию, она должна хотеть. Пока наши машины будут просто накапливать некоторое усложнение сети, позволяющие соединить входы и выходы, пока у них не возникнут хотения, то есть мотивация, желания, цели с их субъективным содержанием, у нас не появится ни разума в биологическом понимании, ни сознания. Как сделать, чтобы они хотели? «Теория отвечает на этот вопрос, но это тема отдельного разговора», — заключает ученый.
Что тут можно сказать? При рассмотрении таких сложных умопостроений мой дилетантизм проявляется со всей очевидностью. Возможно, все происходит именно так в эволюции живых организмов, как описывает К. В. Анохин. Но ведь и сам ученый не может пока что объяснить, что собой представляет психика как некая материальная и высокоорганизованная структура. Наука не знает пока что этой структуры. И если напрашивается некая гиперсеть над нейронной сетью человека, почему бы не предположить, что эта гиперсеть связана с духовными элементами Homo sapiens? Духовные составляющие человека тоже ведь являются материальными, только менее плотными. Во всяком случае, Библия прямо, без обиняков, говорит о том, что сознательная деятельность всецело зависит от «духа в человеке» и «дыхания Вседержителя»: «Но дух в человеке и дыхание Вседержителя дает ему разумение» (Иов. 32:8). Безусловно, речь здесь идет о том разуме, каким задумал его Бог. Мы поговорим о духовных элементах, которые участвуют в психической деятельности человека, в соответствующих разделах книги, а здесь и сейчас уместно было бы обсудить, что говорит Библия о сознании и разуме — о consciousness и mind.
1.4 «Беззаконие мое я сознаю»: Библия о сознании и разуме («consciousness» и «mind»)
Обсуждение темы данного раздела я бы вновь хотела начать с вопроса, заданного из аудитории в процессе панельной дискуссии: «Для человека главным нравственным принципом является отличие добра от зла. Нужно ли это будет в конечном счете искусственному интеллекту — отличать добро от зла?» Как отвечает на этот вопрос наука? Она отвечает примерно так. Добро и зло нельзя определить четко. Это некий консенсус, причем консенсус определенных групп. У разных групп представления о добре и зле разнятся. Поэтому ученые не считают, что может быть какое-то единое определение добра и зла. И это хорошо, полагают они, иначе наши знания были бы одинаковы. То, что в мире более 7 млрд разных сознаний, с разным пониманием добра и зла, делает нашу жизнь интересней и двигает экономику. Наука также не исключает, что если возникнет человекоподобный интеллект, то он, в свою очередь, начнет образовывать общество. И если искусственный интеллект не будет иметь религии, то это может оказаться путем дальнейшего развития человечества тоже.
Какой еще ответ можно ожидать от науки, которая не знает ничего, кроме Метода проб и ошибок? Более того, наука находит этот метод вполне подходящим, иначе «наши знания были бы одинаковы»!? Чем больше мнений, тем лучше!? Вот и двигают эти 7 млрд сознаний экономику с эффективностью в 0,01 процента. Таков фактический кпд Метода проб и ошибок. В среднем только одна гипотеза, одна попытка из 10 000 попадает в цель. Все остальное — бесполезная трата времени и денег. 99,99 процента человеческих усилий уходит в никуда, поглощается черной дырой — вот каков реальный коллективный результат 7 млрд сознаний, думающих и действующих по Методу проб и ошибок. Так ли уж ценно то, что «наши знания неодинаковы»?
Вряд ли можно спорить с тем, что каждый из 7 млрд жителей Земли — это индивидуальность, личность — с особыми талантами, со специфическим темпераментом. Но это никак не противоречит тому, что законы вселенной, частью которой является каждый из 7 млрд человек, едины для всех. Наука о духовности открывает, что вообще-то Бог создал вселенную для Себя Самого, то есть для того, чтобы она служила Его целям: «Им создано всё, что на небесах и что на земле, видимое и невидимое: престолы ли, господства ли, начальства ли, власти ли, — все Им и для Него создано» (Кол. 1:16). Еще на стадии проектирования Бог предопределил, что все, созданное Им на небе и на земле, должно выполнять Его волю:
«И все живущие на земле ничего не значат; по воле Своей Он действует как в небесном воинстве, так и у живущих на земле; и нет никого, кто мог бы противиться руке Его и сказать Ему: „что Ты сделал?“» (Дан. 4:32);
«Благословите Господа, все воинства Его, служители Его, исполняющие волю Его» (Пс. 102:21);
«Знаю, Господи, что не в воле человека путь его, что не во власти идущего давать направление стопам своим» (Иер. 10:23);
«Не всякий, говорящий Мне: „Господи! Господи!“, войдет в Царство Небесное, но исполняющий волю Отца Моего Небесного» (Мф. 7:21).
Воля же Бога, во-первых, «благая, угодная и совершенная», а во-вторых, выражена в Его законах: «…в законе Господа воля его» (Рим. 12:2; Пс. 1:2). Поэтому когда вселенная эволюционирует по воле Бога, то есть согласно Его законам, в ней присутствует нравственное здоровье и всеобщее благо и формируется совершенная модель мироустройства. Вот почему так важно знать законы Единой науки Создателя.
В свете вышеизложенных духовных закономерностей добро и зло определяются очень четко и однозначно: все, что соответствует воле (законам) Бога, есть добро, а все, что противоречит воле (законам) Бога, есть зло. Более того, Библия определяет сознание (consciousness) человека именно как спос
