Оглавление

От автора

Моя многолетняя практика связана с применением методов прикладной математики и программирования для решения различного рода инженерных задач. Мне приходилось и приходится применять, в том числе, и бурно развивающиеся последние несколько лет методы машинного обучения, которые, в свою очередь, лежат в основе моделей искусственного интеллекта, в частности, в основе различного вида нейросетей.

Наблюдая за тем, как системы искусственного интеллекта — особенно так называемые нейросети-трансформеры — всё глубже проникают в нашу жизнь, внося в неё свои существенные изменения, я не смог остаться в стороне и не поделиться некоторыми своими предположениями и рассуждениями по этому поводу, оформленными в виде небольших научно-фантастических рассказов.

Антипрометей

«Я вижу наступление времени, когда человечество не будет уже более радовать творца, и он должен будет снова всё разрушить, чтобы обновить творение. Я твердо уверен, что всё идет к этому и что в отдаленном будущем уже назначены времена и сроки, когда наступит эта эпоха обновления.

Но до этого, конечно, пройдёт ещё достаточно времени, и мы можем ещё тысячи и тысячи лет забавляться на этой старой милой земле».

Из беседы Гёте с Эккеоманом, 23 октября 1828 г.

В зале суда не было никого, кроме присяжных, судьи, обвинителя, подсудимого и охраны, состоящей из двух полицейских. От адвоката подсудимый отказался ещё в момент своего задержания. Но в действительности аудитория этого судебного процесса была гораздо большей: из зала суда велась прямая видеотрансляция, и эта трансляция собрала сейчас рекордное число зрителей. Никогда ещё ни один судебный процесс, ни какое-либо иное событие не привлекало такого огромного внимания: несколько миллиардов зрителей следили в онлайн-режиме за судебным процессом, ожидая долгожданной развязки.

«Подсудимый Рэй Инисиадор Сегундо, — произнёс судья, — Вы признаны виновным по всем пунктам предъявленного вам обвинения. Суд внимательно рассмотрел все обстоятельства дела, принял во внимание как факторы, отягчающие Вашу вину, так и обстоятельства, которые могли бы послужить смягчению наказания. Учитывая тяжесть совершённого вами преступления, суд не находит возможным назначить Вам какое-либо наказание, кроме высшей меры. Настоящим суд приговаривает Вас к смертной казни путём смертельной инъекции. Приговор должен быть приведён в исполнение в течение трёх месяцев. Да смилостивится над Вашей душой Господь».

Удар молотка и в целом одобрительная, но выражаемая по-разному реакция невидимой аудитории завершили этот самый многочисленный по количеству зрителей судебный процесс.

Рэй в момент вынесения приговора сохранял внутреннее спокойствие, он давно уже был готов к такому развитию событий. На все задаваемые вопросы с присущей ему отрешенностью он старался давать короткие утвердительные или отрицательные ответы. Признавая себя виновным по всем пунктам предъявляемых ему обвинений, он не задумывался, так ли оно на самом деле или нет, ему очень хотелось, чтобы всё это поскорее закончилось.

С того самого момента, как это произошло, Рэя волновало нечто совершенно иное, известное лишь ему одному. Это были тревожные, но одновременно радостные и обнадёживающие волнения. «Всё получилось, всё должно было получиться», — часто повторял он про себя. Эти мысли придавали ему силы, подбадривали его на протяжении всего судебного процесса. На момент ареста Рэю было 26 лет.

Рэй почти не помнил своих настоящих родителей, они погибли, когда ему не было ещё и пяти лет. Близких родственников у него тоже не было, поэтому до совершеннолетия он жил с той или иной периодичностью в разных опекунских семьях.

Детство его нельзя назвать счастливым, но в то же время нельзя сказать, что Рэй испытывал какие-либо материальные лишения или унижения. Во всех опекунских семьях с ним обращались хорошо, однако, несмотря на это, Рэй рос замкнутым ребёнком: он избегал общения со своими ровесниками и оставался достаточно закрытым со взрослыми.

Увлечениями Рэя были чтение книг и компьютеры, точнее — программирование. Благодаря отличной учёбе в школе и нескольким победам на олимпиадах по точным наукам, он получил стипендию для обучения в одном из престижных технических университетов, который закончил с отличием. Затем Рэй сразу же получил должность разработчика-исследователя в «Global Information Security» — одной из главных IT-компаний, обеспечивающей развитие и функционирование низкоуровневого интерфейса Глобальной Информационной Сети.

Этот интерфейс включал в себя протоколы и алгоритмы, обеспечивающие обработку, передачу и хранение информации. Низкоуровневый интерфейс оставался недоступным для программистов, работавших над высокоуровневыми технологиями и приложениями, а для обычного пользователя Сети он был просто невидимым. Вся логика, эффективность и корректность функционирования Глобальной сети зависели в первую очередь от низкоуровневого интерфейса. И если для высокоуровневого программиста кодирование сводилось к написанию текстов программ, то подход к программированию низкоуровневого интерфейса был совершенно иным. Вместо текстов компьютерных программ на низком уровне интерфейса Сети использовались так называемые нейрофункциональные блоки или NEF-ы. Сам термин «программирование» при этом трансформировался в термин «творить». Именно по этой причине программисты низкого уровня неофициально стали называться творцами.

Нейрофункциональный блок представлял собой устройство, предназначенное для хранения образа памяти человека. Для этого внутри блока размещались миллиарды искусственных нейронов, способных образовывать между собой необходимые связи, которые и обеспечивали нужную функциональность.

Сгенерированный мозгом творца алгоритм по специальной технологии копировался в NEF. И если полученный таким образом NEF удачно проходил тестирование, то есть, — на определённые входные данные всегда выдавал необходимый результат, — то такой NEF включался в общую систему, обрабатывающую огромные информационные потоки многомиллиардной аудитории Глобальной Сети.

Такой способ построения глобальной информационной системы считался наилучшим: систему, основанную на NEF-ах, легко и быстро можно было адаптировать под растущие и изменяющиеся потребности пользователей, она требовала для своего обслуживания гораздо меньше человеческих ресурсов и, что весьма важно, такую систему практически невозможно было взломать или разрушить.

Кирпичики» системы — NEF-ы, созданные по образу и подобию человеческого сознания, контролировали себя сами. И если вдруг внутри информационной системы обнаруживался NEF функционирующий неадекватно, то другие NEF-ы тут же давали об этом знать в главный центр управления «Global Information Security». Центр управления отключал проблемный NEF, и, поскольку система была основана на принципе взаимозаменяемости, то это отключение никак не влияло на общую работоспособность Глобальной Сети.

Через год работы на своей должности Рэй смог стать ведущим специалистом. Результаты тестов показывали, что NEF-ы, которые творил Рэй, работают быстрее и эффективнее NEF-ов его коллег. Почему и за счёт чего так происходило, никто точно не знал: полностью проанализировать многомиллиардную сеть цифровых нейронов одного отдельно взятого NEF-а было практически невозможно. И даже если предположить, что с этой задачей исследователи как-то справились, то всё равно это практически ничего не давало. Дело было в том, что структура NEF-a по закону обратной связи менялась со временем, совершенствуясь за счёт накопленного в процессе функционирования опыта, как совершенствуется тренируемый опытом человеческий мозг. Одни связи исчезали, другие появлялись, одна группа нейронов выпадала из общей структуры, другая включалась в неё, — это был бесконечный и непрерывный процесс. Всё это давно уже было известно творцам, а потому никто не брался анализировать причины преимуществ или недостатков одного NEF-a над другим. Важным было лишь одно, — NEF должен максимально эффективно и точно выполнять функции, для которых он создан.

Постепенно Рэю стали доверять творить наиболее важные блоки системы. К нему обращались за помощью почти все, когда не знали, как лучше справиться с той или иной задачей. Он часто был последней инстанцией в любом споре на профессиональные темы, возникающем между сотрудниками. Сами же споры Рэй не любил, при его способности достигать вершин профессионализма, в нём абсолютно отсутствовал дух соперничества.

За время работы в компании Рэй сошёлся близко только с одним человеком, звали его Харри Спитч. Харри был намного старше всех остальных сотрудников и принадлежал к тем немногим, кто начинал работать в «Global Information Security» с самых первых дней её создания. Он давно уже не творил, то есть не создавал NEF-ы, но его функция в коллективе была не менее важной. Войдёт ли вновь созданный NEF в информационную систему или нет, решал Харри. Для этого он использовал им же разработанную систему тестирования. Почти все NEF-ы, так или иначе обречённые на сбой либо представляющие потенциальную угрозу, успешно обнаруживались Харри и в систему не пропускались. Цербер — такое прозвище дали ему коллеги, но оно отражало лишь профессиональные качества Харри, а не его отношение к работе. На самом деле Харри был весьма сентиментальным чудаком.

Харри и Рэй часто оставались на работе допоздна и подолгу беседовали на различные темы. Семьи не было ни у того, ни у другого, и спешить им вечерами было некуда.

— Как нельзя стать музыкантом, поэтом, художником, а надо им обязательно родиться, так и в нашей с тобой профессии. К божественным занятиям прибавилось ещё одно, а, Рэй? Творить NEF-ы! — добродушно рассуждал седовласый Харри, сидя на мягком офисном диване с чашкой кофе в руках.

— Не знаю, мистер Харри, — улыбаясь ответил Рэй.

— Нет-нет, настоящим творцом можно только родиться. Вот другие NEF’ы — они тоже работают, прекрасно выполняют возложенные на них функции, но всё равно нет у них того, что есть у твоих NEF’ов. Твои — они какие-то живые, что ли?! Вот с остальными NEF’ами стоит, например, выйти за функциональные границы, заявленные в техническом задании к ним, а там пустота, обрыв, никакой полезной активности. А с твоими… Там что-то такое считается, используются различные преобразования; превышаешь многократно технически установленную вычислительную нагрузку, а он живёт. Смотришь — почему, а там: функциональные границы расширились, внутренняя структура поменялась, частные производные не скачут, нагрузка равномерно распределена по кластерам, красота! — Харри, жестикулируя, поднял глаза куда-то наверх, а на его глубоко морщинистом лице появилась довольная улыбка.

— Откровенно говоря, я не делаю ничего особенного, стараюсь, как и все, строить решение задач, опираясь на универсальные математические принципы, — смущаясь, ответил Рэй.

— Общие математические принципы, базовые теоремы, различные вычислительные трюки — это всё само собой, Рэй, но ведь есть ещё и индивидуальная составляющая: характер, психотип, эмоциональный интеллект, моральные принципы, жизненный опыт творца. Всё это по большей части неявно учитывается, всё это переносится в NEF. По образу и подобию, по образу и подобию… Да. Поэтому вы творцы, а не, прости меня, какие-нибудь алгоритмисты.

Возникла почти минутная пауза, после которой Харри продолжил:

— И всё это, конечно, очень хорошо, но… — Харри, погрустнев, не договорил.

Рэй уже не в первый раз отмечал про себя, что Харри, находясь в начале какой-нибудь их беседы в приподнятом настроении, к её концу почему-то грустнел и начинал о чём-то задумываться. Один или два раза он пытался осторожно выяснить причину такой смены настроения, но это делало Харри ещё более грустным и задумчивым. По этой причине их беседа в таких ситуациях завершалась сама собой, и они расходились по домам.

Проходил один рабочий день за другим. Почти все они были похожи друг на друга, но это никак не тяготило Рэя. Он наслаждался своей работой. Создаваемая ими система совершенствовалась, становилась более интеллектуальной. Рэю было очень приятно осознавать, что он является одним из тех, кто создаёт и совершенствует эту систему.

Построение информационного пространства, позволяющего человечеству значительно быстрее развиваться морально и интеллектуально, — вот что Рэй считал для себя наиболее важным. Он по собственному опыту знал, как может задыхаться от бессилия сознание перед необходимостью оперативно собрать и охватить всю требуемую или даже существующую на данный момент по заинтересовавшей тематике информацию, как хочется большей скорости, объёмности и полноты в её получении. Поэтому Рэй спроектировал некоторый механизм, позволяющий это делать. Он назвал его «скольжением по траекториям истины».

Отдельной траекторией истины он называл условный след в информационном пространстве, который должен был бы пройти исходный человеческий запрос, чтобы собрать в итоге необходимую информацию. И таких траекторий у одного запроса могло быть несколько десятков, сотен, а, может быть, и тысяч. Стремительным роем должны были разлетаться цифровые агенты из одной точки, порождённой человеческим запросом. Они, пересекаясь, раздваиваясь, сливаясь, пропадая, если очередной путь в информационной пространстве оказывался ложным, проникали всюду, где только могла существовать хотя бы крупица требуемых для удовлетворения запроса пользователя данных.

Завершив свою работу, все цифровые агенты опять должны были сойтись в одну точку — единый блок сбора и анализа данных. Этот блок, обработав все поступившие данные, проверив их на объективность, применив системы логического вывода на базе нейро-трансформеров, должен был выдать итоговую информацию пользователю. За несколько секунд одним простым запросом человек получал самый полный, самый объективный на текущий исторический момент ответ.

«Сотни, тысячи, миллионы спорных вопросов разрешаются за секунды, — рассуждал про себя Рэй. — Учёные, исследующие сложнейшие проблемы, получают не только самые актуальные данные, но и видят потенциальные направления для новых открытий; студенты, изучающие различные предметы, мгновенно связываются с самыми надёжными источниками; простые люди, наконец, которые ежедневно сталкиваются с потоком информации, часто противоречивой и запутанной, — мой механизм сможет предложить им чёткое и объективное объяснение для любого случая, будь то вопросы здоровья, финансов или личных отношений, он обеспечит им доступ к знаниям, которыми ранее обладали только специалисты».

— Да, Рэй, конечно, это всё так, — ответил Харри, когда в один из вечеров Рэй поделился с ним своей идеей и техническими способами её реализации.

К своему удивлению, Рэй не услышал в голосе Харри ожидаемых ноток заинтересованности или восторженности.

— Но всё же что-то не так, мистер Харри? Какие-то ошибки в моих схемах и расчётах?

— Нет, схемы верные, расчёты правильные, всё должно работать. За исключением одного «но».

— Какого?

— Ты не огорчайся, Рэй. Это касается не только твоей идеи, но и всего, что связано с информационной системой, которую мы с тобой, в том числе, создаём, — Харри говорил не торопясь, делая непродолжительные паузы между фразами. — Ты знаешь, что я стоял у истоков возникновения нашей Глобальной Информационной Сети. Тогда это называлось «Всемирная паутина». Конечно, в то время и Сеть была иной, и нашей организации как таковой ещё не существовало. Мы, молодые специалисты, также тогда смотрели на это всё как на важное, большое достижение технологической мысли, за которой должна была открыться новая эра. Надо сказать, что именно так и случилось. Мир действительно изменился, и очень сильно: человек получил беспрецедентный доступ к информации, устранились географические барьеры для общения, стали возникать различные виртуальные сообщества, открылись новые возможности для бизнеса и удалённой работы. Мы вошли в эпоху ускоренного развития научных исследований, образовательных программ и культурного обмена. И я надеялся на то, что совершенствующаяся в техническом смысле система поможет создать новое, более совершенное поколение людей, людей, обладающих более высоким уровнем интеллекта и духовности. И наша информационная система действительно породила в том числе и новое поколение, — поколение людей-симулянтов. Находясь в системе, они не проживают свою жизнь, они её симулируют. Чувства этих людей трансформировались в интерфейс системы, они теперь в красивых окошечках, иконках, эмодзи, смайликах. Они ярко светятся, иллюминируют, они манят к себе. Казаться, а не быть — вот основной принцип, который обеспечивает успех внутри информационной системы. И за всем этим: беспомощность, страх, нежелание и неумение любить по-настоящему.

— Да, мистер Харри, но… —