Д. В. Бахтеев

Искусственный интеллект: этико-правовые основы

Монография

---

ebooks@prospekt.org

Информация о книге

УДК 004.8:34

ББК 67.410(2Рос)я73

Б30

Изображение на обложке foxaon1987 /Shutterstock.com

Автор:

Бахтеев Д. В., кандидат юридических наук, доцент кафедры криминалистики Уральского государственного юридического университета.

Рецензенты:

Грибанов Д. В., доктор юридических наук, профессор кафедры теории государства и права, проректор по учебной работе Уральского государственного юридического университета;

Морхат П. М., доктор юридических наук, судья Арбитражного суда Московской области.

В настоящей монографии описаны основы современных технологий искусственного интеллекта, основные проблемы их использования с точки зрения социогуманитарных наук. Рассмотрены этические и правовые подходы к регулированию технологии искусственного интеллекта, алгоритм и перспективы ее изучения инструментарием юридических наук, возможности использования искусственного интеллекта как метода и инструмента в юридической деятельности и научных исследованиях. Подробно исследованы риски и модели позиционирования технологии в обществе с точки зрения этики и права, в том числе вопросы правосубъектности и юридической ответственности в контексте функционирования систем искусственного интеллекта. В работе определены последующие направления дальнейших юридических исследований в области высоких технологий.

Законодательство приведено по состоянию на 12 мая 2020 г.

Предназначена для научных работников, преподавателей, аспирантов (адъюнктов), студентов (курсантов) юридических и иных гуманитарных вузов, практикующих юристов, а также всех, кто интересуется высокими технологиями и их связью с этикой и правом.

УДК 004.8:34

ББК 67.410(2Рос)я73

© Бахтеев Д. В., 2020

© ООО «Проспект», 2021

Памяти моего Учителя,
великого человека и блестящего ученого
Леонида Яковлевича Драпкина
(1924–2019)

ВВЕДЕНИЕ

Автор настоящей работы с 2015 г.занимается криминалистическими, правовыми, этическими и технологическими вопросами машинного обучения и искусственного интеллекта. С 2018 г.при финансировании Российского фонда фундаментальных исследований проводится комплексное исследование правовых, этических и криминалистических аспектов функционирования систем искусственного интеллекта. Настоящая книга является одним из теоретических результатов данного исследования (хотя содержит в числе прочего и описание фрагмента прикладного/экспериментального направления проекта).

Искусственный интеллект, машинное обучение, глубокое обучение, искусственные нейросети — эти бывшие не так давно прерогативой компьютерных наук термины все больше входят в повседневную реальность. Технология искусственного интеллекта уже показала свою полезность, при этом ее возможности еще далеко не исчерпаны, однако уже сейчас вполне заметны проблемы и риски, вызванные этой технологией. Представляется, что для оценки и выработки подходов к разрешению рисков в данном случае крайне важны этическая и правовая нормативные системы. Так, о недостаточности правовой разработки этой темы свидетельствует статистика, собранная автором настоящей работы в каталоге Российской государственной библиотеки. С 2015 по 2020 г. (именно с 2015 г. начался современный подъем интереса к рассматриваемой технологии) в каталог по специальности «Философские науки» было добавлено 819 диссертационных работ, связанных с тематикой искусственного интеллекта, по специальности «Юридические науки» — 365 работ (следует учитывать, что в эти числа включены как диссертации, так и авторефераты). Более чем двукратная разница усугубляется также тем, что связь между философией и юриспруденцией является односторонней, т. е. заимствование идей и методов направлено в основном от философии к юриспруденции: большинство юридических работ в этой области (не исключая данную) используют достижения философской науки, что вызывает статистические отклонения в силу алгоритмов поисковой индексации — в реальности юридических исследований по этой теме производится еще меньше.Это выявляет недостаточное внимание исследователей к этой важнейшей технологии, несмотря на то, что мы живем в эпоху технократии и технооптимизма.

Поведение человека в обществе ограничено различными регуляторами: правовыми, этическими, религиозными, корпоративными нормами, обычаями. Различия между предписаниями этих регуляторных систем вызывают значительное количество социальных противоречий и конфликтов, поэтому минимизацию таких различий можно назвать одной из целей развития и совершенствования как законодательства, так и других систем регулирования. По верному высказыванию Н. Н. Тарасова, «смена социокультурных стратегий, выражающаяся в трансформации ценностно-целевых структур переходного общества, означает для правовой науки не просто изменения в конкретном объекте исследования, но и серьезные методологические корректировки ее предмета и метода»1. Технология искусственного интеллекта помимо изменений технологических процессов уже оказывает влияние на социальную сферу, а через нее— и на право, равно как и все прочие системы социальных норм. Как отметил П. Домингос, «люди боятся, что компьютеры станут слишком умными и захватят мир, но реальность такова, что они слишком глупы, но уже его захватили»2.

В представленном монографическом исследовании рассматриваются основные подходы к восприятию технологии искусственного интеллекта с точки зрения регулирования этой технологии этическими и правовыми нормами. В этом случае основным методом исследования является моделирование, поскольку именно этот метод позволяет представить возможные варианты будущей интеграции систем искусственного интеллекта в различные сферы общества и функционирования государства. Формирование этических и правовых моделей в этом случае осуществлялось по следующим направлениям:

• основы технологии искусственного интеллекта и ее возможности;
• интеграция систем искусственного интеллекта в различные области жизни;
• группы рисков, вызываемых этой технологией, и возможности их предотвращения или преодоления;
• субъектность систем искусственного интеллекта, сравнение и противопоставление личности человека и системы искусственного интеллекта.

Несмотря на то, что исследование посвящено базовым вопросам этико-правового регулирования технологии искусственного интеллекта, также был задействован сравнительно-правовой метод, позволивший сопоставить отдельные нормотворческие подходы разных государств и организаций.

В первой главе монографии раскрываются особенности понятийного аппарата философии, этики, юриспруденции и компьютерных наук в отношении технологии искусственного интеллекта. Раскрываются вопросы рациональности и автономности систем искусственного интеллекта.Описывается соотношение систем искусственного интеллекта и киберфизических систем (роботов). Приводится краткое описание направлений человеческой деятельности, где системы искусственного интеллекта уже используются или могут использоваться. Основным элементом первой главы является предложенный алгоритм исследования любой важной технологии посредством социогуманитарного (в первую очередь этико-правового) инструментария. Последующее содержание работы следует этому алгоритму.

Вторая глава содержит описание истории технологии искусственного интеллекта и указание на специфику ее развития, заключающееся в «перезапуске» технологии с точки зрения ее восприятия наукой и обществом. Рассматривается смежная по отношению к искусственному интеллекту технология компьютерного зрения, раскрываются ее потенциал в применении в юриспруденции и смежных областях деятельности. В последнем параграфе главы на примере прикладной части настоящего исследования описываются сущность и этапы создания искусственной нейронной сети — наиболее распространенного на данный момент технологического решения в области искусственного интеллекта.

В третьей главе расположено как общее описание этико-правового подхода к искусственному интеллекту, так и его частные компоненты: риски применения технологии и их этико-правовая оценка, этические модели для разных вариантов позиционирования технологии искусственного интеллекта в обществе. На примере норм, разработанных межгосударственными и государственными органами, а также организациями и их объединениями, рассматривается нормативный подход к регулированию искусственного интеллекта. Описываются основные составляющие разработанного в рамках исследования Кодекса этики разработчика, оператора и пользователя системы искусственного интеллекта.

В последней главе содержатся описание и попытка разрешения основных проблем правового характера, связанных с технологией искусственного интеллекта. К таковым отнесены вопросы правосубъектности систем искусственного интеллекта, в том числе в контексте прав на объекты интеллектуальной собственности, и использования искусственного интеллекта как метода (на примере судебной, следственной и экспертной деятельности).

В конце монографии находится словарь использованных терминов, в основном, технического характера, который поможет юристу улучшить свое понимание описываемой технологии.

Монография не претендует на окончательную полноту и безусловное раскрытие поставленных вопросов, более того, вероятно, количество правовых и этических вопросов, связанных с технологией искусственного интеллекта, после прочтения этой книги может даже возрасти. Однако в работе задан вектор развития социогуманитарного знания, который может (и, можно надеяться, должен) поспособствовать согласованному и взвешенному развитию мультидисциплинарного научного подхода к пониманию искусственного интеллекта.

Автор благодарит за помощь в подготовке работы уважаемых рецензентов, а также Р. О. Сударикова — за технические советы, К. В. Бахтееву — за комментарии и советы по организации текста, А. А. Белякова, А. В. Антропова, А. В. Кабанова и Ф. В. Мусатова — за помощь в развитии проекта.

Глава I. ОБЩЕТЕОРЕТИЧЕСКИЕ ОСНОВЫ ИССЛЕДОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Верю в прогресс: будут изобретены
машины для чтения мыслей, еще
не пришедших в голову

Станислав Ежи Лец

§ 1.1. Основные понятия предмета исследования

К настоящему времени сформулировано грандиозное количество определений того, что из себя представляет (или должен представлять) искусственный интеллект. В данном параграфе мы предпримем попытку систематизировать основные подходы к определению этого понятия и соотнести его со смежными понятиями.

Крайне важным для признания некоей сущности интеллектуальной является возможность этой сущности воспринимать мир опосредованно. Соответственно, помимо наличия сенсорного компонента (органы чувств у живого существа, датчики — у компьютерной системы) должен присутствовать некий орган или модуль, осуществляющий моделирование полученных данных и создание опосредованных образов мира. Таким образом, сама по себе архитектура нервной системы живого существа либо искусственной нейронной сети (о ней речь пойдет в § 2.3 гл. II) не обязательно наделяет ее обладателя критерием интеллектуальности.

Один из крупнейших ученых эллинистического мира и человеческой цивилизации вообще — Аристотель — связывал наличие сознания и, соответственно, интеллекта с обладанием связной сложной речью, возможностью отличать правду от лжи, проявлять сознательную храбрость и другие качества, связанные с осознанием разницы между хорошим и плохим3. Соответственно, животные не воспринимались им и его последователями как носители интеллекта. Однако для большинства других ученых, как древности, так и более современных периодов, решение этого вопроса было не столь однозначным: поведение человека и животных имеет немало общего (к примеру, инстинкты самосохранения и продолжения рода); строение организма и нервной ткани также вполне сопоставимо.

Последнее, однако, не всегда справедливо. К примеру, улитки вместо мозга обладают ганглием, для функционирования им требуется не разветвленная, как у человека, нейронная сеть на миллионы нейронов, а лишь пара нейронов, один из которых отвечает за формирование чувства голода, второй — передает информацию о наличии пищи. Некоторые виды пауков при крайне малом количестве нервной ткани (фактически отсутствующем мозге) демонстрируют впечатляющие способности к самоорганизации, накоплению и использованию опыта, координированному сложному групповому взаимодействию4. Однако ни пауки, ни улитки не считаются носителями интеллекта — это качество в настоящее время приписывается помимо человека при определенных условиях только животным, которые способны действовать безотносительно безусловных и условных рефлексов.

Словарное определение интеллекта сводится к мыслительной способности, умственному началу исключительно у человека5. Многие домашние животные способны оперировать понятиями «свой», «чужой», «дом», отличают свои клички от других звуков. Крупные млекопитающие (слоны, обезьяны), некоторые птицы (сороки, вороны) и даже насекомые (муравьи) способны узнавать себя в зеркале, т. е. успешно проходить тест Гэллапа, который в третьей четверти прошлого века считался убедительной проверкой на наличие сознания и интеллекта. Под последним в этом случае стоит понимать возможность моделирования окружающей реальности и осознания своего места в ней (самореферентность).

Однако в данном ключе следует различать синтаксическое и семантическое моделирование. Первое отражает восприятие формы, второе — понимание содержания. Животные, равно как и современные системы искусственного интеллекта, обладают лишь первым, т. е. способны воспроизводить действие и даже различать отдельные компоненты причинности, однако реальной рефлексией и пониманием комплексности связей между объектами реальности, т. е. полноценным интеллектом ни животные, ни современные системы искусственного интеллекта (по крайней мере, к настоящему моменту) не обладают.

Естественный интеллект определяют как «способность живых систем решать задачи, в которых присутствуют не только репродуктивные (формализуемые), но и творческие компоненты»6. Представляется, что интеллект в таком случае предполагает наличие самосознания, т. е. восприятия себя и окружающей действительности как отдельных самостоятельных объектов; наличие возможности моделирования, в том числе, абстрактных понятий (к примеру, отдаленного будущего), что в свете приведенного можно считать творческой функцией. Забегая вперед, отметим, что с учетом изложенного говорить о полноценном искусственном интеллекте пока преждевременно, соответственно, этот термин является достаточно условным, что приводит к необходимости его детального изучения в целях недопущения некорректной интерпретации.

Термин «искусственный» означает «не природный, сделанный наподобие подлинного»7. Таким образом, в самом понятии искусственного интеллекта заложено моделирование именно мыслительных способностей человека, хотя данная точка зрения не идеальна. При этом исходный англоязычный термин — artificial intelligence — корректнее было бы переводить не как «искусственный интеллект», а как «искусственное умение рациональных рассуждений», что демонстрирует определенную, хотя и незначительную семантическую разницу в терминах, а значит, и в понимании этих терминов в российской и зарубежной научных традициях.

В монументальной работе С. Рассела и П. Норвига, посвященной комплексному исследованию искусственного интеллекта, указывается, что определения искусственного интеллекта, равно как и подходы к его исследованию могут быть сгруппированы с четырех позиций:

1. Системы, которые думают подобно людям.
2. Системы, которые действуют подобно людям;
3. Системы, которые думают рационально;
4. Системы, которые действуют рационально8.

С точки зрения первого подхода, искусственный интеллект, как правило, определяется как компьютерное устройство, способное думать и обладать разумом в полном и буквальном смысле этого слова9; автоматизация действий, ассоциируемых с человеческим мышлением, таких как принятие решений, решение задач, обучение10, получение новых результатов, не содержащихся в памяти11. Аналогичной точки зрения придерживаются В. К. Финн и Ю. М. Арский, формулируя определение искусственного интеллекта как интеллектуальной компьютерной системы, способной реализовывать «анализ данных посредством автоматизированных познавательных процедур с использованием баз фактов и баз знаний, автоматическое порождение гипотез, процедуры объяснения исходного состояния баз фактов с целью оправдания и принятия гипотезы, совершение дедуктивного вывода из имеющихся ранее знаний и знаний, полученных в результате индуктивного обобщения сходных фактов из баз фактов»12. Таким образом, искусственный интеллект рассматривается с когнитивных позиций, как познающая система.

Согласно второй позиции, системы искусственного интеллекта должны «выполнять функции, требующие интеллектуальности при выполнении таковых людьми»13, «совершать то, в чем люди их пока превосходят»14. Интеллектуальность в данном контексте стоит понимать как возможность изменения действий при сохранении их результативности в зависимости от изменяющейся ситуации.

Третий подход предполагает, что искусственный интеллект способен «воспроизводить умственные способности с помощью вычислительных моделей»15, при этом обеспечивать их реализацию без сравнения с человеком: оценка таких решений может производиться с точки зрения объективных показателей.

Четвертая позиция представляет искусственный интеллект как проектируемый интеллектуальный артефакт16 — созданный человеком, но не целиком зависящий от него объект.

Первая и вторая позиции опираются на так называемую трансляционную (традиционную) теорию, согласно которой человеческий опыт и подход к решению познавательных задач может и должен быть адаптирован компьютером.

Третья и четвертая позиции оперируют понятием рациональности, которая в зависимости от области применения может принимать десятки различных форм17. Д. И. Дубровский, характеризуя общие положения рациональности, указывает, что это «адекватно отображенное, целесообразное, логическое, разумное, обоснованное, причем обоснованное не только эмпирическими и теоретическими средствами в процессах познавательной деятельности, не только историческим опытом, но результатами биологической революции и антропогенеза — в них основания рациональности, создающей средства для создания реальности, которые позволяют отличить реально существующее от мнимого, “реально реальное” от виртуального, возможного от невозможного и т. п.»18

Рациональность, по мнению логика Ю. Эльстера, «предполагает несколько большее, чем непротиворечивые действия в соответствии с непротиворечивыми убеждениями и желаниями: мы также требуем, чтобы сами убеждения и желания были рациональными в более существенном смысле <…> Рациональность может быть закреплена <…> за агрегированным исходом индивидуальных решений»19. Соответственно, система искусственного интеллекта «думает» рационально, если источники ее целей характеризуются аналогично, т. е. в основе функционирования системы искусственного интеллекта, достойной такого наименования, должен находиться комплекс ее убеждений — гипотез существования (в том числе моральных и правовых) и прикладной реализации технологии, обеспечивающей функционирование такой системы.

С. Рассел и П. Норвиг не считают поведение человека априорно нерациональным, а указывают, что человек в силу эмоциональной неустойчивости или систематических ошибок рассуждения склонен вести себя нерационально20. Данная точка зрения представляется не совсем корректной: рациональность, как правило, понимают как соответствие некоторым правилам (нормативность). Правила, в свою очередь, — понятие идеальное, создается, оценивается и, при совпадении ряда факторов, выполняется в мыслительном процессе. Н. С. Автономова характеризует рассудок как «область действий правил, которые вполне точно зафиксированы и в принципе могут быть описаны. Это могут быть правила логики, но вовсе необязательно только они»21. Представляется, что для описания технологии искусственного интеллекта действует комплекс правил, как внутренних — технологических, определяемых возможностями математики и компьютерных наук, так и внешних — этики и права. Современная философия ставит под сомнение нормативность рациональности, «большинство современных теоретиков придерживаются той точки зрения, что оценка действия на рациональность не предполагает строгого соответствия нормативных оснований этого действия положению дел в мире. Другими словами, рациональность действия понимается как когерентность нормативных оснований, а не их корреспонденция действительному положению дел»22, однако для целей правовых исследований понимание рациональности системы искусственного интеллекта через критерий соблюдения ею комплекса правил (нормативности) представляется вполне корректным.

О. П. Кузнецов, комментируя ограниченную рациональность человека, пишет, что «…человек часто поступает нерационально не только в силу объективных причин (необходимость быстро принимать решения в условиях недостаточной информации, ограниченного времени и т. д.), но и из-за неумения использовать те интеллектуальные способности, которыми он обладает»23. Как ни странно, компьютерные системы, лишенные субъективности (в рамках настоящей работы помимо субъективности нужно также рассматривать и субъектность), с точки зрения этого определения лишены именно объективных причин иррациональности: скорость работы современной компьютерной техники позволяет обгонять человека в разы (например, при сборе кубика Рубика) или на сотни порядков (при математических вычислениях). Однако вторая группа факторов имеет значение: помимо фактических знаний для принятия рациональных решений необходим инструментарий по управлению этими знаниями. Такой инструментарий также с определенной долей условности можно назвать правилами обучения или мышления.

Н. Винер, основатель современных кибернетики и науки управления, писал, что «как биологические, так и механические системы управления стремятся к осуществлению рационального целенаправленного поведения, которое, в свою очередь, представляет собой минимизацию ошибок с помощью обучения и накопления опыта»24.

В когнитивных науках и экономике под рациональностью часто понимают две различные ее формы.

Инструментальная рациональность — оптимизация достижения целей человеком. Показателем рационального поведения в этом случае будет величина его отклонения от паттерна оптимального выбора25. Именно в ключе этого понимания критериев рациональности следует оценивать эффективность функционирования современных систем искусственного интеллекта.

Другим типом рациональности является эпистемическая (фактологическая) рациональность, под которой понимают соответствие убеждений субъекта структуре реального мира26. Полагаем, что реализация данного типа рациональности системой искусственного интеллекта позволит говорить о наличии у него самосознания и такую систему следует считать манифестацией сильного (общего) искусственного интеллекта (см. далее).

Зачастую к указанным двум типам добавляют еще аксиологическую рациональность — систему целеполагания и производных от нее действий, направленных на достижение ценностного результата27. Этот тип рациональности для понимания и оценки с его помощью прикладных и экспериментальных систем искусственного интеллекта (равно как и другого сложного технологического решения или комплекса решений) представляется слишком рискованным: вполне вероятна коллизия при сопоставлении интересов и ценностей пользователя системы и общества в целом.

Экспертная группа по вопросам искусственного интеллекта, созданная Еврокомиссией, определяет рациональность искусственного интеллекта как рациональное поведение по преобразованию окружающей среды, реализуемое благодаря возможности восприятия внешней среды, которая обеспечивается через сенсоры (датчики), позволяющие собирать и интерпретировать данные, принимать оптимальные решения28. С точки зрения данной работы, такой подход представляется излишне узким — он может являться корректным только при понимании внешней среды (и как источника, и как результата работы с данными) в предельно широком смысле, как информации из любых источников (как предоставленных человеком непосредственно, так и вычленяемых из неупорядоченных информационных систем). Часто встречаемый в гуманитарных работах термин «датчик» может у системы искусственного интеллекта (особенно существующей в исключительно программной форме) в принципе отсутствовать, поскольку назвать датчиком алгоритм обработки текста или цифрового изображения нельзя, но при отсутствии конкретного модуля, который мог бы так называться, своего рода восприятие внешней среды (что является задачей сенсора) такие системы осуществляют, вполне признаются рациональными и могут так или иначе преобразовывать окружающий мир, но в большей мере через решения, а не активные действия.

Учитывая приведенные позиции, в контексте исследования искусственного интеллекта под рациональностью в общем смысле следует понимать возможность и способность системы искусственного интеллекта принимать ситуационно и причинно обусловленные наилучшие из доступных решений при соблюдении неких условно стабильных правил. Следует также отметить, что большинство исследователей рациональности это понятие адаптируют либо к человеку, либо к группе людей. Однако в настоящее время требуется расширение этого понятия и на искусственные системы. В их случае рациональность может предполагать одновременное выполнение показателей эффективности при соблюдении внешних социальных норм (этических и юридических).

Очевидно, в основе приведенной классификации подходов к определению понятия искусственного интеллекта лежит противопоставление мыслительных операций поведению в реальном мире. Кроме этого, также присутствует сопоставление мышления или действий искусственного интеллекта либо с человеческим мышлением или действиями, либо же оценка мышления или действий с позиций некоей объективной рациональности. В данном контексте неверной представляется система качеств познающего (вопрошающего) мышления, предложенная одним из величайших философов XX века М. Хайдеггером, которая включает четыре тезиса:

1. Мышление не ведет ни к какому знанию, наподобие наук.
2. Мышление не дает никакой полезной житейской мудрости.
3. Мышление не разрешает никакой мировой загадки.
4. Мышление не предоставляет непосредственно никаких сил к действию29.

Итоговым этапом процесса мышления является инициация либо следующего процесса мышления, либо какого-либо действия. Само понятие мотивационной сферы уже указывает на зависимость действий от мышления. Далее в работе будет описано, каким образом системы искусственного интеллекта без прямого преобразования реальности генерируют новое знание из ранее известного.

Известный исследователь мышления и рациональности М. К. Мамардашвили описывает процесс мышления как выводимость структурированного знания безотносительно его связи с эмпирико-сенсуальной составляющей процесса познания30, что вполне соотносится с применением критерия рациональности к искусственным объектам; вместе с тем, действие или совокупность действий — деятельность — так или иначе определяются для субъекта, действующего интеллектуально, именно правилами мышления и правилами, обрабатываемыми мышлением, поэтому отрицание связи мышления и деятельности представляется неверным, хотя в данной работе приоритет отдается именно «мыслительным» операциям искусственного интеллекта, а не его действиям в материальном мире.

Мышление мы понимаем многозначно — как совокупность характеристик познающего субъекта и способов познавательной деятельности, позволяющих осуществлять, воспринимать и обрабатывать фрагментированную, неполную информацию в целях выявления и объяснения объективных закономерностей и связей между отдельными объектами (явлениями, событиями). Однако мышление не должно восприниматься в отрыве от практической деятельности: даже теоретические мысленные эксперименты в науке — лишь шаг на пути к реализации некоего будущего прикладного проекта, т. е. даже фундаментальные исследования закладывают «фундамент» для строительства определенной «постройки». Соответственно, в рамках настоящей работы мы придерживаемся своего рода идеалистической позиции и считаем, что построение искусственного интеллекта в основе своей опирается на моделирование либо отдельных мыслительных операций (например, по распознаванию или оценке), либо, в случае «сильного» искусственного интеллекта, — на моделирование всего процесса мышления комплексно, однако в итоге любых теоретических исследований должен появиться практический результат, а программный продукт в виде системы искусственного интеллекта вполне может быть интегрирован в киберфизическую среду — робота. В дальнейших частях работы для описания прикладной программно-аппаратной системы на основе искусственного интеллекта будет использоваться термин «киберфизическая система».

Учитывая изложенное, содержание искусственного интеллекта должно определяться и рассматриваться через призму когнитивного, а не деятельностного подхода. Первая (системы, которые думают подобно людям) и третья (системы, которые думают рационально) позиции, описанные выше, по сути, отражают настоящее и предполагаемое будущее рассматриваемой технологии соответственно. К текущему моменту, как уже неоднократно упоминалось, у человечества нет другого примера системы мышления, кроме как собственно человеческой. В будущем, возможно, появятся альтернативные системы, однако в любом случае они будут антропогенными, поэтому говорить о достижении «внечеловеческой» рациональности к данному моменту неверно либо, по крайней мере, преждевременно.

А. Каплан и М. Хэнлин приводят следующую схему развития и соотношения интеллекта искусственного и человеческого31 (табл. 1).

Таблица 1

Соотношение искусственного интеллекта с интеллектом человека

	Экспе- ртные сис- темы	Анали- тиче- ский ИИ	ИИ по аналогии с челове- ческим разумом	ИИ, соотно- симый с челове- ческим разу- мом	Чело- вече- ский интел- лект
Когнитивный интеллект	нет	да	да	да	да
Эмоциональный интеллект	нет	нет	да	да	да
Социальный интеллект	нет	нет	нет	да	да
Художественная креативность	нет	нет	нет	нет	да
		Этапы развития технологии машинного обучения

Следует считать, что существующие на момент написания работы технологии находятся, согласно приведенной схеме, между аналитическим и созданным по аналогии с человеческим разумом искусственным интеллектом. Однако с приведенными характеристиками довольно трудно согласиться: современные результаты работы систем искусственного интеллекта подвергают сомнению отсутствие у них художественной креативности, в то же время настоящий эмоциональный интеллект, а не его симуляция, т. е. проявление эмпатии, для рассматриваемых систем не характерен. А. Лавлесс, которую часто называют первым в истории программистом, писала, что компьютер «мог бы воздействовать на другие вещи, не только числа, если бы были найдены объекты, взаимные фундаментальные отношения которых могут быть выражены таковыми из абстрактной науки об операциях, и которые также должны быть подвержены адаптации к действию операционной нотации и механизмам двигателя <…> Предполагая, например, что фундаментальные отношения тональных звуков в науке о гармонии и музыкальной композиции восприимчивы к такому выражению и адаптации, этот двигатель может составлять сложные и научные музыкальные произведения любой степени сложности или степени»32. Таким образом, желаемое будущее на заре становления вычислительной техники включало в себя не только выполнение простых и сложных математических вычислений, но и реализацию эвристических, творческих функций.

Другим важным качеством системы искусственного интеллекта является автономность — независимость системы от внешних факторов. Автономность может быть как ресурсной (к примеру, энергетической), обеспечивающей возможность совершения в первую очередь действий в реальном мире, так и информационной, предполагающей возможность принятия собственных решений без информационной поддержки извне (от потенциального оператора системы). Представляется, что любая система искусственного интеллекта, заслуживающая такого обозначения, должна, как минимум, обладать информационной автономностью, в то время как ресурсная автономность характерна для систем, функционирующих в материальном мире. Так, к примеру, IEEE (Institute of Electrical and Electronics Engineers — Инженерный институт электрики и электроники) — профессиональное объединение инженеров и ученых, занимающихся в том числе изучением возможностей технологии искусственного интеллекта, — раздельно воспринимает автономные и интеллектуальные системы33. Акцент на автономность при определении конкретного технологического решения чаще всего отражает именно ресурсную автономию, при этом интеллектуальная система (как исключительно программная, так и программно-аппаратная) так или иначе должна в определенных пределах обладать автономией информационной.

Технология — это совокупность производственных процессов в определенной отрасли производства, а также научное описание способов производства34, сочетание искусства и научности знаний35. Представляется, что применительно к социально-значимым технологиям на указанные действия и процессы оказывают существенное воздействие идеи, настроения, состояние науки и мировоззрения.

Исходя из этого, под технологией искусственного интеллекта в настоящей работе будут пониматься объем всех объективных сведений (как естественно-технического, так и социогуманитарного характера) о сущности, формах и функционировании искусственного интеллекта, а также совокупность прикладных и экспериментальных реализаций указанных сведений.

Конкретная реализация такой технологии в виде прикладного или экспериментального технологического решения, обладающего рациональностью и автономностью, носит название системы искусственного интеллекта, именно этот термин будет чаще встречаться в данной работе.

В науке, однако, встречаются и другие формулировки. Так, в работе С. Рассела и П. Норвига используется термин «рациональный агент». Агент (то, что действует, от лат. «agree» — действовать, приводить в движение), или артефакт, проявляет рациональное поведение, если «действует таким образом, чтобы можно было достичь наилучшего результата или, в условиях неопределенности, наилучшего ожидаемого результата»36, при этом функция такого агента «определяет действие, предпринимаемое этим агентом в ответ на любую последовательность актов восприятия»37.

Схожий термин предлагают С. Чопра и Л. Ф. Уайт, характеризуя интеллектуальный объект правовых исследований как «автономный искусственный агент». В их работе названный термин используется уже не в общенаучном, а в юридическом смысле — в рамках концепции юридической субъектности и автономности воли, а в отношении имеющихся систем — с использованием инструментария теории агентирования, т. е. автономный искусственный агент, несмотря на свои автономность и интеллектуальность, представляет интересы человека. Последний может занимать в отношении такого агента статус либо оператора (лица, контролирующего агента, которое является выгодоприобретателем от его действий), либо пользователя (лица, вступающего с агентом во взаимодействие в правовом поле)38. Интересно, что в первом определении акцентировалась рациональность агента, а во втором — автономность и искусственность. Учитывая, что работа С. Чопра и Л. Ф. Уайта является юридическим исследованием, можно сделать осторожный вывод о том, что автономность является даже более критичной для социогуманитарных исследований искусственного интеллекта характеристикой, чем рациональность, по крайней мере, на данном этапе развития науки. Искусственность, само собой, является неотъемлемым свойством искусственного интеллекта.

П. М. Морхат, автор наиболее совершенного отечественного юридического исследования вопросов общеправового и гражданско-правового понимания технологии искусственного интеллекта, базовым термином считает слово «юнит», под которым понимает «носителя искусственного интеллекта (систему, объект, устройство, агента)»39. Признавая удобство этого термина с точки зрения его краткости и семантического минимализма (англ. unit — единица, наименьшее количественная мера), отметим, что в прикладных компьютерно-технических исследованиях (откуда происходит значительная часть терминологического инструментария, в том числе используемого в социогуманитарных исследованиях) этот термин означает скорее единицу аппаратного обеспечения, используемого при создании или функционировании искусственного интеллекта. Таким образом, признавая в целом корректность термина «юнит», в настоящем исследовании в качестве базового будем использовать термин «система искусственного интеллекта». Именно такая формулировка, соответствуя задачам исследования, отражает структурированную (но не алгоритмизированную) сущность таких объектов, наличие в этой структуре формализованных элементов (см. § 2.3 гл. II), предусматривает как программный, так и аппаратный уровни организации и ориентацию на практическое использование такой системы.

Следует также рассмотреть уже упоминавшееся понятие машинного обучения. Машинное обучение (machine learning) — современный класс методов технологии искусственного интеллекта, с помощью которого решение задачи происходит не напрямую, а индуктивно, через процесс обучения на множестве сходных задач (прецедентов). Также иногда машинным обучением называют процесс обучения системы искусственного интеллекта. Машинное обучение в свою очередь тесно связано с наукой о данных. Наука о данных (data science) — раздел компьютерных наук, в котором изучаются проблемы операций с цифровой информацией, в том числе и с большими объемами такой информации. Соотношение искусственного интеллекта, машинного обучения и науки о данных графически представлено на рисунке 1.

Рис. 1. Соотношение понятий искусственного интеллекта, машинного обучения и науки о данных (Источник: архив автора)

Искусственный интеллект может и должен пониматься многоаспектно.

Во-первых, чаще всего под искусственным интеллектом понимают прикладную компьютерную систему (программную или программно-аппаратную), способную производить вычисления, результаты которых сравнимы с мыслительной деятельностью человека. Такая система должна включать в себя базу знаний, процессорный блок, способный эти знания обрабатывать, и интерфейс, обеспечивающий взаимодействие с оператором (пользователем)40. При этом, как уже отмечалось выше, такие вычисления должны содержать эвристические элементы, т. е. результирующие знания должны по своим характеристикам превышать знания входные, что в итоге приводит к повышению результативности или эффективности человеческой деятельности или расширяет ее возможные области. Примером такого понимания может служить термин, предложенный И. В. Понкиным и А. И. Редькиной: «Искусственный интеллект — это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе виртуальная, электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия, обладающая:

• свойствами субстантивности (включая определенную субъектность, в том числе как интеллектуальный агент) и в целом автономности, а также элабортивной (имеющей тенденцию совершенствования) операциональности;
• высокоуровневыми возможностями воспринимать (распознавать, анализировать и оценивать) и моделировать окружающие образы и символы, отношение, процессы, обстановку (ситуацию), самостоятельно принимать и реализовывать свои решения, анализировать и понимать собственные поведение и опыт, самостоятельно моделировать и корригировать для себя алгоритмы действий, воспроизводить (эмулировать) когнитивные функции, в том числе связанные с обучением, взаимодействием с окружающим миром и самостоятельным решением проблем;
• способностями самореферентно адаптировать свое собственное поведение, автономно глубинно самообучаться (для решения задач определенного класса или более широко), осуществлять омологацию (усовершенствование — Д. Б.) себя и своих подсистем, в том числе вырабатывать омологированные “языки” (протоколы и способы) коммуницирования внутри себя и с другими искусственными интеллектами, субстантивно выполнять определенные антропоморфно-эмулирующие (конвенционально относимые к прерогативе человека (разумного существа)) когнитивные (в том числе — познавательно-аналитические и творческие, а также связанные с самоосознанием) функции, учитывать, накапливать и воспроизводить (эмулировать) опыт (в том числе — человеческий)»41.

Во-вторых, искусственный интеллект можно рассматривать как область научного фундаментального знания, в основе которого лежат отдельные област

...