И. Р. Бегишев, З. И. Хисамова

Искусственный интеллект и уголовный закон

Монография

---

ebooks@prospekt.org

Информация о книге

УДК 004.8:343

ББК 32.813:67.408

Б37

Изображение на обложке Blue Planet Studio / Shutterstoks.com

Авторы:

Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета им. В. Г. Тимирясова (ИЭУП);

Хисамова З. И., кандидат юридических наук, начальник отделения планирования и координации научной деятельности научно-исследовательского отдела Краснодарского университета МВД России.

Рецензенты:

Ястребов О. А., доктор юридических наук, профессор, заведующий кафедрой административного и финансового права Российского университета дружбы народов;

Морхат П. М., доктор юридических наук, судья Арбитражного суда Московской области.

В монографии исследуются уголовно-правовые и криминологические аспекты использования искусственного интеллекта в преступных целях. Особое внимание уделено проблеме регулирования правосубъектности искусственного интеллекта как основополагающей в вопросе разграничения ответственности.

В исследовании нашли отражение результаты комплексного теоретико-прикладного анализа основных современных доктрин, посвященных регулированию искусственного интеллекта и робототехники. Представлены результаты сравнительно-правового анализа международного законодательства, направленного на минимизацию криминологических рисков, связанных с применением искусственного интеллекта, и тезисы ключевых повесток ведущих международных организаций.

Законодательство приведено по состоянию на 1 августа 2020 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся вопросами уголовно-правового регулирования искусственного интеллекта и робототехники.

УДК 004.8:343

ББК 32.813:67.408

© Бегишев И. Р., Хисамова З. И., 2021

© ООО «Проспект», 2021

ВВЕДЕНИЕ

Никола Тесла предсказывал, что в XXI веке «автоматы (роботы) возьмут на себя всю монотонную работу и займут место, которое рабский труд занимал в древней цивилизации, и тогда человечество освободится для реализации своих высших чаяний»1.

Искусственный интеллект становится неотъемлемой частью нашей жизни. Благодаря его развитию стало возможным не только в кратчайшие сроки обрабатывать огромные объемы данных и строить на их основе точные прогнозы развития для сложных систем и явлений, но и активно решать глобальные экологические и социальные проблемы. Внедрение искусственного интеллекта дает толчок формированию качественно нового этапа развития образования, медицины, полной автоматизации рутинных операций.

Искусственный интеллект обладает потенциалом, для того чтобы ускорить обеспечение достойной жизни — в мире и процветании — для всех людей. Настало время для всех нас — правительств, отраслевых предприятий и гражданского общества — понять, как технология повлияет на наше будущее.

Антониу Гутерреш,
генеральный секретарь ООН

Искусственный интеллект (далее — ИИ) окружает нас повсюду.

На сегодняшний день наблюдается активное прикладное применение ИИ во всех предметных областях и непрекращающееся расширение его возможностей. Выделяют несколько ключевых областей развития ИИ:

— крупномасштабное машинное обучение — разработка алгоритмов обучения, а также масштабирование существующих алгоритмов для работы с очень большими наборами данных;

— глубокое обучение — модель, составленная из входных «сигналов», таких как изображение или аудио, и нескольких спрятанных слоев подмодели, которые служат входными данными для следующего слоя и в конечном счете выходными данными или функцией активации;

— обработка естественного языка — алгоритмы, которые обрабатывают ввод на человеческом языке и преобразуют его в понятные представления;

— совместные системы — модели и алгоритмы, помогающие разрабатывать автономные системы, которые могут работать совместно с другими системами и людьми;

— «компьютерное зрение» (анализ изображений) — процесс выбора релевантной информации от изображения или наборов изображений для предварительных классификации и анализа;

— алгоритмическая теория игр и вычислительный социальный выбор — системы, которые учитывают экономические и социальные аспекты ИИ;

— робототехника в приложениях (роботизированная автоматизация процессов) — автоматизация повторяющихся задач и общих процессов, таких как ИТ, обслуживание клиентов и продаж2.

Искусственный интеллект поднимает важные и неотложные вопросы. ИИ уже с нами — он меняет информацию, которую мы получаем, выбор, который мы делаем, и способы функционирования нашего общества. В ближайшие годы ИИ будет играть еще большую роль в том, как работают правительства и государственные учреждения, а также в том, как граждане взаимодействуют и участвуют в демократическом процессе.

Мария Бурич,
генеральный секретарь Совета Европы

Мы живем в эпоху «больших данных», когда ежедневно обрабатывается огромный объем информации, слишком громоздкой для обработки человеком. Среднестатистический житель планеты использует ИИ намного чаще, чем думает: только 33% респондентов считают, что они используют технологию с поддержкой ИИ, в то время как 77% фактически используют услугу или устройство с ИИ3.

Для современного человека роботы и искусственный интеллект стали элементом объективной реальности, и с середины 20 века интерес к искусственному интеллекту как предмету научных дискуссий во всем мире продолжает активно расти, в особенности в Европе, Соединенных Штатах Америки (далее — США) и Китайской Народной Республике (далее — КНР)4. Так, в базе данных Скопус в 2018 году насчитывалось 180 221 публикаций, а количество патентов достигло 57 545 (из них российские — только 1,5%)5.

Аналитики по всему миру единогласно называют искусственный интеллект ключевым технологическим трендом6. По прогнозам, к 2020 году рынок ИИ вырастет до 5 млрд долл. США7 за счет применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении8.

Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках, поэтому мы, если мы будем лидерами в этой сфере, также будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными технологиями, ядерными технологиями.

Владимир Путин,
президент Российской Федерации

Стоит отметить, что несомненные плюсы внедрения ИИ, которое предполагает освобождение человечества от рутинной работы и переход к творческой деятельности, на которую машины не способны, видят не только крупные корпорации и государственные деятели, но и обычные жители: 61% из опрошенных 6 000 человек заявили, что считают, что ИИ сделает мир лучше9.

Искусственный интеллект компьютеров обгонит интеллект человеческий уже в ближайшие 100 лет, и когда это случится, нужно убедиться в том, что цели компьютера и человека будут совпадать, а не идти вразрез друг другу.

Стивен Хокинг,
физик-теоретик, космолог и астрофизик,
директор по научной работе
Центра теоретической космологии
Кембриджского университета

Так ли это на самом деле? Знаем ли мы, современное общество, что такое ИИ и какие риски несут в себе его создание и оборот? Сможем ли извлечь преимущества применения ИИ, избежав негативных последствий? Существуют ли регулятивные механизмы контроля ИИ, готово ли отечественное законодательство к регулированию ситуаций, когда ИИ станет участником посягательств на охраняемые законом правоотношения? И не станет ли заглавие книги Д. Баррата «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens»10 пророческим?

В рамках настоящей монографии авторами предпринята попытка найти ответы на столь неоднозначные и одновременно животрепещущие вопросы.

Глава 1. ЮРИДИКО-ТЕХНОЛОГИЧЕСКИЕ АСПЕКТЫ ПОНИМАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1.1. История становления и развития науки об искусственном интеллекте

Человечество с древнейших времен не покидала мысль о создании устройств или приспособлений, способных упростить жизнь. Механизировав и автоматизировав тяжелый физический труд, общество задумалось о создании машины, способной выполнять интеллектуальную (умственную) работу — сугубо человеческую прерогативу.

ИИ стал предметом различных научных направлений достаточно недавно, именно поэтому имеет место недостаточное определение его структуры, а также круга вопросов, которые с ним связаны: так, хотя предпосылки изучения ИИ и имели место уже в начале XVIII века, формирование направления относят только к середине 40—50-х гг. XX века.

Как научное направление ИИ «приобрел вес» уже после того, как окончилась Вторая мировая война. Это произошло благодаря заслугам таких ученых, как А. Тьюринг, У. Мак-Каллок и У. Питтс.

К 1950-м годам в научном сообществе появилось поколение молодых ученых, математиков и философов с концепцией ИИ, культурно ассимилированного в их умах. Одним из таких людей был А. Тьюринг, который сегодня считается основоположником ИИ. В работе «Вычислительная техника и интеллект»11 А. Тьюринг выдвинул тезис, что машины так же как и люди способны использовать доступную информацию, а также разум, чтобы решать проблемы и принимать решения, кроме того, им был описан тест (впоследствии получивший имя автора), позволяющий определить, когда машины смогут сравняться с человеком12. Указанный подход, предложенный ученым, был раскритикован философами, но методика все же предопределила прагматический подход, используемый относительно ИИ до сих пор.

В начале 40-х годов появилась возможность использовать ресурсы машинной памяти и процессорной мощности для создания интеллектуальных программ. При помощи вычислительных машин были реализованы формальные системы рассуждений, а также были проведены испытания того, на сколько они достаточны «для проявления разумности на практике»13. Однако идеи А. Тьюринга в середине XX века не могли быть воплощены в жизнь в полной мере в силу ряда объективных причин. До 1949 года компьютеры не имели ключевой характеристики для интеллекта: они могли только выполнять команды, а не запоминать их, кроме того, вычислительная техника была чрезвычайно дорогой, например стоимость аренды компьютера доходила до 200 000 долларов в месяц14. Только престижные университеты и крупные технологические компании могли себе их позволить. И, наконец, исследования возможностей развития ИИ15 требовали финансирования и государственной поддержки, что также было весьма непростой задачей.

Американскими учеными — нейрофизиологом и одним из основателей кибернетики У. Мак-Каллоком16 и нейролингвистом, логиком и математиком У. Питтсом17 в совместной научной работе «Логическое исчисление идей, относящихся к нервной активности»18 впервые предложена математическая модель искусственной нейронной сети19. Именно результаты указанного научного исследования заложили основы разработки ИИ и революционного представления о мозге человека как о компьютере.

Шесть лет спустя доказательство возможности создания ИИ было представлено на конференции, организованной Д. Маккарти М. Мински в Дартмутском университете. А. Ньюэллом, К. Шоу и Г. Саймоном была представлена программа «Теоретика логики» (The Logic Theorist), предназначенная для имитации навыков решения проблем человека. Большинство исследователей склонно считать указанную программу первым прототипом ИИ. Стоит отметить, что Д. Маккарти на упомянутом мероприятии было придумано понятие ИИ (англ. Artificial intelligence, AI). Среди ученых, принявших соглашение об утверждении нового названия для данной области и согласовавших вышеназванный термин, были М. Мински, К. Шеннон, Н. Рочестер и другие исследователи20. Конференция в Дартмуте стала отправной точкой исследований ИИ21, которые на протяжении 70 лет переживали то бурный всплеск, то крайнее затишье.

...некоторые из вас, возможно, слышали о программе под названием ELIZA, которую написал в 1966 г. Джозеф Вейценбаум. Эта программа моделирует психотерапевта, который все, что бы вы ему ни сказали, возвращает вам же в виде вопросов. Вейценбаум выяснил поразительную вещь: многие люди готовы открыть этой программе душу! И иногда, если рассказать, что беседовали они с программой (причем чрезвычайно простой), они не хотят этому верить.

Скотт Ааронсон,
лауреат премии Алана Уотермана,
американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита», 2017 год

Период с 1957 по 1974 год стал эпохой расцвета изучения ИИ: увеличилась производительность, доступность и объем памяти компьютеров, значительный прогресс наблюдался в развитии алгоритмов машинного обучения. Первые прототипы ИИ в начале 60-х годов, такие как компьютерная программа «General Problem Solver», разработанная А. Ньюэллом и Г. Саймоном, и «Eliza» Д. Вайзенбаума, имели многообещающее будущее в решении ряда проблем, в особенности в части интерпретации разговорного языка22. В 1971 году корпорация Intel выпустила свой первый коммерчески доступный микропроцессор23. Эти успехи, а также пропаганда ведущих исследователей убедили государственные учреждения, такие как Агентство передовых оборонных исследовательских проектов США, финансировать исследования в области ИИ в нескольких учреждениях. Правительство особенно было заинтересовано в механизме, который мог бы транскрибировать и переводить устную речь, а также обладал высокой производительностью в обработке данных. Оптимизм был высок, а ожидания еще выше: в 1970 году М. Мински утверждал, что в течение 3—8 лет будет создана машина с интеллектом среднего человека24.

Однако в конце 70-х научное сообщество столкнулось с неожиданной проблемой недостатка вычислительных мощностей: компьютеры просто не могли хранить достаточно информации или обрабатывать ее достаточно быстро. Вплоть до середины 80-х исследования ИИ замедлились и не имели значимых результатов, пока Д. Хопфилдом и Д. Румельхартом не были популяризированы методы «глубокого обучения», ставшие возможными благодаря расширению алгоритмического инструментария и увеличению средств машинного обучения. Одновременно с ними Э. Фейгенбаум представил экспертные системы, которые имитировали процесс принятия решений экспертом-человеком. В указанный период интерес к изучению и развитию ИИ был проявлен и японским правительством: в 1982—1990 годах оно инвестировало 400 млн долларов США в проект создания «компьютера пятого поколения» с целью «революционизации компьютерной обработки, внедрения логического программирования и улучшения ИИ»25.

Несмотря на то что большинство амбициозных целей создания «компьютера пятого поколения» не были достигнуты, все же можно утверждать, что проект стал новым толчком развития ИИ, продолжающимся по сей день.

На современном этапе исследования ИИ также далеки от завершения, ученые работают над задачей, связанной с возможностью имитации машинами различных аспектов деятельности человеческого интеллекта. Интерес к данной проблеме «подогревают» следующие факты: в 1997 г. Г.К. Каспарову нанесла поражение компьютерная программа «Deep Blue», а В.Б. Крамнику в 2002 г. пришлось свести вничью матч, в котором его соперником была программа «Deep Fritz».

1.2. Теоретические подходы к толкованию понятия «искусственный интеллект»

На мой взгляд, все сказанное об искусственном интеллекте можно разделить на две категории: те 70%, которые содержатся где-то в работе Тьюринга 1950 года, и еще 30%, что появились в результате полувека более поздних исследований.

Скотт Ааронсон,
лауреат премии Алана Уотермана, американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита»,
2017 год

Понятие «искусственный интеллект» постепенно входит в нашу повседневную жизнь. Научные достижения в сфере использования ИИ создали огромное количество практических разработок, упрощающих наш быт, труд и досуг. Голосовое управление, распознавание речи и символов, машинный перевод и решение задач классификации документов, цифровые сервисы и медицинские приложения — это далеко не полный перечень благ, доступных человеку вследствие развития искусственного интеллекта26. Потенциал ИИ успешно реализовывается в различных сферах: в образовании, медицине, робототехнике, экономике, в особенности банковской деятельности, промышленности, сельском хозяйстве, а также человеческом быту и многих иных сферах человеческой жизнедеятельности27, и ближайшие десятилетия активная фаза этих метаморфоз будет продолжаться28. Увеличивающееся присутствие искусственного интеллекта в нашей повседневной жизни становится весьма объективным29.

Все это приводит к различным новым ситуациям и проблемам, далеко не всегда охватываемым правовым регулированием. Между тем такое положение дел весьма существенным образом сказывается на состоянии правопорядка и правовой системы в целом. Правовая жизнь общества в этой связи тоже приобретает несколько неустойчивый и во многом неопределенный характер, влияющий тем самым на степень защищенности субъектов права, на их возможности реагировать в новых технологических условиях протекания юридического бытия и т.д.30

Когда ИИ приобретет больше здравого смысла, практические устройства станут более безопасными и полезными. Например, речевые помощники, такие как Siri или Alexa, поймут вас намного лучше и смогут ответить на гораздо более широкий круг вопросов. Будущие домашние роботы сами поймут, что остатки пирога сначала нужно положить в контейнер подходящего размера, а затем — в холодильник.

Еджин Чой,
старший менеджер
Института искусственного интеллекта им. Аллена,
специалист по обучению нейронных сетей
репрезентациям здравого смысла и рассуждений

Однако вопрос определения понятия «интеллект» до сих пор носит дискуссионный характер, четко не обозначен его состав, а также главные механизмы. Исследования в области ИИ ведутся достаточно активно, однако однозначное суждение исследователей, касающееся возможности построить ИИ, способный реализовать функции интеллекта человека, отсутствует. Соответственно, открытым остается вопрос, возможна ли в принципе машинная имитация человеческого интеллекта.

Кроме того, трудность определения рассматриваемого понятия сопряжена с междисциплинарным характером рассматриваемого явления, ввиду чего в логике, психологии, лингвистике, кибернетике, дискретной математике и программировании встречается немало терминов, определяющих суть и значение ИИ31^,32.

Проведенный нами анализ достаточно большого количества определений понятия искусственный интеллект позволил выделить несколько ключевых направлений в характеристике ИИ.

Во-первых, ИИ понимается как система, наделенная определенной совокупностью признаков, позволяющей характеризовать ее как способную имитировать интеллектуальную деятельность человека.

Во-вторых, ИИ понимается в качестве самостоятельного направления (подотрасли) или отрасли кибернетической науки.

В-третьих, ИИ воспринимается в качестве некоего набора математических алгоритмов или метапроцедур.

В проекте о прорывных технологиях будущего, проводимого под эгидой Организации Объединенных Наций (далее — ООН)33, искусственный интеллект рассматривается в двух ракурсах. Во-первых, искусственный интеллект — «это программное обеспечение, которое демонстрирует способности к осуществлению анализа, принятию решений и обучению, сходные со способностями человека». Во-вторых, это «область информатики, которая изучает интеллектуальные объекты не только с инженерной, но и с философской и психологической точки зрения»34.

Законопроект США S.2217 «Об искусственном интеллекте» 2017 года также содержит определение «искусственного интеллекта». Согласно данному документу, ИИ — это любые искусственные системы, которые выполняют задачи в различных и непредсказуемых обстоятельствах, без значительного контроля со стороны людей, или которые могут извлечь уроки из своего опыта и улучшить свою работу. Указанные системы действуют рационально и достигают свои цели через восприятие, планирование, рассуждение, обучение, общение, принятие решений и действий.

Наиболее развернутые определения искусственного интеллекта приводятся в научной литературе. Нельзя не отметить, что само понятие «искусственный интеллект» интерпретируется учеными по-разному.

Согласно одному из определений, ИИ — это наука и технология, включающая набор средств, позволяющих компьютеру на основании накопленных знаний представлять ответы на вопросы и формулировать на их основе экспертные заключения, то есть получать знания, не вкладываемые в него разработчиками35.

В рамках другого определения ИИ — это математическая модель, способная к обучению, созданная по подобию человеческого мозга36.

Человеческий мозг — этот изначальный источник интеллекта — дает здесь важное вдохновение. Наш мозг невероятно эффективен по сравнению с сегодняшними методами глубокого обучения. Они весят несколько фунтов и требуют около 20 ватт энергии, чего едва хватает для питания тусклой лампочки. Тем не менее они представляют собой самую мощную форму разума в известной вселенной.

Роб Тэйвс,
обозреватель AI@Forbes,
специалист по машинному обучению

Иные авторы ИИ определяют как систему, способную рационально решать сложные проблемы или принимать надлежащие действия для достижения своих целей независимо от условий37. При этом не уточняется сфера применения указанных систем, область деятельности (внешний мир, информационно-телекоммуникационная сеть «Интернет», ограниченный пространственный участок территории). На наш взгляд, вряд ли обоснованно определять «искусственный интеллект» столь широко, ведь подобный уровень абстракции позволит устанавливать свойства ИИ во многих бытовых приборах, что явно не соответствует изложенной выше сущности «искусственного интеллекта»38.

Ряд исследователей достаточно широко определяют «искусственный интеллект» как компьютеризированную систему, поведение которой связано с наличием разума39. Так, А.Э. Евстратов и И.Ю. Гученков считают, что искусственный интеллект как сложная вычислительная система характеризуется: вариативностью при принятии решений, определенной степенью автономности при работе, а также способностью учитывать полученный от ранее принятых решений опыт и использовать его для их корректировки40.

По мнению других, «искусственный интеллект» является системой, которая способна к решению определенных поставленных перед ней проблем и может выполнять определенные действия, чтобы решить указанные выше проблемы. При этом условия, в которых осуществляет свою деятельности «искусственный интеллект», значения не имеют.

Р. Курцвейл считает, что ИИ — это прерогатива машин, которые требуют наличия интеллектуальных способностей при их реализации человеком41. Однако в данном случае вызывает состояние неопределенности текстуальная конструкция (требуют наличия интеллектуальных способностей), поскольку любое, даже самое элементарное по своей сути действие может быть расценено как проявление интеллекта.

П.Г. Уинстон, в свою очередь, считает ИИ вычислительной машиной, которая имеет возможность «делать такие вещи, которые для людей представляются разумными»42, А. Эндрю, конкретизируя эту мысль, определяет «искусственный интеллект» как вычислительную машину, которая способная к «интеллектуальному поведению»43.

Р. Беллманн рассматривает «искусственный интеллект» через призму понятия «автоматизация действий», в группу которых включает «принятие решений, решение задач, обучение»44. Сходную точку зрения высказал Дж. Слэйгл, считающий, что в основе «искусственного интеллекта» лежит эвристическое программирование45.

Широкое определение «искусственного интеллекта» предложено исследователями В.Н. Ручкиным и В.А. Фулиным. Они считают, что рассматриваемое понятие есть «совокупность метапроцедур представления знаний, рассуждений, поиска релевантной информации в среде имеющихся знаний, их пополнение, корректировка и пр., имитирующих деятельность человека. Система «искусственного интеллекта — это аппаратный информационно-программный комплекс, действие которого выступает аналогичным действию механизмов мышления личности и сходно с решениями, которые принимал бы человек-эксперт, выступающий профессионал в рассматриваемой области»46. Указанное определение мы склонны расценивать как весьма удачное, поскольку оно довольно точно отражает особенности когнитивных механизмов человека.

Через понятие «машины» ИИ определяет также и А.В. Шилейко, считающий, что в качестве «искусственного интеллекта» может определяться некая машина, если у нее есть возможности моделировать хотя бы одну функцию, традиционно включаемую в сферу разумной деятельности»47.

По мнению Д.В. Смолина, «искусственный интеллект» можно интерпретировать как систему, имеющую способности и возможности целеустремленно изменять (с учетом состояния информационных входов) некоторые параметры функционирования, а также способ собственного поведения, при этом на последний будет оказывать влияние текущее состояние информационных входов48.

Л.С. Болотова определяет «искусственный интеллект» в виде искусственной компьютерной системы, способной к имитации интеллекта человека: такая система имеет возможность к получению, обработке и хранению информаций и знаний, а также способна осуществлять над ними различные действия, в совокупности являющиеся мышлением49.

Ошибка многих разработчиков искусственного интеллекта состоит в том, что они пытаются запрограммировать компьютеры таким образом, чтобы они функционировали подобно человеческому разуму. Они хотят достичь поставленной цели, обойдя вниманием вопрос о сути разума, о том, что означает слово «понимать». Но ведь этим самым они «выплеснули с водой ребенка» — создавая мыслящие механизмы, забыли о разуме! Но все попытки создания искусственного интеллекта без учета особенностей естественного обречены на провал.

Джефф Хокинс,
нейробиолог, член национальной инженерной академии США,
специалист в области информатики,
исследователь искусственного интеллекта

и Сандра Блейксли,
научный корреспондент New York Times,
книга «Об интеллекте», 2005 год

В работах В.Н. Синельниковой и О.В Ревинского указано, что ИИ есть компьютерная программа, созданная людьми и имеющая возможность, в соответствии с заложенной в ней командной архитектурой, создавать новую информацию50. Схожей точки зрения придерживается А.А. Щитова, понимающая под ИИ программу, обладающую таким уровнем интеллектуальности, что способна осознать себя, и способная к самостоятельному принятию решений51. В целом мы поддерживаем данные позиции, но с оговоркой, относя данные дефиниции к сущности слабого ИИ.

С учетом вышесказанного интересной представляется позиция В.С. Дороганова и М.И. Баумгартена, которые указывают следующее. По своей сущности «искусственный интеллект» представляет собой математическую модель, расположенную в определенном техническом устройстве. Указанная модель — это способная к самообучению модель нейронных связей, способных воспринимать информацию объективной реальности, обрабатывать ее и в результате этого получать новое знание, не вкладываемое разработчиками52, т.е. создавать подобие человеческого мозга. Резюмируя, можно сказать, что в отличие от мозга человека, имеющего биологическое происхождение, ИИ — образование кибернетическое, вследствие чего возникает необходимость разъяснения некоторых важных отличий, оказывающих влияние на способность ИИ к осознанному поведению.

Н. Нильсон считает, что «искусственный интеллект» есть деятельность, позволяющая сделать компьютеры разумными53. По мнению автора, «искусственный интеллект» можно считать и антропогенным продуктом, способным к интеллектуальному поведению, и машиной, способной к выполнению таких действий, которые обычно требуют присутствие интеллекта человека54.

Новый международный энциклопедический словарь английского языка Уэбстера включает четыре определения рассматриваемого понятия, в которых «искусственный интеллект» выступает:

— представлением о том, что машины могут быть подвергнуты такому усовершенствованию, что будут способны выполнять функции, свойственные разуму человека;

— средством, позволяющим расширить возможности интеллекта человека на основе использования компьютера;

— направлением в компьютерной науке, связанным с разработкой компьютеров, которые способны к осуществлению мыслительных процессов, свойственных человеку;

— наукой о технических способах более эффективного использования компьютеров на основе улучшенных техник программирования55.

Также ряд подходов к определению «искусственного интеллекта» имеет место в трудах С. Рассела и П. Норвига. В рамках первого из них авторы берут за основу мышление человека, в соответствии с которым и должен создаваться, и развиваться ИИ, приобретая способность мыслить, обучаться и пр. Основой второго подхода выступает поведение человека, согласно данному подходу, «искусственный интеллект» должен быть способен к действиям, для реализации которых необходим разум. В качестве основы третьего и четвертого подходов, соответственно, выступают рациональное мышление и рациональное поведение56.

... если компьютеры когда-нибудь научатся имитировать людей во всех наблюдаемых отношениях, то мы будем вынуждены рассматривать их как обладающие сознанием, в точности по тем же причинам, по которым мы рассматриваем окружающих нас людей как обладающих сознанием.

Скотт Ааронсон,
лауреат премии Алана Уотермана, американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита»,
2017 год

Э. Челюдакис определяет «искусственный интеллект» как совокупность систем, которые способны к восприятию окружающего мира, на основе чего могут осуществлять независимо и непредсказуемым образом ряд различных действий57.

М. Дельво полагает, что юнитом «искусственного интеллекта» выступает некий кибернетический объект, которому свойствен указанный интеллект, который приобретает автономию через реализующие обмен с окружающей средой датчики. Указанный объект может анализировать полученные данные и оперировать ими, может самообучаться, имеет физическую поддержку, а также способен к адаптации своего поведения к окружающей среде58.

В.Б. Наумов и Г.Г. Камалова выделяют следующие ключевые характеристики ИИ:

1) факультативность аппаратного воплощения. Технология ИИ прежде всего включает в себя программы для ЭВМ, базы данных, компьютерные алгоритмы и их модели;

2) способность системы анализировать окружающую среду;

3) наличие определенной автономности в функционировании;

4) наличие способности накопления опыта, его оценки и реализации задачи самообучения;

5) наличие «интеллектуальности», описываемой через категории «разумности», «рациональности» или способности «мыслить, как человек», или «действовать, как человек», во всех или в определенных обстоятельствах59.

До недавнего времени в действующем российском законодательстве отсутствовало определение понятия «искусственный интеллект». Сейчас это понятие закреплено в Национальной стратегии60 развития искусственного интеллекта на период до 2030 года и определено как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека61.

В свою очередь, в отечественном учебнике по цифровому праву ИИ определяется как «моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека»62.

Наряду с термином «искусственный интеллект» также употребляется понятие «искусственный сверхинтеллект». Данный термин встречается в исследованиях И. Гуда63 и Н. Бострома64. Первый ученый считает, что «искусственный сверхинтеллект» способен в несколько раз превзойти интеллект любого самого умного человека. Второй автор отмечает, что «сверхразум» является интеллектом, который значительно превосходит когнитивные возможности человека практически во всех областях. По его мнению, «коллективный сверхразум» позиционируется как интегральная система, включающая большое число интеллектов, стоящих уровнем ниже. Организация рассматриваемой интегральной системы такова, что ее производительность значительно превосходит таковую любой другой когнитивной системы65.

Как явление ИИ интерпретируется учеными по-разному, но в классификации этого понятия достигнута определенная солидарность. Например, принято различать сильный ИИ, представляющий собой программное обеспечение, благодаря которому компьютеры могут думать так же, как и люди, а равно получать иные способности разумного существа, и слабый ИИ, который способен осуществлять единственный вид деятельности, для которого конкретно и был создан, например проводить диагностику заболевания66.

Имеет место и более широкая классификация. Так, в отчете обсерватории киберпреступности Австралийского национального университета искусственный интеллект подразделяется на три категории: Weak AI, Medium AI и Strong AI67.

По мнению австралийских ученых, первые два элемента вышеуказанной классификации обладают ограниченным набором функций и строго определенным назначением. Направленность их заключается в получении, накоплении и поиске информации исходя из запросов пользователя. В вышеуказанном отчете подобными разновидностями ИИ признаются многие предметы, которыми человек пользуется повсеместно (к примеру, голосовые ассистенты цифровых устройств). Разграничение между Weak AI и Medium AI построено на эффективности взаимодействия с человеком, скорости принятия решений и комфорте коммуникации68.

Следует отметить, что существенные отличия имеет Strong AI, который обладает способностью к самообучению и автономному, осознанно-волевому поведению69. Указанная способность, на наш взгляд, может стать важнейшим признаком, поскольку возможность самообучения предполагает самостоятельное, автономное выявление новых знаний на основе способности к восприятию, обработке, накоплению и использованию информации внешнего мира.

Наличие способности к самообучению у сильного искусственного интеллекта выделяет его среди искусственного интеллекта других уровней автономности70.

Вышеизложенное позволяет говорить о том, что ИИ способен к поведению, не поддающемуся конструктивному прогнозированию со стороны сторонних субъектов, так как основой данного поведения являются самостоятельно сформулированные поведенческие алгоритмы.

В исследовании «Intelligent Automation Reshaping the future of work with robots» наглядно представлено поэтапное развитие искусственного интеллекта.

1. Structured data interaction (SDI) — интеллектуальная интеграция данных, когда интеграция и обмен информацией хорошо структурированы.

2. Robotic process automation (RPA) — роботизированная автоматизация процессов, основанных на системе действия с использованием сценариев.

3. Machine Learning (ML) — машинное обучение, представляющее собой обучение путем ассимиляции данных, а также с помощью анализа принятых решений.

4. Natural Language Processing (NLP) — обработка естественного языка посредством использования статистических методов и алгоритмов обучения для анализа текста с неструктурированной информацией, чтобы понять смысл, чувства и намерения.

5. Natural Language Generation (NLG) — обработка и генерация сообщений на естественном языке на основе структурированных источников.

6. Chatbots and virtual agents-чат-боты и виртуальные агенты, представляющие собой системы, которые могут интерпретировать голос/текст в свободной форме (чате), чтобы отвечать стандартными предопределенными ответами. Чат-боты могут постоянно изучать и создавать словарный запас для интерпретации неструктурированной информации, направленной на них.

7. AI-Decision Systems — системы принятия решения с искусственным интеллектом. Это системы, которые используют множество технологий, алгоритмов и моделей для решения сложных и взаимосвязанных задач, для принятия решений. Они могут быть обусловлены системами глубокого обучения и когнитивными возможностями для распознавания паттернов и применения статистических моделей и алгоритмов для принятия решений и выбора. Они также могут потенциально охватывать несколько точек принятия решений71.

В современной научной и технической литературе приводится достаточно много различных классификаций систем ИИ и возможностей их применения72. Однако учитывая методологию настоящего исследования, мы придерживались классификации ИИ, учитывающей прикладные аспекты современных цифровых технологий.

Следует отметить, что в исследовании компании PwC73 все виды ИИ разделены на две группы в зависимости от взаимодействия с человеком в их деятельности. Так, к ИИ, взаимодействующим с людьми, принято относить специальные устойчивые системы, такие как вспомогательный интеллект, который помогает людям выполнять задачи быстрее и лучше. Устойчивые системы не способны обучаться в их взаимодействиях. В указанную группу также принято относить адаптивный (дополненный интеллект), который помогает людям принимать правильные решения и способен к самообучению во время взаимодействия с человеком.

Во вторую группу, не взаимодействующую с человеком, отнесены автоматизированный интеллект, предназначенный для автоматизации механических/когнитивных и рутинных задач. Его деятельность не связана с выполнением новых задач и находится в сфере автоматизации существующих задач. В указанную группу также относится «автономный интеллект», который по своему функционалу и возможностям превосходит все предыдущие и может представлять угрозу для человечества и общества. Такой ИИ способен адаптироваться к различным ситуациям и действовать самостоятельно без участия человека74, совершая, например, кражу личности75.

Таким образом, начав с поддержки действий человека, включающих в себя интеллектуальную интеграцию данных и роботизацию автоматизированных процессов, ИИ постепенно через подражание действиям человека (машинное обучение и обработка естественного языка) переходит к подражанию интеллекту человека вплоть до его полной имитации.

Интересен также вопрос, касающийся механизма принятия решения «искусственным интеллектом». Указанный механизм был обоснован М.Т. Джонсом, по мнению которого, для поиска оптимального решения ИИ первоначально воспринимает случайное текущее решение, не оценивая его эффективность, после же производит исследование первичного случайного решения, чтобы установить его эффективность для разрешения поставленной проблемы, результатом чего выступает оригинальное решение, лишенное недостатков первичного76. Процесс принятия решения основывается на методе симуляции восстановления. Исследователь разделяет алгоритм принятия решения на пять этапов, при котором «искусственный интеллект» разрабатывает несколько альтернативно возможных решений и на основе оценки эффективности каждого из них формулирует вывод о принятии итогового решения. При этом необходимо учесть, что техническая литература не содержит указания на участие либо прикосновенность человека к деятельности «искусственного интеллекта»77.

Обладая способностью к самообучению, ИИ может дать оценку эффективности влияния на него разработчика и в последующем принять решение о невыполнении поступающих от него команд. Подобную гипотетическую ситуацию мы приводим для того, чтобы продемонстрировать реальную возможность ИИ к осознанно-волевой автономной деятельности. Указанный аспект будет рассмотрен нами несколько позднее.

Таким образом, на сегодняшний день разработано несколько подходов к толкованию дефиниции «искусственный интеллект». Кроме того, можно также обозначить ряд аспектов, касающихся исследования рассматриваемого понятия в трудах российских и зарубежных авторов, объединив их в группы.

В частности, ряд комплексно-правовых аспектов исследуемого феномена нашел свое отражение в работах таких зарубежных исследователей, как П. Черка, Ю. Григене и Г. Сирбиките, М. Шерер, А.Т. Андреа Кастильо и пр.

Правосубъектность ИИ, правовые перспективы изучения данного вопроса нашли отражение в трудах О.А. Ястребова, Г.А. Галджиева, А.В. Нестерова, Ф.В. Ужова, Г.Г. Камаловой, В.Н. Черкасова, Д.С. Гришина, Н.С. Еманова, С.Б. Полич и пр. Также данного вопроса касались и зарубежные авторы: М. Дельво, Н. Невеньяс, Л. Соумул, П. Черка, В. Курки, Д. Робертсон, Д. Винсент и пр.

Проблемы соотнесения правового регулирования и значения термина «искусственный интеллект» в области права интеллектуальной собственности исследовались авторами: А.А. Карцихия, В.Н. Синельниковой, Н.В. Алексеевым, О.В. Ревинским, Г.А. Ахмедовым, М. Ильменским, М.М. Поповским и пр. Также интерес к данной проблеме проявляли и зарубежные авторы: Э. Кайнсер, Д. Раффо, А. Гуадамус и пр.

Исследованию возможностей, особенностей, перспектив и пределов задействования технологий посвящены труды Г.А. Гаджиева, В. Шершульского, И. Кондрашова, А. Серго и пр. Также проблема задействования технологий юнитов ИИ в деятельности экспертов-криминалистов стала предметом изучения таких отечественных авторов, как Е.В. Булгакова, И.К. Кондратьева, а также зарубежных исследователей: Д. Римас, Ф. Леви, Э. Риссланд и пр.

Исследование рисков, которые имеют связь с применением «искусственного интеллекта», проведено в работах А.В. Титова, С.Н. Зайковой, О.Ю. Лозовской, А.Н. Орехова и пр. Из зарубежных авторов интерес к рассматриваемой проблеме проявили С. Хокинг, Н. Бостром, Э. Юдковский, М. Тегмарк, Э. Пальмерини и пр.

Кроме того, в своих трудах авторы касаются ряда нравственно-эстетических аспектов и проблем разработки, производства, программирования, оборота, применения, обучения, прекращения деятельности и утилизации «искусственного интеллекта». Среди исследователей, обратившихся к данному вопросу, можно назвать Ю.Ю. Петруни, А.В. Слободскую, И.М. Александрова, а также зарубежных исследователей: С. Надела, Д. Франко, Д. Балкин и пр.

Проблемы использования возможностей «искусственного интеллекта» в военных целях раскрыты в работах как отечественных авторов (А.В. Нестерова, В.Б. Козюлина, А.В. Гребенщикова, К.Л. Сазонова, С.А. Голобоко и пр.), так и зарубежных (Э. Пфэмлэн, Д. Бирк, Ю. Мякинков, К. Андерсон, М. Уоксмэн и пр.).

При этом, несмотря на широкий спектр исследований, посвященных трактовке, различным направлениям применения, а также правовым аспектам понятия «искусственный интеллект», неисследованные горизонты данной дефиниции довольно широки. По этой причине уровень интереса к многоаспектному рассмотрению и анализу термина «искусственный интеллект» достаточно высок, что позволяет говорить о достаточно широких перспективах развития подходов к ее изучению78.

Таким образом, можно с достаточной определенностью сказать, что существует множество способов описания ИИ: посредством указания на механизм действия, основных принципов работы, спектра решаемых задач и т.д. и т.п. Однако на наш взгляд, наиболее убедительна и последовательна позиция тех ученых, которые склонны к описанию феномена ИИ посредством обозначения его существенных свойств и ключевых характеристик (способность к рассуждению и контролю, обучению и развитию, автономности деятельности и принятия решений, соответствующих общечеловеческой морали и этике, и т.д.).

При этом все указанные признаки в той или иной степени определяют значительные затруднения прогнозирования поведения ИИ, что представляется особо значимым с точки зрения правовой науки, поскольку позволяет определять ИИ как полноценного субъекта правоотношения.

В связи с вышеизложенным, предлагаем ввести в научный оборот авторский вариант понятия «искусственный интеллект» как правовой категории, под которым следует понимать когнитивно-интеллектуальную и адаптивно-автономную систему, наделенную способностями к осознанно-волевому поведению, позволяющую имитировать деятельность нейронов и нейронных сетей человеческого мозга посредством обработки информации, поступающей из окружающей среды.

Обобщая вышеизложенное, следует резюмировать, что ИИ стал предметом научного изучения относительно недавно, именно поэтому имеет место недостаточное определение его структуры, а также круга вопросов, которые с ним связаны (хотя предпосылки изучения ИИ и имели место уже в начале XVIII века, формирование направления началось только в середине 40—50-х гг. XX века). В современный период новейшей истории необходимость создания искусственного интеллекта находится в центре внимания научного сообщества, при этом интерес к данному явлению имеет место как у специалистов технического профиля, так и гуманитарного. В течение длительного времени был предпринят ряд попыток создания самостоятельно мыслящей и действующей системы, именуемой ИИ и осуществляющей свою деятельность параллельно с человеческой сознательной деятельностью. ИИ выступает как производная от интеллекта естественного. Проблема определения ИИ часто сводилась к определению интеллекта в целом. Поиск ответов на такие вопросы, как «Интеллект — это некое монолитное формирование, или оно включает совокупность ряда способностей? Может ли ИИ быть создан? Есть ли возможность создания компьютерных машин, которым свойствен интеллект?», стал основой формирования современной теории и практики ИИ.

1.3. Робототехника и искусственный интеллект: проблемы разграничения понятийного аппарата

На сегодняшний день искусственный интеллект и робототехника, как автономные области науки, получают интенсивное параллельное развитие как в теоретическом, так и в практическом плане. Инновационные робототехнические и интеллектуальные системы имеют широкое распространение за пределами исследовательских центров. К разработкам в области робототехники и ИИ проявляют интерес государственные корпорации, представители бизнеса, по внедрению таких разработок организуются различные стартапы и пр.

Робототехника и ИИ сегодня становятся частью жизни человека, поэтому правовая оценка их природы и регламентация порядка использования стала важнейшей задачей отечественного правоведения. Однако прежде чем разграничить правовые подходы к данным категориям, необходимо сказать, что сегодня имеет место одно фундаментальное заблуждение, основанное на том, что ИИ и робототехника считаются понятиями или близкими по значению, или полностью идентичными друг другу. Это совсем не так. Попробуем доказать это, разграничив понятийный аппарат данных категорий, основываясь на технологическом и правовом подходе. Даже в техническом плане определения понятий «искусственный интеллект» и «робототехника» отличны друг от друга.

Кроме того, нужно иметь в виду, что робототехника не является синонимом искусственного интеллекта79.

Как отмечалось нами в предыдущем параграфе настоящего исследования, на сегодняшний день отсутствует легальное определение термина «искусственный интеллект», при этом вариантов авторского толкования данного понятия в науке более дюжины. Это же относится и к категориям «робот», «робототехника», «разумный робот» и пр.

Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами. Уже сейчас мы тратим заметную часть времени на взаимодействие с механическими подобиями людей в видеоиграх или в виртуальных системах — от FAQbots до Siri. Кем они станут — нашими слугами, помощниками, коллегами или хозяевами?

Джон Маркофф,
американский журналист,
книга «Homo Roboticus? Люди и машины в поисках взаимопонимания», 2015 год

Обратимся к определению понятия «робототехника». В существующих сегодня исследованиях отмечено, что в широком смысле робот должен воздействовать на окружающую среду, получать от нее обратную связь и представлять собой собственно машину. При этом внешний вид робота должен быть стандартным для восприятия человеком80.

Однако если следовать логике, то необходимо отметить, что в качестве ключевого свойства «робота» должно все же выступать кибернетическое начало, соответственно, он должен являться неким устройством или механизмом. Сегодня это один из основных критериев, позволяющих с большой долей условности разграничить роботов и, например, программное обеспечение в чистом виде. Интересно, что после К. Чапека, впервые введшего в обиход указанный термин81, единого определения понятия «робот» так и не было сформулировано.

Чтобы проанализировать семантику термина «робот», обратимся к толковым словарям. Существующие толковые словари определяют термин «робот» следующим образом:

— автомат, осуществляющий действия, подобные действиям человека82;

— машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно83;

— механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди84;

— машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм85.

Можно сказать, что все авторы словарей, при разнообразии тех или иных характеристик, сходятся в том, что робот — это некое устройство, машина и пр.

В литературе широко представлены подходы, посвященные анализу содержания исследуемого понятия. Так, П. Хаббард выделяет ряд характеристик, свойственных непосредственно роботам. В частности, роботы должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию86. По его мнению, из вышепредставленных характеристик интерес представляет только автономность, благодаря которой «робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи»87.

Авторы европейского проекта Robolaw предлагают свою классификацию исходя из особенностей роботов88. Так, по их мнению, роботы могут классифицироваться по:

— сфере применения или выполняемым задачам;

— окружающему пространству (воздух, земля, вода и человеческое тело и пр.);

— форме воплощения (воплощенные или бестелесные);

— взаимодействию с человеком;

— автономности и пр.

Согласно точке зрения авторов исследования, проведенного под эгидой специализированного учреждения ООН по вопросам образования, науки и культуры (далее — ЮНЕСКО)89, современный робот может быть охарактеризован посредством четырех ключевых особенностей: мобильности, интерактивности, обмена информацией и автономии.

В свою очередь, российская правовая доктрина не дает легального определения термина «робот», но попытки определить данную категорию имеют место. П.М. Морхат считает, что «робот выступает автоматическим, полностью или частично автономным системным устройством, призванным выполнять различного рода работы»90.

В.Б. Наумов и В.В. Архипов определяют понятие «робот» как устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека91.

А разве психология роботов так отличается от человеческой? — Огромная разница. — Она позволила себе холодно улыбнуться. — Прежде всего, роботы глубоко порядочны.

Айзек Азимов,
писатель-фантаст, лауреат премий «Хьюго» и «Небьюла»,
сборник рассказов «Я, робот», 1950 год

Если обратиться к исследованию Сбербанка России «Аналитический обзор мирового рынка робототехники» от 12 апреля 2018 г., то можно увидеть, что здесь робот представляет собой «любое устройство или механизм, выполняющий предназначенные ему действия, которое одновременно отвечает трем условиям: воспринимает окружающий мир с помощью сенсоров, понимает окружающий мир и строит модели поведения, воздействует на физический мир тем или иным способом»92.

Так как на сегодняшний день действующее законодательство не дает полноценного определения рассматриваемой категории, считаем целесообразным обратиться к ГОСТ. Р ИС. 8373-2014, который может позиционироваться сегодня как ключевой документ в части исследуемой терминологии. Данный нормативно-технический документ толкует термин «робот» как «приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»93. Попытка универсализации данного определения налицо, однако некоторые уточнения все же в будущем будут необходимы.

Таким образом, можно с достаточной определенностью сказать, что каждая сфера использования налагает определенные оттенки на определение термина «робот». Однако среди ключевых характеристик робота можно выделить несколько общих, которые касаются механизма, физического начала, искусственности, наличия автономности действий, программируемости, возможности воспринимать окружающую среду, взаимодействовать с ней, наличия привода.

К необязательным характеристикам робота можно отнести способность самообучаться, телеуправление.

Понятие и содержание термина «искусственный интеллект» было детально рассмотрено нами в предыдущем параграфе, поэтому резюмируем, что ИИ свойствен ряд ключевых характеристик:

— на первом месте находится описание программы или алгоритма, аппаратное воплощение может отсутствоват

...