Искусственный интеллект и право:
от фундаментальных проблем к прикладным задачам

Монография

---

ebooks@prospekt.org

Информация о книге

УДК 004.8:34

ББК 32.813:67

И86

Авторы:
Кутейников Д. Л., кандидат юридических наук, доцент кафедры конституционного и муниципального права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА);
Ижаев О. А., кандидат юридических наук, заместитель директора института бизнес-права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА);
Зенин С. С., кандидат юридических наук, доцент, директор института государства и права Тюменского государственного университета, проректор Тюменского государственного университета;
Лебедев В. А., доктор юридических наук, профессор, профессор кафедры конституционного и муниципального права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), заслуженный юрист РФ, заслуженный деятель науки РФ.

Рецензенты:
Полякова Т. А., доктор юридических наук, профессор, заслуженный юрист РФ, заведующая сектором информационного права ИГП РАН, действительный государственный советник юстиции РФ 3-го класса, почетный работник юстиции;
Минбалеев А. В., доктор юридических наук, доцент, заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА).

Настоящая монография представляет собой междисциплинарное исследование фундаментальных проблем и прикладных задач правового регулирования использования систем искусственного интеллекта (ИИ). В работе рассмотрено влияние технологических революций на развитие общественных отношений, вследствие которого менялись устоявшиеся правовые подходы. Результатом технологического прогресса последних десятилетий стало появление технических средств, способных принимать самостоятельные решения, в том числе имеющие юридическое значение. Такая автономность технических средств обусловила возникновение ряда фундаментальных юридических проблем.

Законодательство приведено по состоянию на 1 февраля 2022 г.

В монографии определены и исследованы наиболее существенные проблемы: делегирование системам ИИ возможности принятия решений, установление субъекта ответственности за вред, причиненный системами ИИ, прозрачность и подотчетность функционирования систем ИИ. На основе полученных результатов авторам удалось перейти к формулированию подходов к разрешению прикладных задач, что позволило разработать предложения по совершенствованию отечественной концепции нормативного правового регулирования применения систем ИИ.

Исследование подготовлено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16193 «Теоретические основы построения правовых моделей взаимодействия человека с киберфизическими, кибербиологическими и искусственными когнитивными системами».

Изображение на обложке предоставлено авторами.

УДК 004.8:34

ББК 32.813:67

© Коллектив авторов, 2022

© ООО «Проспект», 2022

ВВЕДЕНИЕ1

Настоящее время характеризуется стремительным развитием цифровых технологий, видоизменяющих устоявшиеся общественные отношения. Реализация накопленного за последние десятилетия технологического потенциала становится причиной трансформации экономической, социальной, культурной и политической сфер жизни общества. Закончившаяся на рубеже тысячелетий так называемая «зима искусственного интеллекта» привела к экспоненциальному росту возможностей применения таких технологий в самых разных областях общественной жизни. В повседневность каждого из нас прочно вошла практика использования устройств и программного обеспечения, функционирующих на основе технологий искусственного интеллекта. Данные технологии буквально ежедневно помогают в удовлетворении нужд человека и общества различного характера — от поиска и отбора контента для личного потребления до обеспечения безопасности в публичных местах.

Современный уровень развития технологий позволяет говорить о существовании систем искусственного интеллекта, которые способны, как и их создатели, самообучаться и действовать автономно в определенном контексте. Широкое использование таких систем имеет неоспоримые преимущества, в частности, человек освобождается от необходимости выполнения рутинных задач и тем самым создаются благоприятные условия для его творческого развития2. Вместе с тем преимуществам использования систем искусственного интеллекта корреспондируют определенные риски. Например, их неподконтрольное применение может приводить к нарушению неприкосновенности частной жизни, дискриминации при принятии такими системами решений, причинению вреда здоровью и имуществу человека, манипулированию поведением посредством использования рекомендательных алгоритмов.

Право, являясь основным регулятором общественных отношений, возникло и развивается исключительно в целях удовлетворения интересов человека; конкретная личность является его главной ценностью. Правовое регулирование общественных отношений в сфере искусственного интеллекта не должно стать преградой, чрезмерно ограничивающей человека от использования достижений технического прогресса. С одной стороны, следует создать благоприятные правовые условия для беспрепятственного функционирования систем искусственного интеллекта, а с другой — нужно предусмотреть правовые гарантии обеспечения прав и законных интересов каждого человека. В связи с этим в настоящей работе рассматривается актуальный для юридической науки вопрос, который заключается в выявлении и разрешении ряда фундаментальных правовых проблем, вызванных применением систем искусственного интеллекта в общественном пространстве.

Глава 1.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ВЛИЯНИЕ НА ПРАВО, ЮРИДИЧЕСКАЯ ТЕРМИНОЛОГИЯ, КОНЦЕПЦИИ ПРАВОВОГО РЕГУЛИРОВАНИЯ

§ 1. Технологические революции и развитие общественных отношений: как внедрение искусственного интеллекта влияет на право

В научных исследованиях и литературе вопрос влияния технологического развития на эволюцию общества изучается длительное время, ему посвящено обширное количество трудов. Общепринятой в современной науке является позиция, которая заключается в том, что развитие общества не подчинено тотально какой-либо одной движущей силе, отвергаются технологический, экономический, политический и иные детерминизмы. Общество представляет собой сложную материю, на развитие которой в разной степени влияют многочисленные факторы. Сведение закономерностей его развития к влиянию какого-то отдельного фактора представляется ошибочным.

Вместе с тем игнорировать влияние технологического развития на возникновение и видоизменение общественных отношений также представляется нецелесообразным. Сейчас каждый человек становится свидетелем того, как в отдельных сферах общественной жизни будущее постепенно становится реальностью благодаря внедрению инноваций. Например, рост вычислительных мощностей, в том числе за счет квантовых вычислений, машинное обучение, интернет вещей, передовые материалы, аддитивное производство и многомерная печать, биотехнологии и нейротехнологии, виртуальная и дополненная реальность, блокчейн имеют широкий спектр применения и в обозримой перспективе могут стать причиной как возникновения новых общественных отношений, так и трансформации уже существующих.

Цифровая трансформация различных сфер жизни общества в последнее десятилетие стала центром внимания общественности и государственных институтов. Человечество переживает период массового внедрения в практику накопленных знаний. В частности, Ли Кайфу характеризует современность как «эпоху воплощений», которая предполагает создание конкретных продуктов на основе результатов исследований предыдущих десятилетий3. В истории такие периоды принято называть технологическими (промышленными) революциями, в ходе которых в результате постепенного внедрения новых технических средств происходит трансформация сложившихся в обществе отношений.

Схожие последствия наблюдались и в ходе предыдущих трех технологических революций: внедрение новых технологий влияло прежде всего на изменение экономической и социальной структуры общества, что в итоге приводило к определенной трансформации права как основного регулятора общественных отношений. Поэтому для понимания того, как технологическое развитие влияет на право, нужно прежде всего изучить особенности развития общественных отношений в условиях известных истории технологических революций.

Первая технологическая революция произошла на территории Англии в 1760–1830-х годах. Объяснению данного феномена и выявлению его причин посвящено значительное число работ. Такое достижение, как изобретение парового двигателя и хлопчатобумажной прядильной машины, а также начало производства железа с использованием каменноугольного кокса и развитие путей сообщения являлись технологической основой промышленной революции4. Распространению и широкому применению данных изобретений именно в Англии способствовали высокая стоимость рабочей силы и дешевая энергия5, что явилось большим стимулом для предпринимателей к поиску более технологичных способов замены человеческого труда. В других европейских странах индустриализация также имела место, хотя проходила с отставанием и с оглядкой на опыт Англии6.

Производство в доиндустриальное время было сосредоточено в небольших населенных пунктах, в рамках домохозяйств, члены которых были связаны, как правило, родственными отношениями. Жители данных населенных пунктов обеспечивали практически все свои потребности самостоятельно, дистанция между производителем и потребителем не выходила за рамки соответствующих поселений7. Фабричное производство, отличительной особенностью которого являлась замена ручного труда на машинный, позволило выпускать продукцию в невиданных ранее количествах, тогда как развитие путей сообщения способствовало распространению товаров на дальние расстояния. Это привело к усложнению общественных отношений, связанных с производством, распространением и потреблением экономических благ.

Привычные способы производства были видоизменены, владельцы крупных капиталов концентрировали в своих руках сотни станков, устанавливали их в изолированных помещениях, в которых организовывали рабочие места. В XVIII веке в Англии достаточно часто происходили беспорядки, связанные с борьбой против массового внедрения машин. Фабричная дисциплина, предполагающая работу строго по расписанию, была крайне непривычной для населения. Опять же с учетом высокой стоимости рабочей силы предприниматели шли на ухищрения, массово пользуясь трудом женщин и детей, поскольку работа на машинах не требовала физической силы и труд их стоил очень дешево. Они также не могли организованно противодействовать угнетению со стороны владельцев собственности. Рабочий день ограничивался только физическим истощением детей и мог длиться 14–16, а то и 18 часов. Надсмотрщики, жалованье которых складывалось в зависимости от наработки мастерской, не позволяли замедлять работу ни на минуту8. Помимо этого, на производстве происходило большое количество несчастных случаев, были распространены заразные болезни из-за антисанитарии в фабричных помещениях.

Развитие фабричного производства также привело к урбанизации сельского населения. Доля городского населения в Англии в 1500 году составляла 7%, а к 1800 году эта цифра достигла уже 29%, показав самую большую динамику среди европейских стран9. Массовое скопление людей в промышленных центрах привело к серьезным проблемам в жилищной сфере. Люди проживали в непригодных для этого маленьких помещениях. Одновременно с этим начиналось зарождение рабочего класса, происходила сегментация общества на работодателей и работников. Возник естественный конфликт интересов: работодатели стремились производить как можно большее количество продукции с максимально низкими издержками, а работники — получить высокую заработную плату, повысить качество условий труда.

Существуют различные подходы к пониманию того, каким образом развитие рассматриваемых технологий повлияло на уровень жизни населения. Например, в работе Дж. Мокира утверждается, что рост уровня жизни до 1850 года был достаточно низким и улучшение условий жизни рабочего класса происходило медленно и с запозданием10. Напротив, согласно позиции Г. Хоука11, уровень потребления постоянно рос и повышались средние доходы населения. Результаты исследования Р. М. Хартвелла, которые весьма убедительны, свидетельствуют о повышении среднего дохода на душу населения, падении цен, увеличении потребления12. Таким образом, реальные доходы большинства рабочих в период 1800–1850-х годов росли. Несмотря на сказанное, важное значение имеет то, что повышение уровня жизни широких слоев населения было совершенно непропорциональным общим экономическим успехам, связанным с технологической трансформацией13. Основными выгодополучателями технологической революции стали лица, уже обладающие капиталом.

В рассматриваемый период в Англии и в европейских странах господствовал принцип невмешательства (laissez-faire), в соответствии с которым отвергалось всякое вмешательство со стороны государства в естественно складывавшиеся экономические отношения. Такой подход предполагал отсутствие существенных правовых ограничений в сфере хозяйственной деятельности и тем самым являлся наиболее благоприятным для извлечения максимальных экономических выгод от применения новых технологий.

К примеру, вплоть до конца XVIII века в Англии действовал Закон «Об оседлости» (The Act of Settlement, 1662), который давал право властям высылать всякое лицо, находящееся в чужом приходе (община, административная единица), чтобы оно не легло бременем на соответствующий приход. Такое ограничение свободы передвижения рабочей силы в условиях расцвета экономических отношений и фабричного производства не было на пользу ни самим рабочим, ни тем более владельцам собственности. Рабочий не мог отправиться на тот рынок, на котором мог продавать свой труд наиболее выгодным образом, а промышленник развивал свое предприятие вопреки данному закону, нарушая его и используя труд приезжих. В силу возникновения массового запроса со стороны работодателей и работников данный закон был отменен более поздним актом (The Poor Removal Act, 1795)14.

Наемные работники в конце XVIII века вследствие большого количества разногласий с работодателями часто прибегали к вступлению в рабочие союзы, проведению публичных мероприятий с целью защиты своих прав социального характера. Однако государство не пыталось урегулировать адекватными правовыми инструментами потенциально конфликтные общественные отношения. Вместо этого, действуя в логике принципа невмешательства в экономические отношения, был принят закон (The Combination Act, 1799), запрещающий организацию трудовых союзов и еще сильнее ухудшающий бесправное положение рабочих15.

Представляется, что большинство отрицательных социальных последствий внедрения современных технологий можно было бы смягчить законодательными методами. Как было подчеркнуто, в первое время политическая власть была на стороне предпринимателей, которые вправе были организовывать работу на своих предприятиях по своему усмотрению. Вместе с тем государство постепенно начало понимать неизбежность принятия мер, направленных на смягчение социальной напряженности между различными слоями общества. Данное обстоятельство привело к зарождению социального законодательства, которое в дальнейшем служило для многих европейских стран примером.

В частности, в первой половине XIX века начинали приниматься нормативные правовые акты, предоставлявшие рабочим ряд социальных прав. В 1802 году был принят важнейший Закон «О здоровье и нравственности» (The Health and Morals of Apprentices Act, 1802), устанавливавший требования к работодателям: повысить качество условий труда, предоставлять одежду для малолетних, проводить инструкции по технике безопасности для малолетних, ограничить время работы малолетних, проводить медицинский осмотр рабочих и не допускать распространения инфекций на производстве16. Также были приняты Законы «О хлопкопрядильных фабриках» (The Cotton Mills and Factories Act, 1819), «О фабриках» (The Factories Act, 1833), «О фабриках» (The Factories Act, 1844), «О сокращении рабочего дня для женщин и подростков» (The Ten Hours Act, 1847), «О фабриках» (The Factories Act, 1850). Новая модель правового регулирования, возникновение которой началось с защиты работников текстильной промышленности, распространилась на все отрасли обрабатывающей промышленности, в которых был задействован ручной труд.

Вторая технологическая революция представляет собой естественное продолжение первой, поскольку основой всех технологических достижений являлись предыдущие изобретения. Революция происходила в период с 1870 по 1930 год. В отличие от первой промышленной революции, технологии второй возникли преимущественно в результате проведения научно-исследовательских работ17. В это время наиболее важное влияние на развитие экономических и иных отношений в передовых странах оказали инновации, на основе которых стало возможно массовое производство и использование двигателей внутреннего сгорания, автомобилей, железнодорожного транспорта, телеграфа и радио.

Известный историк экономики Д. Лэндис отмечает, что предпосылками всех существенных изменений в производстве, присущих тому времени, были некоторые технологические новшества. Во-первых, — разработка современных материалов и новых способов изготовления уже известного сырья, прежде всего изобретение недорогого способа производства высококачественной стали, а также многочисленные инновации в химической промышленности. Во-вторых, — новые источники энергии, в частности двигатели внутреннего сгорания, топливо и электричество. В-третьих, — механизация и разделение труда: рост крупных промышленных предприятий стимулировал проведение научных исследований в целях поиска наиболее оптимальной организации труда18. В результате этого возникла известная система, которая получила название «тейлоризм» и внесла огромный вклад в повышение эффективности производства товаров широкого потребления. Также важным новшеством стало использование конвейерного производства, что привело к беспрецедентному развитию машиностроения. Описанные технологии изначально применялись в отдельно взятых отраслях, но впоследствии широко распространились во всех секторах экономики.

Вместе с тем произошедшие изменения в технологиях производства повлекли не революционные, а эволюционные изменения социальной структуры. Они привели к стремительному развитию тенденций, начавшихся в период первой промышленной революции. К концу XIX века индустриализация активно шла в Великобритании, Германии, Франции и Бельгии, а также в некоторых других странах. Динамично увеличивалась доля занятых в промышленном секторе, население массово мигрировало в города, росло количество крупных фабрик и повышалась производительность труда19.

Рассмотренные процессы привели к увеличению класса наемных рабочих, занятых на промышленных предприятиях. Сдерживать недовольство наемных рабочих, требующих улучшения условий труда и повышения заработной платы, становилось все сложнее. Социальная напряженность вела к постоянному столкновению рабочих с владельцами собственности и представителями власти.

В качестве примера того, каким образом государство реагировало на изменения общественных отношений, целесообразно привести опыт Германии. Одна из причин такого выбора заключается в том, что именно Германия считается страной, наиболее успешно с точки зрения экономического роста применившей технологии второй промышленной революции20. Несмотря на это, заработная плата рабочих оставалась катастрофически низкой, средств едва хватало на удовлетворение минимальных жизненных потребностей. Уровень социального неравенства в Германии хорошо иллюстрируется разницей заработной платы представителей различных слоев общества. Так, в 1876 году машинист, живущий в Мюнхене, получал около 270 марок в год, типичный учитель начальной школы — порядка 1,6 тысячи марок, а юрист, занимающийся частной практикой, имел около 34 тысяч марок в год21. По указанным причинам в то время были крайне популярны идеи левого толка, дух революции бродил по всей Европе.

Если в 1875 году в Германии рабочих, организованных в трудовые союзы, насчитывалось около 25 тысяч, то к 1877–1878 годам эта цифра достигла 47 тысяч22. Опасаясь революционно настроенных трудовых организаций, в объединенной Германской империи по инициативе канцлера О. фон Бисмарка началось осуществление социальных реформ. В рамках их реализации была создана система социального страхования, основанная на ряде законов. В частности, Рейхстаг издал три первых Закона: о страховании по болезни (1883), о страховании от несчастных случаев (1884), о страховании по инвалидности и по старости (1889). Изложенные практические меры были основаны на понимании того, что в целях адекватной реакции на стремительно меняющиеся общественные отношения нужно видоизменить подход к распределению национального богатства. Базовым фундаментом этих реформ послужила теория социального государства, основоположником которой является общественный деятель Л. фон Штейн. Данная теория сложилась под влиянием философии Г. Гегеля, французских социалистических доктрин, английской экономической теории. Именно Л. фон Штейн ввел в научный оборот понятие «социальное государство»23. Анализируя политические требования, выдвигаемые рабочим классом во Франции, а также опираясь на положения Декларации прав человека и гражданина (1789), на принципы и нормы, закрепленные в Конституции Франции, принятой 3 сентября 1791 года, Л. фон Штейн приходит к выводу, что сосуществование различных классов общества должно основываться на принципе социальной солидарности.

Третья технологическая революция началась во второй половине XX века и была связана с переходом от механических и аналоговых электронных устройств к цифровым. Инновации произошли в трех главных технологических областях: микроэлектронике, компьютерной технике и телекоммуникациях24. Распространение изобретений предыдущих промышленных революций было крайне ограничено географическими факторами и требовало длительного времени, чтобы охватить существенную часть мира. Благодаря возникновению информационно-коммуникационной сети, позволяющей мгновенно обрабатывать и передавать информацию, в течение двух десятилетий передовые технологии стали использоваться во многих странах. Созданные технологии сами по себе стали платформой для распространения знаний по всему миру, информация начала восприниматься как значимый экономический ресурс. Особенностью данной революции также является то, что эти технологии нашли глубокое и широкое применение в экономических, политических, социальных и культурных отношениях.

Стремительному внедрению в общественную практику передовых технологий способствовала беспрецедентная скорость удешевления и упрощения производства электронно-вычислительных машин и их комплектующих. В частности, изготовление микросхем при использовании планарного процесса привело к технологическому прорыву. Всего за три года цены на полупроводники упали на 85%, а в следующие десять лет производство выросло в 20 раз25. К примеру, в Англии в период индустриальной революции потребовалось 70 лет (1780–1850), чтобы цены на хлопчатобумажные ткани упали на 85%26.

В новой экономической парадигме важнейшим фактором повышения производительности труда и конкурентоспособности субъектов хозяйственных отношений является их способность создавать, обрабатывать и эффективно использовать информацию, в том числе при помощи автоматизированных систем. Кроме того, экономика начинает приобретать глобальный характер, поскольку основные виды хозяйственной деятельности, такие как производство, потребление и движение товаров и услуг, а также их составляющие (капитал, труд, сырье, управление, информация, технология, рынки) организуются в общемировом масштабе.

Ведущие ученые согласны в том, что в это время наблюдается революционное изменение всей общественной жизни. Так, Д. Белл говорит о становлении постиндустриального общества, отличительными особенностями которого являются переход от экономики производства к экономике услуг, доминирование профессионального и технического класса, центральная роль теоретических знаний, планирование технологии, создание «интеллектуальной технологии»27. Согласно известной концепции трех волн Э. Тоффлера, этот период считается третьей волной, которая несет с собой присущий ей новый строй жизни, основанный: на разнообразных возобновляемых источниках энергии; методах производства, делающих ненужным большинство фабричных сборочных конвейеров; новых ненуклеарных семьях; новой структуре, которую можно назвать «электронный коттедж»; радикально измененных школах и объединениях будущего. Если вторая волна породила массовое общество, третья волна демассифицирует его, сдвигая всю социальную систему на более высокий уровень разнообразия и сложности28.

Конец XX – начало XXI века ознаменует формирование отрасли информационного законодательства. Фундаментальным источником всех прав, возникших в информационную эпоху, является право на информацию, закрепленное ст. 19 Всеобщей декларации прав человека, согласно которой «каждый человек имеет право на свободу убеждений и на свободное выражение их; это право включает свободу беспрепятственно придерживаться своих убеждений и свободу искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ»29.

Важным международным актом в данной области является принятая в 1981 году Советом Европы Конвенция о защите физических лиц в отношении автоматизированной обработки данных личного характера30, цель которой — обеспечение для каждого физического лица, независимо от его гражданства или места жительства, уважения его прав и основных свобод, в частности его права на неприкосновенность частной жизни, в отношении автоматизированной обработки касающихся его персональных данных.

В 2000 году странами — участницами G8 была принята Окинавская хартия глобального информационного общества31, являющаяся ответом на вызовы XXI века и развивающиеся информационные технологии. Также в 2001 году была заключена Европейская конвенция о преступности в сфере компьютерной информации32.

Параллельно с этим принимались национальные акты, которые заложили основу правового регулирования общественных отношений, связанных с информацией. Так, в США были приняты Законы: «Об административной процедуре» (1946), «О свободе информации» (1966) (действует в редакции Закона о свободе электронной информации 1996 г.), «О неприкосновенности частной жизни» (1974), «Об открытости правительства» (1976). Подобные законы были приняты и в других странах, например: Закон Норвегии «О свободе информации» (1970), Закон Франции «О доступе к административным документам» (1978), Закон Дании «О доступе к административным документам» (1985), Закон Нидерландов «О правительственной информации» (1978), Закон Новой Зеландии «Об официальной информации» (1982), Закон Франции «Об информатике, картотеках и свободах» (1978), Закон Люксембурга «Об использовании номинативных данных в компьютерной обработке» (1979) и др. Именно эти документы заложили основы современного подхода к регулированию информационных отношений, прежде всего в части информационных прав и свобод личности.

Третья технологическая революция привела к становлению информационного общества. Цифровые технологии позволили мгновенно производить, обрабатывать и передавать информацию. Использование та

...