И. Р. Бегишев

Уголовно-правовая охрана общественных отношений, связанных с робототехникой

Монография

---

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.89

ББК 67.408:32.816

Б37

Изображение на обложке с ресурса Shutterstock.com

Автор:

Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник, доцент кафедры уголовного права и процесса Казанского инновационного университета имени В. Г. Тимирясова.

Рецензенты:

Лопатина Т. М., доктор юридических наук, доцент, заведующий кафедрой уголовно- правовых дисциплин Смоленского государственного университета;

Ефремова М. А., доктор юридических наук, доцент, профессор кафедры уголовно- правовых дисциплин Казанского филиала Российского государственного университета правосудия;

Русскевич Е. А., доктор юридических наук, профессор кафедры уголовного права Московского университета Министерства внутренних дел Российской Федерации имени В. Я. Кикотя.

В монографии впервые проведено комплексное исследование уголовно-правовой охраны общественных отношений, связанных с робототехникой, разработана авторская концепция ответственности за соответствующие общественно опасные деяния. Даны теоретические основы уголовно-правовой охраны общественных отношений, возникающих по поводу разработки, создания, эксплуатации и иного использования роботов. Сформулированы предложения, направленные на совершенствование уголовного законодательства об ответственности за преступные посягательства, сопряженные с применением роботов и в отношении них.

Законодательство приведено по состоянию на 1 января 2022 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся проблемами уголовно-правовой охраны общественных отношений, связанных с робототехникой.

УДК 343.3/.7:004.89

ББК 67.408:32.816

© Бегишев И. Р., 2022

© ООО «Проспект», 2022

СПИСОК СОКРАЩЕНИЙ И УСЛОВНЫХ ОБОЗНАЧЕНИЙ

FHI	—	Институт будущего человечества;
G 20	—	Клуб правительств и глав центральных банков государств с наиболее развитой и развивающейся экономикой;
IFR	—	Международная федерация робототехники;
БПВС	—	беспилотные воздушные судна;
БПЛА	—	беспилотные летательные аппараты;
БПТС	—	беспилотные транспортные средства;
ВС РФ	—	Верховный Суд Российской Федерации;
ГК РФ	—	Гражданский кодекс Российской Федерации;
ДТП	—	дорожно-­транспортное происшествие;
ЕП	—	Европейский парламент;
ЕС	—	Европейский союз;
КОМЕСТ	—	Всемирная комиссия по этике научных знаний и технологий;
КС РФ	—	Конституционный Суд Российской Федерации;
МСЭ	—	Международный союз электросвязи;
НАУРР	—	Национальная Ассоциация участников рынка робототехники;
ООН	—	Организация Объединенных Наций;
ОЭСР	—	Организации экономического сотрудничества и развития;
РФ	—	Российская Федерация;
СЕ	—	Совет Европы;
СМИ	—	средства массовой информации;
США	—	Соединенные Штаты Америки;
УК РФ	—	Уголовный кодекс Российской Федерации;
ЮНЕСКО	—	специализированное учреждение Организации Объединенных Наций по вопросам образования, науки и культуры.

ВВЕДЕНИЕ

Технологии, лежащие в основе Индустрии 4.0, влекут коренные изменения во всех отраслях человеческой деятельности. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы успешно применяются в промышленности и строительстве, в здравоохранении и образовании, в быту, в сельском и жилищно-­коммунальном хозяйствах, в военной и космической областях, а также в других сферах. Одновременно они создают значительные и все возрастающие риски для охраняемых уголовным законом общественных отношений.

По данным Международной федерации робототехники (далее — IFR), количество промышленных роботов на сегодняшний день достигло невиданных масштабов — 3 млн штук, что на 10% больше, чем в 2020 году1. В 2021 году на 12% возросло и использование сервисных роботов по всему миру2. Более 73% глобальных установок роботов сосредоточено в пяти странах (Китайская Народная Республика, Государство Япония, Республика Корея, Федеративная Республика Германия и Соединенные Штаты Америки (далее — США))3. Россия сегодня находится во втором эшелоне стран по использованию промышленных роботов, однако разрыв стремительно сокращается.

Согласно информации Национальной Ассоциации участников рынка робототехники (далее — НАУРР), в 2021 году российский рынок робототехники насчитывает 170 производителей промышленных роботов4 и 270 компаний-­разработчиков профессиональных сервисных роботов5. Планируется, что к 2024 году указанный сегмент робототехники возрастет почти вдвое — до 17,4 млрд руб.6

Инновационные технологии создания и производства роботов демонстрируют экспоненциальное развитие: создаваемые машины приобретают новые характеристики, существенно расширяющие их функционал, ввиду чего разрабатываемые и перспективные роботы могут выпадать из правового поля, не являясь тождественными ­какому-либо предмету, признаваемому в качестве объекта соответствующих правоотношений. Уже сейчас создание, разработка и использование различных робототехнических устройств является объективной реальностью. При этом роботы перманентно видоизменяются, расширяя пределы своих функциональных возможностей, чем сообразно изменяют характер, формы, методы, средства и способы взаимодействия человека с ними.

Устойчивое и безопасное развитие робототехники является важной государственной задачей, успешная реализация которой позволит России открыть новые экономические рынки, изменить в свою пользу сложившиеся мировые торгово-­финансовые отношения. Указанные процессы диктуют необходимость создания контрольно-­надзорных механизмов за действиями роботов и охраны общественных отношений, возникающих на этапах их создания и функционирования.

Дистанцирование от вопросов правового, в том числе государст­венно-­запретительного воздействия на общественные отношения, порожденные роботами, представляются деструктивным вектором, влекущим деактуализацию правовых предписаний, снижение их эффективности. Изменения в структуре и характере общественных отношений, вызванные внедрением в них робототехнических технологий, должны находить адекватное и соответствующее социальной действительности отражение в нормативных правовых актах, включая уголовное законодательство.

В случае запаздывая процессов трансформации правовых предписаний возможно возникновение криминальных областей разработки, производства и применения роботов. Подобное положение представляет собой объективную угрозу.

Совершенно справедливы слова Президента Российской Федерации В. В. Путина о том, что необходимо «обеспечить использование прорывных цифровых технологий для осуществления национальных целей, преображения России и укрепления ее позиций в мире»7.

Утверждение 19 августа 2020 года распоряжением Правительства Российской Федерации Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года8 ознаменовало новый этап в регулировании сквозных цифровых технологий. Принятие Концепции наряду с Национальной стратегией развития искусственного интеллекта до 2030 года9 стало признанием российским обществом и правительством серьезных вызовов и угроз, которые возникли и продолжают расти с развитием технологий искусственного интеллекта и робототехники, что ставит важную задачу перед правовой системой в целом и уголовным правом в частности.

Таким образом, перед наукой уголовного права возникает задача особой значимости — обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники. Немаловажную роль в указанных процессах занимает также проработка механизмов уголовной ответственности за причинение вреда с использованием робототехники10.

Робототехника, будучи сквозной цифровой технологией, содержит существенные риски и угрозы. И тому есть объективные подтверждения. Последние пять лет все больше стран стали заявлять об использовании роботов в военных целях, не исключением является и Российская Федерация11. Особую озабоченность подобные инциденты вызывают в свете растущей автономности роботов от человека.

Общественные, международные организации и межгосударственные объединения призывают ограничить оборот автономных роботов в военных целях, поскольку это создает прямую угрозу соблюдению принципов защиты прав и свобод человека и гражданина, обеспечению безопасности личности, общества и государства. И если экспертами делались прогнозы о том, что угроза автономной робототехники для человеческих ценностей станет реальной в ближайшие 20–25 лет, то реальность, к сожалению, диктует свои правила. В мае 2021 года широкой публике был представлен Доклад группы экспертов Совета Безопасности Организация Объединенных Наций по Ливии, где отмечалось, что впервые в истории боевой робот самостоятельно выследил и уничтожил человека по собственной инициативе и без участия оператора12.

Немало рисков для охраняемых уголовным законом общественных отношений несет использование роботов в преступных целях. Правоприменению были известны случаи, когда роботы стали задействоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ13.

В связи с этим необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов при совершении преступлений. Обозначенное необходимо для своевременного конструирования уголовно-­правовых механизмов установления ответственности за причинение вреда, связанного с использованием роботов.

Необходимость полной, своевременной и достаточной защиты охраняемых уголовным законом объектов делает обязательным построение системы уголовно-­правовой охраны отношений, связанных с робототехникой. Составляющие ее меры и инструменты закладывают основу безопасности личности, общества и государства от соответствующих общественно опасных деяний.

Проведенное монографическое исследование позволяет прийти к выводу о необходимости проведения комплексного изучения и построения моделей уголовно-­правовой охраны общественных отношений, связанных с робототехникой, и, следовательно, свидетельствует об актуальности избранной темы исследования.

Монография соответствует приоритетному направлению развития науки в Российской Федерации «Робототехнические комплексы (системы) военного, специального и двой­ного назначения»14, утвержденному Указом Президента Российской Федерации от 7 июля 2011 г. № 899 (в редакции от 16 декабря 2015 г. № 62315). Она прямо реализует положения Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года16, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, в том числе в части проработки механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники. В числе задач регулирования отношений в указанной области данный документ называет «определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»17, которая безусловно имеет отношение и к сфере уголовного права.

Раздел 1. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ УГОЛОВНО-­ПРАВОВОЙ ОХРАНЫ ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ С РОБОТОТЕХНИКОЙ

Глава 1. СИСТЕМООБРАЗУЮЩИЕ НАЧАЛА УГОЛОВНО-­ПРАВОВОЙ ОХРАНЫ ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ С РОБОТОТЕХНИКОЙ

§ 1.1. Понятие и содержание уголовно-­правовой охраны общественных отношений, связанных с робототехникой

Определения понятия уголовно-­правовой охраны текст УК РФ, к сожалению, не содержит, что, с одной стороны, создает риски неодинаковой трактовки данного явления, а, с другой, вызывает необходимость изучения и учета положений правовой доктрины. Хотя следует отметить, что задачами названного выше кодекса в ч. 1 ст. 2 названы «охрана прав и свобод человека и гражданина, собственности, общественного порядка и общественной безопасности, окружающей среды, конституционного строя Российской Федерации от преступных посягательств, обеспечение мира и безопасности человечества, а также предупреждение преступлений»1. Можно предположить, что в данном перечне раскрыта, в числе прочего, и охранительная функция уголовного права.

Б. Т. Разгильдиев определяет уголовно-­правовую охрану как «уго­ловно-­правовое сохранение личности, общества, государства, мира и безопасности человечества от возможного преступного воздействия на них, осуществляемое на определенной территории и за определенный отрезок времени посредством неперсонифицированной угрозы наказанием правоисполнителей»2. Сохранение или обеспечение сохранности, на наш взгляд, предполагает обеспечение объектов уголовно-­правовой охраны в целостности и неприкосновенности от общественно опасных посягательств. В предложенном Б. Т. Разгильдиевым определении понятия, что следует отметить, не указаны субъекты уголовно-­правовой охраны.

А. Н. Сайгашкин понимает уголовно-­правовую охрану как «возникающую на определенном этапе исторического развития объективно необходимую общественно полезную деятельность специально уполномоченных государственных органов по обеспечению безопасности охраняемых объектов посредством реализации уголовно-­правовых предписаний»3. Далее он отстаивает точку зрения, что «охрана включает в себя защиту, что она «содержит в себе два компонента, две составляющих: пассивную» — фазу ожидания и контроля (охрану в узком смысле слова) и «активную» — фазу действия, реагирования на совершаемое или совершенное опасное деяние, нежелательное изменение (защита)»4. Описанную им «фазу ожидания и контроля» можно рассматривать как стадию подготовки уполномоченных органов власти и иных заинтересованных субъектов к реакции на возможные в будущем преступные действия, которая, безусловно, имеет и предупредительное значение.

На основе изложенного, А. Н. Сайгашкин предлагает тезис, что «наряду с самими нормами содержанием уголовно-­правовой охраны является деятельность государства в лице уполномоченных государственных (именно государственных) органов по созданию уголовно-­правовых норм, которая реализуется в законотворческой (законодательной) и правоприменительной формах (она осуществляется в рамках прокурорского надзора, оперативно-­розыскной, уголовно-­процессуальной и уголовно-­исполнительной деятельности)»5.

В последующем он приходит к переформулированному выводу, что «уголовно-­правовая охрана представляет собой совокупность уголовно-­правовых норм и норм отраслей права, тесно связанных с уголовным правом, основной целью которых является борьба с преступностью, а также специфический вид государственной деятельности по созданию, изменению соответствующих норм, контролю за соблюдением уголовно-­правовых предписаний, направленных на обеспечение безопасности объектов уголовно-­правовой охраны, соответствующего реагирования в случаях нарушения уголовно-­правового запрета, наряду с органами государственной власти, призванными осуществлять данный вид деятельности»6. Высказанный подход является очень широким и заслуживающим внимания в рамках изучения с точки зрения доктрины уголовного права.

В. Е. Бондаренко предположила, что элементами уголовно-­правовой охраны выступают: объект; субъекты, правовые статусы которых разное по содержанию, но сводятся к исполнению единой обязанности не совершать преступных обязательств на обозначенные уголовным законом объекты; наказание. И сделала вывод, что уголовно-­правовая охрана «представляет собой режим исполнения обязанности не совершать преступных посягательств на обозначенные уголовным законом объекты под угрозой уголовного наказания»7. Можно предположить, что в целом она следует в русле достаточно оригинального авторского развития концепции юридической ответственности, причем как позитивной, так и негативной.

Ранее Н. Ф. Кузнецова отмечала, что УК РФ ставит перед собой две задачи: охранительную и предупредительную. Охранительная задача, по ее мнению, раскрывается через перечисление в ч. 1 ст. 2 УК РФ объектов охраны, а средствами ее решения выступают:

«а) закрепление оснований и принципов уголовной ответственности;

б) определение круга деяний, объявляемых преступными, иными словами, пределы криминализации деяний;

в) установление наказания за них, т. е. пенализации преступлений и иных мер уголовно-­правового характера»8.

В целом соглашаясь с данной точкой зрения, следует отметить, что иные меры уголовно-­правового характера вряд ли правильно относить к наказанию. Сходной позиции придерживается Ю. В. Голик, обративший внимание на то, что УК РСФСР 1960 г. выделял не две задачи, а только одну — охранительную, и что она достигается, в числе прочего, установлением иных мер уголовно-­правового характера за совершение преступлений9.

В определенной мере подходам Н. Ф. Кузнецовой и Ю. В. Голика соответствует мнение Ю. В. Пудовочкина и С. С. Пирвагидова, которые отмечают, что охранительная задача — не единственная стоящая перед уголовным правом задача. Они отмечают, что «наряду с ней УК РФ называет также задачу предупреждения преступлений, которая традиционно понимается в двух значениях: общего предупреждения, т. е. предотвращения совершения преступления лицами, еще его не совершившими, и частного предупреждения, т. е. предотвращения преступления со стороны лиц, совершивших преступление». При этом особо указано, что охранительная и предупредительная задачи уголовного закона тесно взаимосвязаны, и что ряд авторов (А. В. Наумов, Б. Т. Разгильдиев, В. В. Мальцев) содержание охранительной задачи раскрывают через предупредительные аспекты уголовного закона10.

Следует отметить, что уголовно-­правовой охране подлежат объекты, которые рассматриваются в качестве значимых для современного государства социальных ценностей. Наиболее распространенной среди отечественных специалистов в области уголовного права является точка зрения, что объектами уголовно-­правовой охраны являются общественные отношения.

Однако есть и другие позиции. Так, А. В. Наумов предложил обратиться к теории объекта как правового блага, разработанной еще в XIX веке в рамках классической и социологической школ уголовного права. Объект преступления он определяет как блага, интересы, на которые посягает преступное деяние и которые охраняются уголовным законом11. Мысль достаточно интересная, хотя и не получившая поддержки большинства современных специалистов в области уголовного права. Следует подчеркнуть, что многие общественные отношения можно и нужно рассматривать в качестве благ и принимать их под охрану.

В. Н. Винокуров отмечает, что объектом уголовно-­правовой охраны следует признавать общественные отношения, нормальное функционирование которых обеспечивают развитие личности. Он обозначает также уровни вреда общественным отношениям, причиненного преступлением:

1) причинение физического вреда потерпевшему, выражающегося в разрыве социальной связи, в результате чего лицо лишается возможности реализовать свои возможности либо реализация этих возможностей существенно затрудняется;

2) причинение политического вреда государства и морального — обществу12.

Отдельно В. Н. Винокуров выделяет вред, причиняемый условиям нормального развития общества, выражающийся в уничтожении среды обитания, а также при совершении преступлений против государства как политической организации, нормальное функционирование которого обеспечивает развитие общества13.

Против признания объектом уголовно-­правовой охраны общественных отношений возражений нет. В то же время позиция В. Н. Винокурова не представляется достаточно оригинальной. Так, ранее Г. П. Новоселов предлагал считать «объектом любого преступления человека (людей, общество в целом), так как, по его мнению, никакого иного вреда, кроме вреда людям, преступление причинить не может: преступление причиняет или создает угрозу причинения вреда не ­чему-то (благам, нормам права, отношениям и т. п.), а ­кому-то, и, следовательно, как объект преступления нужно рассматривать не ­что-то, а ­кого-то»14. Однако при таком подходе, на наш взгляд, может быть поставлена под сомнение достаточно стройная классификация объектов преступления «по горизонтали», которая сейчас положена в основу построения Особенной части уголовного права. А такое последствие должно быть очень серьезно обосновано.

А. В. Наумов считает, что охранительная задача уголовного права и есть его основная, историческая задача, независимая от политического строя соответствующего государства либо особенностей его экономики. Он выделяет два аспекта охранительной задачи уголовного права, относя к ним как общую превенцию уголовного закона, то есть предупреждение совершения преступления гражданами под воздействием уголовно-­правового запрета, так и его частную превенцию, под которой понимается предупреждение совершения новых преступлений лицами, уже совершившими ­какие-либо преступления15. Можно сделать вывод, что уголовно-­правовая охрана понимается им как весьма широкий по содержанию институт. Хотя при этом не исключается возможность и других задач.

Справедливости ради следует отметить, что некоторые специалисты высказывают позиции об иных, кроме охранительной и предупредительной, задачах уголовного права. Например, о регулятивной или сходной с ней задаче. Так, Н. В. Генрих отмечает, что предметом уголовного права могут выступать лишь определенные общественные отношения, возникающие в связи с совершением преступления, которые уголовное право организует, упорядочивает, которые гарантируют человеку право на свободу, безопасность и справедливость16. Однако заявленные подходы среди других исследователей существенной поддержки не получили. В то же время отметим, что регулятивная функция права является основной для него.

Уголовно-­правовая охрана общественных отношений, связанных с робототехникой, как представляется, имеет определенную специфику, основанную на следующих обстоятельствах. Внедрение цифровых технологий, в том числе робототехники, в социальные практики характеризуется экспоненциальным ростом, что закономерно влечет масштабные и быстрые изменения во многих областях общественной жизни, что требует, с одной стороны незамедлительной, с другой — взвешенной реакции с учетом достижений самых разных отраслей знания: техники в широком смысле слова, промышленности, обороне, медицине и т. д.

Мы солидарны с мнением ученых, утверждающих, что информацион­но-­телекоммуникационные технологии, информационные системы, цифровые устройства в настоящее время составляют неотъемлемую часть жизни современного общества и охватывают все ресурсы, обеспечивающие управление информацией17. Кроме того, следует отметить, что увеличение количества сфер жизни общества, в которых активно используются цифровые устройства, в том числе робототехника, повлекло изменение структуры преступности. Но, как представляется, в связи с рассматриваемым явлением грядут еще более значительные и сложные трансформации.

Известно, что робототехнические устройства представляют собой сложный объект18, включающий две составляющие:

— программную, к которой необходимо относить программное обеспечение, обуславливающее функционирование робота, выполнение им определенных функций, перечень и пределы которых предопределены заложенными алгоритмами действий;

— техническую (аппаратную) составляющую, которая представляет собой механическую часть устройства — элементы конструкции, приводы, проводная система, датчики, радары, лидары и т. д.

Специфика роботов как сложных цифровых объектов требует безусловного учета их особенностей при выработке нормативно-­правового регулирования правоотношений, складывающихся с их участием.

Роботы, будучи наделенными процессорными мощностями и способные к хранению, обработке и передаче информации, занимают все более значимую роль в сфере промышленного производства и оказания услуг. Повышенный эксплуатационный ресурс, возможность моделирования выполняемой функции посредством внесения изменений в программу, высокая точная выполнения отдельных операций — обуславливают значительное внимание к робототехнике, причем как позитивное, так и негативно оцениваемое с позиций права.

Робототехнические устройства все чаще и чаще вовлекаются в совершение преступлений. В дальнейшей перспективе это явление будет только нарастать, что в значительной степени увеличит причиняющий потенциал общественно опасных посягательств. Сказанное формирует повестку противодействия криминальным рискам, детерминированным внедрением робототехники, и актуализирует вопросы выработки уголовно-­правовых норм, обеспечивающих охрану общественных отношений от посягательств, осложненных применением робототехнических систем.

С позиции современного уголовного права робот (устройство, система, комплекс) может выступать в качестве средства совершения преступления и в качестве предмета посягательства. Применительно ко второй ситуации заметим, что едва ли робот может в полной мере отождествляться с иными средствами вычислительной техники. Отличительной особенностью робота является возможность совершения конкретных, не связанных с хранением, обработкой и передачей цифровой информации, действий, к примеру, передвижение, движение по автомобильным дорогам, перемещение в воздушном пространстве. Совершенно закономерно, что означенные возможности существенно расширяют его функционал и, соответственно, повышают общественную опасность его использования19.

Примечательно, что в случае совершения противоправного деяния в отношении робота последний рассматривается как собственность и потому подлежит уголовно-­правовой охране на общих основаниях. Однако посягательства на отдельные виды роботов причиняют вред объектам уголовно-­правовой охраны иной видовой принадлежности. Иными словами, такие деяния могут быть многообъектными.

Так, к примеру, в случае если робототехническое устройство по своему предназначению, целевому использованию и техническим характеристикам охватывается понятием воздушного судна или водного транспорта, его угон или захват квалифицируется по признакам состава преступления, предусмотренного ст. 211 «Угон судна воздушного или водного транспорта либо железнодорожного подвижного состава» УК РФ.

Помимо изложенного, в ситуациях, когда в состав оснащения робототехнического устройства включены вооружение, боеприпасы, взрывчатые вещества, совершение в отношении него посягательства, при наличии иных признаков данного состава преступления квалифицируется по ст. 226 «Хищение либо вымогательство оружия, боеприпасов, взрывчатых веществ и взрывных устройств» УК РФ.

Таким образом, действующее уголовное законодательство не рассматривает робота как признак, позволяющий дифференцировать ответственность за совершение соответствующих деяний. Тем не менее, нам представляется, что робототехнические устройства, в силу присущих им свой­ств в случае совершения в отношении них посягательств, повлекших неправомерное завладение, представляют повышенную общественную опасность, так как обладают увеличенной причиняющей способностью.

В юридической науке выражается обоснованная настроенность относительно того, насколько существующее правовое, в том числе уголовно-­правовое регулирование, адаптировано к активному внедрению робототехники в общественные отношения20. Полагаем, что указанные мнения не лишены оснований. Действительно, робот не может быть в полной мере отождествлен с материальными объектами, которые современное уголовное право рассматривает в качестве предметов отдельных составов. В то же время признаки составов преступлений, характеризующих средства совершения преступлений, не охватывают робота как индивидуально-­неповторимый объект материального мира. Едва ли можно сопоставить робототехническое устройство с оружием, взрывчатыми веществами, взрывными устройствами, средствами вычислительной техники. Будучи сквозным цифровым устройством, робот может одновременно совмещать в себе существенные признаки всех вышеперечисленных предметов. В то же время, по нашему мнению, существуют отдельные посягательства, в которых робот способен существенно повысить общественную опасность совершенного деяния, что заслуживает дифференциации ответственности.

Так, робототехника обуславливает возможность выполнения объективной стороны посягательства при нахождении субъекта на значительном удалении от преступного события. Указанное свой­ство обусловлено возможностью робота длительное время находиться в режиме дистанционного управления, емкостью батареи, поддерживающей функционирование устройства, устойчивость образуемого канала передачи данных, позволяющего получать сигналы управления на значительном удалении.

Помимо изложенного, современные роботы комплектуются двигателями достаточной мощности, что в совокупность с наличием на внешней подвеске несущих элементов обуславливает возможность наделения робота определенными грузами. В качестве таковых могут выступать как взрывчатые вещества, так и взрывные устройства. Наиболее заметно это явление на примере роботов — БПЛА.

Определенное значение имеет и то обстоятельство, что робототехнические устройства способны перемещаться в различных средах — на грунтах, в воздушном, космическом и водном пространстве, нет препятствий для создания при необходимости также и подземных роботов. Указанные характеристики в случае их задействовании в ходе совершения преступления могут существенно увеличить причиненный вред от общественно опасного деяния.

Кроме того, роботы, при наличии соответствующих возможностей программного обеспечения, могут согласовывать и сообразовывать свои действия друг с другом, преобразуя посягательства одного устройства в массовые посягательства, чем также существенно увеличивается общественная опасность содеянного. В данном случае, бесспорно, нет речи о соучастии, поскольку роботы не являются субъектами преступлений. Однако можно представить себе ущерб от армады БПЛА, оснащенных взрывными устройствами и координирующими удары друг с другом.

Исходя из тактико-­технических характеристик робота, наибольший вред в качестве средства совершения преступления он может причинить в тех посягательствах, которые связаны с разрушением, уничтожением объектов, устрашением населения, доставкой взрывных устройств и т. д.

В то же время, существующая редакция УК РФ, как ранее уже отмечалось, не содержит составов преступлений, в которых робот рассматривается в качестве признака, характеризующего средство совершения преступления21.

Положения общей части, а именно п. «к» ч. 1 ст. 63 «Обстоятельства, отягчающие наказание» УК РФ, позволяют проводить уголовно-­правовую оценку посягательств, осложненных применением роботов, с вменением в качестве отягчающего наказание обстоятельства совершение преступления с использованием специально изготовленных технических средств. Думается, данная практика не выдерживает критики. Применение данной нормы возможно только в случае, если робот был «специально изготовлен» для совершения преступления, подобное изложение не позволяет инкриминировать приведенное законоположение в случаях внезапно возникшего умысла, а также в ситуациях, когда для увеличения причиняющей способности общественно опасного деяния был использован промышленно изготовленный робот.

Таким образом, представляется возможным заключить, что современное уголовное законодательство имеет потенциал к улучшению в части, касающейся:

— дифференциации уголовной ответственности за посягательства, совершаемые в отношении различных видов робототехники;

— установления повышенной уголовной ответственности за посягательства, объективная сторона включает признак использования (применения) робота.

Данное мнение в значительной степени основывается на тезисе о повышенной причиняющей способности робота, который может быть подтвержден следующими рассуждениями.

Наличие в роботе программной составляющей обуславливает возможность его использования не просто в качестве средства, повышающего причиняющий потенциал действий человека, но и как высокоавтономного механизма, который фактически способен самостоятельно и полностью выполнить объективную сторону состава преступления. Человеческое участие в данном случае сводится либо к введению посредством органов управления роботом соответствующей команды, либо к заведомому программированию роботов для обеспечения их участия в совершении преступлений22.

В дополнение к изложенному выше заметим, что существующие роботы действуют посредством исполнения алгоритмов действий, изначально заложенных разработчиками в цифровой код их программного обеспечения. Иными словами, такие роботы способны к выполнению исчерпывающего, ограниченного перечня действий, который прямо предопределен возможностями примененной в них программы. Однако поэтапное развитие технологий искусственного интеллекта позволяет обоснованно предположить, что в дальнейшей перспективе существует явная тенденция к значительному повышению степени автономности роботов.

Поясним дополнительно, что искусственный интеллект23 от программного обеспечения отличается наличествующим функционалом, по своей физической природе и то и другое есть цифровой код. Однако функционал искусственного интеллекта позволяет имитировать когнитивные функции человека, осуществлять самообучение и выполнять поиск решений вне рамок заранее установленного алгоритма24. Иными словами, система на основании самостоятельного анализа зависимостей внешней среды, на основе поступивших от оператора команд способна автономно выбирать алгоритм действий, посредством которых данные команды будут исполняться. В таком случае вопрос о субъекте ответственности за вред, причиненный автономным роботом (роботом, в котором использована технология искусственного интеллекта25), не является достаточно очевидным.

Помимо изложенного, применение робота для совершения преступлений возможно в ситуациях, когда оператор (иное лицо, управляющее роботом) находится на значительном удалении от места посягательства. Увеличивающиеся возможности роботов по времени автономной работы, повышение накопительной мощности элементов их питания, увеличение радиуса действия средств управления роботом, помехоустойчивости сигналов управления создают условия для совершения общественно опасных посягательств на значительном расстоянии от преступника.

В дополнение к вышеуказанному необходимо заключить, что современные роботы демонстрируют возможности к переносу грузов значительных габаритов и массы, а полезная нагрузка БПЛА демонстрирует гиперболический рост. Данная техническая характеристика, на наш взгляд, также может быть использована в целях совершения самых разных преступлений: террористических актов, незаконного пересечения Государственной границы Российской Федерации, контрабанды и т. д.

Все вышесказанное свидетельствует о необходимости объективно сформированного и актуального запроса на выработку современных подходов к уголовно-­правовой охране общественных отношений, связанных с робототехникой, под которой предлагается понимать взаимосвязанную систему положений, определяющих уголовно-­правовую политику в сфере разработки, производства и применения роботов, а также ответственность за общественно опасные деяния, совершаемые с использованием роботов и в отношении роботов. Такая охрана включает комплекс мер и обеспечивает безопасность обращения с роботами, начиная с момента создания до момента утилизации.

По уголовно-­правовой природе роботы, как уже отмечалось, могут выступать предметами преступных посягательств или средствами совершения преступлений. Роботы как материальные объекты, которые, в силу присущих им свой­ств, обладают повышенным потенциалом для причинения вреда охраняемым законом общественных отношений, создают комплекс рисков и угроз, требующих как актуальных, так и перспективных мер противодействия. Эффективная охрана общественных отношений, связанных с робототехникой, в рамках существующих уголовно-­правовых средств является недостаточной. Правовые положения уголовного закона должны учитывать индивидуальные особенности роботов, что вызывает необходимость совершенствования уже существующих норм и выработки новых положений уголовного закона.

§ 1.2. Социальная обусловленность и запрос на уголовно-­правовую охрану общественных отношений, связанных с робототехникой

Норма уголовного права является эффективной, если она социально обусловлена26. Детерминированность новых уголовно-­правовых предписаний о робототехнике также следует считать основой их эффективного действия.

А. В. Незнамов, выделяя дискуссионные вопросы, связанные с регулированием робототехники, также задается вопросом целесообразности корректировки института ответственности за вред, причиненный роботом или системой искусственного интеллекта. И одновременно, продолжая логическую мысль, указывает на наличие проблемы: если да, то куда?27

Утверждение в августе 2020 г. Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г.28, несомненно, стало краеугольным камнем в вопросе становления отечественной системы правового регулирования отношений, связанных с внедрением указанных технологий в жизнедеятельность общества29. Ее принятие позволило наметить ключевые векторы дальнейшей правотворческой деятельности.

В числе задач, заявленных в Концепции, среди прочего обозначены «создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»30.

Как верно отмечается в Концепции, «одним из основных препятствий для расширения применения систем с использованием искусственного интеллекта и робототехники является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения систем искусственного интеллекта и робототехники»31. В свою очередь подобного рода запрос представляет собой не что иное, как социальную обусловленность уголовно-­правовой охраны общественных отношений, связанных с робототехникой.

Справедливо отмечал А. И. Марцев, что «преступление представляет собой один из видов преобразовательной деятельности, поскольку, совершая преступление, субъект производит в объекте определенные изменения или создает своей деятельностью предпосылки для таких изменений. Эти изменения носят деструктивный характер и в социальном плане отрицательно сказываются на функционировании человека, общества или государства. Возможность отрицательного влияния преступлений на социальные условия функционирования человека, общества и государства рассматривается в уголовном праве как общественная опасность. Данная категория закреплена в уголовном законодательстве в качестве регулятора уголовно-­правовых отношений»32. С этой позицией трудно не согласиться, ведь общественная опасность, обладая дуальной природой, характеризуется как социальным аспектом, так и правовым.

В решении КС РФ от 19 марта 2003 г. № 3-П в связи с запросом Останкинского межмуниципального (районного) суда города Москвы и жалобами ряда граждан презюмируется, что «закрепление в законе уголовно-­правовых запретов и санкций за их нарушение не может быть произвольным»33, при этом КС РФ в другом своем решении подтверждает конституционное право государства «на установление уголовной ответственности за общественно опасные деяния, которые в силу своей распространенности причиняют существенный вред и не могут быть предотвращены с помощью иных правовых средств»34.

В данном аспекте следует поддержать мнение о том, что уголовное право, среди прочего, призвано определять социальную обусловленность уголовно-­правовых положений и их эффективность35, а исследование вопросов социальной обусловленности предопределяется необходимостью «создания научной основы уголовного правообразования, что позволяет избежать не вызванных реалиями жизни произвольных законодательных решений»36.

Понятие социальной обусловленности уголовного закона не раз становилось предметом детального научного исследования. Мнения авторов разнились от позиций признания под социальной обусловленностью «объективной необходимости закрепления в уголовном законе отдельных деяний, исходя из общественных потребностей, выявленных закономерностей развития общественных отношений, реальной социально-­экономической ситуации»37 до признания в нем «идеологических, экономических, нравственных, психологических и иных факторов, вызывающих его необходимость»38.

Профессор А. А. Пионтковский писал, что «общественная опасность деяния есть его социально-­политическая характеристика в целом»39. В указанном ключе уместно говорить о том, что общественная опасность является тем самым критерием, определяющим объективную необходимость уголовно-­правового регулирования рассматриваемых отношений. А любое запрещаемое деяние (преступление) должно представлять собой не только правовое, но и социально обусловленное явление40.

Не вдаваясь в полемику относительно того, какое из уже существующих в науке определений видится наиболее приемлемым, отметим, что все авторы едины в понимании под социальной обусловленностью наличия в обществе объективного запроса на регулирование уголовно-­правовыми средствами определенных общественных отношений, потенциально или объективно обладающих общественной опасностью.

Вместе с тем, учитывая особый статус уголовного закона как крайнего средства государственного реагирования на проявление делинквентного поведения41, обратимся к пресловутому критерию общественной опасности, проявляющемуся в конкретных случаях причинения вреда или угрозы его причинения охраняемым уголовным законом общественным отношениям.

Построение достоверной устойчивой системы в любой области знаний начинается с определения базиса, «той исходной научной абстракции, которая концентрировала бы качественную определенность системы знаний в целом, устанавливала бы последовательность расположения понятий в системе и “удельный вес” каждого из них, выступала бы как ее отправной и конечный пункт»42.

Несомненно, для уголовного права такой категорией выступает категория общественной опасности, которая одновременно обеспечивает концептуальное единство уголовно-­правовых норм, параллельно являясь водоразделом, отграничивающим их от иных отраслей права. Крайне важно определить границы уголовно-­правового регулирования, которые формируются исключительно общественной опасностью тех или иных деяний с применением робототехники43.

Как справедливо отмечает Н. А. Лопашенко, «1) опасность всегда связывается с негативными изменениями или последствиями, начиная от просто нежелательных, заканчивая крайней степенью негативности — несчастьем; 2) эти последствия (изменения) не реализованы, они только ожидаются виде возможности или угрозы»44.

Е. В. Кобзева пишет, что наиболее часто критерием классификации нарушений норм права на преступления, административные правонарушения, гражданско-­правовые деликты, дисциплинарные проступки признается социальная вредность (опасность, значимость) деяния. При этом автор выделяет пять основных подходов к толкованию понятий «общественная опасность» и «вредность»:

«1) общественная опасность выступает свой­ством исключительно преступных деяний, все другие нарушения норм права вредны для интересов общества, но опасности не представляют;

2) общественной опасностью обладают как преступления, так и другие виды правонарушений, при этом различие между ними состоит в степени и (или) характере общественной опасности;

3) общественно опасными являются преступления и некоторые виды административных правонарушений;

4) нет никакой разницы между общественной вредностью и общественной опасностью, дискуссия носит исключительно терминологический характер;

5) понятие общественной опасности следует заменить понятием общественной (социальной) вредности»45.

Как справедливо отмечает П. К. Блажко, «преступления представляют наибольшую общественную опасность по сравнению с иными правонарушениями. При этом различие необходимо проводить и по характеру, и по степени опасности деяний для общества, зависящим от содержания объекта правонарушения, признаков его субъекта, объективной и субъективной сторон, смягчающих и отягчающих обстоятельств, лежащих за пределами состава правонарушения»46.

В связи с этим уместно будет привести мнение Н. Ф. Кузнецовой, которое нам также близко: «Понятие общественной опасности рассматривается как универсальное понятие, которое характеризует все правонарушения. И специфика общественной опасности преступлений в ее характере и степени»47. В той или иной форме указанная точка зрения приводилась в работах Н. С. Малеина48, Е. Л. Поцелуева49, О. Е. Репетевой50.

Обосновывая необходимость применения риск-ориентированного подхода при оценке преступных посягательств с участием робототехники, мы брали за основу два ключевых критерия: степень тяжести последствий причинения вреда роботами и категорию (характер) общественной опасности.

Согласимся с мнением Н. А. Лопашенко, что «в любом случае уровень возможных негативных последствий от противоправного поведения должен быть высоким, а сама общественная опасность должна определяться как существенная. Понятно, что это крайне оценочный момент в понимании преступления, но придумать точные критерии очень сложно»51.

Выделение указанных сфер является результатом эмпирического исследования инцидентов с участием робототехники, а также применения метода предиктивной аналитики.

Отметим, что характер общественной опасности в значительной степени зависит от объекта преступного посягательства, при этом чем «важнее» объект преступного посягательства, тем выше его общественная опасность. Несомненно, всецело поддерживая позицию о невозможности выстроить иерархию ценностей, охраняемых уголовным законом, все же отметим, что характер общественной опасности должен находиться в прямой корелляции с характером ожидаемого вреда и его тяжестью. Указанное верно и для общественно опасных деяний с участием роботов.

Нами были выделены четыре ключевых объекта, на которых общественная опасность применения робототехники проявляется наиболее существенно:

— мир и безопасность человечества;

— жизнь и здоровье людей;

— объекты живой природы;

— неживые материальные объекты52.

Данные объекты представляют собой сферы общественных отношений, в которых деяния с участием робототехники создают необходимость уголовно-­правовой охраны от причиненного или потенциально возможного причинения им вреда.

Понятие общественной опасности является ключевым критерием (основанием) криминализации. «Криминализация — это процесс установления уголовной ответственности за деяние, ранее не относившееся к числу преступлений»53. Отдельные авторы предлагают понимать под криминализацией «процесс, так и результат отнесения определенных видов деяний к преступным и уголовно наказуемым. В процессе криминализации изучаются цели, основания и возможность установления уголовной ответственности за то или иное деяние»54.

Некоторые авторы выделяют и иные основания криминализации, помимо общественной опасности. Например, М. В. Бавсун, помимо общественной опасности деяния и степени его влияния на общественные процессы и общественное сознание, выделяет также: «Распространенность деяния и его удельного веса в общем состоянии преступности; степень тяжести преступных последствий, оцениваемых размером причиненного вреда; яркая антисоциальная направленность деяния и лица, противопоставляющего себя обществу»55. Аналогичные критерии выделяются и в работе А. М. Орлеана56.

Н. А. Лопашенко выделяются следующие причины криминализации: «возникновение новых, не существовавших ранее видов общественно опасной деятельности людей, неблагоприятная динамика отдельных видов человеческого поведения, научно-­технический прогресс, развивающий потенциально опасные сферы науки и техники»57.

Указанные критерии в полной мере применимы к робототехнике:

1. Робототехника формирует собой самостоятельный пласт общественных отношений, характеризующихся повышенной общественной опасностью. Указанное обстоятельство предопределяет признание отдельных категорий роботов источниками повышенной опасности.

В марте 2018 г. экспериментальный автомобиль Uber, работавший в автономном режиме, сбил пешехода и убил его, когда он переходил улицу в Темпе, штат Аризона, США, — первое дорожно-­транспортное происшествие (далее — ДТП) с БПТС со смертельным исходом58. Перед общественностью и государством сразу же встал о том, кто должен нести ответственность за такое происшествие?

Однако самый первый случай причинения смерти с участием роботов был зарегистрирован еще в 1979 г., когда промышленный робот на заводе Ford Motor Company причинил смерть Роберту Уильямсу посредством нанесения удара по голове 1-тонной роботизированной рукой. В декабре 1981 г. похожий случай с промышленным роботом произошел на заводе Кавасаки в Heavy Industries Японии. Кэндзи Урада погиб, после того как самоактивировавшийся гидравлический рычаг затащил его в шлифовальный станок, где он был раздавлен59. После долгого расследования было заявлено, что произошедшее стало несчастным случаем, рабочий выключил роботизированную систему при ремонте, но потом он случайно зацепил этот же рычаг, приведя в действие только что отключенное устройство60.

Дефекты могут иметь место на любом из этапов эксплуатации роботов, и предсказать или ограничить это не всегда возможно. На наш взгляд, речь здесь тоже может идти о деяниях, совершенных по легкомыслию или небрежности:

— наезд на пешехода БПТС;

— столкновение с БПЛА и БПВС;

— сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший несчастный случай;

— отказ в работе той или иной системы медицинского робота, повлекший смерть пациента или серьезное нарушение функционирования организма человека.

2. Темпы развития робототехники являются следствием экспонентного, практически взрывного роста интереса к интеллектуальным системам в условиях Четвертой промышленной революции и становления Индустрии 4.0, активно поддерживаемого политикой государства на всеобщую цифровизацию.

Аналитики во всем мире единогласно называют искусственный интеллект ключевым технологическим трендом61. По прогнозам, к 2020 г. его рынок вырастет до 5 млрд долл. США62 за счет применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении63.

Робототехника и искусственный интеллект включены в ряд документов стратегического планирования, однако вопросы правового регулирования при использовании технологий находятся все еще в стадии решения, тогда как их внедрение в жизнедеятельность человека идет активными темпами (это касается БПЛА, прогнозирования диагноза больных и пр.)64. Более того, на правовое регулирование искусственного интеллекта65 направлена целая группа политических нормативных правовых актов и распорядительных документов Президента Российской Федерации и органов государственной власти66. Аналогичная ситуация сложилась в международно-­правовом пространстве67.

3. Поливариативность роботов, высокая степень адаптивности и растущая доступность для широких слоев населения является предпосылкой для использования их в различных сферах преступной деятельности, вплоть до самостоятельного совершения роботами отдельных преступных посягательств.

На сегодняшний день можно выделить несколько возможных вариантов деятельности с робототехникой, которая представляется общественно опасной:

«– конструирование робота-­убийцы специально для совершения правонарушения;

— отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку;

— конструирование робота, способного причинить вред человеку;

— конструирование робота без осознания того, что он может быть использован для причинения вреда человеку»68.

Следует отметить, что с использованием возможностей робототехники может быть совершено множество преступлений:

«– общественно опасные деяния, посягающие на жизнь и здоровье человека;

— общественно опасные деяния, посягающие на конституционные права и свободы человека и гражданина;

— общественно опасные деяния, посягающие на общественные отношения, охраняющие сферу экономики от преступных посягательств;

— общественно опасные деяния, посягающие на государственную власть, службу и их интересы;

— общественно опасные деяния, посягающие на общественную безопасность и общественный порядок;

— общественно опасные деяния, посягающие на основы конституционного строя и безопасность государства и т. д.»69.

Роботы также активно используются преступниками и террористами в качестве инструмента для «творческого» совершения преступления. С 2010 г. наркокартели Мексики начали использовать дроны для перевозки наркотиков. Успех Мексики побудил колумбийские наркокартели использовать дроны, а также испытать тот же метод на своей территории. Фактически, к 2012 г. использование БПЛА вдоль границы было широко распространено, о чем свидетельствует перехват США 150 дронов, перевозящих примерно две метрические тонны наркотиков, в первую очередь марихуану, кокаин и героин.

Дроны стали «идеальным наркокурьером» в том смысле, что они несут меньший риск для лиц, занимающихся незаконным оборотом наркотиков. Кроме того, использование дронов значительно менее затратно, чем людей, поскольку наркобарон может заработать до 10 тыс. долл. за успешную доставку одной партии груза. Новые дроны мексиканского производства отличаются от тех, что используются для личного пользования, поскольку они предположительно могут перевозить от 60 до 100 кг наркотиков за одну поездку. Дроны также используются для контрабанды наркотиков, мобильных телефонов и оружия в тюрьмы. Например, во временном центре содержания под стражей в Сан-­Жозе-дус-­Кампус в Сан-­Паулу (Бразилия) дрон с квадрокоптером пролетел над стенами тюрьмы и сбросил 250 граммов кокаина в присутствии сотрудников тюрьмы. Под Москвой дрон доставил в Тульскую тюрьму 700 граммов кокаина, а в Греции дрон доставил коробку мобильных телефонов. В апреле 2017 г. двое мужчин были заключены в тюрьму в Великобритании за использование таких дронов для доставки наркотиков класса A и B, а также мобильных телефонов заключенным в трех тюрьмах в Херефордшире. Аналогичные инциденты с проникновением в тюрьмы были зарегистрированы в Канаде, Австралии и США70.

«Преимущества использования робототехники для совершения преступления очевидны: во-первых, возможность их применения в опасных зонах, в том числе биологически опасных; во-вторых, физическая безопасность лица, использующего эти технологии для совершения преступления (поскольку лицо находится, как правило, далеко от места использования дрона, у него нет страха быть обнаруженным, получить ранения или погибнуть, что психологически облегчает принятие решений, связанных с причинением вреда); в-третьих, по использованной робототехнике трудно идентифицировать нападавшего»71.

Таким образом, деятельность роботов и искусственного интеллекта может быть признана общественно опасной и причинять вред охраняемым общественным отношениям72. С приведенным мнением солидарны некоторые отечественные и зарубежные ученые73.

4. Являясь комплексными устройствами, обладающими технической, цифровой и энергетической компонентами, робототехника подвержена процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений.

Следует отметить, что тот или иной риск может возникнуть по нескольким основным причинам, обусловленным конструктивными особенностями роботов:

«1) причины, связанные с цифровой подсистемой роботов:

— недостатки программного обеспечения (уязвимости программного обеспечения, случайные ошибки программного обеспечения), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное программирование (перепрограммирование) роботов на совершение тех или иных действий противоправного характера (недекларированные возможности программного обеспечения).

2) причины, связанные с механической подсистемой роботов:

— недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное создание недекларированных возможностей механизмов роботов в целях совершения тех или иных действий противоправного характера.»74.

5. Внедрение робототехники в промышленность, производство и в военную сферу сопряжено со значительными рисками причинения вреда различным объектам уголовно-­правовой охраны. В следующем параграфе нами будут приведены примеры несчастных случаев, связанных с использованием робототехники в промышленных целях. Между тем гораздо бóльшую обеспокоенность вызывает использование робототехники в военных целях.

Согласимся с опасением, высказанным директором Федеральной службы безопасности Российской Федерации А. В. Бортниковым, что международные террористические и иные экстремистские организации в ближайшем будущем станут более интенсивно использовать робототехнику для осуществления своих целей75.

В числе основных рисков отсутствия запрета на использование автономного летального оружия, активистами отмечаются следующие:

«1) фактическое предоставление автономному оружию, лишенному социально значимых качеств, таких как сострадание, этичность, права на определение дальнейшей судьбы отдельных лиц или группы людей: кто будет жить, а кто нет, будет решать «бездушная машина»;

2) растущие темпы разработок автономного летального оружия ведут к неизбежной «гонке роботизированного вооружения», что чревато несомненной эскалацией на мировой арене, особенно, в горячих точках.

3) неспособность роботов отличать военных от мирных жителей может привести к крайне трагическим событиям;

4) отсутствие единых механизмов привлечения к ответственности за противоправные действия, вызванные полностью автономным оружием. На сегодняшний день неясно, кто должен нести ответственность: программист, производитель, оператор или сама машина.

5) возможность использования автономного оружия в невоенных целях. Автономное летальное оружие может использоваться для подавления протестов и поддержки диктаторских режимов. “Сила, задуманная как не смертельная, может стать причиной многих смертей”»76.

«Вместе с тем международными экспертами признана необходимость сохранить ответственность человека за принятие решений о применении систем вооружений (такая ответственность не может быть передана машинам). Этот подход следует учитывать на протяжении всего жизненного цикла смертоносной автономной системы вооружений. Оценка рисков и меры по смягчению их последствий должны быть частью системы проектирования, разработки, испытания и развертывания новых технологий в любых оружейных системах»77 и в военных целях78.

6. С ростом автономности робототехники неуклонно будут расширяться и сферы, где совершаются посягательства с их участием. Ввиду чего требуется проработка механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности при принятии решений79.

Таким образом, следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности общества обусловливают необходимость создания эффективных механизмов уголовно-­правовой охраны робототехники80.

Запрос на уголовно-­правовую охрану общественных отношений, связанных с робототехникой обусловлен:

— повышенной общественной опасностью отношений, складывающихся в сфере применения робототехники;

— темпами развития робототехники, вследствие взятого государством курса на всеобщую цифровизацию;

— поливариативной природой роботов, высокой степенью адаптивности и их растущей доступностью для широких слоев населения как предпосылки для «вовлечения» роботов в различные направления преступной деятельности, вплоть до самостоятельного совершения ими отдельных преступных посягательств;

— подверженностью робототехники процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений;

— активным внедрением робототехники в промышленность, производство и в военную сферу, сопряженным со значительными рисками причинения вреда различным объектам уголовно-­правовой охраны;

— ростом автономности робототехники, и, как результат, расширением и сферы, где совершаются посягательства с их участием.

§ 1.3. Пределы уголовно-­правовой охраны общественных отношений, связанных с робототехникой

Вопросы юридической ответственности при применении робототехники обозначены в числе приоритетных для разрешения задач в рамках Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. В представленном документе отмечается, что первостепенного разрешения требуют вопросы гражданско-­правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники, «проработка механизмов гражданско-­правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-­правовой ответственности»81. В связи с этим поиск пределов уголовно-­правовой охраны общественных отношений, связанных с робототехникой является актуальной задачей.

«В зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени либо на лицо, которое должно было выполнить обязанность по минимизации рисков и не наступлению вредных последствий»82.

В условиях относительной незрелости отечественной системы позитивного регулирования правоотношений в сфере искусственного интеллекта и робототехники, указанные вопросы приобретают особую значимость83.

Отметим, что в науке выделяется несколько поколений роботов:

«I поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;

II поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;

III поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки»84.

Применительно к нашему исследованию предлагается важным с позиций правоприменения и правовой доктрины разделить роботов на: управляемых и автономных. Кроме того, мы разделяем позицию Г. А. Гаджиева «о разграничении непосредственно робототехнических систем, созданных без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-­агентов, т. е. киберфизических систем, способных самостоятельно совершать определенные виды задач»85.

В контексте уголовно-­правового исследования изучение вопросов гражданско-­правовой ответственности и механизмов привлечения к уголовной ответственности весьма ценно и с точки зрения междисциплинарного подхода. «Развитая правовая система представляет собой сложный, спаянный закономерными связями организм»86.

По мнению С. Г. Безверхова, сегодня можно выделить две модели правовой действительности. Первая формируется посредством разделения и расслоения права на отрасли, подотрасли и прочие структурные элементы, вторая — посредством последовательного интегрирования правовых процессов в различных отраслях в единую систему родственных институтов и формирование межотраслевого взаимодействия87.

Существующие тенденции свидетельствуют о том, что вторая модель проявляется на сегодняшний день наиболее активно. Подтверждением тому служат всепроникающие корреляционные связи между различными отраслевыми ветвями. «Системный подход означает не только изучение отдельных элементов уголовного права, но и взаимосвязей между элементами указанной системы, а также взаимосвязей между уголовно-­правовой и иными отраслевыми правовыми системами»88.

Быстрые темпы внедрения сквозных цифровых технологий обусловили качественную трансформацию правовых институтов. «Наступление новых технологий способно вовсе переформатировать право, само это понятие, феномен, его содержание, механизм действия и проч. И систему права соответственно»89. Сегодня можно говорить о постепенном размытии отраслевых границ в правовой практике.

Согласимся с мнением Э. В. Талапиной, что катализатором глубинных изменений выступил первоначально Интернет и связанное с ним цифровое право, стирающие четкие границы «публичного» и непубличного90. Комплексная составляющая информационного права позволила ей стать посредником и «связывать» публичное и частное право91. Информационно-­телекоммуникационные технологии действительно представляют собой «комплексные объекты, нуждающиеся не просто в системном, но подчас и неделимом на составные части регулировании»92.

Между тем будучи результатом успешного симбиоза информации и технологии, искусственный интеллект и робототехника представляют собой прорывную технологию, к которой должен быть применен комплексный подход93.

Тем самым межотраслевой подход обеспечивает необходимые взаимные связи между положениями других отраслей права и уголовным. Природа деликтов с применением искусственного интеллекта и робототехники в силе неполной урегулированности создает поле для широких маневров. Между тем правовая наука уже задается вопросами: кто должен нести ответственность как гражданско-­правовую, так и уголовную, за деяния с участием искусственного интеллекта и робототехники? Кто и как будет возмещать причиненный ущерб?

Для ответа на указанные вопросы обратимся к уже складывающейся практике возмещения вреда за действия роботов в России и в мире. Это позволит нам не только установить механизмы возмещения вреда, которые имеют немаловажную роль в том числе и с точки зрения уголовного судопроизводства, но и позволят определить границы: где заканчивается гражданское право и начинается уголовное94.

Это распределение юридической ответственности крайне необходимо для определения границ и места уголовно-­правовой охраны во всей системе правового регулирования робототехнических технологий. Как подчеркивается в литературе, и нам эта точка зрения также близка, «межотраслевое взаимодействие правовых норм в сфере уголовно-­правовой охраны общественных отношений представляет собой взаимную связь нормативных положений уголовного и других отраслей законодательства о правах и обязанностях участников общественных отношений, которую необходимо учитывать при законодательном конструировании и применении соответствующих положений УК РФ»95.

В связи с этим в условиях становления как отраслевого, так и межотраслевого регулирования важно обеспечить непротиворечивость отраслевых норм, нормативные предписания одной отрасли не должны допускать противоречий со смежными нормами другой отрасли, важным представляется создание эффективной взаимодополняющей, совместимой и непротиворечивой системы. «Указанное предполагает такое соответствие уголовно-­правовых норм определенным запретам других отраслей, которое обеспечивает единство подходов законодателя к регламентации конкретного комплекса отношений и позволяет взглянуть на внешне разнородные нормообразования с единой точки зрения. Действующие в комплексе запреты должны обладать таким свой­ством, которое обеспечивает возможность неодинаковых по характеру и различающихся по содержанию нормативных предписаний совместно взаимодействовать при регулировании одного и того же отношения. При этом совместимость не должна быть полной, в смысле равнозначной: уголовно-­правовой запрет не должен дублировать или подменять соответствующие положения иной отраслевой принадлежности.»96.

Приоритетным признаком, отличающим преступление от иного правонарушения, является критерий общественной опасности, проявляющийся в причинении вреда или угрозе его причинения охраняемым уголовным законом общественным отношениям. При этом уровень такой опасности должен свидетельствовать о необходимости применения средств, имеющихся именно в уголовном законе. Этот фактор неоднократно отражался в прецедентах толкования (правовых позициях), закрепленных в решениях КС РФ97.

«С учетом действия межотраслевых системных связей, к примеру, между уголовным и гражданским законодательством можно сформулировать следующие требования к определению уголовной противоправности: недопустимо наличие противоречия между соответствующими уголовно-­правовыми запретами и юридическими дозволениями гражданско-­правовой природы. Это означает, что УК РФ должен учитывать правомерность поведения, определяемую ГК РФ, и в этом смысле не расходиться с нормативными положениями гражданско-­правового характера»98.

Следует отметить, что ответственность за причинение вреда предусмотрена гл. 59 ГК РФ99.

В соответствии со ст. 1079 ГК РФ возмещение вреда за деятельность, связанную с источниками повышенной опасности, возложена на юридических лиц и граждан. Нельзя не согласиться с мнением А. Б. Незнамова и Б. У. Смита, что «взаимосвязь между компенсацией и ответственностью сложна. В соответствии со своим компенсаторным назначением гражданская ответственность номинально направлена на полное восстановление нарушенного права. Однако в отдельных случаях возмещение может быть ограничено договором между сторонами или правовой нормой более общего применения»100.

«Особенность правил ответственности за вред, причиненный деятельностью, создающей повышенную опасность для окружающих, заключается в том, что для ее возложения достаточно трех условий: 1) наступление вреда в результате воздействия источника повышенной опасности; 2) противоправность поведения причинителя вреда; 3) наличие причинной связи между противоправным поведением и наступлением вреда. Все эти обстоятельства как юридически значимые для правильного разрешения дела должны быть достоверно установлены судом, выводы по ним изложены в решении. Вины причинителя не требуется. Лицо, осуществляющее деятельность, связанную с повышенной опасностью для окружающих, отвечает и при отсутствии вины, в том числе и за случайное причинение вреда»101.

В гражданском законодательстве ответственность предусмотрена для юридического (физического) лица, которое владеет источником повышенной опасности, либо распоряжается им на праве оперативного управления, либо на ином законном основании. Полагаем, что в данном случае уместно говорить о том, что ответственность предусмотрена для владельца и эксплуататора объекта повышенной опасности, обладающего им на праве аренды, по доверенности либо в силу распоряжения органа о передаче под управление органа повышенной опасности102.

Между тем если владельцу удастся доказать, что источник выбыл из его правообладания в результате деятельности третьих лиц, то соответственно, бремя возмещения вреда возлагается на указанных (третьих) лиц.

Еще одним основанием, исключающим возмещение вреда собственником источника повышенной опасности, является наличие умысла потерпевшего на причинение ему вреда либо действие непреодолимой силы, повлекшее причинение указанного вреда.

Если в результате инцидента вред был причинен двумя или более источниками повышенной опасности третьим лицам, то предполагается солидарная ответственность собственников всех объектов. Отметим, вопросы возмещения вреда не находятся в прямой зависимости от привлечения (непривлечения) лица к административной, уголовной и дисциплинарной ответственности. Обязанность устранить опущенное нарушение и возместить причиненный вред предусмотрена для причинителя вреда законом103.

Для уяснения применимости указанных положений применительно к робототехнике, необходимо определиться, относятся ли роботы к источникам повышенной опасности. И если да, то есть ли взаимосвязь между институтом возмещения вреда и автономностью роботов, и одновременно, каким образом должен быть решен вопрос причинения вреда в подобных ситуациях104.

В юридической практике и науке на сегодняшний день нет однозначного понимания того, какие объекты материального мира можно признать источниками повышенной опасности. Как справедливо отмечает И. И. Бикеев, «одни связывают его, как и суды общей юрисдикции в правоприменительной практике, с любой деятельностью, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля над ней со стороны человека. Другие высказывают точку зрения о том, что под источниками повышенной опасности необходимо понимать предметы материального мира, обладающие опасными для окружающих свой­ствами и не поддающиеся полному контролю со стороны человека»105.

В науке длительно время существует две научные школы в понимании источника повышенной опасности. Одни авторы, такие как Б. С. Антимонова106, Н. А. Теплова107, О. С. Иоффе108, А. А. Субботина109, К. Б. Ярошенко110, С. К. Шишкин111 придерживаются мнения, что источник повышенной опасности — это всегда «деятельность граждан и юридических лиц, создающая повышенную вероятность даже невиновного причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и иных объектов производственного, хозяйственного или иного назначения, обладающих такими же свой­ствами»112. В то же время другие ученые, такие как Н. И. Коняев, О. М. Солдатенко, А. А. Тебряев, В. М. Болдинов, В. М. Сагрунян придерживаются мнения, что источник повышенной опасности — это всегда объект, обладающий признаками: неподконтрольность его человеку, высокая вероятность причинения вреда окружающим, возможность случайного причинения вреда113.

Кроме того, сформировалась еще одна группа ученых, полагающих, что источником опасности может выступать как деятельность, так и объект114.

Так, ВС РФ в п. 18 Постановления Пленума от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина», отмечает, что «по смыслу ст. 1079 ГК РФ, источником повышенной опасности следует признать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свой­ствами». Полагаем, что к робототехнике применимо понимание источника повышенной опасности и как объектов (например, автономные роботы), так и деятельности (в случае с управляемыми роботами).

«Учитывая, что названная норма не содержит исчерпывающего перечня источников повышенной опасности, принимая во внимание особые свой­ства предметов, веществ или иных объектов, используемых в процессе деятельности, суд вправе признать источником повышенной опасности также иную деятельность, не указанную в перечне»115.

Таким образом, роботы, которые потенциально могут причинить вред, на что нами было акцентировано внимание при оценке рисков робототехники, могут по решению суда быть признаны источниками повышенной опасности.

На наш взгляд, наиболее удачно в контексте робототехники, признаки источника повышенной опасности были описаны В. П. Тихим. По его мнению, «общеопасные предметы обладают тремя общими признаками: 1) повышенной общей опасностью; 2) специальным назначением и 3) особым правовым режимом»116.

Полагаем, указанное мнение как нельзя применимо к роботам, поскольку:

1) роботы, несомненно, обладают повышенной общей опасностью. Являясь техническими и цифровыми устройствами, роботы применяются в деятельности, где высока вероятность причинения тяжких последствий, не зависимо от деятельности и контроля со стороны человека;

2) роботы обладают конкретным предназначением, исходя из их функционала, поэтому возможно их деление на роботов гражданского и служебного назначения;

3) необходимость создания особого правового режима робототехники и искусственного интеллекта, прямо предусмотрена Концепцией развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года117.

На страницах научной периодики уже появлялись публикации, посвященные отдельным аспектам механизма возмещения вреда при причинении вреда роботами и искусственным интеллектом. Однако, изучение литературы позволяет говорить скорее о постановке исследователями вопросов, чем поисками ответов на них118.

В рамках системного подхода, используемого при написании монографического исследования, полагаем уместно рассматривать механизм возмещения вреда, причиненного в процессе эксплуатации роботов в совокупности с вопросами привлечения к уголовной ответственности, находящихся в прямой корреляции со степенью тяжести причиненных последствий.

Отметим, что на наш взгляд, признавать источниками повышенной опасности следует только управляемых роботов, когда на их деятельность прямо или косвенно способен воздействовать человек: либо собственник, либо оператор/водитель либо разработчик. В то же время вопросы привлечения к ответственности за вред, причиненный действиями полностью автономного робота, по нашему мнению, находятся в иной плоскости, и требует отдельного осмысления в ракурсе вопросов ответственности киберфизических систем. В число таких вопросов входят среди прочего вопросы ответственности «за непринятие искусственным интеллектом мер по предотвращению убийства, если они потенциально могли быть реализованы; за злоупотребление искусственным интеллектом правом в судебном процессе, когда два юнита искусственного интеллекта, выступающие представителями сторон в суде, парализуют своими действиями деятельность судебной инстанции; за самостоятельное отключение искусственным интеллектом своих программных и аппаратных функций, блокирующих возможность причинения вреда человеку; за создание юнитом искусственного интеллекта по своему усмотрению робота или иного устройства, способного причинить вред человеку и предназначенного для этой цели»119.

Возмещение вреда, причиненного гражданскими роботами и пределы уголовной ответственности

Промышленные роботы, лишенные автономности, или иначе управляемые роботы, могут прямо причинять вред жизни и здоровью человека. Подтверждением тому является приведенная ниже информация по инцидентам с участием роботов (табл. 1).

В последнее десятилетие с возросшей роботизацией не только промышленных, но и социальных процессов, число подобных инцидентов заметно возросло.

Таблица 1

Инциденты с участием роботов

Год	Инцидент	Последствия
2001	Робот компании Jr. Wheel Inc. схватил за шею и задушил сотрудника, покидающего рабочее место120	Смерть человека
2006	Робот прижал человека к раме и раздавил его. Проверка внутренних систем не показала никаких неисправностей, а во внутренней памяти робота не содержалось никакой информации об инциденте121	Смерть человека
2007	На одном из заводов в Швеции рабочий при осуществлении ремонтных работ получил телесные повреждения от неотключенного от электропитания робота, использовавшегося для перемещения камней122	Причинение тяжкого вреда здоровью человека
2007	Сотрудник Lenco, Inc. погиб при ремонте роботизированной руки. Робот напал на сотрудника, причинив ему травмы, несовместимые с жизнью123	Причинение тяжкого вреда здоровью человека, повлекшее смерть человека
2007	Во время военных учений в ЮАР у компьютеризированного двухствольного зенитного орудия Oerlikon MKS произошла неожиданная программная неисправность, в результате чего оружие стреляло в полностью автоматическом режиме с темпом 550 выстрелов в минуту, вращаясь по кругу на 360 градусов. В результате действий робота погибло 9 человек, 14 получили тяжелые ранения124	Смерть нескольких человек и причинение тяжкого вреда здоровью
2009	Сотрудница завода погибла от действий робота-­паллетайзера на заводе Golden State Foods в Лос-­Анджелесе. Пренебрегая техникой безопасности, сотрудница не остановила робота, в результате чего робот, приняв ее за коробку, раздавил125	Смерть человека
2015	Робот-мапулятор раздавил голову работнице завода Ventra Ionia Mains, находившейся на огороженной от действий робота территории126	Смерть человека
2015	Сотрудник компании SKH Metals, работавший загрузчиком металла, был заколот роботом-­манипулятором, предназначенным для перемещения листов127	Смерть человека
2015	На заводе Volkswagen робот, предназначенный для захвата и настройки автозапчастей, схватил рабочего и раздавил металлической пластиной. По данным автоконцерна, робот находился внутри защитной клетки, в ней же находился и инженер. Предположительно, робот мог был приведен в действие другим рабочим, находившимся с внешней стороны ограждения128	Причинение тяжкого вреда здоровью человека, повлекшее смерть человека
2016	Робот-разминирователь был использован для подрыва террориста, отказавшегося сдаться и убившего 5 полицейских129	Смерть человека
2017	На заводе Ajin USA, производящей детали для авто Hyundai и Kia, робот нанес травмы, несовместимые с жизнью, работнице завода при его ремонте. По данным расследования, на заводе не соблюдались правила безопасности130	Смерть человека
2019	В городе Грязи Липецкой области в результате нарушений правил охраны труда робот-­упаковщик прижал мужчину к оборудованию для формовки железобетонных изделий, травма оказалась смертельной131	Смерть человека

Изучение указанных инцидентов свидетельствует о том, что причинение вреда здоровью человека или смерть стали следствием:

— несоблюдения работникам правил эксплуатации робототехнических устройств и несоблюдения правил безопасности и охране труда;

— сбои в работе робототехнических устройств;

— программные ошибки, заложенные в программное обеспечение робототехнического устройства.

Отметим, что приведенные в табл. 1 инциденты касаются только управляемых роботов.

Полагаем, что, исходя из концепции признания управляемых роботов источниками повышенной опасности, вопросы возмещения вреда следует разрешать с учетом положений ст. 1064, 1079 ГК РФ.

Риск сбоя в системе, даже для самых надежных робототехнических устройств, присутствует всегда. В данном ключе владелец робомашины несет гражданско-­правовую ответственность и обязан возместить вред, причиненный роботом.

В то же время, если вред был причинен вследствие нарушения правил эксплуатации, то ответственность должна быть возложена на лицо, допустившее такое нарушение.

Так, в постановлении Пленума ВС РФ от 29 ноября 2018 г. № 41 «О судебной практике по уголовным делам о нарушениях требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов»132, отмечается что за нарушение требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов (далее — нарушение специальных правил), которое выражается в неисполнении или ненадлежащем исполнении лицом обязанностей, установленных в нормативных правовых актах, и повлекло наступление предусмотренных указанными статьями последствий, ответственность предусмотрена ст. 143, 216, 217 УК РФ133.

Так, Следственным управлением Следственного комитета Российской Федерации по Липецкой области в отношении мастера цеха было возбуждено уголовное дело по ч. 2 ст. 143 УК РФ. Следствием и судом установлено, что подсудимый, занимая должность мастера цеха ЖБИ ООО «ЯрСтрой», на которого были возложены обязанности по соблюдению требований охраны труда, не обеспечил ограждение металлической сеткой зоны работы бетоноформовочной машины, являвшимся обязательным мероприятием обеспечения безопасности при эксплуатации данного оборудования. По его указанию в рабочее время 15 июля 2019 г. оператор пульта управления оборудованием бетоноформовочной машины с целью контроля прошел в зону работы машины к конвейеру и оказался зажат между формовочной площадкой и системой захвата. В результате рабочий получил тупую сочетанную травму тела несовместимую с жизнью и скончался на месте происшествия134.

Примечательно, что Пленум ВС РФ предписывает «при исследовании причинной связи между нарушением специальных правил, допущенным лицом, на которое возложены обязанности по обеспечению соблюдения и (или) соблюдению таких правил, и наступившими последствиями суду следует выяснять в том числе роль лица, пострадавшего в происшествии. Если будет установлено, что несчастный случай на производстве произошел только вследствие небрежного поведения самого пострадавшего, суд должен, при наличии к тому оснований, решить вопрос о вынесении оправдательного приговора»135.

Достаточно неоднозначным представляется разрешение вопроса о причинении вреда и пределах уголовной ответственности за сбои в работе БПТС, БПЛА или БПВС, повлекших причинение вреда здоровью.

В СМИ активно обсуждается инцидент, случившийся в Республике Корея с участием автомобиля Tesla, вышедшего из-под контроля и врезавшегося в стену, убив пассажира и ранив еще двух человек. Этот случай тесно связан с сообщениями Национального управления безопасности дорожного движения на трассах США о рассмотрении обращения об отзыве 500 000 автомобилей Tesla из-за сообщений о внезапном непреднамеренном ускорении136.

Указанный инцидент неединичный с участием электромобилей. В 2017 году ранее Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля. «7 мая 2016 года Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится — чистое небо или поворачивающая направо 18-колесный грузовой автомобиль. В ходе внутреннего расследования было установлено, что ошибок в программном обеспечении беспилотника обнаружено не было. Однако, по мнению разработчиков, для корректной работы системы автопилота, водитель должен был постоянно концентрироваться на дороге и держать руки на рулевом колесе. Расследование Национального совета по безопасности на транспорте показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и не проехал через кусты, расположенные на частном участке»137.

В странах, в которых существует институт ответственности для юридических лиц квалификация подобных инцидентов не вызывает трудностей. В то же время весьма интересным представляется изучить вопрос о том, каким образом указанный инцидент мог быть разрешен в рамках российской правовой действительности. Отметим, что оба посягательства были сопряжены с выходом из строя и лишением водителя (оператора) возможности воздействовать на складывающуюся критическую ситуацию в силу технического сбоя138.

В соответствии со ст. 1079 ГК РФ в российской гражданско-­правовой доктрине имеет место институт объективного вменения: «законодатели возлагают на владельца источника повышенной опасности безвиновную ответственность потому, что такой источник создает повышенную опасность для окружающих, которая и обусловливает повышенную ответственность его владельца. При этом важно, что вред должен возникнуть из-за деятельности, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека»139.

Все транспортные средства, согласно классификации Американской ассоциации автомобильных инженеров, подразделяются на шесть уровней автономности:

«– уровень 0 — полностью ручное управление с возможностью предупреждения об опасных ситуациях на дороге;

— уровень 1 — водитель должен быть готов в любой момент взять управление на себя;

— уровень 2 — водитель должен реагировать, если система не смогла справиться самостоятельно;

— уровень 3 — водитель может не контролировать машину на дорогах с «предсказуемым» движением, но должен быть готов взять управление на себя;

— уровень 4 — аналогичный 3-му уровню, но уже не требует внимания водителя;

— уровень 5 — со стороны человека не требуется никаких действий, кроме старта системы и указания пункта назначения»140.

По мнению Чж. Ли и С. Менга, «при ДТП с участием обычных транспортных средств водитель теряет контроль над автомобилем и мало чего может сделать, чтобы избежать возникновения вреда. В этом плане владелец обычного транспортного средства управляет им на свой риск, зная, что в любой момент он может потерять контроль и потенциально причинить вред»141. И в этом аспекте автомобили классов с 0 по 3 не имеют отличий от обычных транспортных средств. И вопросы возмещения вреда разрешаются в общем порядке. Водитель в свою очередь, несет ответственность за нарушения правил дорожного движения или эксплуатации транспортных средств, повлекшее по неосторожности причинение тяжкого вреда здоровью человека или смерть в соответствии со ст. 264 УК РФ.

В случае с электромобилем Tesla, в результате которого погиб Джошуа Браун, на наш взгляд, в уголовно-­правовом ключе имеет место преступная халатность со стороны разработчиков системы автопилота, а в гражданско-­правовом — оказание услуг ненадлежащего качества142.

Разработчики программного обеспечения для системы автопилота, на которых в силу своих обязанностей должны были предусмотреть все возможные риски, и предупредить лиц, эксплуатирующих транспортные средства в режиме автопилота, о вероятности наступления подобных последствий, однако вследствие недобросовестного или небрежного отношения к службе либо обязанностей по должности этого не сделали, что повлекло причинение крупного ущерба.

В данном аспекте стоит согласиться с мнением Чж. Ли и С. Менга, «с совершенствованием беспилотных технологий, в частности с развитием и достижением БПТС уровней 4 и 5, именно производители БПТС станут главными субъектами гражданско-­правовой ответственности»143.

В приведенном примере, несмотря на отсутствие программного сбоя, имела место техническая неисправность полуавтономного транспортного средства, которое повлекло причинение вреда. И в данном аспекте уместным представляется разрешение вопроса о гражданско-­правовой ответственности в соответствии со ст. 1095 ГК РФ и ст. 14 Закона Российской Федерации от 7 февраля 1992 г. № 2300-I «О защите прав потребителей»144.

В случае с электромобилем Tesla, произошедшим в 2020 году в Республике Корея, несомненно уместно было говорить о причинении вреда вследствие конструктивных, рецептурных или иных недостатков товара, а также вследствие недостоверной или недостаточной информации о товаре, и, следовательно, о возмещении вреда компанией автопроизводителем в силу положений ст. 1095 ГК РФ.

В правоприменительной практике США в данном аспекте показательно решение, вынесенное против компании Toyota по делу о внезапном неконтролируемом ускорении автомобилей. Производителем программное обеспечение было разработано столь небрежно, что, по мнению судьи или присяжных, эти недоработки могли ­каким-то образом способствовать аварии145.

В то же время, если водитель Tesla знал о необходимости постоянного контроля за транспортным средством и отсутствии полной автономности у системы автопилота, но сознательно допустил неконтролируемую обстановку, то в данном аспекте уместно уже говорить об ответственности водителя.

Аналогичная позиция отражена и в постановлении Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств»146.

Как справедливо отмечают А. И. Чучаев и С. В. Маликов, «заложенный в указанном постановлении Правительства Российской Федерации подход свидетельствует о большей ответственности водителя, нежели собственника, поскольку на первого возложена обязанность контроля за соблюдением правил дорожного движения и предотвращения ДТП. Собственник высокоавтоматизированного транспортного средства в рамках эксперимента несет ответственность скорее за сбои в программно-­аппаратных средствах, которые не могут быть устранены водителем. В пользу данного утверждения свидетельствует также то, что привлечение к ответственности за дорожно-­транспортные преступления автопроизводителей, организации, отвечающие за надлежащие состояние улично-­дорожной сети, в рамках действующего российского уголовного законодательства невозможно ввиду отсутствия в нем уголовной ответственности юридических лиц»147. На сегодняшний день указанный аспект является весьма ощутимым. Ведь с уменьшением роли водителя в управлении транспортным средством автоматически будет расти роль из производителей. Параллельно будет снижать и ответственность владельцев (собственников) автономных транспортных средств. «Если сейчас, как правило, роль производителей ограничивается производством и частично продажей транспортных средств, то в будущем, с появлением и распространением БПТС, одной из их центральных задач окажется управление транспортными средствами с помощью беспилотной технологии»148.

Упомянутое постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 содержит только категории собственник высокоавтоматизированного транспортного средства, под которым следует понимать юридическое лицо, которому на праве собственности принадлежит высокоавтоматизированное транспортное средство и которое участвует в проведении эксперимента на добровольной основе. Указанное определение вполне согласуется с понятием «владельца источника повышенной опасности», данным в п. 19 Постановление Пленума ВС РФ от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»149. А также определение водителя высокоавтоматизированного транспортного средства — «физического лица, находящегося во время проведения эксперимента на месте водителя высокоавтоматизированного транспортного средства, активирующего автоматизированную систему вождения высокоавтоматизированного транспортного средства и контролирующего движение этого транспортного средства в автоматизированном режиме управления, а также осуществляющего управление высокоавтоматизированным транспортным средством в режиме ручного управления». Водитель высокоавтоматизированного транспортного средства является водителем в соответствии с положениями Правил дорожного движения Российской Федерации, утвержденных постановлением Советом Министров — Правительства Российской Федерации от 23 октября 1993 г. № 1090150.

При этом в соответствии с п. 18 Положения о проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств, утвержденного постановлении Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «ответственность за дорожно-­транспортные и иные происшествия на автомобильных дорогах России, произошедшие с участием высокоавтоматизированного транспортного средства при проведении эксперимента, при отсутствии виновных действий других участников дорожного движения, приведших к данному дорожно-­транспортному или иному происшествию на автомобильной дороге, несет собственник высокоавтоматизированного транспортного средства»151.

Таким образом, вопросы ответственности разработчика автономного транспортного средства оставлены за рамками правового регулирования, что является существенным пробелом, нуждающимся в скорейшем восполнении152.

Отдельно регулирования требуют вопросы возмещения вреда с участием полностью автономных гражданских роботов. Полагаем, что ситуации, когда оператор/водитель не имеют возможности реального контроля за действиями робота при возникновении критических инцидентов с ростом и развитием технологий также будет экспонентно нарастать.

В силу неразрешенности в отечественном уголовном праве вопроса об ответственности юридических лиц, особое внимание следует уделить институту страхования ответственности.

«Расширение практики страхования первого лица и третьих лиц и развитие системы социальной защиты могли бы помочь в достижении целей повышения безопасности и компенсации вреда. За счет установления тарифов на основе риска страхование гражданской ответственности могло бы стимулировать разумное поведение со стороны производителей, собственников и пользователей, а также обеспечить возмещение вреда, если он будет причинен»153. Отметим, что подобные прецеденты имеются. Так, на собственника высокоавтоматизированного транспортного средства возложена обязанность «застраховать и поддерживать застрахованным в период проведения опытной эксплуатации риск ответственности по обязательствам, возникающим вследствие причинения вреда жизни, здоровью или имуществу других лиц в пользу третьих лиц на сумму 10 млн руб. в отношении каждого высокоавтоматизированного транспортного средства»154. Полагаем уместным сделать указанное требование обязательны не только в рамках экспериментального режима, но и распространить его на все полууправляемые и автономные робототехнические устройства гражданского назначения.

Практика страхования активно применяется также в Великобритании и США155.

В штате Юта действует неоднозначное положение, наделяющее курьерских роботов правами и обязанностями пешеходов, а также обязанностью уступать пешеходам дорогу (101–102 абзацы проекта)156. Подобные положения были приняты в аналогичном законе штата Аризона157.

За любой ущерб, нанесенный роботом, ответственность несет его владелец, обязанный на этот случай иметь страховку не менее 100 тыс. долл. Владелец также обязан снабдить робота своей маркировкой и уникальным номером, тормозами и фарами с обоих
концов.

Так, в законодательном собрании штата Юта 20 марта 2020 г. был принят закон, устанавливающий правила дорожного движения для автономных роботов-­доставщиков. Закон позволяет роботам-­курьерам передвигаться со скоростью до 16 км/ч по пешеходным дорожкам и 32 км/ч по краю проезжей части.

Как было отмечено нами ранее, роботы могут быть потенциально опасными не только для жизни и здоровья людей, но и для объектов живой природы и нематериальных объектов.

Так, роботы могут быть непосредственными участниками различных экологических катастроф техногенного характера, повлекших намеренное или неконтролируемое уничтожение флоры и фауны. Широкое повсеместное использование роботов может повлечь причинение вреда объектам собственности: зданиям, строениям, сооружениям и пр. Вред, нанесенный в рамках рассматриваемого критерия, может иметь существенные финансовые последствия, так как может повлечь за собой значительные убытки, кроме того, вред может быть нанесен и объектам культурного значения, а также объектам, имеющим историческую ценность, вплоть до их утраты158.

Вред, причиненный неживым материальным объектам, должен разрешаться в соответствии с положениями ст. 1064, 1079 ГК РФ. Гораздо сложнее дело обстоит с причинением вреда объектам живой природы.

В соответствии со ст. 3 Федерального закона от 10 января 2002 г. № 7-ФЗ «Об охране окружающей среды», хозяйственная деятельность должна основываться на следующих принципах: «платность природопользования и возмещение вреда окружающей среде, презумпция экологической опасности планируемой хозяйственной и иной деятельности, обязательность оценки воздействия на окружающую среду при принятии решений об осуществлении хозяйственной и иной деятельности, допустимость воздействия хозяйственной и иной деятельности на природную среду исходя из требований в области охраны окружающей среды, обязательность финансирования юридическими лицами и индивидуальными предпринимателями, осуществляющими хозяйственную и (или) иную деятельность, которая приводит или может привести к загрязнению окружающей среды, мер по предотвращению и (или) уменьшению негативного воздействия на окружающую среду, устранению последствий этого воздействия»159.

В ст. 4 Постановления Пленума ВС РФ от 30 ноября 2017 г. № 49 «О некоторых вопросах применения законодательства о возмещении вреда, причиненного окружающей среде» отмечается, что «по смыслу статьи 79 Закона об охране окружающей среды вред, причиненный окружающей среде, подлежит возмещению независимо от возмещения вреда здоровью граждан или имуществу физических и юридических лиц, вызванного негативным воздействием окружающей среды в результате хозяйственной и (или) иной деятельности. Равным образом возмещение вреда окружающей среде не является основанием для освобождения лица от ответственности за причинение вреда здоровью граждан или имуществу физических и юридических лиц в результате негативного воздействия на окружающую среду в связи с осуществлением им хозяйственной и (или) иной деятельности и нарушением законодательства в области охраны окружающей среды»160.

За причинение вреда «источником повышенной опасности, независимо от наличия вины, за исключением действия непреодолимой силы и выбытия источника повышенной опасности из обладания собственников в результате противоправных действий других лиц и при отсутствии вины владельца источника повышенной опасности в противоправном изъятии этого источника из его обладания»161, ответственность возлагается на юридических лиц и граждан, деятельность которых связана с повышенной опасностью для окружающих, в силу положений п. 2. ст. 1079 ГК РФ.

Концепция признания управляемых и полууправляемых роботов источниками повышенной опасности предполагает возможность привлечения собственников к ответственности. Так, если робот, способный причинить существенный вред окружающей среде, был оставлен без надлежащей охраны, то ответственности подлежит собственник робота, независимо от того, что вред был причинен противоправными действиями третьих лиц162.

Пределы уголовной ответственности за нарушения в области охраны окружающей среды и природопользования определены в постановлении Пленума ВС РФ от 18 октября 2012 г. № 21 «О применении судами законодательства об ответственности за нарушения в области охраны окружающей среды и природопользования»163.

...