И. Р. Бегишев

Уголовно-правовое регулирование робототехники

Монография

---

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.89

ББК 67.408:32.816

Б37

Автор:
Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета им. В. Г. Тимирясова (ИЭУП).

Рецензенты:
Лопатина Т. М., доктор юридических наук, профессор, заведующая кафедрой уголовного права и уголовного процесса Смоленского государственного университета;
Ефремова М. А., доктор юридических наук, доцент, профессор кафедры уголовно-правовых дисциплин Казанского филиала Российского государственного университета правосудия.

В монографии исследуются вопросы формирования уголовной ответственности за общественно опасные деяния, совершаемые в процессе разработки, производства и применения роботов, а также за деяния, в которых робот используется как предмет преступного посягательства либо как средство совершения преступления. Особое внимание уделено выработке перспективного механизма применения уголовного закона в случае причинения вреда в процессе функционирования автономного робота и уголовно-правовых средств предупреждения и пенализации деятельности, направленной на создание, распространение и использование автономных вооруженных роботов.

Законодательство приведено по состоянию на 1 июля 2021 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся вопросами уголовно-правового регулирования робототехники.

Изображение на обложке Phonlamai Photo / Shutterstock.com

УДК 343.3/.7:004.89

ББК 67.408:32.816

© Бегишев И. Р., 2021

© ООО «Проспект», 2021

ВВЕДЕНИЕ

Технологии, лежащие в основе Индустрии 4.0, обещают коренные изменения во всех секторах бизнеса и отраслях экономики. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы уже сейчас успешно применяются в промышленности и строительстве, в здравоохранении и образовании, в быту и индустрии развлечений, в сельском и жилищно-коммунальном хозяйствах, в военной и космической областях, в других сферах экономической деятельности.

По данным Международной федерации робототехники (далее – IFR), количество промышленных роботов, используемых в производстве, на сегодняшний день достигло невиданных масштабов – 2,7 млн промышленных роботов, работающих на заводах по всему миру, что на 12% больше, чем в 2019 году1. На 20% возросло и использование сервисных роботов по всему миру. 73% глобальных установок роботов сосредоточено в пяти странах (Китайская Народная Республика, Государство Япония, Республика Корея, Федеративная Республика Германия и Соединенные Штаты Америки (далее – США)).

Россия сегодня находится во втором эшелоне стран по использованию промышленных роботов, однако разрыв стремительно сокращается. По данным Национальной ассоциации участников рынка робототехники (далее – НАУРР), в 2019 году российский рынок промышленных роботов вырос на 40% по отношению к предыдущему году – число установленных устройств составило более 1400. В 2020 году, несмотря на пандемию и всеобщий спад производства, робототехника стала заметным ИТ-трендом в российских средствах массовой информации (далее – СМИ), в сегменте COVID-Tech. За 2020 год робототехника упоминалась 32,7 тыс. раз в контексте пандемии коронавируса и стала вторым направлением по числу упоминаний в СМИ в этом сегменте. Проведенный Ассоциацией опрос участников рынка показал, что у 68% опрошенных, несмотря на вызовы 2020 года, выручка продолжала планомерно расти относительно прошлых лет2.

Инновационные технологии создания и производства роботов демонстрируют экспоненциальное развитие: создаваемые робоустройства приобретают новые характеристики, существенно расширяющие их функционал, ввиду чего разрабатываемые и перспективные роботы могут выпадать из правового поля, не являясь тождественными какому-либо предмету, признаваемому в качестве объекта соответствующих правоотношений. Уже сейчас создание, разработка и использование различных робототехнических устройств есть объективная реальность. При этом роботы перманентно видоизменяются, расширяя пределы своих функциональных возможностей, чем сообразно изменяют характер, формы, методы, средства и способы взаимодействия человека с ними. Как отмечается, с 2019 года, несмотря на пандемию, наблюдается устойчивый тренд на внедрение коллаборативных роботов (коботов) (+ 11%), активно взаимодействующих с человеком3.

Устойчивое и безопасное развитие робототехники есть важная государственная задача, успешная реализации которой позволит России открыть новые экономические рынки, изменить в свою пользу сложившиеся мировые торгово-финансовые отношения. Указанные процессы в совокупности диктуют необходимость создания контрольно-надзорных механизмов за действиями роботов и регулирования общественных отношений, возникающих на всех этапах их создания и функционирования.

Дистанцирование от вопросов правового, в том числе государственно-запретительного воздействия на общественные отношения, порожденные роботами, представляются деструктивным вектором, влекущим деактуализацию правовых предписаний, снижение их эффективности. Изменения в структуре и характере общественных отношений, вызванные внедрением в них робототехнических технологий, должны находить адекватное и соразмерное отражение в нормативных правовых актах.

В случае запаздывая процессов трансформации правовых предписаний возможно возникновение таких областей использования, разработки и применения робототехники, которые либо вовсе не будут урегулированы правом, либо будут регулироваться частично. Подобное положение есть объективная угроза.

Совершенно справедливы и последовательны утверждения Президента Российской Федерации В. В. Путина о том, что необходимо «обеспечить использование прорывных цифровых технологий для осуществления национальных целей, преображения России и укрепления ее позиций в мире»4.

Утверждение 19 августа 2020 года распоряжением Правительства Российской Федерации Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года5 ознаменовало новый этап в регулировании сквозных цифровых технологий на территории России. Принятие Концепции наряду с Национальной стратегией развития искусственного интеллекта до 2030 года6 стало подтверждением признания российским обществом и правительством серьезных вызовов и угроз, которые возникли и продолжают расти с развитием технологий искусственного интеллекта и робототехники. Это, в свою очередь, ставит важную задачу перед правом в целом. Согласно Концепции, к 2024 году в России планируется разработать и принять нормативные акты, создающие комфортную регуляторную среду для развития соответствующих цифровых технологий.

Таким образом, перед правовой наукой возникает задача особой значимости – правовыми средствами обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники. Немаловажную роль в указанных процессах занимает проработка вопросов ответственности за причинение вреда с использованием робототехники7.

Робототехника, будучи сквозной цифровой технологией, содержит существенные риски и угрозы. И тому есть объективные подтверждения. Последние пять лет все больше стран стали заявлять об использовании роботов в военных целях, не исключением является и Российская Федерация8. Особую озабоченность подобные инциденты вызывают в свете растущей автономности роботов от человека.

В повестке ряда общественных, международных организаций и межгосударственных объединений звучат призывы ограничить оборот автономных роботов в военных целях, поскольку это создает прямую угрозу соблюдению принципов защиты прав и свобод человека и гражданина, обеспечению безопасности личности, общества и государства. И если экспертами делались прогнозы о том, что угроза автономной робототехники для человеческих ценностей станет реальной в ближайшие 10–15 лет, то реальность, к сожалению, диктует свои правила. В мае 2021 года широкой публике был представлен Доклад группы экспертов Совета Безопасности Организация Объединенных Наций по Ливии, где отмечалось, что впервые в истории боевой робот самостоятельно выследил и уничтожил человека по собственной инициативе и без участия оператора9.

Немало рисков для охраняемых уголовным законом интересов и благ несет робототехника и при использовании роботов в преступных целях. Правоприменительной практике известны случаи, когда роботы стали использоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ10.

В этой связи необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов, их использования при совершении преступлений. Обозначенное необходимо для сообразного и своевременного конструирования уголовно-правовых моделей ответственности за факты причинения вреда, совершенные с использованием роботов.

В то же время, отступая от исключительно деликтной природы инициирования действия уголовно-правовых механизмов, необходимо, чтобы инструментами уголовного законодательства было обеспечено исполнение нормативных правовых актов позитивно-юридического регулирования, в том числе юридико-технических предписаний, что составляет объективную основу нормальной и безопасной деятельности в области развития и внедрения робототехники.

Необходимо обозначить, что правовые механизмы уголовно-правовой сущности не являются единственными и исчерпывающими средствами достижения безопасного создания, внедрения и использования робототехники, так как должны применяться в тесной, системно-корреляционной взаимосвязи с иными правовыми положениями, устанавливающими основу государственной политики и нормативно-правового регулирования в рассматриваемой области. Изложенное актуализирует вопросы выработки механизмов позитивно-правового регулирования, нормативно-технической и административно правовой природы. Преследуя цель устойчивого и поступательного внедрения робототехники, следует предусматривать инструменты установления правового статуса участников данных правоотношений, нормативно закреплять все возможные варианты (модели) их должного и возможного поведения.

Полнота и достаточность защиты наиболее значимых, охраняемых уголовным законом интересов есть необходимая детерминанта построения системного и комплексного правового регулирования разработки, внедрения и использования робототехнических устройств, комплексов и систем. Меры и инструменты уголовно-правовой охраны закладывают основу безопасности данных общественных отношений — не будучи обеспеченными в части, касающейся защиты наиболее значимых ценностей, вопросы внедрения и разработки роботов не могут претендовать на установление и поддержание безопасных условий существования.

Системный анализ вышеприведенных рассуждений позволяет прийти к убеждению о необходимости комплексного исследования и построения моделей, выработки системы уголовно-правового регулирования робототехники и, следовательно, об актуальности избранной для исследования темы.

Глава 1.
ТЕОРЕТИЧЕСКИЕ ОСНОВЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ РОБОТОТЕХНИКИ

§ 1.1. Теоретические подходы к определению понятий «робот» и «робототехника»

Развитие цифровых технологий во всем мире происходит достаточно высокими темпами. Появление новых технологических решений и инновационных разработок влечет за собой расширение цифровой терминологии. Среди наиболее распространенных понятий, применяемых в сфере сквозных цифровых технологий, сегодня следует отметить такие категории, как «робот» и «робототехника».

В Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года11 определено, что отсутствие однозначного понимания содержания терминов «искусственный интеллект», «робот», «умный робот», «робототехника», «интеллектуальный агент» приводит к терминологическим проблемам при формировании регулирования12.

Понятие «робот» достаточно давно используется в науке и практике, но определения данного понятия в разных источниках отличны друг от друга.

В ряде толковых словарей и глоссариях понятий можно найти следующие определения понятия «робот»:

• (чеш. robot, от robota – подневольный труд, rob – раб) – машина с антропоморфным (человекоподобным) поведением, которая частично или полностью выполняет функции человека (иногда животного) при взаимодействии с окружающим миром13;

• автомат, осуществляющий действия, подобные действиям человека14;

• автоматическое устройство с антропоморфным действием, которое частично или полностью заменяет человека при выполнении работ в опасных для жизни условиях или при относительной недоступности объекта15;

• автомат, предназначенный для замены человека при выполнении сложных технических операций16;

• машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно17;

• механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди18;

• машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также: аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм19;

• исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач20.

Общей чертой представленных выше определений выступает следующее: все авторы считают, что 1) робот представляет собой какое-либо устройство, машину и т. д.; 2) робот предназначен для совершения определенных действий либо воздействия на окружающую действительность.

Анализ содержания термина «робот» также представлен в научной литературе. В частности, по мнению П. Хаббарда, роботам свойственны определенные характеристики: они должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию21.

Аналогичные характеристики должны присутствовать у роботов и по мнению авторов исследования, проведенного под эгидой ЮНЕСКО22. Так, современному роботу должны быть присущи мобильность, интерактивность, обмен информацией и автономия.

Однако, дискуссионность вокруг термина «робот» в литературе достаточно высока и продолжает развиваться. В частности, израильский профессор М. Бен-Ари и швейцарский профессор Ф. Мондада23, анализируя статью Оксфордского словаря английского языка, где робот определен как «машина, способная выполнять сложную серию действий автоматически, особенно программируемую компьютером», отмечают, что указанное определение включает в себя несколько интересных элементов:

• выполнение действий автоматически. По мнению авторов, указанный ключевой элемент робототехники имеет общее значение и может быть также отнесен к другим устройствам, имеющим «автоматическое начало» (бытовые, промышленные приборы и пр.). Разница между роботом и простым автоматом, таким, например, как посудомоечная машина, заключается в определении того, что такое «сложная серия действий». Именно роботы, в отличие от других автоматических устройств, способны к ее выполнению;

• возможность быть программируемым компьютером. Это еще один ключевой элемент робота, поскольку некоторые автоматы программируются механически. С другой стороны, компьютеры встречаются повсюду, поэтому трудно использовать этот критерий, чтобы отличить робота от другого механизма24.

Важнейшим элементом роботов, который явно не упоминается в определении, по мнению М. Бен-Ари и Ф. Мондада, является использование датчиков. «Большинство автоматов не имеют сенсоров и не могут приспособить свои действия к окружающей среде. Датчики – это то, что позволяет роботу выполнять сложные задачи»25.

Проведя всестороннее исследование термина «робот», ученые приходят к выводу, что роботы – это нечто большее, чем дистанционно управляемые устройства вроде телевизора. Они демонстрируют автономное поведение, основанное на обнаружении объектов в окружающей среде с помощью датчиков. Робот может находиться в различных состояниях, где его реакция на входные сигналы от датчиков зависит не только от этих значений, но и от текущего состояния26.

Японские исследователи27 считают, что робот – это адаптивный, мощный и автономный инструмент. По их мнению, робот обладает очень важными характерными чертами:

• универсальностью, которая зависит от его геометрических и механических возможностей. Это подразумевает физическую способность выполнять разнообразные функции и производить разнообразное выполнение простых задач. Универсальность также подразумевает, что каждый робот должен иметь структуру с геометрией, которая может быть изменена в случае необходимости;

• способностью проявлять инициативу при выполнении задач, которые не были полностью определены и несмотря на непредвиденные изменения в окружающей среде. В этом качестве робот использует:

а) способность воспринимать окружающую среду (с помощью датчиков);

б) способность анализировать пространство задач и выполнять план операции;

в) способность быть управляемым автоматически28.

Геометрическая структура робота может быть определена путем анализа задач, которые он должен осуществить, однако японские ученые подчеркивают, что никогда не будет возможно определить весь спектр задач, которые может выполнить конкретный робот.

По мнению вышеуказанных авторов, робот может быть разумно определен только в терминах среды, которую он модифицирует. Ключевыми терминами здесь будут выступать следующие:

1. Машина, оснащенная приводами: такие машины типизируют представление человека о роботе в целом. Именно этот тип машины предназначен для выполнения конкретной задачи. Например, машины смогут быть шарнирные механические структуры, обладающие несколькими степенями свободы. Обычно шесть степеней свободы присутствуют в роботе, предназначенном для перемещения объектов. Первые три степени направляет захват в требуемое положение, а остальные три используются для ориентации концевого эффектора.

2. Окружающая среда: это среда, в которой находится человек и размещается машина. Для роботов в фиксированном положении окружающая среда сводится к пространству, которое активно исследуется роботом. Следует отметить, что окружающая среда определяется не только геометрическими соображениями (то есть «достижимым» пространством), но и всеми физическими свойствами окружающей среды и всего, что она содержит. Природа и поведение робота зависят от обоих этих свойств, а также от взаимодействия между ним и окружающей средой.

3. Задача. Задача может быть определена как разница между двумя состояниями среды – начальным состоянием и конечным состоянием после завершения задачи. Задача должна быть описана компьютеру пользователя. робот на соответствующем языке. Описание может иметь несколько форм и даже может изменяться в ходе операции.

4. Компьютер или «мозг» робота: это часть робота, которая генерирует управляющие сигналы (эти сигналы приводят в действие суставы конечностей робота) в соответствии с априорной информацией (априорное знание задачи, которую предстоит выполнить) и апостериорное знание как настоящего, так и прошлого состояний робота и его окружения29.

Исследователи считают, что существует два класса роботов:

• запрограммированные роботы, которые не могут самостоятельно проводить исследования. Они управляются программами, которые не являются самоизменяющимися в своем режиме работы. К данной категории относится большинство роботов;

• роботы, способные адаптировать по крайней мере часть своего поведения в ответ на информацию об окружающей среде, получаемую их датчиками. В настоящее время они находятся на экспериментальной стадии30.

Ряд авторов31 считает, что поиск всеобъемлющего определения робота остается проблематичным, поскольку форм-факторы, интеллект и назначение, существенно различаются. В зависимости от информанта определение меняется: это может быть механическая система, размещенная за рабочим забором (и в этом случае автономное транспортное средство не является роботом) или приспособление, которое демонстрирует автономность и способность реагировать физически, или же целая система машин, работающих в тандеме.

По мнению исследователей, избыточность в определении понятия «робот» приводит к тому, что он может быть чрезмерно использован неподготовленными пользователями, которые быстро «прикрепляют ярлык к любому новому технологическому развитию»32. Мы поддерживаем данную точку зрения.

А. Войкулеску из факультета социальных и гуманитарных наук Вестминстерского университета33 считает, что определить сущность понятия «робот» достаточно сложно по той причине, что процесс его разработки включает в себя не только знание цифровых технологий, но и других технических, этических и правовых компетенций. В некоторых случаях могут быть задействованы биология, медицина, химия. Соответственно, исходить только из технических особенностей робота представляется не совсем верным, так как его создание и функционирование требует междисциплинарного взаимодействия с большинством, если не со всеми указанными выше областями.

На основе всего вышесказанного представляется возможным сформулировать следующее определение понятия «робот»: это продукт достижений цифровых технологий, управляемый средствами заложенной в него программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач.

Необходимо также рассмотреть легальное определение категории «робот» в ряде отечественных правовых актов. Так, в Типовых нормах времени по техническому обслуживанию станков с числовым программным управлением и роботов (манипуляторов), утвержденных постановлением Госкомтруда СССР и Секретариата ВЦСПС от 16 января 1989 г. № 28/4-734 отсутствует трактовка понятия «робот-манипулятор», соответственно, робот характеризуется как разновидность какого-либо механизма, который приравнен по своей сути к станкам с числовым программным управлением. Напротив, в постановлении Росстата от 7 ноября 2006 г. № 63 роботы позиционируются как:

1) «простые», выполняющие операции типа «взять» и «положить»;

2) прочие, более сложные роботы, используемые для выполнения точечной иди дуговой сварки;

3) прочие, более сложные роботы, используемые для монтажных работ, отделки и чистовой обработки, а также для других целей»35.

Соответственно, в данном правовом акте законодатель на первый план выводит технические возможности роботов, которые необходимы при выполнении той или иной производственной операции.

Интересна также трансформация трактовки понятия «робот» в правовых актах, произошедшая в течение последних 30 лет. Если, например, в постановлении Совмина СССР от 22 февраля 1990 г. № 1072 «О единых нормах амортизационных отчислений на полное восстановление основных фондов народного хозяйства СССР» используются только понятия «роботизация технических установок», «роботизация технологических установок», входящие в категорию «Рабочие машины и оборудование»36 без какой-либо характеристики, то в распоряжении Правительства Российской Федерации от 5 ноября 2020 г. № 2869-р «Об утверждении Стратегии развития станкоинструментальной промышленности на период до 2035 года» относительно характеристики промышленных роботов уже указано следующее: «Промышленный робот является одним из средств интеллектуальной автоматизации производства, которое может быть использовано в зависимости от степени автоматизации как вспомогательное оборудование и как основное оборудование»37. Соответственно, на современном этапе в нормативно-правовую базу уже включено понятие промышленного робота как средства интеллектуального автоматизированного производства.

Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.4-2019/ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения»38 изначально определял робота как «исполнительный механизм, программируемый по двум или более степеням подвижности, обладающий определенной степенью автономности и способный перемещаться во внешней среде с целью выполнения задач по назначению». Однако ТК 299 ИСО Робототехника39 в 2018 году принял новое определение понятия «робот»: «программируемый исполнительный механизм с определенным уровнем автономности для выполнения перемещения, манипулирования или позиционирования». Необходимо сказать, что второй вариант определения, на наш взгляд, значительно сузил понятие «робот», так как ранее принятое «выполнение задач по назначению» гораздо шире по своей сути, нежели «выполнение перемещения, манипулирования или позиционирования».

Правовое закрепление термин «робот» также получил в приказах Росстата, утвердивших статистический инструментарий для организации федерального статистического наблюдения в различных сферах деятельности. Так, приказ Росстата от 24 августа 2017 г. № 545 включает термин «доильный робот»40; приказ Росстата от 30 декабря 2019 г. № 825 содержит понятия «коллаборативные роботы», «роботизированные решения (робокары, роботы-грузчики, роботы-коллабораторы)»41; приказ Росстата от 30 июля 2020 г. № 424 также включает категории «сервисные робот», «автоматизированные процессы с участием роботов», «промышленные роботы»42. Соответственно, совершенствование цифровых технологий влечет за собой внесение соответствующих правовых терминов в правовые акты, регулирующие ту или иную сферу применения роботов.

Нельзя оставить без внимания особенности классификации роботов. Как и базовое понятие данного словосочетания – «робот» – непосредственно классификация рассматриваемых объектов также вызывает у различных авторов горячие дискуссии. М. Бен-Ари и Ф. Мондада43 считают, что роботы могут быть классифицированы в зависимости от среды, в которой они работают. Чаще всего различают стационарных и мобильных роботов. Эти два типа роботов имеют очень разные рабочие среды и поэтому требуют очень разных возможностей. Стационарные роботы – это в основном промышленные роботизированные манипуляторы, которые работают в четко определенных условиях, адаптированных для роботов.

Мобильные роботы могут передвигаться и выполнять задачи в больших, плохо определенных и неопределенных средах, которые не предназначены специально для роботов. Они должны иметь дело с ситуациями, которые точно не известны заранее и которые меняются с течением времени. Такие среды могут включать непредсказуемые сущности, такие как люди и животные. Примерами мобильных роботов являются роботизированные пылесосы и самоуправляемые автомобили44.

Авторы указывают, что стационарные роботы крепятся к устойчивой опоре на земле, поэтому они могут вычислять свое положение на основе своего внутреннего состояния, в то время как мобильные роботы должны полагаться на свое восприятие окружающей среды, чтобы вычислить свое местоположение45.

По их мнению, роботы могут быть классифицированы по предполагаемой области применения и задачам, которые они выполняют. Наряду с промышленными роботами могут быть выделены и сервисные роботы, которые могут применяться в домашнем хозяйстве, в сфере обслуживания, в медицине и пр.46

Некоторые из наиболее распространенных классификаций основаны на мобильности роботов, форме рабочей оболочки (область операций робота определяется его системой координат, расположением суставов и длиной манипулятора) и кинематических механизмах (движение, допускаемое соединениями между частями робота)47.

Классификации, основанные на мобильности, предполагают, что робот может быть либо стационарным, либо мобильным в зависимости от его предполагаемого использования. Например, обычные роботизированные манипуляторы, используемые в производстве, рассматриваются как стационарные роботы. Они могут быть перемещены только тогда, когда работа завершена.

В отличие от этого, мобильные роботы находятся на колесных платформах, прикрепленных к гусеницам, или имеют подвижные ноги. Эти портативные системы не ограничены и могут быть перемещены в соответствии с производственными потребностями.

Интерактивные или социальные роботы являются новым подмножеством робототехники, представляющим собой видение робототехнических систем следующего поколения. Ожидается, что эти роботы будут жизнеспособны в человеческом организме. Среды, в которых происходят различные формы взаимодействия с человеческими агентами, интуитивно понятны, просты в использовании и реагируют на потребности пользователей48.

Современные интерактивные роботы делятся на различные категории:

• робот-помощник;

• коллаборативные роботы (коботы);

• гуманоидные или антропоморфные роботы49.

Роботы-помощники – это интерактивные и гибкие роботизированные системы, которые обеспечивают помощь на основе датчиков, приводов и обработки данных50.

Гуманоидные или антропоморфные роботы действуют автономно и безопасно, без человеческого контроля или вмешательства. Они не предназначены для решения конкретных роботизированных задач (в отличие от обработки роботов на сборочных линиях), но используются для работы в реальных условиях, взаимодействия с людьми и адаптации к их потребностям51.

Три типа социальных роботов обозначены также в работе Д. В. Гардиной:

1) робот как инструмент, подразумевает прагматическое отношение человека к роботу. Перед последним ставятся конкретные узкоспециализированные задачи, которые необходимо выполнить;

2) робот как продолжение тела – встраивается в него, и человек, приняв интеграцию с роботизированной системой, воспринимает ее как часть себя;

3) робот-социальный партнер – функционирует в рамках сложившихся семиотических систем: от воспроизведения жестов до передачи и считывания интенций, социальных смыслов, что являются неотъемлемой частью социальных коммуникаций людей52.

Глубокое исследование в области определения социальных роботов проведено в работе итальянских ученых53. Авторы отмечают, что научные определения социального робота существуют в рамках двух стратегий, одна из которых опирается на другую и сливает воедино предыдущие определения, другая предлагает новые, перспективные определения исследуемой категории. Так, существует мнение, что социальный робот – это автономный агент, который может действовать социально приемлемым образом, исходя из своей роли во взаимодействии54. Также некоторые авторы считают, что роботы способны участвовать во взаимодействиях с людьми55.

Другие авторы объединяют два или более определений, чтобы получить более полное название. Например, исследователи выделяют пять требований, предъявляемых к социальным роботам: социальные роботы – это автономные роботы, которые способны взаимодействовать и общаться между собой, с людьми и с окружающей средой и предназначены для работы в соответствии с установленными социальными и культурными нормами56.

Главным требованием к таким роботам является интеллект, который лежит в основе взаимодействия человека и робота. Для социальных роботов необходимо учитывать многие конструктивные требования:

• они должны распознавать присутствие человека через его органы чувств, такие как зрение, осязание и звук;

• они должны иметь возможность выступать стороной физического контакта, такого, как удержание или прикосновение;

• они должны уметь использовать физические движения и жесты;

• они должны выражать или воспринимать эмоции и участвовать в разговоре57.

Соответственно, социальный робот – это робот, который может выполнять определенные задачи, и необходимым условием превращения робота в социального робота является способность взаимодействовать с людьми, придерживаясь определенных социальных сигналов и правил58.

Социальные роботы – это сложные машины, которые, как предполагается, участвуют в значимом социальном взаимодействии с людьми и друг с другом59. Это существа, которые соединяют разрозненные элементы биологического и технологического в образ, находящийся на внешней границе человеческого и нечеловеческого интерфейса. Они одновременно являются воплощением высоты человеческого, научного и технологического мастерства, а также сложными объектами, требующими переосмысления онтологических категорий, историй и языка60.

Большинство авторов придерживаются позиции, что социальные роботы должны выполнять задачи, решать социальные проблемы и помогать людям. Поэтому они должны быть определены и разработаны в соответствии с конкретными функциями, которые они должны выполнять. То, что делает «обычного» робота «социальным», заключается в том, что он удовлетворяет одну или несколько специфических и контекстуальных социальных потребностей.

Роботы выступают как объекты изучения робототехники. Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, опираясь на машиностроение, электротехнику, информатику и область задач робота61. Автор считает, что робототехника – это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей62.

На сегодняшний день на первый план, по мнению исследователя, выходит робототехника, ориентированная на возможности63. Ориентированный на потенциал подход к робототехнике дает значительные преимущества для отрасли в целом с точки зрения разработки новых специальностей, улучшения понимания основ этой отрасли и повышения внимания к оценке и воспроизводимости64.

За необходимость когнитивной развивающей робототехники, которая направлена на понимание когнитивных процессов развития науки, выступают ученые из японского Университета Киото65.

Робототехнику можно определить как теорию и практику автоматизации задач, которые в силу своей природы ранее считались зарезервированными только для мужчин66. Такая работа характеризуется практически постоянным взаимодействием между роботизированным устройством и объектом (или средой). Подразумевается в таком взаимодействии некое предварительное назначение задачи.

Принимая во внимание определение робототехники, в текущих исследованиях, проводимых в этой области, можно выделить три основные категории. Это:

• научно-исследовательские работы об отдельных роботах, расположенных в фиксированном месте или на транспортном средстве-носителе (мобильном роботе);

• исследовательские работы по роботам, работающим совместно с другими роботами или другими машинами. Такие производственные линии представляют собой то, что можно назвать гибкими производственными процессами;

• научно-исследовательская работа по телемедицине (работа, контролируемая на расстоянии).

В таких процессах человек-оператор должен присутствовать за пультом управления машиной, поскольку работа не может быть запрограммирована заранее, она выполняется автоматически в адаптивном режиме. Это происходит потому, что машине еще не достигли уровня, когда смогут анализировать и интерпретировать среду, изменяющуюся при переходе от одной функции к другой67.

Специализированной отраслью робототехники, с присущими ей проблемами, является медицинская робототехника. При проектировании и изготовлении таких устройств, как протезы и другие манипуляторы, используются те же принципы, что и при конструировании роботов. Однако адаптация принципов робототехники к проблемам инвалидов, которые являются специфическими и часто трудно преодолимыми, достигла лишь ограниченного успеха68.

Немаловажное значение имеет исследование соотношения понятий «робототехника» и «автоматизация». Ученые из Миссурийского университета науки и техники69, исследовав сходство и различие понятий «искусственный интеллект», «робототехника» и «автоматизация», пришли к выводу, что, хотя искусственный интеллект, робототехника и автоматизация – все это взаимосвязанные понятия, важно осознавать различия между каждой из этих конструкций. Робототехника в значительной степени сосредоточена на технологиях, которые можно было бы классифицировать как «манипуляторы». Искусственный интеллект и робототехника способны к автоматизации, однако остается открытым вопрос о том, как и могут ли различаться эффекты автоматизации в разных технологиях. Кроме того, слово «робототехника» часто связывают с понятием искусственного интеллекта70.

Некоторые ученые утверждают, что компьютеризация и более широкое использование искусственного интеллекта имеют потенциал для автоматизации некоторых нестандартных задач по сравнению с более механическими задачами, ранее подвергавшимися автоматизации. Соответственно, вполне возможно, что технологии, включающие искусственный интеллект, могут быть способны автоматизировать гораздо больше задач, чем чисто робототехнические технологии71.

Важно отметить, что даже если такие технологии, как искусственный интеллект или робототехника, могут автоматизировать некоторые из задач, ранее выполнявшихся человеком, это не обязательно означает, что человек останется вне производственных прессов. Наоборот, во многих случаях компьютер или робот могут быть способны выполнять относительно малоценные задачи, освобождая человека для более творческих задач72.

А. Войкулеску73 считает, что одной из главных задач и целей робототехники является создание машин, способных самостоятельно взаимодействовать с динамичным миром. Масштабирование, переход к человекоподобному уровню интеллекта позволит машине пройти стадию легкой классификации, поскольку ученые уже изучают архитектуры интеллекта роботов, которые избегают традиционного предварительного программирования в качестве решения для достижения «человекоподобной» цели. Автор исходит из следующего: необходимо иметь в виду, что наши представления о роботах коренятся в определенном культурном контексте.

Соответственно, процесс регулирования роботов – это процесс самопонимания, процесс, укорененный в данном историческом контексте и практике.

Таким образом, было определено, что существует ряд подходов к определению и трактовке категорий «робот» и «робототехника». Большинство авторов исходит из собственного видения объекта исследования, опираясь, при этом, на существующие авторитетные точки зрения в данной области.

Однако постоянно развитие цифровых технологий влечет за собой необходимость формирования нового понятийного и категориального аппарата, основой которого должны выступить дефиниции, определяющие фундаментальные основы того или иного научного понятия.

Представляется неоспоримым то обстоятельство, что развитие цифровых технологий поступательно и неотвратимо влечет возникновение принципиально новых технических устройств, способных как к интеллектуальному выполнению задач, так и к эффективному совершению конкретных механических действий, направленных на реализацию данных задач. Применительно к названным техническим устройствам общеупотребительным стало использование наименования «робот»74. Однако до настоящего времени в науке и практике отсутствует не только консенсус, но и устойчивое понимание робота как предмета объективной реальности. Задача конструирования определения робота является особенно важной, поскольку предопределяет возможности правового регулирования всего комплекса общественных отношений, в которых последний прямо или косвенно фигурирует. При этом представляется, что для обеспечения регуляторной эффективности правовых предписаний определение робота должно содержать признаки, присущие всем без исключения материальным объектам, относимым к роботам. В то же время указанные признаки должны обладать одновременно достаточной степенью абстракции и устойчивости (то есть наличествовать (повторяться) во всех без исключения роботах), а также быть существенными – то есть позволять отграничивать роботов от смежных явлений, к примеру, воздушных судов, транспортных средств и т. д.

В дополнение к изложенному заметим, что роботы, как материальные объекты определенного вида (обладающие общими, присущими всем без исключения видовыми признаками), являются неоднородной категорией – отличаются по размерам, длительности автономной работы, выполняемым функциям. Названное обстоятельство, безусловно, должно учитываться при формулировании определения, иными словами, дефиниция должна включать как общие признаки, присущие всем без исключения объектам робототехники, так и частные, на основе которых возможно выделение отдельных групп роботов, имеющих специфические технические характеристики.

Приступая к формулированию признаков, в первую очередь заметим, что сфера робототехники характеризуется экспоненциальным развитием, ввиду чего при описании робота, на наш взгляд, следует учитывать наличие перспективных технических разработок и употреблять некий общий, собирательный признак, свойственный всем роботам, как существующим, так и проектируемым, что позволит эффективно распространять на них положения нормативных правовых актов. Думается, подобный признак можно сформулировать как «продукт достижения цифровых технологий», как наиболее обобщенный, характерный для любых видов робототехники, однако позволяющий отличать роботов от смежных, родовых явлений, к примеру, иных объектов, техносферы (башенных кранов, трансформаторов и т. д.). При этом заложенный в данный признак потенциал абстракции, без дальнейшей конкретизации, представляется излишним, образующим невозможность полноценного уяснения сущности робота, ввиду чего дальнейшее изложение определения можно сформулировать следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система)». Казуистичное перечисление форм роботов позволяет сформировать надлежащую регуляторную среду, обеспечить формальную определенность дефиниции, ее точность, ясность и недвусмысленность.

Рассуждая на тему роботов, можно высказать обоснованное предположение, что по своей исключительно физической (технической, механической и технологической) сути в актуальный период и в дальнейшей перспективе они будут выступать как некоторый сложный объект, состоящий из нескольких составных компонентов. Для подтверждения вышеуказанного тезиса обратимся к тенденциям машиностроения – ни один готовый продукт данной отрасли (в затронутом контексте – транспортное средство) не представляет собой единого, монолитного сплава, а состоит из множества взаимосвязанных частей (комплектующих). Следовательно, полагаем, что робот аналогично представляет собой составное устройство (с известной долей условности – сложную вещь, состоящую из нескольких предметов, которые связаны единым назначением и соединены таким способом, который предполагает использование их по общему назначению). Изложенное не означает, что изолированно отдельные части робота не могут выступать в качестве самостоятельного объекта гражданского робота. Напротив, указание на составную природу робота как сложного объекта позволяет распространять описательную способность конструируемого определения на части робота, фигурирующие в обороте или производстве как самостоятельный объект. Исходя из закономерностей развития робототехнических комплексов, возможно обоснованно предположить, что их создатели изберут путь модульных конструкций, комплектация которых будет зависеть от конкретных целей использования. При этом отдельные части робота могут не только фигурировать в обороте как обособленный объект, предопределяя возможность возникновения в отношении них гражданских прав и обязанностей, но и вполне могут являться источниками повышенной опасности, не поддающимися полному контролю со стороны человека, в связи с чем представляющие угрозу причинения вреда правоохраняемым интересам личности, общества и государства. Ввиду изложенного дефиницию можно продолжить следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей)».

Не менее важной составляющей робота, предопределяющей его ценность и возводящей его в категорию цифровых устройств, является программный код, обеспечивающий его устойчивое функционирование и возможность выполнения определенных задач. Данный программный код может быть выражен как единичная компьютерная программа, совокупность компьютерных программ либо как компьютерная программа, средства которой обладают признаками автономности. Именно программные средства предопределяют возможность робота действовать определенным образом, выполнять поставленные задачи, находиться в том или ином состоянии. Ввиду изложенного предлагаемое определение должно содержать признак, отражающий двойственную природу робота как состоящего не только из скомпонованных определенных образом механизмов, но и программного обеспечения, функционированием которого обеспечивается в целом деятельность робота. При этом важно акцентировать, что программное обеспечение является экзистенциальным компонентом робота, в отсутствие которого последний не представляет изначальной ценности. Таким образом конструируемую дефиницию можно продолжить так: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы».

Рассуждая о программном компоненте, предопределяющем интеллектуальный потенциал робота, то есть способности робота к осуществлению действий, сходных по сложности и характеру с результатами человеческой деятельности, следует упомянуть, что ускоренное развитие технологий искусственного интеллекта позволяет обоснованно предполагать, что применяемые в роботах компьютерные программы в дальнейшей перспективе смогут обеспечивать не только выполнение заложенных в их алгоритмы функций, но и имитировать когнитивные функции человека на основании самостоятельно осуществляемого анализа зависимостей окружающей среды.

Подобный уровень развития программ, иначе именуемый технологической сингулярностью, хотя и не входит в состав актуальной повести нормативного регулирования, но все-таки, по нашему представлению, должен найти отражение в предлагаемой дефиниции для целей обеспечения устойчивости, долгосрочности и эффективности строящихся на ее основе механизмов правового регулирования.

Современные, находящиеся в гражданском обороте программы функционируют на основе заложенных в их цифровом коде алгоритмов действий и решений. Иными словами, программа, ее исходный код способны обеспечивать выполнение только того перечня действий (вычислений) и реагировать только на тот перечень команд, который был изначально заложен разработчиком. Такой технический и интеллектуальный потенциал исключает дискурс относительно деликтоспособности робота, снабженного подобной программой. За его действиями как на всем протяжении жизненного цикла, так и при выполнении конкретной задачи в определенных условиях сохраняется возможность достаточного контроля. Действия и решения такого робота являются полностью прогнозируемыми и ограничиваются только перечнем алгоритмов, изначально заложенных разработчиком (производителем). Указание в дефиниции робота на возможность выполнения им ограниченного перечня механических манипуляций и вычислительных процессов, прямо следующих из заложенных в его программное обеспечение алгоритмов, видится необходимым и в равной степени очевидным.

В то же время требует дополнительного раскрытия и предметного описания возможность робота к выполнению действий и принятию решений, основанных на тех поведенческих алгоритмах, которые такой робот приобрел в результате самообучения, то есть самостоятельному собиранию, анализу и сохранению информации, поступающей из внешней среды. Поясним дополнительно, что упомянутая нами возможность к самообучению (предпосылка искусственного интеллекта) обуславливает возможность робота к совершению действий, которые находятся вне рамок заложенных в его программу алгоритмов, обуславливает возможность принятия индивидуально-неповторимых решений в конкретных ситуациях, а также детерминирует способность робота воспринимать любые команды, а не только тот их перечень, который был изначально включен в программу.

Таким образом, потенциально может сложиться положение, при котором действия роботов не могут быть однозначно, с достаточной степенью определенности спрогнозированы производителем или пользователем, что образует вопрос относительно деликтоспособности подобных робототехнических систем.

Потенциально возможное в будущем внедрение в программные средства робота технологий искусственного интеллекта образует когнитивную, а соответственно, и поведенческую автономность робота. Данное свойство может быть сформулировано как возможность самостоятельного принятия решений и осуществления действий на основании самостоятельно сформулированного поведенческого алгоритма.

В контексте изложенного полагаем, что роботы, исходя из интеллектуального потенциала заложенных в них средств компьютерных программ, могут подразделяться на тех, которые выполняют строго ограниченный перечень действий, и тех, которые способны осуществлять автономный анализ закономерностей внешней среды, действовать на основании собственных поведенческих алгоритмов и самостоятельно избирать перечни возможных действий и решений.

Представляется, последняя разновидность роботов (с известной долей условности назовем ее автономной) имеет потенциал к порождению широкой научной дискуссии, поскольку являются неочевидными, во-первых, факт создания подобной робототехнической технологии, во-вторых, релевантность предлагаемого нормативного регулирования данной технологии. Последний тезис основывается на том, что базисом любого регулирования является решение вопроса о правосубъектности, которая является основным маркером, не только отграничивающим субъекта права от его объекта, но и определяющим категорию субъекта как обладающего всем объемом прав и обязанностей и способного осуществлять и реализовывать их своими действиями, так и неспособного к указанному.

В любом случае абстрагирование от вопросов автономности есть достаточно опасная тенденция, поскольку невозможно остановить течение и ход исторических событий, развитие научно-технологического прогресса. В настоящее время вопрос автономности основывается на дискурсе относительно периода появления таких технологий, факт их появления уже не ставится под сомнение. Сообразно изложенному, безотносительно того, когда такие технологии появятся, нормативное регулирование должно быть готово к ним, адаптировано к их существенным свойствам, модифицировано для удовлетворения целей установления правового положения автономных технологий.

В связи с вышеизложенным, предлагаем ввести в научный и практический оборот авторский вариант определения понятий «робот» и «робототехника»:

1) робот – продукт достижений цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач75.

2) робототехника – наука и практика разработки, производства и применения роботов, их составных частей (модулей).

Указанные дефиниции, наряду с иными основными понятиями в области технологий робототехники, могут быть использованы при подготовке проекта федерального закона «Об обороте роботов, их составных частей (модулей)», а также в иных нормативных правовых актах, осуществляющих регулирование отношений в указанной сфере.

§ 1.2. Сущность робототехники: технолого-правовые аспекты

Последняя фаза продолжающейся «цифровой революции» характеризуется инновациями в области искусственного интеллекта. В этой связи робототехника оказалась в центре внимания ряда наук, которые, казалось бы, на первый взгляд, имеют к ней самое отдаленное отношение. Это социология, психология, экономика, медицина, право и пр. В каждой из указанных наук сегодня роботы находят применение благодаря достижениям цифровых технологий. Однако технологические инновации в различных областях породили новые сложные проблемы, требующие решения со стороны регулирующих и других директивных органов.

Несмотря на широкое применение достижений робототехники и искусственного интеллекта первичным при рассмотрении данных категорий все же выступает технологический аспект. Известно, что роботы – это функциональные объекты, которые физически взаимодействуют с материальным миром. Каждая разработка в области искусственного интеллекта сопровождается регистрацией патентов и закреплением авторских прав, причем последние являются результатом программного обеспечения, управляющего работой роботов76.

Робототехника, в рамках которой осуществляются разработки интеллектуальных систем и создаются роботы, находящие применение практически во всех теоретических и прикладных науках, представляет собой важнейшую технологическую основу развития производства.

Эффективное законодательство и регулирование создают доверие, и для робототехники, позволяющее ей расти и развиваться. Доверие будет важным товаром: доверие к брендам, доверие к функциям, доверие к частной жизни, доверие к справедливому рынку77.

Робототехника и автономные системы находятся на очень ранних стадиях развития, и пройдет не менее десяти лет, прежде чем в полной мере будет ощущаться их воздействие на развитие информационного общества. Как и все новые цифровые технологии, робототехника пройдет через ряд этапов, прежде чем в конечном итоге станет мейнстримом78.

Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, при этом, основная опора науки приходится на машиностроение, электротехнику, информатику и область задач робота79. Автор считает, что робототехника – это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей80.

В основе развития робототехники лежат два принципа: – принцип возможностей и принцип потенциала. Первый принцип включает в себя широкие перспективы в области применения искусственного интеллекта, которые еще подлежат дальнейшему освоению и разработке.

Второй принцип связан с существующими на сегодняшний день возможностями применения робототехники и носит прикладной характер.

Необходимость изучения когнитивного характера развивающейся робототехники отмечают японские ученые81. Основой робототехники, по мнению исследователей, в рассматриваемом ими контексте должен стать принцип проектирования. В центре внимания разработчиков должны находиться гуманоидные роботы, которые, посредством синтеза символов, будут иметь возможности активно анализировать отношения в социуме и, в конце концов, смогут встать в один ряд с человеком разумным82.

Однако для максимальной реализации такими роботами своих возможностей необходимо, чтобы адаптации подверглась также и окружающая среда. Именно тогда они смогут постепенно адаптироваться к более сложным задачам в более динамичных ситуациях. Здесь, как считают авторы, важным выступает переход от невербальной коммуникации к вербальной83.

В литературе робототехника также определена как теория и практика автоматизации задач, решить которую ранее могли только мужчины по причине значительной выносливости и физической силы84. Кроме того, авторы часто ставят знак равенства между такими понятиями, как «робототехника» и «искусственный интеллект»85.

Также в различных источниках можно найти точки зрения, основанные на сравнительной характеристике таких понятий, как «искусственный интеллект», «робототехника» и «автоматизация». Не отрицая взаимосвязанности указанных понятий, отдельные авторы считают, что прерогативой робототехники выступают высокие технологии, носящие прикладной характер. При этом, автоматизация лежит в основе как робототехники, так и искусственного интеллекта, который, в свою очередь, в отличие от робототехники, теоретизирован86. Есть также точка зрения, указывающая на то, что технологии, включающие искусственный интеллект, могут быть способны к автоматизации достаточно широкого спектра задач в отличие от робототехнических технологий87.

Кроме того, в научной литературе имеется позиция, что робототехника призвана создавать машины, которые способны к самостоятельному взаимодействию с динамичным миром88. На первый план здесь выходит именно культурный контекст, в рамках которого люди формируют свои представления о роботах. В этой связи, процесс регулирования роботов позиционируется как процесс самопонимания, уходящий корнями в опыт предшествующих поколений89.

Робототехника, как уже было указано, получает динамичное развитие в различных сферах, но наиболее перспективным, на наш взгляд, выступает применение ее достижений в области здравоохранения. Системы искусственного интеллекта дают возможность внедрить электронные медицинские карты; цифровой сенсорный мониторинг и пр.90 Технологии распознавания образов могут сочетать болезненные состояния с оптимальным лечением. Роботы могут выполнять многие сложные задачи, которые трудны для человека. Так, роботы могут выполнять хирургические операции, обязанности медицинских сестер, оказывать услуги по реабилитации пациентов и пр.91.

Использование роботизированных технологий в здравоохранении имеет большой потенциал и является захватывающей областью развития. В хирургии уже успешно внедрены роботизированные технологии92.

Роботы по уходу в области социального обслуживания населения были предложены в качестве способа решения растущей проблемы ухода за пожилыми людьми, но использование роботов по уходу не ограничивается оказанием помощи пожилым людям – они также могут быть использованы для оказания помощи инвалидам или людям, восстанавливающимся после травм. Также, как считают исследователи, достаточно востребованными будут роботы, которые оказывают помощь оказания помощи в выполнении повседневных домашних задач, в доставке еды и пр.93

Роботизированные технологии также могут быть физически интегрированы в организм человека в виде протеза. Конечная цель роботизированного протезирования – замена отсутствующей или функционально поврежденной части тела роботизированной частью тела, которая полностью воспроизводит (или даже превосходит) естественную функцию утраченной конечности. Кроме того, с помощью экзоскелетов новая технология интерфейса мозг – компьютер может позволить людям с тяжелыми повреждениями спинного мозга снова ходить94.

В то время как роботы по уходу и роботизированные протезы в настоящее время широкого распространения не получили, хирургические роботы уже довольно широко применяются, будучи внедрены главным образом для повышения качества хирургических процедур и точности, с которой проводится операция. Самый известный хирургический робот – это да Винчи.

Робототехника постепенно становится одной из важнейших цифровых технологий нашего времени и в ближайшие годы автономность машин будет только возрастать, приближаясь к человеческим образцам мышления95. Однако, как и любой другой результат технологического развития, прогресс робототехники способен создать проблемы в области морали и права, например, возложение ответственности станет более трудным из-за автономии машин. В частности, развитие робототехники ставит проблемы с точки зрения возложения ответственности на конкретных людей. Это может лишить человека, чьи права нарушаются роботом, возможности требовать возмещения ущерба. Также здесь возможна ситуация, когда ответственных за причинение вреда определить будет невозможно96.

Рассмотрим более подробно правовые проблемы, которые могут иметь место в случае участия продукта робототехники – робота в тех или иных отношениях информационного общества и исследуем правовые последствия, возникающие от тех или иных действий робота, наносящего ущерб третьим лицам.

Практике известны примеры, когда роботы причиняют ущерб по причине имеющихся в них конструктивных или программных дефектов. В случае наличия доказательств возникновения конструктивных дефектов, возникших только по вине разработчика-создателя робота, никаких дополнительных проблем не возникает. Однако, если будет доказано, что технологические дефекты возникли также из-за поставщика или импортера некачественных комплектующих, ответственность за причинение ущерба уже будет иметь солидарный характер97.

В Европейском праве основная проблема этого сценария заключается в том, что бремя доказывания фактического ущерба, дефекта в продукте (роботе) и причинно-следственной связи между ущербом и дефектом лежит на виновной стороне – производитель или импортер несут ответственность в рамках «строгой» ответственности, никаких доказательств не требуется для выявления небрежных или неправильных действий со стороны производителя или импортера98.

«Строгая» ответственность основывается на решении законодателя о том, что одна сторона несет ответственность за конкретный ущерб, даже если социальная неадекватность действия не может быть доказана. Причина такого решения, как правило, заключается в том, что именно эта сторона извлекает наибольшую выгоду, контролирует процесс и в большинстве случаев фактически наносит ущерб по какой-либо ошибке. Однако в случае с выявлением дефекта в продукте робототехники могут возникнуть проблемы, например, если компьютерная программа, на основе которой была произведена разработка, имеет повышенную сложность99.

При определенных обстоятельствах производитель может отказаться от строгой ответственности, если сможет доказать, что состояние научно-технических знаний на тот момент, когда он поставил товар в оборот, не позволяло обнаружить дефект или же данный дефект обусловлен конструктивными особенностями изделия100.

Однако, необходимо помнить, что чем сложнее робот, тем более автономно он действует, и тем труднее сторонам доказать свою невиновность в случае возникновения ущерба, нанесенного роботом.

Все вышесказанное позволяет говорить о том, что считать робота простым продуктом в существующих условиях нецелесообразно. Эта доказывается тем, что вскоре роботы могут быть оснащены адаптивной и обучающей способностью. Эти особенности неизбежно повлекут за собой определенную степень непредсказуемости и неконтролируемости в поведении роботов: из-за увеличения опыта, полученного роботом самостоятельно, поведение робота больше не может быть спланировано человеком в полном объеме101.

Это приводит не только к сомнениям в возможных технологических недочетах, имеющих место при производстве роботов, но и к вопросу о том, обязательно ли каждая «ошибка» робота вызвана дефектом в юридическом смысле. Если роботы с адаптивными и обучающими способностями будут свободно взаимодействовать с людьми в неконтролируемой среде, они могут реагировать на новые входные сигналы непредсказуемым образом. Если робот затем причиняет ущерб третьим лицам из-за этих реакций, вряд ли следует говорить о его конструктивном дефекте, так как он будет делать то, что должен: в частности, робот будет проявлять реакцию на новые входные сигналы и адаптировать свое поведение под них. Таким образом, доказать дефектность машины будет сложно102.

В настоящее время для таких случаев не существует никаких деликтных норм. Иногда обсуждается создание аналогии с правилами для владельцев животных; аргументом в пользу такой аналогии может быть то, что основной конфликт данной ситуации является адекватно подобным – в обоих случаях действия животного, как и машины, частично непредсказуемы, но могут быть подвержены влиянию обучения и контроля.

Также было высказано мнение о применении к данной ситуации родительской модели: проводилось сравнение когнитивных роботов с детьми, которые учатся на своем собственном опыте. Несовершеннолетние действуют в соответствии со своим воспитанием и должны подчиняться своим родителям, роботы действуют в соответствии с поведением, которому их «научили» разработчики, и должны выполнять инструкции пользователя103.

Одна из правовых идей, связанная с повышением автономности машин, заключается в том, чтобы переложить ответственность непосредственно на них. Здесь возникает так называемая проблема возложения на роботов ответственности как таковой: когда машины принимают решения, вопросы к ней возникают не только в том случае, если что-то идет не так, но и по поводу каждого решения, принятого машинами. Так, актуальными будут в данной связи следующие вопросы:

1. Кто несет ответственность за вред, причиненный машинами?

2. Может ли машина реагировать так, как это необходимо для социальной и правовой конструкции ответственности?104

Проблему такой передачи ответственности можно увидеть, рассматривая потенциальные социальные реакции на решения машин. В определенной степени социальные проблемы могут возникать из-за различий в восприятии людей и машин. Исследования показывают, что для большинства людей сложнее простить машину, если она принимает решение, которое влияет на человеческую жизнь, в независимости от того, верным или неверным такое решение выступает. Так, большинство людей считают недопустимым доверить свою судьбу роботу, особенно, например, в тех ее аспектах, которые связаны с выбором жизни или смерти105.

Однако, необходимо сказать, что именно робот может принять решение, которое не будет находиться под влиянием человеческих эмоций и которое будет верным в той или иной ситуации. Но если взять в расчет этический аспект, такое решение идет в разрез с правом человека самостоятельно принимать решения, касающиеся его самого106.

Машины могут совершать меньшее количество ошибок, нежели люди. Эти их особенности уже давно с успехом используются в таких отраслях, как медицина, образование, социальное обслуживание населения и др. Данная особенность позволяет говорить, что исключение человеческого фактора из принятия решений иногда выступает более благом, нежели злом107.

Проблема ответственности возникает также при любом обсуждении беспилотных автомобилей. Она касается вопросов юридической ответственности: в частности, кто несет ответственность за ущерб, причиненный беспилотным автомобилем. Это обсуждение в основном сосредоточено на полностью автоматизированных транспортных средствах, которые способны работать на дорожной сети без вмешательства человека108.

Такие транспортные средства хранят и используют информацию, принимают решения самостоятельно и физически действуют в соответствии с этими решениями. Это означает, что, будучи материальными физическими объектами, перемещающимися в общественных местах, полностью автоматизированные транспортные средства способны причинять реальный ущерб независимо от их производителей, владельцев или пассажиров. В связи с этим возникает важный юридический вопрос: кто несет ответственность за такой ущерб? В то время как в ближайшие годы эта технология получит все большее распространение, вероятность того, что беспилотные автомобили будут наносить ущерб имуществу и людям, будет возрастать109.

Насколько хорошо подготовлена существующая правовая база для решения этих вопросов? Одна сторона вопроса заключается в том, что наши нынешние правовые системы и практика достаточно широки, чтобы адаптироваться к ущербу, причиняемому беспилотными автомобилями. Это говорит о том, что беспилотный автомобиль не радикально отличается от других технологий, предназначенных для повышения автомобильной безопасности, которые были реализованы без необходимости радикального изменения систем ответственности: это, например, ремень безопасности, подушка безопасности или антиблокировочная система тормозов. Таким образом, автомобиль без водителя, причиняющий телесные повреждения из-за дефекта, выступал бы как проблема ответственности продукта, налагающая строгую ответственность на производителя в случае возникновения нештатных аварийных ситуаций110.

Однако это, возможно, игнорирует тот факт, что чем сложнее цифровая технология, тем больше разрыв между ожиданиями людей и ее истинной эффективностью. Люди, использующие беспилотные автомобили, могут, по крайней мере, на начальных этапах, иметь нереалистичные ожидания или заявлять, что они не оценили или не могли полностью оценить их функции безопасности. Точно так же производители могут утверждать, что водители-операторы могут (и должны) вмешиваться в ситуацию, чтобы избежать ущерба в большей степени, чем они это делают. Вероятно, будут существовать «серые зоны», в которых причины ущерба будут не ясны111.

Действительно, ожидания безопасности основаны на высоком уровне использования цифровой технологии. Пешеходы могут пойти на больший риск, а водители традиционных автомобилей могут действовать более агрессивно, если им будет известно, что автомобиль без водителя запрограммирован действовать в рамках правил. Эта проблема обычно имеет значительную остроту, когда новая технология только зарождается; риски для производителей будут уменьшаться по мере того, как люди будут лучше с ней знакомиться, но в начале можно ожидать отсутствия ясности и, соответственно, потенциальной возможности для споров о причинах аварий112.

Еще одна возможность, которая была предложена, заключается в том, чтобы присвоить некоторую форму юридического лица автоматизированным транспортным средствам; признание того, что они могут сами по себе причинять ущерб и убытки. Присвоение легального статуса самому автомобилю без водителя за причиненный им ущерб также устраняет всякую необходимость винить владельца или производителя, которые ни коим образом не могут быть виновны в действиях своего автомобиля без водителя, в то же время, защищая права столь же невиновной жертвы113.

То, как будет рассматриваться ответственность за ущерб, причиненный беспилотными автомобилями, потенциально имеет значительные последствия для существующей системы страхования. Новые страховые продукты и структуры будут необходимы для удовлетворения возросшей ответственности производителей, владельцев, разработчиков программного обеспечения, сетевых операторов, арендаторов и других лиц, участвующих в создании БПТС114.

Производителям потребуется покрытие ответственности, возникающей в результате дефектов технологии, в то время как владельцам транспортных средств, скорее всего, потребуется страхование «без вины» для покрытия любых травм или повреждений, вызванных любыми другими авариями115.

Возможное решение предложено правоведами из Швеции, где существует модель, в соответствии с которой функции страхования, связанные с компенсацией и предотвращением несчастных случаев, разделены, что дает право жертвам получать компенсацию от страховщиков и позволяет страховщикам решать, следует ли признавать случай страховым116.

Шведская система не лишена недостатков и в значительной степени зависит от государственного финансирования, а это означает, что перенос указанной концепции в другие юрисдикции может оказаться сложной задачей.

Как и большинство других технологий, беспилотные автомобили будут собирать и анализировать персональные данные, например, для обеспечения безопасности и анализа несчастных случаев. Кроме того, интегрированный набор систем, необходимых для работы беспилотного автомобиля, будет уязвим для вредоносных компьютерных программ, атак хакерских сообществ117 с целью нарушения или захвата контроля над его функционированием. Соответственно, многие (если не все) вопросы защиты данных и кибербезопасности, будут в равной степени применимы и к беспилотным автомобилям.

В здравоохранении вопрос ответственности, когда робот причиняет ущерб или травму, является важным вопросом. Используя робота по уходу в качестве помощника, можно представить себе, что робот, поднимающий человека с кровати в инвалидное кресло, например, может травмировать этого человека, если он выйдет из строя. Если это произойдет, то какая сторона будет нести ответственность за причиненный вред? Стороной, ответственной за причинение вреда, теоретически может быть производитель робота, проектировщики, сторона, которая предоставила в пользование или продала робота пользователю, а также люди, которые обслуживают робота или даже сами пользователи, взаимодействующие с роботом таким образом, который запрещен производителем118.

Те же соображения возникают и в отношении роботизированных протезов. Риски, связанные с использованием роботизированных протезов, могут быть особенно высоки, учитывая тот факт, что они чрезвычайно технологически сложны. Роботизированные протезы вполне могут использоваться способами, которые изначально не предусматривались производителем119.

Внедрение роботов в хирургию также может привести к появлению новых рисков: вероятность того, что робот может причинить вред пациенту независимо от действий хирурга, очень высока120.

Было высказано предположение, что хирургические роботы должны содержать «черный ящик», который будет записывать данные, относящиеся к движениям робота, данные окружающей среды, обнаруженные роботом, команды, отдаваемые оператором и так далее. Данная технология позволила бы минимизировать споры относительно ответственности в случае причинения вреда роботом121.

Идея черных ящиков-регистраторов не ограничивается хирургическими роботами, и они также могут сыграть свою роль во многих других робототехнических технологиях. Что касается протезирования, было высказано предположение, что регистратор черного ящика в протезе поможет исследовать причину несчастного случая или травмы, возможно, позволит исследователям обнаружить механическую или электрическую неисправность в качестве причины. Однако, в отличие от хирургического робота, там, где относительно большой черный ящик, подключенный к основному источнику питания, не представлял бы такой проблемы, любой черный ящик в протезе должен был бы быть маленьким, не влиять на движение, кроме того, сложную задачу представляет собой установка источника питания122.

Существуют также определенные вопросы ответственности, связанные с робототехникой, которые ранее не поднимались. Например, один из таких вопросов связан с тем, кто несет ответственность, если в случае выполнения операции хирургом, который использует для этого средства телемедицины и находится в другом городе или стране, возникают различные осложнения? Как обеспечить в такой ситуации адекватность страховой защиты хирурга, если кроме него в операции также участвуют хирурги больницы, где находится пациент, и их ассистенты? Ответы на данные вопросы необходимо найти как можно раньше, так как практика применения роботов в здравоохранении растет с каждым днем123.

Обсуждение ответственности и потенциального правового статуса в контексте робототехники означает больше, чем постановка вопроса «Кто несет ответственность, если что-то пойдет не так?». Необходимо понять, что произойдет, если мы намеренно передадим принятие решений роботам. Это может означать полное переложение ответственности на них в той или иной ситуации. В данном контексте необходимо грамотно и своевременно законодательно реагировать на изменение фундаментальных понятий робототехники и сознательно создавать пространство для этих изменений, а также укреплять осведомленность соответствующих институтов, которые будут принимать решения о развитии робототехники124.

Согласованный стратегический подход к регулированию указанных выше ситуаций – предпочтительно на международном уровне – будет наилучшим способом достижения правильного баланса между поощрением инноваций, решением вопросов ответственности и защитой общества.

Нельзя не отметить, что робототехника по-прежнему сталкивается с парадоксом Моравека: задачи, которые трудны для людей, такие как прецизионная точечная сварка, легки для роботов, тогда как задачи, которые легки для людей, являются сложными для машин125. Люди, например, способны начисто вытереть обеденный стол, что чрезвычайно трудно для роботов. Это объясняется, главным образом, врожденной сложностью механики трения, столкновений и контакта. Гораздо легче рассчитать точную траекторию кометы, чем предсказать траекторию кофейной кружки, которую двигают по поверхности стола126.

Робототехника сейчас провозглашается драйвером четвертой промышленной революции. Ее влияние будет ощущаться более широко, чем предшествовавшие ему компьютерные или коммуникационные революции.

Соответственно, развитие робототехники действительно создает проблемы с возложением ответственности не только в случае нанесения роботами ущерба третьим лицам. Это также означает, что нужно помнить об ответственности за руководство процессом совершенствования роботов, и люди, занимающиеся этим, должны осознавать свою ответственность.

Необходимо проводить массовое исследование достижений робототехники для формирования общей стратегии среди представителей научных кругов и бизнес-сообщества. Это позволит сформировать новое поколение специалистов в области робототехники, которое будет иметь глубокие связи с обществом и сможет отстаивать свои позиции в дискуссиях. Кроме того, будет сформировано верное представление о науке робототехнике как таковой.

Подводя итог, необходимо сделать следующий вывод. Сущность робототехники на современном этапе сегодня складывается не просто определением указанного понятия, но и той смысловой и практической нагрузкой, которая выступает следствием реализации данного понятия как в правовом поле, так и в технологическом аспекте. Отраслевые особенности применения данного понятия напрямую связаны с достижениями в области робототехники, находящими применение в тех или иных областях науки и практики. Определения и приемы раскрытия категории «робототехника», которые предлагают современные авторы, имеют значительные отличия от таковых, данных еще несколько лет тому назад. Соответственно, для актуализации значения указанной категории как в технологическом, так и в правовом аспекте, необходимо учитывать современные достижения цифровых технологий в рассматриваемой области.

Таким образом следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности человека, общества и государства обусловливают необходимость создания эффективных механизмов правового регулирования отношений в сфере оборота роботов.

§ 1.3. Авторская модель правового регулирования робототехники

...