Сценарное исследование проблем обеспечения общественной безопасности в условиях цифровизаци

Научное издание

---

ebooks@prospekt.org

Информация о книге

УДК 343.34

ББК 32.973-018.2я73

С92

Авторы:
Шульц В. Л., доктор философских наук, член-корреспондент РАН, научный руководитель Центра исследования проблем безопасности РАН;
Бочкарев С. А., доктор юридических наук, научный сотрудник, Институт государства и права РАН;
Кульба В. В., доктор технических наук, профессор, главный научный сотрудник, Институт проблем управления им. В. А. Трапезникова РАН;
Шелков А. Б., кандидат технических наук, ведущий научный сотрудник, Институт проблем управления им. В. А. Трапезникова РАН;
Чернов И. В., кандидат технических наук, заведующий лабораторией, Институт проблем управления им. В. А. Трапезникова РАН;
Тимошенко А. А., кандидат юридических наук, профессор, Университет прокуратуры Российской Федерации.

В работе представлены результаты исследования проблем совершенствования процессов управления обеспечением общественной безопасности в условиях цифровизации. Разобраны основные направления трансформации общественных отношений и задачи их законодательного регулирования в условиях развитого информационного общества. Для повышения эффективности решения прикладных и практических задач управления рассматриваемыми процессами предложено использовать методологию сценарного анализа. Приведены результаты сценарного исследования проблем преобразования правоохранительной системы, а также управления противодействием коррупционным и экстремистским проявлениям.

Для научных работников и специалистов в области организационного управления и права, студентов и аспирантов соответствующих специальностей.

Работа выполнена при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16151 «Разработка методов управления процессами трансформации права в условиях цифровой технологии».

Изображение на обложке foxaon1987 /Shutterstock.com

УДК 343.34

ББК 32.973-018.2я73

© Коллектив авторов, 2020

© ООО «Проспект», 2020

ВВЕДЕНИЕ

К началу ХХI в. развитие процессов глобализации и проникновение новых информационных, телекоммуникационных и компьютерных технологий во все без исключения сферы жизни фактически привели к информационной революции, охватившей практически все стороны социальной действительности. Таким образом, в настоящее время в целом завершился этап формирования информационного общества, основой и источником развития которого стало не столько материальное производство в классическом его понимании, сколько производство знаний и информации на базе передовых информационных и телекоммуникационных технологий. Уже сегодня данные технологии, широко проникая во все без исключения сферы жизнедеятельности нашего общества, изменили условия труда и быта членов этого общества, стали атрибутами его новой информационной культуры.

Происходящая в обществе информационно-технологическая революция и начавшийся переход к VI технологическому укладу привели к тому, что информационные процессы и технологии стали ключевыми в сфере организационного управления общественным и социально-экономическим развитием. По сути данный технологический уклад сводится к массовому внедрению в общественную жизнь и хозяйственную деятельность информационных, нано- и биотехнологий, а также микроэлектроники. Как следствие, возрастают номенклатура и адресная направленность оказания в том числе принципиально новых видов услуг, растут продолжительность и комфортность человеческой жизни. Данный процесс повсеместно сопровождается цифровизацией и интенсивной компьютеризацией общества и государства в целом.

Фактически сегодня информационные и коммуникационные технологии являются самостоятельной и стратегически важной отраслью, непосредственно влияющей, а во многом и определяющей потенциал, реальные возможности и пути развития любого современного общества и государства. Более того, информационные технологии стали неотъемлемой частью соответствующих и более широких социальных и производственных технологий и процессов, в рамках которых они сегодня реализуют наиболее важные, ключевые «интеллектуальные» их функции.

На современном этапе цивилизационного развития цифровые технологии становятся своеобразным двигателем, а их широкое использование — пусть и, строго говоря, не достаточным, но все же крайне необходимым условием эффективного поступательного развития Российского государства, обеспечения его глобальной конкурентоспособности и национальной безопасности. Фактически сегодня информация вкупе с технологиями ее обработки, передачи, хранения и использования данных для решения самых разнообразных задач стали ресурсом, все в большей степени необходимым и важным, чем энергетические, сырьевые, финансовые и другие его традиционные виды.

Сложившаяся ситуация и меняющиеся в связи с ней приоритеты развития государства и общества нашли свое отражение в утвержденной Правительством РФ в июле 2017 г. программе «Цифровая экономика Российской Федерации». Данная программа определяет основные направления и комплексы правовых, технических, организационных и финансовых мер «государственной политики Российской Федерации по созданию необходимых условий для развития цифровой экономики Российской Федерации, в которой данные в цифровой форме являются ключевым фактором производства во всех сферах социально-экономической деятельности, что повышает конкурентоспособность страны, качество жизни граждан, обеспечивает экономический рост и национальный суверенитет»1.

Перевод на «цифровые рельсы» процессов государственного и общественного развития неизбежно и объективно приводит к росту уязвимости национальной социально-экономической системы, а также появлению принципиально новых внешних и внутренних угроз государственному и общественному развитию [1, 2]. Масштабная цифровизация практически всех сторон жизнедеятельности человека, общества и государственных институтов неизбежно приводит к целому ряду носящих фундаментальный характер изменений, причем обусловленных не только и не столько ростом объемов циркулирующей информации, сколько появлением новых проблем в области информационной безопасности, таких, например, как обеспечение устойчивости системы государственного управления, противодействие угрозам социальной стабильности российского общества в условиях фактически открытых информационных границ, охрана государственной и коммерческой тайны, защита персональных данных, пресечение противоправных действий в информационной сфере (в том числе финансовой киберпреступности, мошенничества с использованием телекоммуникационных технологий и т. п.), контроль соблюдения нормативных требований и качества услуг в информационной сфере, обеспечение бесперебойности функционирования российского сегмента глобальной сети Интернет и т. д.

Становление и развитие информационного общества требует совершенствования структур, принципов и методов государственного управления. Цифровизация всех сторон жизни общества и процессов управления государственным развитием приводит к существенному росту динамики видоизменений характера функционирования сложных социально-экономических систем и особенно их инновационных сегментов, выступающих в качестве базовых объектов государственного управления, в том числе представителей реального сектора экономики, финансовых институтов, организаций, выполняющих отдельные государственные функции в рамках аутсорсинговых контрактов, органов государственного управления, социального обеспечения, а также правоохранительных, контролирующих и судебных структур.

Стоит отметить, что традиционные социальные институты при любом уровне внедрения цифровых технологий в их повседневную деятельность, как правило, претерпевают изменения в силу облегчения информационной логистики внутри общества, а также создания удобной общегосударственной системы обеспечения учета и контроля исполнения управленческих решений государственных структур.

Развитие информационного общества вызывает носящие фундаментальный характер изменения в процессах и системе государственного управления, причем эти изменения затрагивают не только отдельные стадии и процедуры управленческого цикла, но и такие основы, как методы, принципы, функции, структуры управления и т. д. Современные инфокоммуникационные технологии существенно видоизменяют вертикальные иерархические связи систем управления и делают их более эффективными. Резко возрастает роль и возможности использования горизонтальных информационных связей, в силу чего системы организационного управления все в большей степени приобретают сетевые, мультиматричные, проектные и иные аналогичные по своей сути структурные черты и признаки.

Использование современных информационных технологий и систем с искусственным интеллектом приводит к возникновению новых потенциальных возможностей для принятия более обоснованных, эффективных и оперативных решений по сравнению с применением традиционных подходов. Расширяются и возможности контроля реализации управленческих решений. На принципиально новом уровне организуется и взаимодействие институтов государственной власти с гражданами. Однако одновременно с этим появляются и принципиально новые угрозы и риски, противодействие которым становится отдельной и крайне важной проблемой, без решения которой невозможно обеспечить необходимый уровень эффективности организационного управления, а следовательно, и темпов государственного социально-экономического развития.

Развитие информационных технологий, а также непрерывный рост вертикальных и горизонтальных (с точки зрения иерархии системы управления) потоков информации существенно повышают эффективность, интенсивность и вариативность развития бизнес-структур и иных экономических субъектов. Игнорирование или запоздалая реакция на данный фактор системы государственного управления неизбежно приводит к росту уровня неопределенности в процессе управления сложными социально-экономическими системами (здесь под неопределенностью понимается ситуация, когда частично или полностью отсутствует информация о структуре, возможных состояниях и альтернативных направлениях развития исследуемой системы и (или) ее внешней среды [3]). Данная неопределенность существенно затрудняет решение задач прогнозирования, планирования и управления государственным развитием на различных временных горизонтах.

Осознание резкого усложнения процессов государственного управления и контроля постепенно приводит к необходимости пересмотра ряда концептуальных положений, формирующих основу государственного управления. Так, например, на риски эрозии государства под воздействием научно-технического прогресса указывается в докладе «Глобальные тренды: парадоксы прогресса» Национального разведывательного совета США (2017 г.). Кроме того, как показывает мировой опыт, подавляющее число развитых стран сосредоточивают свои усилия на создании благоприятных условий для ведения бизнеса и поддержке цифровой инфраструктуры, разрабатывают комплексные меры по адаптации государственных управляющих и контролирующих органов и структур к реалиям цифровой среды, а по сути — к новой реальности, используя современные цифровые технологии для усиления контроля над политическими, социальными и экономическими процессами, причем как на своей территории, так и в других странах [4].

В условиях бурного развития и лавинообразного внедрения во все сферы человеческой деятельности информационно-коммуникационных технологий, существенным образом изменяющих принципы, порядок, содержание и формы взаимодействия в виртуальной среде юридических и физических лиц в процессе осуществления как хозяйственно-экономической деятельности, так и персональных (межличностных) коммуникаций, особую актуальность приобретают проблемы развития норм законодательства и совершенствования процессов управления общественным и государственным развитием [5], а также задачи анализа и разработки моделей трансформации правоохранительной системы с учетом изменения окружающей обстановки и появления новых вызовов общественной безопасности. Анализу данных проблем и посвящена настоящая работа.

Работа выполнена при финансовой поддержке РФФИ в рамках научного проекта 18-29-16151 «Разработка методов управления процессами трансформации права в условиях цифровой технологии».

Глава 1.
ПРОБЛЕМЫ ТРАНСФОРМАЦИИ СИСТЕМ ЗАКОНОДАТЕЛЬНОГО РЕГУЛИРОВАНИЯ И ПРАВОПРИМЕНЕНИЯ В УСЛОВИЯХ ЦИФРОВИЗАЦИИ

1.1. Основные направления трансформации общественных отношений в условиях цифровизации

Цифровизация экономики неизбежно приводит к возникновению новых объектов и субъектов информационных правоотношений, существенному изменению их юридического содержания, а также появлению в этой связи новых и весьма специфических прав, обязанностей и ответственности. Это, в свою очередь, требует решения задач развития системы государственного нормативно-правового регулирования и совершенствования практики правоприменения. В складывающейся ситуации резко возрастает актуальность задач поиска путей эффективного решения целого комплекса проблем: от разработки понятийного аппарата и устранения существенных пробелов в действующем российском законодательстве до создания и развития новых правовых институтов, формирования единой цифровой среды доверия (например, создание и аттестация системы безопасных сервисов, разработка средств идентификации и аутентификации взаимодействующих субъектов, защита от несанкционированного доступа к документам, верификация полномочий и др.), а также установления особого промежуточного режима для не относящихся к категории информации ограниченного доступа данных и т. д. [6].

В программе «Цифровая экономика» предусмотрен комплекс мер совершенствования системы нормативно-правового регулирования и формирование регуляторной среды, обеспечивающей благоприятный правовой режим для развития современных технологий, включающей2:

— создание постоянно действующего механизма управления изменениями и компетенциями (знаниями) в области регулирования цифровой экономики;

— снятие ключевых правовых ограничений и создание отдельных правовых институтов, направленных на решение первоочередных задач формирования цифровой экономики;

— формирование комплексного законодательного регулирования отношений, возникающих в связи с развитием цифровой экономики;

— принятие мер, направленных на стимулирование экономической деятельности, связанной с использованием современных технологий, сбором и использованием данных;

— формирование политики по развитию цифровой экономики на территории Евразийского экономического союза, гармонизацию подходов к нормативному правовому регулированию, способствующих развитию цифровой экономики на пространстве Евразийского экономического союза;

— создание методической основы для развития компетенций в области регулирования цифровой экономики.

Нормативно-правовое регулирование межсубъектных отношений, в основе которых лежат информационные технологии, тесно переплетающиеся с нормами права, представляет собой крайне сложную задачу. По сути, сегодня возникла необходимость формирования принципиально новой регуляторной среды, обеспечивающей такой правовой режим, который, с одной стороны, позволит упорядочить широкомасштабное применение в системе общественных и экономических отношений современных информационных и коммуникационных технологий, с другой — стимулировать их интенсивное развитие. Более того, данная задача существенно усложняется необходимостью не только закрепить уже сложившиеся социальные нормы и возникшие информационные правоотношения, но и в определенной мере предвосхищать возможные пути развития ситуации в условиях цифровой эпохи, а также предвидеть возникающие в связи с этим угрозы и возможные последствия их реализации [7].

Современные тенденции развития и широкого внедрения во все сферы человеческой деятельности цифровых технологий требует создания соответствующих условий для обеспечения своевременного их правового регулирования. Общие его принципы в настоящее время регулируются нормами информационного права. По мнению видных представителей отраслевой доктрины И. Л. Бачило, М. А. Федотова, в предмет ее правового регулирования, помимо информации, входят также информационные технологии, которые представляют собой совокупность средств обработки информации [8]. Таким образом, в Российской Федерации необходимая правовая база для учета изменяющийся цифровой реальности в основном сложилась (см. ст. 1261, 1262 ГК РФ, Федеральный закон от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации» и др.). Однако с учетом развития отдельных технологий, возможностей машинного обучения, способов удаленного хранения и обработки информации (облачные сервисы, сетевые хранилища, программирование блокчейн систем) требуется еще более интенсивное развитие возможностей юридического регулирования уже сейчас возникающих проблем, к числу которых следует отнести следующие.

1. Оценка юридических последствий применения технологий искусственного интеллекта при принятии управленческих решений, если при этом допускаются серьезные ошибки и просчеты.

2. Создание для целей оказания помощи при осуществлении судебной деятельности специального программного обеспечения, позволяющего рекомендовать судье наиболее «законное» разрешение правовой ситуации, которое может привести к самоустранению судьи от обязанности самостоятельно прийти к внутреннему убеждению относительно оценки обстоятельств, имеющих существенное значение для разрешения дела по существу.

К примеру, попытка внедрения в федеральных судах и тюрьмах США обязательного учета «мнения» специальной компьютерной программы о возможности человека в будущем совершить преступление близка к провалу из-за необъективности выводов искусственного интеллекта. При этом предпочтение отдается учету расовых различий между людьми даже вопреки объективной необходимости более внимательного изучения пристрастия человека к наркотикам, склонности его к совершению аналогичных преступлений [9].

3. На законодательном уровне целесообразно установить особые требования к безопасности применяемых технологий, исключающие «серое» использование цифровизации с целью получения сверхприбыли (например, технологии «блокчейн», использующиеся при создании криптовалют, до настоящего времени не прошли проверку на предмет возможного взлома. Так, например, по опубликованным информационным агентством «РБК» данным (см. подробнее — URL: https://www.rbc.ru/crypto/news/5d91ca029a79470d909b5d72) уязвимости в сети Zcash (под таким брендом выпускается одноименное цифровое средство платежа) привели к возможности утечки данных владельцев финансовых аккаунтов, что значительно облегчает теневой доступ к финансовой информации.

4. В случае активного внедрения новых компьютерных технологий в производственную деятельность, когда имеется угроза массового вытеснения человеческого труда деятельностью роботов, необходимо пересмотреть условия коллективных трудовых соглашений. Данное обстоятельство заставляет уже сейчас прорабатывать правовые механизмы субсидиарной материальной ответственности работодателя в виде выплаты увольняемым денежных компенсаций и пособий по безработице).

Подобные вопросы все чаще становятся предметом научных исследований в юридической литературе. Вектор развития научной мысли очевиден — обстоятельный анализ новых технологичных разработок и попытка их «вписания» в имеющиеся стандарты правового регулирования [10].

Однако в любом случае правоприменительный процесс не должен выходить за пределы норм и принципов, образующих гуманитарный статус личности. Конституция Российской Федерации объявляет приоритет прав и свобод человека и гражданина (право на жизнь, свободу и неприкосновенность, право на свободное распоряжение своим трудом). Новые технологии по определению не могут создавать условия для обхода охранительных норм права, создавать условия для злоупотребления частными преференциями.

В настоящее время магистральным и одновременно с этим ключевым направлением развития современных технологий является разработка систем с искусственным интеллектом. В октябре 2019 г. Президентом Российской Федерации утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, определяющая ключевые направления государственной поддержки научно-технического развития. В Национальной стратегии определены основные задачи развития искусственного интеллекта, к которым относятся3:

1. поддержка научных исследований в целях обеспечения опережающего развития искусственного интеллекта;

2. разработка и развитие программного обеспечения, в котором используются технологии искусственного интеллекта;

3. повышение доступности и качества данных, необходимых для развития технологий искусственного интеллекта;

4. повышение доступности аппаратного обеспечения, необходимого для решения задач в области искусственного интеллекта;

5. повышение уровня обеспеченности российского рынка технологий искусственного интеллекта квалифицированными кадрами, а также уровня информированности населения о возможных сферах использования таких технологий;

6. создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта.

Необходимо отметить, что Российская Федерация является далеко не единственной страной, уделяющей приоритетное внимание развитию искусственного интеллекта. За последние примерно полтора года свои национальные стратегии в области создания, развития и продвижения технологий искусственного интеллекта сформулировали и утвердили Канада, Китай, Дания, Комиссия Евросоюза, Финляндия, Франция, Индия, Италия, Япония, Мексика, Скандинаво-Балтийский регион, Сингапур, Южная Корея, Швеция, Тайвань, ОАЭ и Великобритания [11]. Таким образом, сегодня приоритет развития систем с искусственным интеллектом приобретает международный характер и становится объектом межгосударственной конкуренции.

Одной из наиболее рельефно проявляющихся в настоящее время проблем является нормативно-правовое и нормативно-техническое регулирование производства и использования систем и технических устройств, обладающих искусственным интеллектом. В упомянутой выше Национальной стратегии искусственный интеллект определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении заданного множества конкретных задач результаты, сопоставимые, как минимум, с результатами его интеллектуальной деятельности. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение, а также процессы и сервисы по обработке данных и поиску решений. По своей сути искусственный интеллект представляет собой одну из наиболее сложных форм функционирования разработанных человеком технических систем, устройств или информационных систем, способных быть активными за пределами фиксированных программных инструментов и имеющих возможность принимать самостоятельные решения в рамках поставленных задач (с использованием визуального восприятия, распознавания речи, принятия решений и перевода), а также базирующихся на методах машинного обучения [6].

Развитие и широкое внедрение систем с искусственным интеллектом как одной из основ современных цифровых технологий поднимает целый ряд достаточно серьезных проблем, требующих нормативно-правового регулирования и в первую очередь определения правосубъектности устройств с искусственным интеллектом. Требует решения и проблема распределения юридической ответственности между пользователями устройств, оснащенных технологиями искусственного интеллекта, их производителями, предприятиями, осуществляющими техническое обслуживание и ремонт, а также в некоторых практических случаях — страховыми компаниями. Не менее (а, может быть, и более) существенной проблемой является оценка, регламентация и контроль уровня безопасности интеллектуальных устройств и систем, особенно основанных на принципах самообучения (нейронные сети, эволюционные вычисления и т. п.), которые существенно усложняют контроль и мониторинг их технического состояния, что потенциально может привести к крайне нежелательным последствиям. Кроме того, в устройствах и системах рассматриваемого класса информация не представляется в человекочитаемом формате, в результате чего крайне сложно определить, каким образом хранимые и обрабатываемые данные используются, какие решения принимаются и т. д., что ставит вопрос о порядке регулирования процессов автоматизированной обработки данных. Сложность рассматриваемых проблем заключается еще и в том, что механический перенос на системы с искусственным интеллектом традиционных методов правового регулирования (таких, как, например, сертификация, лицензирование, контроль за исследованиями и разработками, применение механизмов деликтной (внедоговорной) ответственности) в данной ситуации малопригодны для эффективного управления рисками. Существует также опасность чрезмерно жесткого административного регулирования, которое будет только тормозить процессы развития технологий искусственного интеллекта [6, 12–13].

Одновременно с этим невнимательность законодателя к проблеме также не допустима. К примеру, внедряемая с использованием технологий «блокчейн» система смарт-контрактов при заключении договоров купли-продажи объектов недвижимого имущества требует автоматического доступа к реестру прав на недвижимое имущество и сделок с ним лиц, лишь авторизовавшихся на официальном сайте Росреестра. Проверить подлинность данных о личности обратившихся уже сейчас достаточно сложно, а достоверность представляемых сведений о переходе права собственности на недвижимое имущество дистанционно практически невозможно [14].

Необходимо особо отметить, что решение комплекса проблем правового регулирования цифровых отношений является стратегической задачей и неотъемлемой частью государственной социально-экономической политики, в том числе в части обеспечения национальной и общественной безопасности.

Происходящие в государстве и обществе процессы «цифровизации» предъявляют целый комплекс в своем абсолютном большинстве принципиально новых требований к эффективности системы правового регулирования, что обуславливает необходимость ее совершенствования и адаптации к вновь возникающим проблемам. Связано это прежде всего с появлением по сути новых форм общественных отношений, которые ранее либо вообще не существовали, либо не требовали применения норм и правил правового регулирования, а, возможно, и принципиально не могли быть урегулированы нормативно-правовым путем [15–16].

Кратко рассмотрим наиболее существенные особенности и проблемы трансформации общественных отношений в условиях цифровизации, с течением времени все в большей степени приобретающей многовекторный характер.

1. Отношения, субъектами которых становятся виртуальные или «цифровые личности». Подобная личность образуется совокупностью цифровых данных о реальном человеке, формирующих его так называемый электронный или виртуальный профиль. Данная форма представления пригодных для достоверной идентификации личности гражданина данных постепенно становится ядром интенсивно развивающейся сферы электронных государственных услуг, которые граждане Российской Федерации могут получать (и уже получают) дистанционно через Интернет посредством специализированных интернет-порталов. В настоящее время концепция бесплатного виртуального профиля разработана Центробанком и «Ростелекомом» и находится на стадии согласования. Цифровой профиль должен включать в себя три основных компонента: базовые сведения о гражданине (паспорт, СНИЛС, ИНН), информацию о гражданине из других государственных систем, а также как необходимое условие — документально подтвержденное согласие на обработку персональных данных.

Профили пользователей создаются практически всеми популярными сервисами Интернет и представляют собой данные, необходимые для создания персонифицированной среды обслуживания вне зависимости от местоположения пользователя или используемого устройства. При этом формирующие профиль данные требуют защиты, поскольку представляют потенциальный интерес для широкого круга злоумышленников с целью использования для совершения целого ряда киберпреступлений. Сегодня данная проблема комплексно пока не решена. Несмотря на вступление в силу (и, отметим, вызвавшего неоднозначную оценку и множество споров в экспертном сообществе) Федерального закона от 21 июля 2014 г. № 242-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части уточнения порядка обработки персональных данных в информационно-телекоммуникационных сетях», устанавливающего, в частности, обязанность хранения на территории России используемых интернет-серверами персональных данных россиян, практика привлечения к ответственности за несоблюдение требования локализации иностранных интернет-компаний (в том числе Facebook, Twitter, Instagram, Booking.com и др.), работающих с российской аудиторией, но не имеющих представительства на территории РФ, крайне затруднена. Так применяемые для подобных компаний в качестве меры наказания за нарушение требований локализации персональных данных штрафные санкции или блокировка интернет-ресурсов (как, например, LinkedIn, Telegram) далеко не всегда оказываются эффективными. Кроме того, игнорирование такими зарубежными компаниями требований российского законодательства ставят российские компании, вынужденные строго исполнять требования закона, изначально в неравные условия.

Широкое распространение цифровых технологий привело к появлению и новых видов противоправной деятельности, одним из которых является «кража цифровой личности» (англ.: Identity Theft) — противозаконное использование персональных данных человека для получения материальной выгоды. По данным «Лаборатории Касперского» [17], в настоящее время в так называемой «темной паутине» (англ.: Dark Web — совокупность публично видимых анонимных интернет-сайтов, имеющих скрытый IP-адрес сервера, на котором они размещены, попасть на которые невозможно, используя популярные и общедоступные поисковые системы) в настоящее время достаточно широко распространена нелегальная торговля наборами цифровых данных о пользователях различных интернет-сервисов и приложений. В типовую подборку подобных данных, как правило, входят паспортные данные, ксерокопии документов (сканы водительских прав, счетов за коммунальные услуги и т. п.), копии банковских карт, реквизиты счетов, аккаунты в социальных сетях, идентификаторы персональных компьютеров, сведения о наиболее часто посещаемых сайтах и т. д. и т. п., причем стоимость подобного набора сегодня составляет порядка 50 долларов США. Чаще всего личные сведения о пользователях похищаются путем использования уязвимостей в приложениях и интернет-сервисах (характерный и широко освещаемый в СМИ пример — регулярные утечки данных пользователей Facebook и др. социальных сетей, клиентов крупных банков и компаний и т. д.), использования фишинга, а также широкого арсенала мошеннических уловок (например, смишинга) с целью получения от наивных пользователей номеров банковских карт и CVC-кодов к ним и т. п.

Более того, в 2019 г. персональные данные стали утекать и попадать в открытый доступ через IT-специалистов. Несмотря на то, что пока число подобных инцидентов не очень велико и составляет менее 2%, объем похищенной данным путем информации уже составляет примерно 25–30% и это крайне тревожно, поскольку перекрыть подобные каналы утечки очень сложно.

2. Юридически значимая идентификация личности в виртуальном пространстве. Правовое урегулирование данного вида идентификации необходимо прежде всего целях обеспечения юридических гарантий прав человека и обеспечения стабильности гражданско-правовых отношений в обществе. Решение данной проблемы существенно усложняется трансграничностью глобальной сети Интернет, а также допускаемой многими сервисами анонимности. Это приводит к возрастанию сложности установления реального человека, стоящего за зарегистрированным профилем, а сложность процессуального доказательства данного факта еще выше.

Отдельную проблему представляет решение задачи определения совершившего правонарушение физического лица по сохранившимся в сети фрагментам виртуальных данных о нем, которые могут быть размещены в различных сегментах глобальной сети Интернет. В подобной ситуации в случае возникновения необходимости привлечения реального лица к юридической ответственности (либо совершения иных правоприменительных действий) потребуется собрать воедино эти составляющие, что представляет собой достаточно сложную и трудоемкую задачу, полноценное решение которой может оказаться и технически невозможным (как, например, в случаях с построенными на принципе анонимности сервисами, использующими средства шифрования или технологии маскировки и т. д.). В данной ситуации юридическая процедура установление связи лица с его виртуальным образом (например, IP-адресом, аккаунтом и т. п.) становится крайне затруднительной.

Обозначенная проблема также поднимает вопрос о перспективах дальнейшего развития цифровизации уголовного судопроизводства. Выделяются как минимум следующие перспективные направления данного процесса:

а) Создание условий для использования цифровых данных в ходе доказывания по уголовным делам. К примеру, в настоящее время закон не содержит ключевых правил работы с электронными доказательствами, учитывающими отдельные их особенности. В частности, отсутствуют правила осмотра сайтов в Интернете с последующей проверкой достоверности составленных протоколов, а также правила создания их аутентичных копий. Кроме того, на законодательном уровне не проведена валидация методик экспертной проверки достоверности цифровой информации, не разработана единая система безопасного ее хранения, обработки и представления в суд в «презентабельном» виде.

Также в российском законодательстве исчерпывающе не регламентирован статус выписок из криминалистических и социальных учетов, содержащих значимую для дела информацию о личности, предметах и документах, не определена степень обязательности их получения следователем, судьей и прокурором, а также условия и порядок проверки ее достоверности.

б) Необходимо создать условия для отказа от бумажного документооборота при производстве по уголовным делам. Первые шаги в этом направлении уже сделаны: согласно ст. 170 УПК РФ в ряде случаев возможно неприглашение к участию следственном действии понятых при условии, что в обязательном порядке будет осуществляться техническая фиксация его хода и результатов.

Также в соответствии с Федеральным законом от 29 июля 2018 г. № 228-ФЗ «О внесении изменений в Уголовно-процессуальный кодекс Российской Федерации» с 1 сентября 2019 г. в России в обязательном порядке во всех судах при проведении судебного заседания стал вестись его аудиопротокол, предполагающий полную запись происходящего в зале суда. Однако бумажное протоколирование все еще остается обязательным. С развитием технологий распознания речи [18] не исключается полный переход на цифровую форму фиксации всего, что имеет значение для дела, в том числе в ходе досудебного производства.

в) Развитие дистанционных форм взаимодействия граждан с судом за счет введения процедуры подачи заявлений, жалоб и ходатайств посредством сети Интернет (в соответствии со ст. 474.1 УПК РФ ходатайство, жалоба или заявление, а также прилагаемые к ним материалы могут быть поданы в суд в электронной форме путем подписания их квалифицированной электронной подписью, при этом допускается вынесение судебного решения исключительно в электронном виде) также содержит угрозу мошеннических действий за счет возможности введения суда в заблуждение относительно реальных намерений заявителя, личность которого также идентифицируется на расстоянии.

К примеру, именно суды, рассматривавшие формальные заявления заинтересованных лиц (когда ответчик признавал исковое заявление) невольно стали ключевым звеном в процессе вывода из Российской Федерации более 500 млрд рублей по так называемой «молдавской схеме» [19].

Выход из ситуации видится в создании мощной базы программных средств, применение которых исключало бы возможность кражи виртуальных профилей граждан или, по крайней мере, сделало бы проверку достоверности удаленно представленных в суд персональных данных более эффективной.

3. Реализация новых («цифровых») прав человека в виртуальном пространстве. Проникновение цифровых технологий во все сферы жизни человеческого общества поставило целый ряд принципиально новых задач перед системой нормативно-правового регулирования социальной жизни, которая сегодня нуждается в существенной модернизации, и прежде всего — в области обеспечения конституционных прав и свобод человека и гражданина [20].

В соответствии с Федеральным законом от 18 марта 2019 г. № 34-ФЗ «О внесении изменений в части первую, вторую и статью 1124 части третьей Гражданского кодекса Российской Федерации» цифровыми правами признаются обязательственные и иные права, содержание и условия осуществления которых определяются в соответствии с правилами информационной системы, отвечающей установленным законом признакам.

Введение подобного правового субинститута (цифровых прав) привело к постановке вопроса о возможности подтверждения имущественных прав доступом к отдельным профилям в сети Интернет, что, в свою очередь позволило говорить о перспективах налогообложения сделок по передаче исключительных прав на такой профиль (см. письмо Минфина России от 4 декабря 2019 г. № 03-03-06/1/94158).

Цифровые права человека представляют собой конкретизацию посредством законодательных и правоприменительных актов универсальных прав человека, гарантированных международным правом и конституциями государств применительно к потребностям человека и гражданина в информационном обществе [21].

По своей сущности цифровые права включают:

— право на доступ в Интернет;

— право на свободу выражения мнения, получения и распространение информации;

— право на неприкосновенность частной жизни;

— право на личную и семейную тайну;

— право на защиту своей чести, достоинства и доброго имени;

— право на конфиденциальность переписки, телефонных переговоров, почтовых и иных сообщений;

— право на «цифровую смерть» (т. е. право на соблюдение воли умершего по поводу дальнейшей судьбы опубликованной в глобальной сети персональной информации) и др.

Здесь необходимо отметить, что право распоряжаться доступом к личным данным в сети «Интернет», как и «право на цифровую смерть» в российском законодательстве до настоящего времени не разработано. По мнению отдельных ученых, цифровое право предполагает возможность обратиться к дополнительному электронному подтверждению обычных имущественных и личных неимущественных прав граждан (юридических лиц) [22].

В целом главной задачей государства в современном обществе является признание и защита цифровых прав граждан от всевозможных нарушений. Для этой цели необходимо развивать нормативно-правовую систему и действующее законодательство, добиваясь их полного соответствия потребностям сегодняшнего дня и основным тенденциям развития информационного общества с возможностью предвидения новых проблем в обозримом будущем.

4. Робототехника в качестве участника (субъекта) отношений в сфере правового регулирования. Робототехника представляет собой крайне важную область технологий искусственного интеллекта и сегодня является одним из самых динамично развивающихся сегментов современной экономики.

Общепринятое определение робота дается в международном стандарте ISO 8373:2012, в котором он определяется как приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий предназначенные ему задачи [23]. Здесь необходимо отметить, что указанный стандарт несколько устарел и сейчас находится в стадии обновления (ревизии).

Более современное и адекватное научно-техническим реалиям сегодняшнего дня определение предполагает выделение 3-х ключевых признаков робота [24]. В соответствии с ним роботом является любое устройство (механизм), выполняющее предназначенные ему действия, которое одновременно способно:

— воспринимать (чувствовать) окружающий мир или его элементы с помощью сенсоров;

— понимать окружающий физический мир, обрабатывать получаемую информацию, а также формировать и адаптировать модели поведения, с целью выполнения предназначенных действий;

— воздействовать на окружающий физический мир в соответствии с моделью своего поведения.

В соответствии с международными стандартами робототехника классифицируется на два крупных сегмента: промышленная и сервисная. Сервисная робототехника, в свою очередь, по сфере применения подразделяется на два блока: для профессионального и персонального использования.

В рамках типологии промышленных и сервисных робототехнических комплексов (РТК) также выделяют [25]:

— в зависимости от стихии РТК: наземные, воздушные, морские (надводные, подводные), космические;

— в зависимости от физической формы РТК: манипуляторы, робототехнические платформы, экзоскелеты, метаморфные РТК, нано- и микророботы, антропоморфные и т. д.;

— в зависимости от степени автономности управления РТК: программируемые, телеуправляемые, супервизорные, коллаборативные, автомномные.

Необходимо отметить, что сегментация робототехнических изделий достаточно условна. Поскольку робототехника непрерывно развивается, появляются новые (в том числе принципиально новые) продукты, что усложняет сегментацию. В некоторых случаях РТК рассматривается в интеграции с интеллектуальными операционными системами (англ.: Robotics&Intelligent Operational Systems, RIOS).

Уже сейчас уровень развития робототехнических устройств и систем достиг таких высот, что роботы стали неотъемлемой частью современной промышленной революции, характеризующейся не только интенсивным внедрением адаптивных технологий и роботизацией производства, но и непрерывным расширением области применения данных технологий в непромышленной сфере и в быту. Масштабы проникновения робототехники практически во все сферы жизни общества иллюстрируются рис. 1.1.1, на котором отражен один из подходов к укрупненной классификации современных роботов и робототехнических систем.

Рис. 1.1.1. Классификация робототехнических систем

В настоящее время по данным Международной федерации робототехники IFR (англ.: International Federation of Robotics. URL: https://ifr.org/), темпы роста рынка промышленной робототехники опережают темпы роста мирового ВВП, а рынок сервисной робототехники растет еще быстрее (например, сегодня в мире эксплуатируется уже более 20 млн роботов-пылесосов, цена которых постоянно снижается в результате развития массового производства и роста конкуренции на мировом рынке). Кроме того, по мнению большой группы международных аналитиков, одним из наиболее быстрорастущих сегментов РТК являются персональные роботы, среди которых, например, выделяют встраиваемые и имплантируемые робототехнические изделия.

В последние годы возникло новое направление в развитии промышленной робототехники — коллаборативные роботы (коботы), т. е. роботы, сконструированные для непосредственного взаимодействия с человеком в рамках определенного совместного рабочего пространства. Причем использование коботов интенсивно растет: их количество удваивается каждый год и к концу 2020 г. по оценке компании Barclays Research (URL: https://home.barclays/) их общее число достигнет 150 тыс. единиц.

Несмотря на низкую плотность роботизации в России, которая сегодня по некоторым экспертным оценкам примерно в 70 раз ниже среднемировой, тенденции и динамика развития робототехники соответствуют общемировым трендам. В ближайшие 5 лет прогнозируется интенсивное развитие робототехники в следующих направлениях [24]:

— беспилотный пассажирский транспорт;

— роботы для коммерческих пространств;

— роботы-собеседники (помощники);

— логистические роботы и беспилотный грузовой транспорт;

— коллаборативные роботы;

— промышленные экзоскелеты;

— роботы для сельского хозяйства.

Развитие производства и внедрения робототехники в различные сферы человеческой деятельности требуют соответствующего развития законодательной базы и исключения из нее так называемых «серых зон», в которых законодательством четко не определены взаимоотношения всех участников рынка систем и технологий искусственного интеллекта. Более того, происходящие процессы научно-технического развития робототехнических устройств существенно повышают актуальность задач формирования адекватных требованиям времени подходов к правовому регулированию новых форм общественных отношений с участием способных осуществлять самостоятельные действия и адаптироваться к окружающей среде роботов, а также юридическому оформлению правосубъектности как типичных (технологически обоснованных), так и нетипичных участников этих правоотношений [15].

Важное значение сегодня приобретает проблема определения несущей ответственность за действия роботов стороны (собственник, пользователь, разработчик, продавец, сервис-центр и т. п.), а также возможности страхования такой ответственности (например, по аналогии с ОСАГО) [26]. Данная проблема встала «во весь рост» в 2016 г. после двух широко освещенных в СМИ аварий в США и Китае с автопилотируемыми автомобилями компании Tesla со смертельным исходом. Причем в обоих случаях компании-производителю удалось избежать ответственности.

Здесь целесообразно обратить внимание на тот факт, что если бы в настоящее время данная задача решалась в России, то, безусловно, рассматривалась бы возможность привлечения разработчика (оператора) соответствующей программы к ответственности. В силу положений ст. 26 УК РФ преступление признается совершенным по небрежности, если лицо не предвидело возможности наступления общественно опасных последствий своих действий (бездействия), хотя при необходимой внимательности и предусмотрительности должно было и могло предвидеть эти последствия.

Иными словами, когда робот причиняет окружающим вред, ответственность за него несет конкретный человек, ответственный за его поведение (эксплуатант или разработчик). Появление технической возможности у робота не учесть (не предотвратить) фатальные обстоятельства должно преследоваться именно с учетом данной нормы закона.

Сегодня и в России, и за рубежом предлагается достаточно много различных вариантов определения роботов как объектов правовых отношений: от аналогии с животными (на основании отсутствия у тех и у других возможности возложения на них юридической ответственности) и до рассмотрения роботов как особого вида способного к автономным действиям имущества, а также возложения на них собственной ответственности (например, по аналогии с юридическими лицами) [7, 15, 27–28]. Все они нуждаются в тщательном анализе с целью выбора оптимальных решений (которые, необходимо отметить, пока еще далеко не очевидны), а также последствий их практической реализации.

Отдельную проблему представляет собой законодательное регулирование процессов внедрения роботов в медицинскую практику и в особенности роботизации человеческого организма (интеллектуальные кардиостимуляторы, программируемые нанороботы, активные биоуправляемые протезы и т. д.), ведущих к возрастанию нашей зависимости от интеллектуальных электронных устройств.

Что касается перспектив возникновения технологической безработицы, вызываемой широким внедрением робототехники как в производственную, так и непромышленную сферы, то данная проблема для России пока не очень актуальна. В настоящее время по показателю плотности роботизации (количеству промышленных роботов на 10 тыс. занятых в сфере производства работников) Россия далеко отстает от лидеров — Южной Кореи и Японии. Однако в обозримом будущем данная ситуация должна меняться особенно с учетом задач, поставленных в федеральной программе «Цифровая экономика Российской Федерации». Что касается государств-лидеров в данной области, то там уже рассматриваются различные идеи законодательного регулирования процессов роботизации, таких, например, как введения системы налогообложения промышленных роботов с целью пополнения бюджетов пенсионного и медицинского фондов (Южная Корея) или создания системы базового дохода, гарантирующей гражданам минимальный уровень доходов (Евросоюз).

5. Проблемы регулирования технологий больших данных. Характерными чертами современного уровня развития информационного общества являются как стремительный рост объемов циркулирующей информации (по прогнозам к концу 2020 г. суммарный объем данных достигнет порядка 40 зеттабайт, для сравнения — в 2012 г. он составлял «всего» 1,2 зеттабай

...