Правовые механизмы противодействия деструктивному контенту и вовлечению в противоправную деятельность через онлайн-сообщества

Монография

Под редакцией
доктора юридических наук А. В. Минбалеева,
кандидата юридических наук В. Д. Никишина

---

ebooks@prospekt.org

Информация о книге

УДК 349+342.9+342.7+343

ББК 67.401+67.408

П68

Рецензенты:

Бессонов А. А., доктор юридических наук, доцент, ректор Московской академии Следственного комитета имени А. Я. Сухарева, генерал-майор юстиции;

Полякова Т. А., доктор юридических наук, профессор, Заслуженный юрист Российской Федерации, Почетный работник юстиции России, заведующий сектором информационного права и международной информационной безопасности Института государства и права Российской академии наук, действительный государственный советник юстиции Российской Федерации 3-го класса.

Под редакцией доктора юридических наук, профессора, заведующего кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) А. В. Минбалеева, кандидата юридических наук, директора Института информационной и медиабезопасности, доцента кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) В. Д. Никишина.

В монографии научно обоснована целесообразность внесения системных изменений в законодательство в целях противодействия распространению деструктивного контента и вовлечению в деструктивные онлайн-сообщества. В частности, аргументирована необходимость пересмотра формально-юридических критериев отнесения информации к противоправной, установления на законодательном уровне универсальной дефиниции деструктивного контента, закрепления принципов отнесения информационных материалов к нему, а также внедрения правовых инноваций, позволяющих организационно-технически обеспечить противодействие распространению деструктивного контента, в том числе совершенствующих механизмы верификации возраста интернет-пользователей.

Во-первых, ни в одном из государств, законодательство которых выступило предметом исследования, не закреплено комплексное понятие деструктивного контента, а во-вторых, ни одна из этих практик не является совершенной в связи с фрагментарным, несистемным подходом к закреплению видов противоправной информации и критериев ее определения, а также фактическим отсутствием четких критериев к определению противоправности и широким усмотрением органов государственной власти, что приводит к фактической цензуре и нарушению свободы слова. В работе изложена уникальная нормативная модель, призванная обеспечить противодействие деструктивному контенту при сохранении демократических принципов, баланса права на свободу слова и защиты иных прав.

Законодательство приведено по состоянию на сентябрь 2025 г.

Авторами проанализированы основные направления решения спорных вопросов юридической оценки вовлечения в противоправную деятельность, разработаны меры по совершенствованию действующего законодательства. В частности, предложены изменения в УК РФ (введение уголовной ответственности за вовлечение детей в деятельность деструктивных групп, определение самостоятельного состава за оказание пособничества (содействия) совершению самоубийства отдельно от вовлечения и др.), а также в КоАП РФ (введение ответственности за пропаганду проституции среди несовершеннолетних и др.).

УДК 349+342.9+342.7+343

ББК 67.401+67.408

© Коллектив авторов, 2025

© ООО «Проспект», 2025

СВЕДЕНИЯ ОБ АВТОРАХ

Минбалеев Алексей Владимирович, доктор юридических наук, профессор, заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — введение (в соавт. с В. Д. Никишиным, В. В. Палий, Г. А. Грищенко); § 1.1 главы 1 (в соавт. с В. Д. Никишиным); заключение (в соавт. с В. Д. Никишиным, Г. А. Грищенко);

Никишин Владимир Дмитриевич, кандидат юридических наук, директор Института информационной и медиабезопасности, доцент кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — введение (в соавт. с А. В. Минбалеевым, В. В. Палий, Г. А. Грищенко); § 1.1 главы 1 (в соавт. с А. В. Минбалеевым); § 1.2 главы 1 (в соавт. с Д. П. Осиповым); § 1.3, 1.4 главы 1; § 2.1 главы 2; § 2.2 главы 2 (в соавт. с Т. А. Сааковым, В. В. Палий); § 2.3 главы 2 (в соавт. с Г. А. Грищенко); заключение (в соавторстве с А. В. Минбалеевым, Г. А. Грищенко);

Грищенко Галина Андреевна, кандидат юридических наук, доцент кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — Введение (в соавт. с А. В. Минбалеевым, В. Д. Никишиным, В. В. Палий); § 2.3 главы 2 (в соавт. с В. Д. Никишиным); § 2.4, 2.6 главы 2; § 2.5 главы 2 (в соавт. с А. В. Никишиной); Заключение (в соавторстве с А. В. Минбалеевым, В. Д. Никишиным);

Палий Виктория Владимировна, кандидат юридических наук, доцент кафедры уголовного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — введение (в соавт. с А. В. Минбалеевым, В. Д. Никишиным, Г. А. Грищенко); § 2.2 главы 2 (в соавт. с В. Д. Никишиным, Т. А. Сааковым); § 3.1–3.7 главы 3;

Рубцова Александрина Сергеевна, кандидат юридических наук, доцент кафедры уголовного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — § 3.8–3.9 главы 3);

Никишина Анастасия Вячеславовна, старший консультант-аналитик отдела перспективных проектов Научно-технического центра ФГУП «ГРЧЦ»; аспирант кафедры информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — § 2.5 главы 2 (в соавт. с Г. А. Грищенко);

Сааков Тигран Артемович, кандидат юридических наук, старший лейтенант юстиции, старший научный сотрудник Института информационной и медиабезопасности Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), старший преподаватель кафедры судебно-экспертной и оперативно-разыскной деятельности Московской академии Следственного комитета имени А. Я. Сухарева — § 2.2 главы 2 (в соавт. с В. Д. Никишиным, В. В. Палий).

Осипов Даниил Павлович, стажер-исследователь Института информационной и медиабезопасности Московского государственного юридического университета имени О. Е. Кутафина (МГЮА) — § 1.2 главы 1 (в соавт. с В. Д. Никишиным).

ВВЕДЕНИЕ

В условиях современных геополитических, социальных и культурных вызовов, использования информационных технологий в гибридной войне, активного использования социальных медиа для деструктивного воздействия на интернет-пользователей, в том числе для культивации насилия, пропаганды экстремистско-террористической, депрессивно-суицидальной и иной деструктивной идеологии, возрастает актуальность совершенствования правовых механизмов обеспечения информационно-психологической безопасности (прежде всего, несовершеннолетних).

Интернет способствовал появлению и росту различных деструктивных онлайн-сообществ и субкультур, которые пропагандируют деструктивное поведение, а также установки, которые идут вразрез с традиционными российскими духовно-нравственными ценностями. Вовлечение в онлайн-сообщества происходит через «погружение» интернет-пользователей в «информационные колодцы», предполагающие поступательное, постепенно радикализующее информационно-психологическое воздействие.

Фактически через массовые информационные вбросы в полумаргинальные и псевдоюмористические паблики и сообщества и постепенный пропуск через иерархическую воронку сообществ осуществляется нормализация неприемлемых идей, в т. ч. связанных с применением насилия, по модели «окна Овертона»1.

Используемый фото-, аудио- и видеоконтент на первых этапах «воронок вовлечения» не подпадает под формальные юридические запреты, т. е. не содержит прямой пропаганды терроризма или иных радикальных идей, но имеет деструктивный характер, т. к. снимает табу на запретные темы, неприемлемые идеи и привлекает внимание пользователей к деструктивным течениям.

Манипуляторы активно используют и контент, сгенерированный с использованием искусственного интеллекта, в т. ч. для распространения дипфейков, правдоподобность которых постоянно растет. Кроме того, содействуют более активному вовлечению интернет-пользователей в радикальные сообщества и рекомендательные технологии, которые «подсовывают» пользователю интернет-сервисов (социальных сетей, видеохостингов и т. д.) контент, тематика которого соответствует ранее проявленным интересам пользователя. Иными словами, вокруг пользователя, выразившего, например, интерес к национализму или просто тематике межэтнических конфликтов, может создаваться «информационный кокон» из контента, который посвящен именно этой тематике и становится все более радикальным, переходя в тематику неонацизма, расизма, мизантропии и т. п.

В современном цифровом мире дети являются наиболее уязвимой аудиторией пользователей в сети «Интернет». Данный факт объясняется тем, что когнитивные способности и навыки критического мышления детей только находятся в стадии формирования, а огромное количество негативной (деструктивной) информации в сети «Интернет» и чрезмерное доверие к популярным блогерам и другим лидерам Интернет-пространства приводят к тому, что, во-первых, зачастую размываются (а порой и стираются) границы реальной и виртуальной жизни, а во-вторых, размываются границы социальных норм, пределы дозволенного и противоправного2.

По мере роста числа несовершеннолетних пользователей Интернета в стране увеличивается количество таких проблем, как распространение незаконного сетевого контента, противоправное получение и использование персональных данных детей, их вовлечение в деструктивные сообщества (группы).

На данный момент интернет-медиа (социальные сети, блоги, видеохостинги, мессенджеры и др.) являются средой практически неконтролируемого распространения информации, в том числе деструктивно-агрессивной направленности. При этом использование Интернета становится все более распространенным в повседневной жизни, дети все чаще используют его для различных целей, таких как образование, развлечения и социальное взаимодействие. Такое повышенное воздействие делает их более уязвимыми к столкновению с деструктивной информацией и онлайн-сообществами, которые могут негативно повлиять на их психологическое и социальное благополучие.

Дети как интернет-пользователи, не имеющие сложившуюся устойчивую ценностно-позитивную систему и достаточно сформированное критическое мышление, не владеющие навыками цифровой гигиены и медиаграмотности, становятся жертвами манипуляторов различного толка, попадают под влияние экстремистских, депрессивно-суицидальных, криминальных, человеконенавистнических, сатанистских, оккультных и иных деструктивных онлайн-сообществ, направленных на культивацию идей насилия и ненависти либо к окружающим (собственно агрессивные сообщества), либо к самому себе (аутодеструктивные сообщества).

По результатам различных социологических исследований (ВЦИОМ, Лига безопасного Интернета, Лаборатория Касперского и др.), более половины несовершеннолетних детей практически постоянно находятся в сети «Интернет» (более 60% лиц возраста 13–16 лет), при этом количество проводимого времени в данном виртуальном пространстве с каждым годом увеличивается (до 8–10 часов в сутки). Доля детей дошкольного и младшего школьного возраста в общей статистике по количеству проводимого времени в Интернете тоже с каждым годом возрастает, что свидетельствует о повышении значимости данной формы коммуникации в современном обществе3.

Очевидно, что контент, распространяемый в сети «Интернет», может быть как положительным (образовательные платформы, просветительские фото- и аудиоматериалы и т. п.), так и отрицательным (различные виды «вредной» (деструктивной, токсичной, вредоносной), в т. ч. фейковой информации). В связи с этим становится необходимым уделить особое внимание формированию у детей навыков по анализу информации, ее адекватной оценке и использованию в жизни, а также правильному реагированию на возможные угрозы, поступающие из сети «Интернет». Далеко не всякая информация может способствовать формированию у ребенка правильных морально-нравственных ориентиров и способствовать его развитию4.

Неумелое пользование возможностями сети «Интернет», например, социальными сетями, может отразиться на психическом и физическом здоровье детей. Информация, с которой ребенок сталкивается в социальных сетях, может представлять собой реальную угрозу, являться мощнейшим аппаратом манипуляционного действия. Насыщенность современной информационной среды деструктивной, вредной для развития детей информацией приобретает на сегодняшний день катастрофические масштабы5.

Что касается распространения деструктивного («антиценностного») контента, в последние годы в интернет-медиа наблюдается стремительный рост объема контента, направленного на вовлечение в криминальные субкультуры, аутодеструктивные (в т. ч. суицидальные) сообщества, (псевдо)неоязыческие и иные тоталитарные культы, организации и движения экстремистско-террористической направленности (в т. ч. колумбайн (скулшутинг)6, М.К. У.7, «чистильщики», инцелы, NS/WP8 и т. д.); пропагандирующего употребление наркотических и психотропных веществ, «опасные хобби» (руферство, зацеперство, диггерство и т. п.); унижающего человеческое достоинство лиц на основании их социально-демографических характеристик; пропагандирующего женоненавистничество, эйблизм9, насилие в отношении детей / родителей / пожилых лиц / беременных женщин и т. д.; героизирующего маньяков, серийных убийц и т. д., продвигающего субкультуру сатанистов; пропагандирующего каннибализм, антисемейные ценности, зоофилию, инцест, другие виды половых девиаций и т. д.

В данном аспекте уместно говорить о необходимости обеспечения информационной безопасности детей, т. е. состояния защищенности детей, при котором отсутствует риск, связанный с причинением информацией вреда их здоровью и (или) физическому, психическому, духовному, нравственному развитию (п. 4 ст. 2 Федерального закона от 29 декабря 2010 г. № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию»10 (далее — ФЗ о защите детей от информации).

В юридической литературе высказывается мнение, что информационную безопасность несовершеннолетних необходимо рассматривать в контексте национальной безопасности государства11, что представляется весьма обоснованным.

Информационной безопасности несовершеннолетних, превентивным мерам по их защите в цифровой среде от деструктивных ценностей и мировоззрений (антисемейные ценности, антиобщественные стереотипы поведения, распространение аморального образа жизни, вседозволенности и насилия, употребление алкоголя и наркотиков, отрицание российской самобытности, ослабление общероссийской гражданской идентичности и единства многонационального народа России, создание условий для межнациональных и межрелигиозных конфликтов, подрыв доверия к институтам государства, дискредитация идеи служения Отечеству, формирование негативного отношения к воинской службе и государственной службе в целом и др.) уделяется особое внимание на государственном уровне.

Обеспечение информационной безопасности детей является важной задачей семьи, общества и государства в целом, политика которого должна быть направлена на исключение (минимизацию) угроз распространения деструктивного контента в сети «Интернет». В связи с этим очевидна актуальность исследования теории и практики обеспечения информационной безопасности детей в сети «Интернет» на предмет создания эффективных механизмов по предупреждению распространения негативной (деструктивной) информации.

Выработка эффективных подходов по вопросам информационной безопасности детей в контексте ее правовой регламентации на протяжении последних лет является одной из наиболее обсуждаемых тем не только в масштабах отдельной страны, но и всего мирового сообщества, что подтверждается соответствующими концептуальными и стратегическими нормативными правовыми актами12.

В Российской Федерации приняты нормативные правовые акты, целью которых является защита детей от информации, причиняющей вред их здоровью и развитию. Среди таких актов, прежде всего, следует отметить ФЗ о защите детей от информации, Федеральный закон от 24 июля 1998 г. № 124-ФЗ «Об основных гарантиях прав ребенка в Российской Федерации»13 (далее — ФЗ об основных гарантиях прав ребенка), устанавливающие базовые принципы обеспечения безопасности детей в Интернет-среде.

Отдельные вопросы реализации общественных отношений, связанных с оборотом разного рода информации, регулируются федеральными законами от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации»14 (далее — ФЗ об информации) и от 27 июля 2006 г. № 152-ФЗ «О персональных данных»15.

Особое внимание хотелось бы обратить на Концепцию информационной безопасности детей в Российской Федерации, утвержденную Распоряжением Правительства Российской Федерации от 28 апреля 2023 г. № 1105-р16, которая определяет принципы обеспечения информационной безопасности детей и приоритетные задачи, а также механизмы реализации государственной политики в данной сфере.

Несмотря на сформировавшуюся в целом систему нормативно-правового регулирования по вопросам обеспечения информационной безопасности детей в сети «Интернет», остается много нерешенных проблем в данной области. Наличие пробелов в праве, стремительное развитие информационных (цифровых) технологий, недостаточный уровень цифровой грамотности обусловливают необходимость совершенствования правовых норм, направленных на обеспечение информационной безопасности несовершеннолетних.

На состоянии законности в сфере защиты детей от деструктивной информации негативно сказывается неразвитость системы профилактики деструктивного информационного воздействия, в том числе несформированность системы информационной безопасности детей в субъектах Российской Федерации, включающей обучение несовершеннолетних разных возрастных групп, их родителей, педагогов и воспитателей основам медиаграмотности и медиабезопасности детей17, формирование у них навыков и опыта ответственного и безопасного поведения в Интернете, отсутствие надлежащего межведомственного взаимодействия между органами государственной власти, осуществляющими контроль в сфере защиты детей от информации, причиняющей вред их здоровью и развитию, правоохранительными органами и органами системы профилактики безнадзорности и правонарушений несовершеннолетних18.

Из-за пробелов в российском законодательстве, не позволяющих учитывать особенности доступа к сети «Интернет» несовершеннолетних (например, отсутствие контроля по регистрации в социальных сетях, когда дети сознательно завышают свой возраст), на практике могут возникнуть ситуации, практически не контролируемые государством с позиции получения информации, не предназначенной для данной возрастной аудитории.

При этом следует отметить, что законодатель предпринимает некоторые шаги по распределению зон ответственности за размещаемый в Интернете контент, возложив соответствующие обязанности на владельцев социальных сетей (ст. 10.6 ФЗ об информации), а также по конкретизации юридической ответственности за некоторые правонарушения (например, в части треш-стримов).

В настоящей монографии обосновывается, что дальнейшее совершенствование правового регулирования в части противодействия распространению деструктивного контента должно выстраиваться в направлении, прежде всего, введения в российское законодательство категории «деструктивная информация» («деструктивный контент»).

Также следует отметить актуальность проблематики обеспечения противодействия вовлечению в противоправную деятельность через онлайн-сообщества, прежде всего, несовершеннолетних.

В настоящее время достаточно распространенным направлением уголовной политики является включение в Особенную часть Уголовного кодекса РФ составов преступлений, предусматривающих самостоятельную ответственность за склонение, вербовку или иное вовлечение в противоправную деятельность. При этом возникают сложности в толковании вовлечения и его форм, в связи с тем, что несмотря на синонимичность терминов, описывающих преступное деяние, законодатель различным образом наполняет содержание данных преступных посягательств. Особенно остро встает вопрос, когда в законе объективная сторона выражена вовлечением, например, ст. 240 УК РФ (вовлечение в занятие проституцией) либо склонением — ст. 230 УК РФ (склонение к потреблению наркотических средств, психотропных веществ или их аналогов), но отсутствует описание способов преступного деяния. Кроме того, при регламентации соответствующих составов преступлений законодатель использует различную терминологию, в одних случаях указывает в качестве преступного деяния только вовлечение (либо только склонение); в других их совокупность — склонение или иное вовлечение (либо склонение, вербовка или иное вовлечение). Однако возникает вопрос, чем же обусловлен и насколько оправдан такой процесс использования уголовно-правовых конструкций?

Конструирование специальных составов преступлений в Особенной части УК РФ, в которых подстрекатели становятся исполнителями преступлений, породило в правоприменительной практике смешение понятий «вовлечение» и «склонение»; «вовлечение» и «посредственное исполнение»; «склонение» и «содействие». Также неоднозначным является вопрос о видах конструкций данных составов преступлений, а соответственно и о моменте признания преступлений оконченными. В этой части достаточно спорными и противоречивыми являются правовые позиции Пленума Верховного Суда РФ относительно квалификации и определения момента юридического окончания преступлений, предусматривающих ответственность за вовлечение и склонение в противоправную деятельность. Кроме того, в правоприменительной практике сложилось неоднозначное мнение по отношению к тенденции появления в УК РФ статей, предусматривающих самостоятельную ответственность для вовлекателей. А именно сложились две противоположные позиции: по мнению одних, это было стремление выделить в уголовном законе специальные виды подстрекательства, что, собственно, и до этого обеспечивалось институтом соучастия; по мнению других, это связано прежде всего с желанием законодателя отступить от традиционных правил института соучастия.

В современном мире действенным фактором вовлечения в противоправную деятельность являются виртуальные сети, преимущественно путем продуцирования «деструктивного контента». Тем самым у злоумышленников есть возможность через различные онлайн-сообщества воздействовать на очень широкую аудиторию, в числе которой несовершеннолетние. Однако до сих пор на законодательном уровне нерешенным остается вопрос о признаках деструктивного контента и критериях его оценки.

Воздействие через онлайн-сообщества в большинстве случаев используется для вовлечения других лиц в экстремистскую и иную противоправную деятельность. В сети «Интернет» размещаются материалы террористических и экстремистских организаций, призывы к массовым беспорядкам, осуществлению экстремистской деятельности, участию в массовых (публичных) мероприятиях, проводимых с нарушением установленного порядка, совершению самоубийства, осуществляется пропаганда криминального образа жизни, потребления наркотических средств и психотропных веществ, размещается иная противоправная информация19. В Стратегии противодействия экстремизму в Российской Федерации года сказано, что «участились случаи привлечения в ряды экстремистских организаций несовершеннолетних лиц, поскольку они не только легче поддаются идеологическому и психологическому воздействию, но и при определенных обстоятельствах не подлежат уголовной ответственности»20.

Не случайно Президентом Российской Федерации В. В. Путиным особо отмечена необходимость превентивных мер в области противодействия терроризму, в связи с чем необходимо не только «… активно выявлять и блокировать деятельность террористических групп, ликвидировать их финансовую базу, пресекать деятельность эмиссаров из-за рубежа.», но и минимизировать «их подрывную деятельность в Интернете, учитывать при этом российский и международный опыт в этой сфере»21.

Информация в современном мире стала инструментом, с помощью которого возможно с высокой эффективностью изменять поведение как отдельного человека, так и группы людей. В связи с чем в уголовном законе признак использования электронных или информационно-телекоммуникационных сетей, в том числе сети «Интернет», был введен законодателем в качестве конститутивного или квалифицирующего признака определенных составов преступлений, связанных с призывами, склонением, незаконным оборотом предметов и материалов. Это в свою очередь породило ряд проблемных вопросов, возникающих в судебной практике при применении уголовно-правовых норм о таких преступлениях, в том числе о правильном определении момента окончания данных посягательств, их разграничении между собой и отграничении от смежных составов преступлений. Так, в частности, возникают проблемы в отграничении вовлечения в террористическую и экстремистскую деятельность от публичных призывов, а также от пропаганды терроризма и экстремизма. Все это снижает уровень уголовно-правовой охраны общественных отношений в сфере правомерного использования информационно-телекоммуникационных сетей.

В связи с тем, что основным объектом деструктивного воздействия является молодежь, необходимо показать некоторые проблемы противодействия вовлечению именно несовершеннолетних в преступную или иную деструктивную деятельность через онлайн-сообщества. В УК РФ уже содержатся нормы о привлечении к уголовной ответственности за вовлечение в такие деструктивные группы, целью которых является осуществление террористической, экстремистской либо диверсионной деятельности. При этом ответственность предусмотрена за вовлечение в такие группы как детей, так и взрослых. Однако, как показывают современные реалии, этого недостаточно для защиты безопасности несовершеннолетнего.

Во-первых, в законодательстве отсутствуют нормы, которые бы предусматривали ответственность за вовлечение детей в деструктивные группы, которые представляют реальную опасность для физического и психического здоровья несовершеннолетнего, их нравственного и духовного развития, но не признаны официально судом экстремистскими либо террористическими. Например, это околокриминальные группы, которые популяризируют через сеть «Интернет» сексуальное насилие, травлю, насилие над животными, расстройство пищевого поведения, антиматеринство и др.22

Во-вторых, отсутствуют специальные (точечные) нормы, которые бы предусматривали ответственность за пропаганду именно среди детей противоправной и иной деструктивной деятельности через онлайн-сообщества. В данном случае объектом правовой охраны в первую очередь должна выступать личность несовершеннолетнего.

Таким образом, в представленной монографии представлена авторская позиция по проблемам противодействия деструктивному контенту и вовлечению в противоправную деятельность через онлайн-сообщества.

Глава 1. ДЕСТРУКТИВНЫЙ КОНТЕНТ: РОССИЙСКИЙ И ЗАРУБЕЖНЫЙ ОПЫТ ПРОТИВОДЕЙСТВИЯ

§ 1.1. Семантическое поле деструктивного контента в нормативных правовых актах Российской Федерации

Понятие «деструктивный контент» не закреплено в действующем российском законодательстве, хотя и прижилось в доктрине и в практической деятельности. Тем не менее, различные словосочетания, связанные с деструктивным контентом и деструктивным информационно-психологическим воздействием, уже содержатся в ряде документов стратегического планирования и иных документов:

— Стратегия национальной безопасности Российской Федерации23;

— Основы государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей24;

— Стратегии комплексной безопасности детей в Российской Федерации на период до 2030 года25;

— Стратегия реализации молодежной политики в Российской Федерации на период до 2030 года26;

— Комплексный план противодействия идеологии терроризма в Российской Федерации на 2024–2028 годы27;

— Распоряжение Правительства РФ «Об утверждении Перечня иностранных государств, реализующих политику, навязывающую деструктивные неолиберальные идеологические установки, противоречащие традиционным российским духовно-нравственным ценностям»28;

— и др.

Стратегией национальной безопасности Российской Федерации развитие безопасного информационного пространства, защита российского общества от деструктивного информационно-психологического воздействия определены в числе национальных интересов государства. Указанная Стратегия также констатирует, что основным объектом деструктивного воздействия является молодежь, а развитие таких идей создает условия для саморазрушения российского общества29.

В соответствии со ст. 2 Федерального закона от 30 декабря 2020 г. № 489-ФЗ «О молодежной политике в Российской Федерации»30 молодежь — это социально-демографическая группа лиц в возрасте от 14 до 35 лет включительно, т. е. в том числе несовершеннолетние.

В Стратегии реализации молодежной политики в Российской Федерации на период до 2030 года к вопросам, связанным с государственной и общественной безопасностью, отнесено «распространение … деструктивных материалов (контента), причиняющих вред здоровью и (или) физическому, психическому, духовному, нравственному развитию детей и молодежи, в том числе распространяющих идеологию терроризма и экстремизма, пропаганду антисемейных ценностей, нетрадиционных сексуальных отношений, потребления психоактивных веществ…»31. Данной Стратегией закреплены меры по противодействию деструктивному поведению молодежи.

Стратегией комплексной безопасности детей в Российской Федерации на период до 2030 года32 определены задачи по формированию безопасной информационной среды для детей, среди которых определена «защита детей от внешнего деструктивного информационно-психологического воздействия, внешней идейно-ценностной экспансии, совершенствование механизмов выявления и пресечения распространения противоправного контента в информационном пространстве».

В Стратегии противодействия экстремизму в Российской Федерации указывается: «В целях дестабилизации общественно-политической и социально-экономической обстановки в Российской Федерации специальные службы и организации иностранных государств наращивают деструктивное информационно-психологическое воздействие на население России, прежде всего на молодежь»33.

В Концепции информационной безопасности детей в Российской Федерации указывается, что детская аудитория «является крайне уязвимой с точки зрения информационной безопасности. В связи с высокой степенью анонимности интернет-пространства и возможностью выстраивания общения с использованием нескольких профилей и псевдонимов риск проявления асоциальных форм поведения в цифровой среде увеличивается»34.

В п. 12 Доктрины информационной безопасности Российской Федерации указано, что на данный момент «расширяются масштабы использования специальными службами отдельных государств средств оказания информационно-психологического воздействия, направленного на дестабилизацию внутриполитической и социальной ситуации в различных регионах мира и приводящего к подрыву суверенитета и нарушению территориальной целостности других государств. В эту деятельность вовлекаются религиозные, этнические, правозащитные и иные организации, а также отдельные группы граждан, при этом широко используются возможности информационных технологий <…> Наращивается информационное воздействие на население России, в первую очередь на молодежь, в целях размывания традиционных российских духовно-нравственных ценностей»35.

В Комплексном плане противодействия идеологии терроризма в Российской Федерации на 2024–2028 годы36 поставлена задача в рамках «… реализации индивидуальных профилактических мероприятий в отношении подростков и детей, находившихся под влиянием украинских националистических и неонацистских структур, а также проявляющих в социальных сетях и мессенджерах активный интерес к террористическому и деструктивному контенту радикальной, насильственной и суицидальной направленности».

В Концепции формирования и развития культуры информационной безопасности граждан Российской Федерации констатируется, что «… травля в цифровом пространстве, пропаганда насилия, национализма, распространение недостоверной информации и другой вредоносный контент… оказывают деструктивное влияние на все сферы жизни граждан Российской Федерации и государства в целом»37.

Распоряжением Правительства Российской Федерации от 17 сентября 2024 г. № 2560-р38 определен перечень иностранных государств, политика которых направлена на навязывание деструктивных установок, противоречащим традиционным российским духовно-нравственным ценностям. К таким государствам отнесены: Австралия, Австрия, Албания, Андорра, Багамские острова, Бельгия, Болгария, Великобритания (включая коронные владения Британской короны и Британские заморские территории), Германия, Греция, Дания, Ирландия, Исландия, Испания, Италия, Канада, Кипр, Латвия, Литва, Лихтенштейн, Люксембург, Мальта, Микронезия, Монако, Нидерланды, Новая Зеландия, Норвегия, Польша, Португалия, Республика Корея, Румыния, Сан-Марино, Северная Македония, Сингапур, Словения, Соединенные Штаты Америки, Тайвань (Китай), Украина, Финляндия, Франция, Хорватия, Черногория, Чехия, Швейцария, Швеция, Эстония и Япония. Список перечисленных государств, за некоторым исключением, содержится в другом Распоряжении Правительства Российской Федерации от 5 марта 2022 г. № 430-р (ред. от 29.10.2022)39, определяющим государства, осуществляющим недружественные действия по отношению к Российской Федерации.

В разделе II Основ государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей (далее — Основы)40 неоднократно упоминается понятие деструктивной идеологии, под которой, в соответствии с п. 14 Основ, понимается идеологическое и психологическое воздействие, ведущее к насаждению чуждой российскому народу и разрушительной для российского общества системы идей и ценностей. В п. 16 Основ подчеркивается, что распространение деструктивной идеологии «представляет объективную угрозу национальным интересам Российской Федерации».

По данным Роскомнадзора, за 2024 год на долю заблокированных или удаленных материалов пришлось около более 800 тысяч материалов, что на 19% больше, чем в 2023 году41. За первое полугодие 2025 года по требованиям Роскомнадзора удалено более 425 тысяч противоправных материалов, содержащих детскую порнографию, пропаганду наркотиков и экстремизма, а также фейки42. В рамках реализации государственной политики и нормативно-правового регулирования в установленной сфере деятельности Министерство просвещения РФ и Министерство образования и науки РФ регулярно выпускают рекомендации для педагогов по профилактике деструктивных социальных явлений, контента и так далее43.

Вопросы противодействия деструктивному информационно-правовому воздействию в контексте обеспечения национальной безопасности затронуты, например, в Модельном законе ОДКБ «Об обеспечении национальной безопасности» под деструктивным информационным воздействием понимается «осуществление информационного влияния на политические и социально-экономические процессы, происходящие в государстве, на государственные органы, на физических лиц и юридические лица государства в целях ослабления обороноспособности, общественной безопасности государства, принятия заведомо невыгодных для него решений, заключения заведомо невыгодных для него международных договоров, ухудшения отношений государства с другими странами, создания социально-политической напряженности внутри государства, формирования угрозы возникновения чрезвычайных ситуаций, разрушения духовных и нравственных ценностей, создания препятствий для нормальной деятельности государственных органов, а также причинения иного ущерба национальной безопасности государства…»44.

Сопоставительный анализ документов стратегического планирования, а также Модельного закона ОДКБ показывает, что понятия «деструктивный контент», «деструктивное поведение», «деструктивная идеология», «деструктивное информационное воздействие» используются в контексте проблем противодействия распространению информации, причиняющей вред здоровью или развитию. Между тем в российском законодательстве отсутствует определение или даже упоминание понятия «деструктивный контент» («деструктивная информация»), на страницах юридической литературы до сих пор не сформировалось единых подходов к пониманию категории «деструктивный контент». Более того, наряду с понятием «деструктивный контент» исследователи используют понятия «вредная/вредоносная информация», «токсичный контент» и т. п.

Рис. 1. Соотношение понятий «деструктивный контент» и «противоправный контент»

В настоящее время российское законодательство использует только понятие «информации, ограниченной или запрещенной к распространению», что не охватывает всю сущность деструктивного характера контента в сети «Интернет» и исключает его из правовой квалификации (не все виды деструктивной информации подпадают под запрет в рамках действующего законодательства), что позволяет лицам, сознательно распространяющим вредоносную информацию в цифровой среде, уходить от юридической ответственности. Кроме того, законодательство устанавливает запреты (ограничения) на распространение информации, не только деструктивно влияющей на мировоззрение граждан, склоняющей их к делинквентному поведению и т. п., но и на распространение информации, распространяемой с нарушением авторских и (или) смежных прав; информации, распространяемой с нарушением требований законодательства о выборах и референдумах и др.45

Соответственно, понятия «деструктивный контент» и «противоправный контент» являются именно пересекающимися по объему и содержанию понятиями.

§ 1.2. Зарубежный и международный опыт противодействия деструктивному контенту

В Рекомендации Еврокомиссии о мерах по эффективной борьбе с незаконным контентом в Интернете «незаконный контент означает «любую информацию, которая не соответствует законодательству Союза или законодательству соответствующего государства-члена»46. Термин «деструктивный контент» в актах Еврокомиссии не используется, однако встречается понятие «защита от жестокого (агрессивного, оскорбительного) поведения» (Protection against abusive behaviour).

Действующий в Европейском Союзе Акт о цифровых услугах определяет «незаконный контент» как «любую информацию, которая распространяется самостоятельно или в рамках деятельности по продаже товаров и оказанию услуг и не соответствует законодательству». К такому виду информации потенциально могут относиться «язык вражды», пропаганда терроризма, дискриминации или любая другая информация, которая в законодательстве определена в качестве незаконной. Указанный Акт призван обеспечить предотвращение распространения незаконной информации и дезинформации за счет расширения контроля пользователей над информацией, распространяемой в сети «Интернет», и повышения уровня информированности о содержащихся материалах. Пользователям гарантируется возможность помечать противоправный и дезинформирующий контент для его последующего удаления (блокировки). Акт запрещает распространение рекламы и использование алгоритмических технологий при распространении контента, ориентированного на детей47. Функции по осуществлению контроля и надзора за оборотом незаконной информации возложена на государства-члены, причем во избежание противоречивой правоприменительной практики популярна практика создания координирующих органов на федеральном уровне48.

Однако государства — члены Европейского Союза оказались не вполне готовы выполнять требования Акта, поскольку в большинстве своем имеют национальную законодательную базу, регламентирующую требования к провайдерам по борьбе с распространением незаконного контента, дезинформации и социально негативных явлений. Технологические организации не только не готовы к выполнению требований прозрачности рекламы, отказу от актов саморегулирования, удалению незаконной информации, в том числе пропагандирующей насилие над детьми, принудительного сбора «чувствительных данных», но и затрудняются технологически обеспечить требования конфиденциальности и прозрачности49.

Кроме того, с 2021 года в Европейском Союзе действует Закон по борьбе с распространением террористического контента в Интернете (Regulation (EU) 2021/784 of the European Parliament and of the Council of 29 April 2021 on addressing the dissemination of terrorist content online)50, в соответствии со ст. 3 которого получатель предписания об удалении контента (removal order) должен удалить террористический контент или отключить доступ к террористическому контенту во всех государствах-членах в течение одного часа с момента получения предписания. Систематическое невыполнение указанного обязательства влечет ответственность в виде штрафа в размере до 4% от глобального оборота провайдера хостинговых услуг за предыдущий финансовый год. Кроме того, в соответствии со ст. 6 указанного акта провайдер обязан хранить данные об удаленном (ограниченном) контенте в течение шести месяцев или, по запросу компетентных органов или судов, в течение большего периода времени.

В Германии в 2017 году принят Закон об улучшении правоприменения в социальных сетях51, который не содержит дефиниции или перечня противоправного деструктивного контента, однако предусматривает возложение определенных обязанностей на администрации социальных сетей в случае жалоб интернет-пользователей на информацию, распространение которой образует состав преступления в соответствии с Уголовным кодексом ФРГ. В соответствии с указанным законом онлайн-платформа (социальная сеть с не менее чем 2 млн зарегистрированных пользователей), получающая более 100 жалоб на незаконный контент в течение календарного года, обязана публиковать дважды в год отчеты о принятых мерах по ограничению противоправного контента. Администратор онлайн-платформы обязан незамедлительно принимать поступившую жалобу к рассмотрению и проверять информацию на предмет соответствия/несоответствия законодательно установленным запретам, а при установлении соответствия — обеспечить в течение 24 часов с момента получения жалобы удаление или блокировку такой информации. Если онлайн-платформа не обеспечивает установленную процедуру рассмотрения жалоб компетентных органов или пользователей, не контролирует рассмотрение жалоб или контролирует не в полной мере, не устраняет организационные недоработки, на платформу может быть наложен штраф в размере до 5 000 000 евро.

Во Франции в 2020 году принят Закон о противодействии разжиганию ненависти в Интернете52, который регламентирует отношения, связанные с запретом распространения «языка вражды», включая упрощение механизмов уведомления о содержании ненависти в Интернете, обязанность операторов платформ сотрудничать в борьбе с ненавистническим контентом в Интернете, регламентирует деятельность Высшего совета по аудиовизуальным средствам в борьбе с ненавистническим контентом в Интернете, усиление борьбы с распространением материалов, разжигающих ненависть, в Интернете, повышение эффективности уголовного преследования в отношении авторов материалов, разжигающих ненависть, а также предотвращение распространения материалов, разжигающих ненависть, в Интернете. Принятый в 2024 году Закон о безопасности и регулировании цифрового пространства53 вводит правила противодействия деструктивному контенту, схожие с германской правовой моделью. Так, провайдеры обязаны в течение суток со дня получения предписания со стороны контролирующего органа удалить или заблокировать незаконный контент. При этом необходимо незамедлительно подтвердить получение уведомления и в течение того же периода времени проинформировать административный орган о принятых мерах. Ранее французским законодательством уже были предусмотрены удаление или блокировка информации, содержащей пропаганду употребления запрещенных веществ, призывы к совершению самоубийства и так далее. Между тем, нормативно не получили закрепление унифицированное определение и признаки незаконного или деструктивного контента. Таким образом, французский законодатель идет по пути фрагментарного, несистемного ограничения (запрета) распространения деструктивной информации отдельных видов, и противодействие распространению новых информационных угроз, как правило, требует законодательных изменений.

В Великобритании разработан и принят Закон о безопасности в Интернете54, вступивший в силу в 2023 году, целью которого является создание безопасных условий для пользования интернет-сервисами на всей территории государства. Устанавливаются обязанности провайдеров по предотвращению и выявлению незаконного контента и деятельности, в том числе наносящего вред детям. Законодательно гарантируется, что интернет-услуги априори должны быть безопасными и варьироваться в зависимости от возрастной категории пользователей, а поставщики обязаны оценивать вероятность доступа к таким услугам детей и поддерживать эффективность и актуальность таких прогнозов.

Закон не вводит унифицированного понятия незаконного деструктивного контента, а лишь категорирует контент по определенным квалифицирующим признакам, которые могут иметь значение для юридической квалификации: незаконный контент (illegal), вредный для детей (harmful to children), вредный для взрослых (harmful to adults). Так, вводятся следующие три категории контента, представляющего вред для детей (harmful to children): основной приоритетный контент (primary priority content), приоритетный контент (priority content) и необозначенный вредный контент (non-designated harmful content). К содержанию первой категории относятся пропаганда самоубийства, порнографические материалы, материалы, способные побудить различные расстройства. Ко второй — вариации издевательского контента, в котором содержатся оскорбления или дискриминация по признакам расы, пола, сексуальной ориентации, инвалидности, смены пола; тем или иным образом разжигается ненависть, пропагандируется насилие над людьми, показывается выполнение определенных трюков, способных причинить вред здоровью; содержится насилие по отношению к людям, животным, вымышленным существам; поощряется употребление вредных веществ. К третьему — контент, который потенциально создает риск причинения вреда большому числу детей.

В КНР разработана и действует специальная система фильтрации интернет-контента. По данным исследователей, существенная доля заблокированного контента приходится на ресурсы развлекательного характера, игровой индустрии, средства массовой информации с вредной информацией, а также сервисы рекомендательных технологий55. Государственным управлением по делам телевидения и радиовещания КНР в целях пресечения распространения недостоверного и вредного контента, формирования «чистого киберпространства» подготовлены Подробные правила по стандартам проверки онлайн-контента коротких видео56, ориентированные на регулирование распространения коротких видеороликов, текста, субтитров, изображений, музыки, звуковых эффектов, комментариев, смайликов и т. д. Правила разработаны на основе имеющихся в КНР регуляторных актов (Положение об администрировании услуг аудио- и видеопрограмм в Интернете, Общие принципы проверки контента онлайн-программ аудио/видео) и включают в себя более 100 позиций, в том числе контент, подрывающий мировой авторитет Китая, государственный режим, нарушающий социалистические ценности, содержащий сведения, составляющие государственную тайну, информацию о личной жизни лиц, занимающих государственные должности, и членах их семей, разжигающий национальную и религиозную рознь, информирующий о местных террористических организациях, демонстрирующий повреждение, осквернение, сожжение, фальсификацию государственных символов, мародерство, разрушение памятников, суицидальное поведение, проституцию, призывы к физическому и психологическому насилию, совершению правонарушений, упаднические взгляды на жизнь, вызывающий влечение к азартным играм, распространяющих недостоверную информацию о благотворительных сборах и т. д.57 За нарушение указанных правил распространения контента предусмотрена уголовная и административная ответственность.

Политика по защите культурной онлайн-среды последовательно проводится Китаем с 2016 года58 и корректируется в соответствии с социалистическими ценностями и целями развития. В последнее время получила распространение практика модерации нежелательного контента, ориентированного на ценности, в частности по удалению и блокировке контента, содержащего неэкономное и неразумное расходование денежных средств, расточительство, демонстрацию богатства и поклонение деньгам59. Так, с начала 2024 года Weibo удалила 1100 материалов и заблокировала 27 аккаунтов, Douyin — 4701 сообщение и 11 аккаунтов, Xiaohongshu — 4273 сообщения и 383 аккаунтов60.

В рамках функционирования государственной системы «Золотой щит» используются следующие методы фильтрации контента в Интернете: DNS-блок, поэтапное соединение, блокировка URL по ключевым словам, а также сканирование содержания страниц61.

Статья 34 Закона КНР «О защите несовершеннолетних» предусматривает уголовную ответственность за производство, публикацию или распространение среди несовершеннолетних материалов, которые являются вредоносными для физического или психологического здоровья детей. Запрещен контент, включающий, в том числе, пропаганду непристойности, порнографию, насилие, культы, суеверия, азартные игры, призывы к самоубийству, терроризму, сепаратизму или экстремизму62.

Также в КНР действуют Рекомендации по дальнейшей консолидации ответственности субъекта по регулированию информационного контента для сайтов и платформ63, введенные в действие в 2021 году. Данный акт возлагает на онлайн-платформы обязанность по продвижению социалистических ценностей, выявлению и пресечению распространения вредной и недостоверной информации, платформы обязуются совершенствовать внутренние политики сообществ, систематически повышать качество предоставляемого контента, устанавливать перечни вредного контента, своевременно удалять такой контент. Пользователи соответствующих платформ должны в надлежащем порядке пройти регистрацию, а платформы, в свою очередь, должны контролировать корректность введенных данных и контент, размещаемый пользователями. Платформы следят за качеством контента, создают образцы запрещенного контента. В части работы с несовершеннолетними пользователями платформы ведут политику по минимизации их чрезмерного влечения к использованию сетей и ориентации на контент, положительно влияющий на их психологическое и физическое здоровье.

В Японии в 2008 году был принят Закон о поддержке здоровой Интернет-среды для молодежи.

Закон вводит следующие категории опасной информации:

— информация, доступная для публичного просмотра с помощью сети «Интернет» и существенно препятствующая здоровому развитию несовершеннолетних (п. 3 ст. 2);

— информация, которая прямо или косвенно побуждает к действиям, нарушающим уголовное законодательство (подстрекательство к совершению преступлений, описание средств и деталей совершения преступлений) или прямо и явно провоцирует самоубийство;

— изображения сцен убийств, казней, пыток и т. п. или информация другого крайне жестокого содержания (кроме манги или аниме);

— информация, возбуждающая или стимулирующая половое влечение (половой акт человека, непристойные изображения половых органов человека и т. д.) или оказывающая неблагоприятное влияние на формирование сексуальных ценностей у молодых людей;

— информация, касающаяся злоупотребления наркотиками, членовредительства или других действий, которые наносят вред психическому и физическому здоровью и которые в значительной степени провоцируют такие действия у молодежи;

— информация, которая представляет собой издевательство над конкретным несовершеннолетним и которая может причинить несовершеннолетнему значительную психологическую травму;

— информация, предназначенная для несовершеннолетних, которые убегают из дома или планируют это сделать, и которая в значительной степени способствует подростковой преступности или детской проституции64.

В Южной Корее запрещена информация, которая нарушает «общественное спокойствие и порядок, мораль и хорошие традиции». Регуляторами и правоохранительными органами ведется борьба с порнографией и сексуальным насилием в Интернете. В сентябре 2013 г. в прокуратуре создана специализированная поисковая группа для отслеживания нецивилизованного и деструктивного поведения в Интернете. Удаление нежелательного контента является обязанностью провайдеров65.

В Сингапуре в соответствии с Законом о вещании приняты Кодекс поведения в интернете, за нарушение которого предусмотрена уголовная ответственность, в т. ч. за размещение контента, подрывающего социальную и национальную безопасность (порочащего репутацию правительства, вводящего в заблуждение, сеющего панику или антигосударственные настроения и т. д.), уничтожающего этнические и религиозные мир и гармонию (разжигающий этническую ненависть, вражду или рознь, а также популяризирующий религиозный фанатизм и т. д.) или нарушающего общественную мораль (распространяющего порнографию, пропагандирующего физическое, сексуальное и иное насилие, гомосексуализм, терроризм и т. д.)66.

В США понятие деструктивного контента также не легализовано. Принят к рассмотрению Kids Online Safety Act (KOSA)67, который комплексно урегулировал общие положения, обязанности платформ, установил соблюдение условий прозрачности, гарантии для несовершеннолетних, специальные органы, обязательность научной обоснованности технологических методов проверки возраста и регламентировал вопросы правоприменения.

В частности, презюмируется, что онлайн-платформа должна соответствовать требованиям защиты, действовать в интересах несовершеннолетнего пользователя, принимать возможные меры по минимизации последствий от распространяемого контента. К такому контенту законом отнесены: поведение, которое вызывает зависимость, физическое насилие, издевательства, реклама и маркетинг употребления наркотических средств и т. д. Одна из мер законопроекта — запрет алгоритмам предлагать рекомендации несовершеннолетним.

Предусматриваются гарантии безопасности посредством организации специальной платформы, которая позволит ограничивать общение с несовершеннолетним, запрет других пользователей на просмотр персональных данных, функциональные ограничения, а также комплексный контроль персонализированных рекомендательных систем. Последние законом признаются в качестве полностью или частично автоматизированных систем, используемых для предложения, продвижения или ранжирования информации на основе персональных данных пользователей. В частности, функционально предусматривается специфическое право на отказ от использования, ограничиваются категории рекомендаций, ограничивается обмен геолокацией.

С целью обеспечения прозрачности деятельности платформы вводится обязанность публиковать отчеты, в которых необходимо предусмотреть критерии оценки рисков причинения вреда несовершеннолетним, проверять эффективность предоставляемых гарантий, изложить категории обрабатываемых персональных данных и цели их обработки и т. д. Контрольными полномочиями наделены генеральные прокуроры штатов, а для консультативных целей создается Совет по безопасности детей в Интернете.

На уровне штата Нью-Йорк разработано и принято за

...