Мировая практика. Как защищают детей в интернете Великобритания, США и ЕС
Самой безопасной в страной в том, что касается пребывания детей в интернете, и лидером в сфере законодательных решений сейчас является Великобритания
В апреле этого года 48-летний британец получил судебный запрет на пользование инструментами искусственного интеллекта на следующие 5 лет. Он обвиняется в изготовлении более 1000 ложных изображений детской порнографии (материалов сексуального насилия над детьми) с помощью ИИ. Это первое решение в мире подобного формата.
В целом Великобритания сейчас является самой безопасной в мире страной по опыту детей в интернете и лидером в сфере законодательных решений. Так в октябре прошлого года был принят Online Safety Act, который применяет беспрецедентно жесткие ограничения и ответственность для социальных сетей и поисковых платформ, работающих на территории страны. Закон имеет целью защитить не только детей, но и взрослых. Давайте подробнее разберемся в его подходах, а также обратим внимание на подобные законодательные обсуждения в США и ЕС.
Закон, который насчитывает более 600 страниц, будет внедряться в течение 1,5 года и полностью вступит в силу в конце 2025 года. Он устанавливает ответственность технологических компаний (в первую очередь соцсетей и поисковых систем) по предупреждению, выявлению и удалению нелегального контента и такого, что несет вред детям, установление эффективных механизмов проверки возраста для доступа к сайтам со взрослым контентом, проведение аудитов и публикацию результатов по уровню безопасности своих платформ для пользователей, а также создание процедур для предотвращения подобного вреда. Закон касается не кибербезопасности (защиты денег, информации, данных), а онлайн-защищенности (защиты репутации, психического здоровья и жизни пользователей).
В Украине отсутствуют рабочие системы блокировки и удаления материалов сексуального насилия над детьми
Великобритания наделяет государственный орган Ofcom (агентство, регулирующее работу теле- и радиокомпаний) полномочиями регулятора, который может проводить проверки применения частными кампаниями норм закона и принимать соответствующие меры. Это может быть штраф — 18 млн фунтов ($22,5 млн) или 10% от глобального годового оборота кампании, в зависимости от того, какая сумма больше, то есть для крупнейших в мире компаний это миллиардные штрафы. В отдельных случаях руководители технологических компаний могут быть привлечены к уголовной ответственности. Также компания может получить запрет на работу на рынке Великобритании. Все ключевые мировые коммуникационные платформы подпадают под действие закона, включая X, Facebook, Instagram, YouTube, TikTok, а также Google.
Также вводятся ценности Safety by Design, когда разработчики еще на этапе создания продукта или обновлений должны учитывать вред, который он может нанести пользователям, и разрабатывать предохранители.
Все платформы должны обеспечить детей и родителей четкими и понятными инструментами для сообщения о рисковых ситуациях или контента на платформе, а также усилить регулирование доступа детей до 13 лет к социальным сетям. Сейчас социальные сети имеют возрастные ограничения и доступ до 13 лет запрещен, но из-за отсутствия действенных инструментов проверки возраста, многие дети регистрируются раньше. Теперь все страницы детей младше 13 лет должны быть удалены и введены действенные инструменты подтверждения возраста.
Компании несут полную ответственность за контент, который размещается на их ресурсах. Какой именно контент подпадает под регулирование?
Незаконный контент, который компании обязаны предупреждать, выявлять и удалять: материалы сексуального насилия над детьми (детская порнография), материалы жестокого сексуального насилия над взрослыми, сексуальная эксплуатация, порно месть (распространение интимных фото совершеннолетних без согласия), содействие или доведение до самоубийства или самоповреждений, подстрекательство к насилию, принудительное поведение, нелегальная миграция и торговля людьми, терроризм, мошенничество, преступления на почве ненависти, продажа незаконных наркотиков и оружия.
Для получения доступа к опасному контенту пользователь должен пройти проверку возраста (новейшие механизмы разрабатываются, но вероятно будет применен с использованием реальных документов, как, например для регистрации в банке). Этот контент должен быть недоступен детям и охватывает всю порнографию, жестокое насилие, содействие или доведение до самоубийства или самоповреждений, содействие расстройствам пищевого поведения.
Также дополнительную защиту в онлайн-мире получают взрослые. Криминализируется создание порнографических deepfake с целью шантажа. Криминализируется распространение настоящих интимных фото или видео без согласия изображенного лица. За такие действия можно получить до 6 месяцев тюрьмы. Если материалы были использованы с целью шантажа, запугивания и получения выгоды, то ответственность может быть до 2 лет.
Вместе с тем, вводятся дополнительные уголовные преступления:
— поощрение или координация нанесения телесных повреждений
— отправка обнаженных фото с целью унижения, тревоги, запугивания получателя.
Таким образом, закон завершает времена «саморегулирования», когда компании по своему желанию могли создавать соответствующие процедуры защиты пользователей.
Законодательные обсуждения в США и ЕС
Регулирование работы социальных сетей активно обсуждается с конца прошлого года и в Конгрессе США. Kids Online Safety Act (KOSA) касается защиты в интернете только несовершеннолетних пользователей, но тоже продвигает идеи Safety by Design (Duty of Care). Законодательная инициатива касается немного других рисков и большое внимание уделяет предотвращению формирования зависимости детей от гаджетов и соцсетей.
Ключевые риски, о которых должны думать разработчики технологических продуктов:
- расстройства психического здоровья: тревога, депрессия, расстройства пищевого поведения, употребление психоактивных веществ и суицидальное поведение;
- поощрение поведения, похожего на зависимость;
- физическое насилие, издевательства в интернете и преследование несовершеннолетних;
- сексуальная эксплуатация и насилие;
- реклама и маркетинг наркотических средств, табачных изделий, азартных игр или алкоголя;
- хищническая, несправедливая или обманчивая маркетинговая практика, или другие финансовые убытки.
Также все разработчики должны настроить на платформах безопасные ограничения по коммуникации детей с другими пользователями, доступа к их персональным данным, распространение геолокации, ограничения функций, стимулирующих «бесконтрольное» по количеству времени пользования приложениями.
Большое внимание также уделяется родительскому контролю, чтобы предоставить родителям возможность контролировать настройки приватности, покупок, просмотра контента и других действий в аккаунте ребенка (речь не идет о чтении переписок детей). Дети и родители, как и согласно британскому закону, должны получить легкие инструменты для жалоб на насилие на платформе.
Вместе с тем, социальные сети будут вынуждены проходить независимые аудиты по безопасности их продуктов для детей, а также постоянно предпринимать соответствующие действия для предотвращения нанесения вреда несовершеннолетним пользователям.
Сейчас законодательная инициатива касается очень конкретных технологических компаний, таких как онлайн-платформы, онлайн видео игры, мессенджеры, видео стриминговые платформы, которые используются или могут использоваться детьми.
Очевидно, что регулирование социальных сетей в США (где большинство из них зарегистрированы) будет иметь большое влияние на порядок их работы во всех странах. Однако хостерами наибольшего количества материалов сексуального насилия над детьми, согласно недавнему отчету британской организации Internet Watch Foundation, сегодня являются страны Европы (вместе с Турцией и Россией). 64% таких материалов или 176 299 обращений зафиксированы именно в этих странах. К сожалению, Европейский Союз пока имеет самую слабую из законодательных инициатив по онлайн безопасности детей: она касается исключительно вопросов сексуального насилия над детьми. С 2021 года платформам разрешается нарушать право end-to-end encryption с целью расследования случаев сексуального насилия над детьми в интернете. В парламенте ЕС обсуждается создание Центра Защиты Детей ЕС, который будет иметь полномочия по работе с отчетами о материалах онлайн сексуального насилия и оказывать поддержку странам-участницам в расследовании подобных преступлений.
Также в апреле этого года ПАСЕ приняла резолюцию The protection of children against online violence, которая касается как защиты детей от сексуального насилия в интернете, так и регулирования доступного для детей контента и применения подтверждения возраста. Но документ имеет очень общий и рамочный характер, в отличие от принятого в Великобритании Online Safety Bill или даже текущих предложений KOSA в США.
Защита детей в интернете: Украина
В Украине вопросы защищенности пользователей (и в первую очередь детей) в интернете урегулированы минимально. В 2021 году было криминализировано хранение и просмотр материалов сексуального насилия над детьми, а также груминг (создание доверительных отношений с ребенком с целью сексуального насилия). Согласно Уголовному кодексу Украины (Статья 301−1), просмотр, распространение и хранение контента откровенного характера являются незаконными. Лица от 16 лет могут быть лишены свободы от 8 до 12 лет. Для лиц от 11 до 16 лет применяются принудительные воспитательные меры. Родители несут административную и гражданскую ответственность. Административный кодекс регулирует кибербуллинг между участниками одного образовательного процесса (например среди одноклассников), но пока отсутствуют рабочие системы даже блокировки и удаления материалов сексуального насилия над детьми, не говоря уже о более системных и основательных подходах к ответственности технологических компаний за безопасность пользователей.
Вместе с развитием новейших технологий, которые Украина часто предоставляет для пользователей по всему миру, мы должны создавать условия для безопасности получателей этих услуг, особенно когда речь идет о детях.
Присоединяйтесь к нашему телеграм-каналу Погляди NV
Больше блогов здесь
