Предлагаемое законодательство Европейского Союза потребует сканирования личных сообщений

Защитники конфиденциальности выразили обеспокоенность по поводу последствий предлагаемого законодательства по борьбе с распространением материалов о сексуальном насилии над детьми и контента об уходе за собой. Представители Еврокомиссии утверждают, что «Заказы на обнаружение ограничены по времени и нацелены на определенный тип контента на конкретном сервисе». Закон также предписывает магазинам приложений запрещать детям загружать приложения, которые подвергаются высокому риску вымогательства.
Профессор криптографии Университета Джона Хопкинса Мэтью Грин предупредил: «По закону санкционировав строительство этих систем наблюдения в Европе, европейское правительство в конечном итоге сделает эти возможности доступными для каждого правительства».
Технологические лидеры также выступили против планов ЕС. Уилл Кэткарт из WhatsApp выразил разочарование по поводу неспособности защитить сквозное шифрование. Apple на неопределенный срок отложила свои планы по внедрению новых мер сканирования сообщений.

Комиссия предлагает новое законодательство ЕС по предотвращению сексуального насилия над детьми в Интернете и борьбе с ним. Только в 2021 году во всем мире было зарегистрировано 85 миллионов фотографий и видео, изображающих сексуальное насилие над детьми, и многие другие остаются незарегистрированными, поэтому сексуальное насилие над детьми является повсеместным. Пандемия COVID-19 усугубила проблему: фонд Internet Watch отметил увеличение на 64% сообщений о подтвержденных случаях сексуального насилия над детьми в 2021 году по сравнению с предыдущим годом. Нынешняя система, основанная на добровольном обнаружении и сообщении компаниями, оказалась недостаточной для надлежащей защиты детей и, в любом случае, станет невозможной после истечения срока действия временного решения. До 95% всех сообщений о сексуальном насилии над детьми, полученных в 2020 году, поступили от одной компании, несмотря на явные доказательства того, что проблема существует не только на одной платформе.

Для эффективного противодействия неправомерному использованию онлайн-сервисов в целях сексуального насилия над детьми необходимы четкие правила с надежными условиями и гарантиями. Предлагаемые правила обяжут провайдеров выявлять, сообщать и удалять материалы о сексуальном насилии над детьми в своих услугах. Поставщикам необходимо будет оценивать и снижать риск неправомерного использования их услуг, а принимаемые меры должны быть пропорциональны этому риску и соответствовать надежным условиям и гарантиям.

Новый независимый Центр ЕС по вопросам сексуального насилия над детьми (Центр ЕС) будет способствовать усилиям поставщиков услуг, действуя в качестве экспертного центра, предоставляя достоверную информацию о выявленных материалах, получая и анализируя отчеты от поставщиков для выявления ошибочных сообщений и предотвращения их правоохранительных органов, оперативно направляя соответствующие отчеты для правоохранительных органов и оказывая поддержку жертвам.

Новые правила помогут спасти детей от дальнейшего жестокого обращения, предотвратят повторное появление материалов в Интернете и принесут правонарушителей к ответственности. Эти правила будут включать:

Обязательная оценка рисков и меры по снижению рисков. Поставщики услуг хостинга или межличностного общения должны будут оценить риск того, что их услуги будут использоваться не по назначению для распространения материалов о сексуальном насилии над детьми или для принуждения детей, известного как уход. Поставщики также должны будут предложить меры по снижению рисков.
Обязательства по целевому обнаружению на основе ордера на обнаружение: государства-члены должны будут назначить национальные органы, ответственные за проверку оценки риска. Если такие органы определяют, что сохраняется значительный риск, они могут обратиться в суд или независимый национальный орган с просьбой выдать ордер на обнаружение известных или новых материалов о сексуальном насилии над детьми или уходе за ними. Заказы на обнаружение ограничены по времени и нацелены на определенный тип контента в конкретной службе.
Надежные меры безопасности при обнаружении: компании, получившие распоряжение об обнаружении, смогут обнаруживать контент только с использованием признаков сексуального насилия над детьми, проверенных и предоставленных Центром ЕС. Технологии обнаружения должны использоваться только для выявления случаев сексуального насилия над детьми. Провайдеры должны будут развертывать технологии, которые наименее нарушают конфиденциальность в соответствии с современным уровнем развития отрасли и максимально ограничивают количество ошибок из-за ложных срабатываний.
Четкие обязательства по отчетности: Поставщики, обнаружившие сексуальное насилие над детьми в Интернете, должны будут сообщить об этом в Центр ЕС.
Эффективное удаление: Национальные власти могут издавать приказы об удалении, если материалы о сексуальном насилии над детьми не будут быстро удалены. Провайдеры доступа в Интернет также должны будут отключить доступ к изображениям и видео, которые нельзя удалить, например, потому что они размещены за пределами ЕС в несотрудничающих юрисдикциях.
Уменьшение подверженности грумингу: правила требуют, чтобы магазины приложений не позволяли детям загружать приложения, которые могут подвергать их высокому риску навязывания детей.
Надежные механизмы надзора и судебное возмещение: Распоряжения об обнаружении будут издаваться судами или независимыми национальными органами. Чтобы свести к минимуму риск ошибочного обнаружения и сообщения, Центр ЕС будет проверять сообщения о потенциальном сексуальном насилии над детьми в Интернете, сделанные поставщиками, прежде чем передавать их правоохранительным органам и Европолу. И провайдеры, и пользователи будут иметь право обжаловать любые меры, затрагивающие их, в суде.

Новый Центр ЕС будет поддерживать:

• Поставщики онлайн-услуг, в частности, в соответствии со своими новыми обязательствами по проведению оценки рисков, обнаружению, сообщению, удалению и отключению доступа к сексуальным надругательствам над детьми в Интернете путем предоставления индикаторов для обнаружения сексуальных надругательств над детьми и получения отчетов от поставщиков;
• Национальные правоохранительные органы и Европол, просматривая отчеты поставщиков, чтобы убедиться, что они не отправлены по ошибке, и быстро перенаправляя их в правоохранительные органы. Это поможет спасти детей от жестокого обращения и привлечь виновных к ответственности.
• Государства-члены, выступая в качестве центра знаний о передовом опыте в области предотвращения и оказания помощи жертвам, способствуя внедрению подхода, основанного на фактических данных.
• Жертв, помогая им снимать материалы, изображающие их насилие.

Вместе с сегодняшним предложением Комиссия также выдвигает европейскую стратегию лучшего интернета для детей.

Следующие шаги

Теперь Европейский парламент и Совет должны согласовать это предложение. После принятия новый регламент заменит действующий временный регламент. Обратная связь от представителей общественности по предложениям открыта в течение как минимум 8 недель.