Несовершеннолетние могут использовать новый инструмент NCMEC «Take It Down», чтобы помечать откровенные материалы о себе, которые были или которые, по их мнению, будут опубликованы в Интернете.
Getty Images
Meta финансирует общенациональные усилия, направленные на то, чтобы помочь детям и подросткам удалить свои обнаженные или откровенно сексуальные изображения из социальных сетей. Может ли собственный шаг гиганта к сквозному шифрованию помешать?
TНациональный центр пропавших без вести и эксплуатируемых детей запустил платформу, финансируемую Meta, чтобы помочь детям и подросткам удалить из социальных сетей свои обнаженные или сексуальные фотографии и видео.
Новая услуга для несовершеннолетних под названием Сними это, был представлен через год после выпуска аналогичного инструмента для взрослых, известного как СтопNCII (сокращение от несогласованных интимных образов). Сегодня Take It Down будет работать только на пяти платформах, согласившихся на участие: принадлежащих Meta Facebook и Instagram, а также Yubo, OnlyFans и Pornhub.
«Мы создали эту систему, потому что многие дети оказались в безвыходной ситуации», — сказала президент и главный исполнительный директор NCMEC Мишель ДеЛон. «Мы надеемся, что дети узнают об этой услуге и почувствуют облегчение от того, что существуют инструменты, помогающие удалять изображения».
То, как компании социальных сетей защищают детей и подростков — и где они терпят неудачу — стало главным вопросом двухпартийной технической политики в новом Конгрессе, и у законодателей есть наилучшие шансы на принятие закона. Тем не менее, впереди еще долгий путь для любых предложений по созданию или усилению мер безопасности, и, поскольку никаких законов не предвидится, NCMEC продолжает выступать в качестве моста между онлайн-компаниями и правоохранительными органами по вопросам безопасности детей. В 2021 году некоммерческая организация получила почти 30 миллионов советов со всей отрасли о явном секстортинге и материалах о сексуальном насилии над детьми на своих платформах. О большинстве сообщений сообщили платформы, принадлежащие Meta.
Несовершеннолетние и родители могут использовать Бесплатный анонимный инструмент NCMEC помечать откровенные материалы несовершеннолетнего лица, которые были или которые, по их мнению, будут распространены в Интернете. После того, как они выбрали конфиденциальные фотографии или видео на своем устройстве, платформа генерирует эквивалент цифрового отпечатка этой фотографии (называемый «хэшем»), которым NCMEC затем делится с участвующими сайтами социальных сетей, чтобы они могли попытаться найти, ограничивать или удалять, а также продолжать отслеживать этот контент.
По данным NCMEC, рассматриваемые фотографии или видео, в частности, не покидают устройство и никем не просматриваются. (Хеш также делает жертв неидентифицируемыми как для NCMEC, так и для приложения социальных сетей, сигнализируя только о том, что изображение является вредоносным и должно быть удалено.) NCMEC заявила, что не было известных нарушений ее базы данных хэшей, которые потенциально могли бы раскрыть личность человека. .
Но одним из самых больших препятствий для этих усилий является развитие сквозного шифрования. «Когда технологические компании внедряют сквозное шифрование без встроенных превентивных мер для обнаружения известных материалов о сексуальном насилии над детьми, это оказывает разрушительное воздействие на безопасность детей», — заявил ДеЛон, президент NCMEC, на слушаниях в судебном комитете Сената в этом месяце. . Слон в комнате заключается в том, что финансовый покровитель и самая известная компания, участвующая в Take It Down, Meta, движение в клипе к сквозному шифрованию как в Instagram, так и в Messenger.
Как две организации могут примирить это, это «вопрос на миллион долларов», сказал вице-президент NCMEC Гэвин Портной. Forbes, отметив, что NCMEC до сих пор точно не знает, каковы планы Meta в отношении шифрования и какие меры безопасности могут быть приняты. (Мета сообщила, что они находятся в стадии разработки и что различные функции шифрования тестируются в Instagram и Messenger.)
«Мы строим Take It Down с учетом того, как Интернет и [поставщик электронных услуг] расположены сегодня», — сказал Портной. «Это действительно мост, который нам придется пересечь, когда мы лучше поймем, как выглядит среда сквозного шифрования [Meta], и есть ли мир, в котором Take It Down может работать».
Об этом заявила глава службы безопасности Meta Антигона Дэвис. Forbes что «шифрование приведет к тому, что некоторые изображения не будут идентифицированы нами», но оно становится отраслевым стандартом обмена сообщениями, который жизненно важен для конфиденциальности и безопасности пользователей. По ее словам, использование хеш-технологии и поддержка NCMEC в таких проектах, как этот, являются одними из нескольких способов, с помощью которых Meta пытается «действительно решить проблему». (Обе стороны отказались сообщить, сколько денег Meta дала NCMEC на создание Take It Down.)
«Нет панацеи для решения этих проблем», — сказал Дэвис в интервью, назвав подход Меты «многогранным». По ее словам, в дополнение к сотрудничеству над этой новой системой, направленной на предотвращение секстортинга и распространения интимных изображений без согласия, Meta не позволяет взрослым незнакомцам общаться с несовершеннолетними через свои функции обмена сообщениями. Он также использует классификаторы, чтобы предотвратить передачу учетных записей и контента несовершеннолетних взрослым мета-пользователям, которые проявляют подозрительное поведение в Интернете, добавила она.
«Я надеюсь, что люди, которым в молодости поделились подобными изображениями кто-то — родитель, который их эксплуатировал, другой взрослый, который их эксплуатировал, бывший парень или девушка, — что им будет интересно использовать этот инструмент», — сказал Дэвис.
NCMEC заявила, что представила некоторые 200 других поставщиков электронных услуг которые предоставили информацию в свой «CyberTipline» о присоединении к программе Take It Down. Еще неизвестно, кто еще — помимо небольшой горстки игроков в социальных сетях, отстаивающих это сегодня — попадет на борт. Yubo, со своей стороны, надеется, что эти первые последователи подтолкнут других к присоединению.
«Для снижения рисков и решения проблем в Интернете требуется больше, чем просто вмешательство правительства», — сказал по электронной почте генеральный директор Yubo Саша Лазими. «Все актеры должны играть свою роль. … Сотрудничество является ключом к поиску решений серьезных проблем, поэтому мы надеемся, что к инициативе Take It Down присоединится больше платформ».
Источник: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/