Стало известно, что Apple будет сканировать фотографии пользователей на наличие запрещенного контента. Мы объясняем, как это будет работать и как эксперты по кибербезопасности и конфиденциальности относятся к новой функции.
Прочитайте "Высокие технологии" в
Как все это началось?
Большинство облачных сервисов — Dropbox, Google и Microsoft и многие другие-уже сканируют файлы пользователей на предмет контента, который может нарушать их условия предоставления услуг или быть потенциально незаконным, например CSAM. Но Apple долгое время сопротивлялась сканированию файлов пользователей в облаке, предоставляя пользователям возможность шифровать свои данные до того, как они попадут на серверы Apple iCloud.
Apple развернет новую систему под названием NeuralHash в Соединенных Штатах. Он появится в iOS 15 и macOS Monterey, выпуск которых запланирован на следующий месяц или два. Будет ли система развернута на международном уровне и когда, неизвестно До недавнего времени, такие компании, как Facebook, были вынуждены отключить свои инструменты обнаружения жестокого обращения с детьми по всему Европейскому Союзу.
Как это будет работать?
Начнем с того, что в США существует специальная база данных изображений, она собирается NCMEC и другими организациями. NCMEC или Национальный центр по пропавшим и эксплуатируемым детям-это Национальный центр по пропавшим и эксплуатируемым детям, частная некоммерческая организация, созданная в 1984 году Конгрессом США. Стоит отметить, что Apple получает не сами изображения, а их хэши. Это специально сгенерированные строки, которые будут одинаковыми для одних и тех же изображений и разными для разных, объясняет "Т-Ж".
Стоит отметить, что особенность хэшей заключается в том, что они не позволяют полностью восстановить исходный файл. Однако они позволяют сравнивать хэши двух файлов друг с другом. В то же время алгоритм, который используется в процессе, устойчив к манипуляциям с фотографиями. Что это значит? Например, даже если вы измените цвета или размер изображения на фотографии, его хэш будет таким же, как в исходном файле.
Аналогичные хэши iPhone независимо от * Apple * вычисляются для всех фотографий пользователя. Алгоритм учитывает не конкретные пиксели, а скорее содержание изображения.
Для того, чтобы анализ работал, устройства" apple " пользователей будут сами загружать ваучеры безопасности в iCloud вместе с фотографиями — они будут хранить хэш фотографии и ее визуальную производную. В то же время Apple не объясняет, что это за производная. Скорее всего, это фрагмент моментального снимка или его обработанная версия, которая будет рассмотрена сотрудником компании на последних этапах анализа.
В ваучерах безопасности также будут храниться фрагменты специального ключа шифрования. В то же время он генерируется на устройстве и с самого начала неизвестен Apple. Этот ключ шифрует хэш и визуальный компонент снимка. Кстати, чтобы расшифровать данные, вам нужно получить несколько фрагментов такого ключа.
Forbes отмечает, что всего одного совпадения хэша из галереи пользователя с хэшем из базы данных изображений со сценами жестокого обращения с детьми недостаточно, чтобы сделать однозначные выводы. Чтобы избежать "ложного срабатывания", Apple устанавливает минимальное количество совпадений, необходимое для того, чтобы "дать делу ход". В то же время количество таких совпадений неизвестно.
Если количество совпадений достаточно, а также если хэш полностью идентичен (фотография действительно соответствует снимку из базы данных, то расшифровка будет успешной. Если хэш другой, то картинка в базе данных NCMEC не найдена, и расшифровать "ваучер"не удастся. То есть, по словам Apple, компания не получит доступа к фотографии, пока не найдет аналогичную в базе данных, отмечает Mediazona.
Критика проекта
Эксперты по кибербезопасности предсказуемо встретили инициативу Apple с возмущением: многочисленные попытки обезличить анализ фотографий не отменяют главной проблемы — самого факта постоянного доступа к файлам пользователей. Даже если файлы, которые анализирует алгоритм, загружаются в облачное хранилище, пользователь фактически ни с кем ими не делится. Мэтью Грин, исследователь безопасности в Университете Джона Хопкинса, заявил агентству Рейтер, что желание Apple создать системы, которые сканируют телефоны пользователей iPhone на предмет" запрещенного контента", может" разрушить плотину" и привести к тому, что правительство США "потребует этого от всех". Он также сообщил агентству Ассошиэйтед Пресс, что существуют опасения, что другие международные правительства могут оказать давление на Apple в целях поиска другой информации. Исследователь объявил о новой технологии одним из первых в серии твитов.
Почему это необходимо?
В прошлом году Министерство юстиции США опубликовало набор "добровольных принципов", цель которых состоит в том, чтобы заставить технологические компании, занимающиеся социальными сетями, делать больше для борьбы с сексуальной эксплуатацией и жестоким обращением с детьми. Агентство призвало компании создать тщательную систему для выявления и принятия немедленных мер по борьбе с незаконным контентом и сообщать об этом властям. Например, Microsoft уже создала PhotoDNA, чтобы помочь компаниям идентифицировать изображения сексуального насилия над детьми в Интернете. У Facebook и Google уже есть системы для проверки потенциально незаконного контента. Facebook также сообщил, что работает над новыми инструментами для сокращения распространения изображений сексуального насилия над детьми на своей платформе.
Согласно отчету Национального совета США по пропавшим без вести и эксплуатируемым детям, Facebook сообщил правоохранительным органам в 2020 году о 20 миллионах изображений со сценами сексуального насилия над детьми. Отчеты Facebook Instagram Instagram включены в это число, а также отчеты как с платформ Facebook, так и с платформ Instagram. В 2019 году таких фотографий было 16 миллионов.
Читать далее
Замедление вращения Земли вызвало выброс кислорода на планете
Астрономы заметили необычные структуры в глубоком космосе
Посмотрите на наскальные рисунки неандертальцев, которым более 60 тысяч лет
