Ученые Принстонского университета (США) уже несколько лет разрабатывают систему, аналогичную той, с помощью которой Apple собирается обнаруживать изображения жестокого обращения с детьми на телефонах пользователей. По их мнению, технология может быть опасной.
Источник: engadget.Ком
Доцент Джонатан Майер (Jonathan Mayer) и аспирант Анунай Кулшреста (Anunay Kulshrestha) уже несколько лет работают над идеей системы обнаружения материалов о сексуальном насилии над детьми (CSAM — материалы о сексуальном насилии над детьми). Как и Apple, они хотели ограничить распространение такого контента, сохранив при этом конфиденциальность пользователей. Другими словами, цель состояла в том, чтобы анализировать контент в онлайн-сервисах с помощью сквозного шифрования.
После аналитического изучения системы ученые создали рабочий прототип. И они быстро пришли к выводу, что в любом случае эта технология оставляет нерешенной одну "вопиющую проблему". Систему можно легко перепрофилировать для решения проблем слежки за пользователями и цензуры. На техническом уровне он ни при каких обстоятельствах не может ограничиваться только одним типом контента — его работа полностью подчинена содержанию базы данных, с элементами которой контент сравнивается на клиентских устройствах.
Авторы проекта уточняют, что эта проблема не является чисто гипотетической. Например, исследователи из Лаборатории Citizen при Университете Торонто обнаружили аналогичную систему анализа в китайском мессенджере WeChat, где аналогичный алгоритм используется для обнаружения материалов диссидентов. Учитывая, что Китай является вторым по величине рынком Apple, ничто не может остановить местное правительство, если оно решит потребовать от Apple перепрофилировать систему для ее использования в политических целях. Американский производитель неоднократно подчинялся различным требованиям Пекина.
И, наконец, существует множество трудностей исключительно технического характера. Например, система может выдавать ложноположительные срабатывания. И при наличии определенных навыков злоумышленник может обмануть систему, направив ее действия против любого невинного пользователя.
