Apple попыталась развеять опасения пользователей и правозащитников, обеспокоенных новой политикой компании, которая позволяет ИТ-гиганту сканировать фотографии пользователей в облачном хранилище iCloud, выявляя изображения, которые потенциально содержат элементы жестокого обращения с детьми.
Apple утверждает, что речь идет именно об этих видах преступлений, и компания не будет расширять спектр "обнаруженного" контента и, более того, делиться любой другой информацией по запросу чьих-либо властей.
На прошлой неделе компания анонсировала два инструмента. Один из них будет использовать алгоритмы машинного обучения, размывая "взрослые" изображения, отправляемые детям в приложении "Сообщения". Кроме того, родители детей в возрасте до 12 лет будут уведомлены о получении ребенком такого контента или попытке его отправки. Второй инструмент будет сканировать все фотографии в iCloud, идентифицируя фотографии с элементами жестокого обращения с детьми. В этом случае компания уведомит не родителей, а правоохранительные органы.
Планы компании вызвали обеспокоенность у правозащитников, которые опасаются, что деятельность Apple может выйти за рамки миссии по обеспечению безопасности детей.
По данным Apple, компания неоднократно получала запросы от властей о расширении списка анализируемого контента, но всегда отказывалась в ответ на такие запросы.
На самом деле известно, что компания часто идет на компромиссы с властями в разных регионах-от продажи iPhone без приложения FaceTime в странах, которые запрещают зашифрованные видеозвонки, до удаления тысяч приложений из китайской версии App Store. Это не единственные, но довольно яркие примеры.
Кроме того, есть некоторые опасения, что функция" размытия "контента для взрослых в приложении "Сообщения" не сработает. Хотя алгоритмы не предусматривают отправки самих изображений в Apple или правоохранительные органы, неясно, насколько точно функция определит неприемлемый контент и будет ли, например, он размывать совершенно безобидные кадры.
Правозащитники опасаются, что, поменяв флаги, можно будет запретить передачу чего бы то ни было не только детям, но и взрослым. По словам представителей группы Electronic Frontier Foundation, недавние попытки сервиса Tumblr заблокировать потенциально откровенный контент являются примером того, как технологии не справились с поставленной задачей.
