Крейг Федериги, старший вице-президент Apple по разработке программного обеспечения, защитил систему анализа фотографий пользователей в недавнем интервью The Wall Street Journal и рассказал о мерах по защите этой системы от возможных злоупотреблений.
Источник: apple.Com
Г-н Федериги пояснил, что на прошлой неделе были анонсированы два новых инструмента. Первый предназначен для выявления незаконных детских изображений, хранящихся в облачном пространстве, а второй позволяет родителям отслеживать, какие фотографии отправляют и получают их дети. По словам вице-президента компании, Apple создала себе репутацию бренда, который защищает конфиденциальность пользователей. Производитель продолжает работать в этом направлении, и решения, связанные с защитой детей, никак не повлияют на ситуацию. В то же время Apple и многие другие компании находятся под постоянным давлением правительственных ведомств по всему миру, они все чаще требуют решений по борьбе с детской порнографией. Компания разработала такое решение, но оно вызвало шквал критики со стороны коллег и обычных пользователей.
Общественность обеспокоена тем, что технологии будут использоваться в других целях, которые не имеют ничего общего с защитой детей. Г-н Федериги категорически отверг эти обвинения и заявил, что решение Apple защищено от подобных посягательств "несколькими уровнями контроля". Одна из систем, реализованных Apple, предусматривает уведомление соответствующего отдела компании, когда пользователь пытается загрузить изображения жестокого обращения с детьми в облачный сервис iCloud. В отличие от других облачных провайдеров, Apple не проверяет материалы пользователя, хранящиеся в удаленном хранилище. Вместо этого обработка выполняется непосредственно на iPhone, система локально сравнивает загруженные фотографии с доступными образцами.
Это означает, что если человек вообще ничего не загружает в iCloud, то Apple не будет получать никаких уведомлений. Если накапливается несколько десятков предупреждений, связанных с конкретным пользователем, сотрудники компании самостоятельно проводят необходимую экспертизу, и если подозрения подтверждаются, они уведомляют не правоохранительные органы, а Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) — эта некоммерческая организация выступает в качестве центра обмена сообщениями о фактах жестокого обращения с детьми. В то же время важно отметить, что ни один из сотрудников не сможет получить доступ ко всей библиотеке фотографий пользователей во время проверки.
Люди, критиковавшие инициативу Apple, считали, что фотографии, не имеющие ничего общего с заявленной целью, могут быть загружены в систему в качестве образцов, для анализа, например, политической деятельности. Но в ответ на это обвинение г-н Федериги заявил, что база данных запрещенных изображений создается из различных источников, это не только NCMEC, но и другие специализированные некоммерческие организации, и как минимум две из них находятся в иностранных юрисдикциях. В этом случае фотография добавляется в базу данных, если она поступает сразу из нескольких источников. Кроме того, представители этих организаций и независимые специалисты проведут аудит базы данных запрещенных изображений.
Вице-президент Apple также напомнил, что компания внедряет еще одну аналогичную функцию. Это позволит родителям защитить своих детей от получения или отправки интимных изображений через приложение iMessage. Когда система обнаружит этот факт, родители получат соответствующее текстовое уведомление. В то же время сама Apple не получает никаких уведомлений.
Мистер Федериги объяснил критику нововведений тем, что компания анонсировала эти два инструмента одновременно, и участники дискуссии могли перепутать функции двух систем.
