11 шагов разрушения Интернета

Posted on - Просмотров:

Создатели Интернета предоставили ясный и тревожный отчет о том, почему все пошло не так: как технологию, которую они создали, использовали, чтобы подорвать те самые аспекты свободного общества, которые сделали эту технологию возможной в первую очередь.

Что-то пошло не так с Интернетом. И это подтвердил даже сам Марк Цукерберг во время своего выступления перед Конгрессом США. Пройдясь по всем пунктам, по которым его платформа “грешила”, директор Facebook добавил слова, которых все так ждали: “Извините”.

Всегда находились те, кто критиковал техническую отрасль, но сегодня самые тревожные отзывы исходят из самого сердца Кремниевой долины.

Человек, который наблюдал за созданием iPhone, считает, что устройство, которое он помогал разрабатывать, слишком затягивает.

Изобретатель Всемирной паутины опасается, что его создание “вооружено”.

Даже Шон Паркер, первый президент Facebook, назвал социальные медиа опасной формой психологических манипуляций. “Бог знает, что он делает с мозгами наших детей”, — посетовал он недавно.

Что уже говорить о сборе данных и микротаргетинге — маркетинговом иструменте, бьющем точно в цель. Достаточно вспомнить 8 ноября 2016 года — день, когда президент США Дональд Трамп был избран самим Интернетом…

Да, Силиконовая долина не спасет мир. Но те, кто построил Интернет, предоставили ясный и тревожный отчет о том, почему все пошло не так — как технология, которую они создали, использовалась, чтобы подорвать те самые аспекты свободного общества, которые сделали эту технологию возможной в первую очередь.

Шаг 1: Благие намерения хиппи

Ярон Ланье (Jaron Lanier), пионер виртуальной реальности, основатель первой компании по продаже очков VR; работал в Atari и Microsoft:

— У истоков культуры Силиконовой долины были такие большие, традиционные компании, как IBM, которые, казалось, были непроницаемыми крепостями. Мы должны были создать свой собственный мир. Мы были аутсайдерами, и нам пришлось бороться.

Антонио Гарсиа Мартинес (Antonio García Martínez), разработчик ad-tech, помог создать рекламную машину Facebook:

— Многое из серии «Спасти мир» берет свое начало в Долине: она была альтернативой обычной индустриальной жизни. Стив Джобс никогда бы не получил работу в IBM. Оригинальный интернет был построен крутыми инженерами, которые не до конца понимали его коммерческие последствия.

Эллен Пао (Ellen Pao), бывший генеральный директор Reddit:

— Я думаю, что в основе нынешнего кризиса лежат два момента. Первый: идеалистический взгляд на Интернет — идея о прекрасном месте для обмена информацией и общения с единомышленниками. Второй: люди, которые создавали ведущие компании, обладали аналогичным набором впечатлений и взглядов. Эти факторы породили платформы, которые были ориентированы на свободу слова.

Кэн Дурук (Can Duruk), программист и писатель, выступал в качестве руководителя проекта в Uber:

— Работать на Facebook или Google всегда был морально положительным моментом. Пытаться сделать мир более открытым и связанным. Сделать доступными для каждого все знания этого мира. Или отправиться в Uber, чтобы сделать транспорт доступным для всех. Многие люди действительно купились на эти идеалы.

Кейт Лоссе (Kate Losse), сотрудник Facebook № 51, работала спичрайтером Марка Цукерберга:

— Мой опыт работы в Facebook давал мне чувство великой миссии: связывать людей, объединять мир. С этим трудно спорить. Что случилось с этим объединением людей?..

Шаг 2: Хиппи зарабатывают деньги

Ланье:

— Мы хотели бесплатный веб-мир, потому что мы были социалистами-хиппи. Но мы также уважали предпринимателей, из-за любви к Стиву Джобсу.

Тристан Харрис (Tristan Harris), дизайнер, написал презентацию Google об увлекательном и неэтичном дизайне:

— Все меньше и меньше технологии создают «велосипеды для нашего разума», как говорил Стив Джобс. Все превращается в кукольный театр, в котором технологии делают марионетками людей.

Рич Кьянка (Rich Kyanka), основатель доски объявлений Something Awful:

— Предполагалось, что в соцсетях будет так: “Привет, бабушка, как твои дела?” Но вышло иначе: “Боже мой, вы видели, что она вчера надела? Какая же она чертова корова!” В Интернете все токсично. Он был создан для объединения людей по всему миру. Но теперь вы можете встретить человека в любой точке мира, а затем убить его в виртуальной реальности и изнасиловать его питомца.

Шаг 3: Монополия на цифровую жизнь

Пао:

— Что касается Facebook, быстрый успех привел к смене приоритетов: от «Я собираюсь улучшить жизнь людей» до «Я собираюсь построить этот продукт, чтобы заработать много денег». Затем Google стал достоянием общественности, и внезапно появились новые миллиардеры. В 2008 году, когда рынки рухнули (мировой экономический кризис. — Ред.), все люди из Уолл-стрит оказались в Силиконовой долине и начали вкладывать в технику. Именно тогда она еще больше выросла в цене.

Гарсиа:

— Я думаю, что Силиконовая долина изменилась. Все стало более острым, хиппи исчезли. Раньше все крутилось вокруг идеала свободы, идеи двигаться быстро, выходить за рамки и плевать на последствия. Этот дух еще витает под маркетинговой оболочкой «сделать мир лучше».

Этан Цукерман (Ethan Zuckerman), специалист по СМИ Массачусетского технологического института, придумал всплывающее объявление:

— За последнее десятилетие платформы социальных медиа работают над тем, чтобы сделать Интернет практически нерелевантным. Facebook во многих отношениях предпочитает, чтобы у нас не было интернета. Они предпочли бы, чтобы у нас был только Facebook.

Шаг 4: Цена свободы

Kьянка:

— Примерно в 2000 году бизнесы старались изо всех сил, чтобы окупиться с помощью рекламы. Поэтому они хотели больше людей на своих платформах. Им было все равно, были эти люди дерьмовыми или хорошими. Единственное, что их волновало — чтобы больше устройств с разными IP-адресами загружало рекламу.

Харрис:

— Было давление со стороны венчурного капитала и график, показывающий, сколько лет компаниям нужно для сбора 100 миллионов пользователей. Раньше это было десять лет, но теперь достаточно и полгода. Мы думаем, что делаем мир более открытым и связанным, когда на самом это игра под названием “как я могу привлечь еще больше внимания”.

Дэн Маккомас (Dan McComas), бывший руководитель в Reddit:

— Стимулирующая структура — это рост любой ценой. Могу сказать вам откровенно: совет директоров никогда не спрашивает о доходе. Им все равно. Они спрашивают только о росте. За время работы в Reddit не помню ни единого разговора о пользователях или о потенциальных опасностях.

Харрис:

— В YouTube хотят, чтобы люди регистрировали как можно больше учетных записей, загружая как можно больше видеороликов и просматривая их — все с целью рекламы. И не важно, кто эти люди: настоящие или боты. И не важно, что в этих видео: теории заговора или опасность для детей. Эта модель стимулирует самые бессмысленные действия и разрушает общество.

Ланье:

— Реклама превратилась в постоянную модификацию поведения на массовом уровне, причем все находятся под наблюдением и влияением со стороны своих устройств.

Цукерман:

— Как только вы говорите: “Мне нужно установить за вами наблюдение, чтобы понять, чего вы хотите, и лучше отвечать вашим потребностям”, вы обязаны задать себе вопрос: “В правильном ли я бизнесе? Правильно ли я поступаю?”

Шаг 5: Захватывающий бизнес

Сэнди Паракилас (Sandy Parakilas), продакт-менеджер в Uber:

— Технология наркомании оказывает негативное влияние на ваше здоровье и здоровье ваших детей. Это позволяет плохим актерам делать плохие вещи — от предвыборного вмешательства до сексуальной торговли. Это увеличивает нарциссизм и желание людей быть знаменитым в Instagram. Все это вызывает привыкание, а затем соцсети монетизируют внимание своих пользователей посредством рекламы.

Харрис:

— Мои друзья работали в Zynga, и это было то же самое. Эти игры — для манипуляции людьми, заставлять их тратить деньги и создавать ложные социальные обязательства, вроде посадить виртуальную кукурузу на ферме. Zynga был сорняком, который вырос через Facebook. Facebook — самая крупная цивилизационная система контроля сознания, которую когда-либо видел мир.

Гийом Часлот (Guillaume Chaslot), исследователь ИИ, помог разработать алгоритмическую систему рекомендаций YouTube:

— ИИ полностью контролирует контент, который вы видите. К примеру, Facebook и YouTube вам покажут контент, вызывающий разногласия: это удержит вас в онлайне. К примеру, если вы ставите лайки одному типу контента, в ленте у вас будет прямо противоположный.

Шаг 6: И это сработало

Пао:

— Есть такая теория: “Да, они могут использовать эту информацию для манипуляции другими людьми, но я от этого защищен”. Со временем вы все равно становитесь зависимыми от взаимодействий, все больше времени проводите в сетях и читаете фейковые новости.

Роджер МакНами (Roger McNamee), инвестор VC:

— Теория пропаганды гласит о том, что для внедрении идеи она должна звучать не единожды в разных СМИ. Но появился Facebook, и поступил иначе: вместо того, чтобы быть широковещательной моделью, создал 2,2 миллиарда индивидуальных каналов. Это самый эффективный продукт, когда-либо созданный, чтобы манипулировать человеческими эмоциями.

Гарсиа:

— Если отключить Facebook, в буквальном смысле начнутся беспорядки на улицах. То есть, люди осознают свою зависимость, но в то же время счастливы ее иметь? Именно здесь они попадают в выгребную яму человеческой психологии. Алгоритмы защищают нас от реальной жизни.

Шаг 7: Никто не ответит

Гарсиа:

— Когда что-то идет не так, вы хотите, чтобы кто-то за это ответил. Но Facebook просто говорит: “Не смотрите на нас. Всему виной эта куча кода”.

Паракилас:

— С точки зрения дизайна, такие компании как Facebook и Twitter, не имеют приоритетов в функциях, которые защищают людей от наиболее злонамеренных случаев злоупотребления. Это отчасти потому, что они не несут никакой ответственности, если что-то пойдет не так. 230 раздел Закона США об основах связи 1996 года, который первоначально предусматривался для защиты свободы слова, эффективно защищает интернет-компании от действий третьих сторон на своих платформах. Это позволяет им не устанавливать приоритеты функций, которые они должны создавать для защиты пользователей.

Шаг 8: Опасно и токсично

Паракилас:

— Один раз разработчик, который имел доступ к данным Facebook, был обвинен в создании профилей людей без их согласия, включая детей. Но когда мы услышали об этом, не смогли доказать, действительно ли это произошло, потому что у нас не было данных, когда они покинули серверы. У Facebook есть политика защиты от подобных вещей, но это не дало нам возможности понять, что на самом деле делают разработчики.

Кьянка:

— Когда я начал свой форум Something Awful, одним из моих первых приоритетов было создание очень подробного, исчерпывающего списка, в котором было указано, что разрешено и что запрещено. Проблема с Twitter заключается в том, что у них нет никого, кто мог бы руководить сообществом и общаться с сообществом, потому что они — лишь кучка математиков.

Шаг 9: Вторжение в личную жизнь

Кьянка:

— Независимо от того, куда вы идете, рекламодатели следуют за вами по пятам. И во время этого преследования работают аналитические центры, а затем строятся гигантские структуры, предназначенные для кражи как можно большего количества данных, и этот процесс необратим.

Лоссе:

— Я не удивлен тем, что происходит сейчас с Cambridge Analytica и скандалом по поводу выборов. Долгое время идея Facebook заключалась в том, чтобы предоставлять разработчикам как можно больше данных для улучшения продукта.

Пао:

— Никто не хочет брать на себя ответственность за выборы. Люди знали о том, что дали разрешение Facebook делиться своей информацией с разработчиками, даже если не понимали последствий. Я знаю, что не понял последствий — насколько эта информация будет использоваться для управления нашими эмоциями.

Ричард Столлман (Richard Stallman), программист MIT:

— Я никогда не говорю о том, кто я. Я плачу только наличными. Меня не волнует, будет ли это местный магазин или Amazon — никто не имеет права отслеживать, что я покупаю.

Шаг 10: Бунт на корабле

Гарсия:

— Некоторые сотрудники Facebook чувствовали себя некомфортно, когда возвращались домой после выборов. На них внезапно посыпались трудные вопросы от их матерей: “Какого черта? Что делает Facebook?” Внезапно им открылась другая сторона их суперкрутой работы.

Харрис:

— Массивная деморализующая волна поражает Силиконовую долину. Компаниям очень сложно привлекать и удерживать лучших инженеров и талантов, которые понимают, что автоматизированная система, которую они построили, вызывает хаос во всем мире. Если Facebook потеряет большой кусок своей рабочей силы, это будет мощным стимулом заставить их измениться.

МакНами:

— В течение трех месяцев, начиная с октября 2016 года, я обращался к Марку Цукербергу и Шерил Сандберг напрямую. Я говорил: “Ребята, я думаю, что эта манипуляция с выборами закончится кризисом. Вам нужно сделать экспертизу и определить, какую роль вы играли в этом. Вам необходимо внести существенные изменения в вашу бизнес-модель и алгоритмы, чтобы люди знали, что это не повторится”. Убедить не удалось.

Шаг 11: Правила, которые могут все изменить

Столлман:

— Нам нужен закон. Права человека — в первую очередь. Ни одна компания не настолько важна, что ее существование оправдывает создание полицейского государства. И полицейское государство — это то, к чему мы направляемся.

Нам нужен закон, который требует, чтобы каждая система была спроектирована таким образом, чтобы достичь своей основной цели при минимальном сборе данных. Предположим, вы хотите ездить в такси и платить за поездку. Это принципиально не требует знания о том, кто вы. Таким образом, законные услуги должны предоставить вам возможность платить наличными или использовать какую-либо другую систему анонимного платежа, не будучи идентифицированным.

Дурук:

— Самая большая проблема для них — это регулирование. И ничто другое не остановит эти компании от использования своих технологий для продолжения роста. Без регулирования мы будем в основном просто жаловаться, и мало что изменится.

МакНами:

— Во-первых, должен быть закон против ботов и троллей, олицетворяющих других людей. Я имею в виду, что боты должны быть действительно четко обозначены. Во-вторых, должны быть строгие возрастные ограничения для защиты детей. И в-третьих, должна быть истинная ответственность за платформы, когда их алгоритмы терпят неудачу.

Гарсия:

— Реклама — отстой, конечно. Но трудно представить себе другую бизнес-модель, отличную от рекламы для любого потребительского интернет-приложения, которое зависит от сетевых эффектов.

Список вещей, разрушающих Интернет:

1. Cookie (инструмент наблюдения в Интернете).

2. Уязвимость Farmville (2007) (использование данных).

3. Алгоритмическая сортировка (2006) (контент, основанный на десятках скрытых показателей).

4. Кнопка “Лайк”

5. Pull-to-refresh (2009) (обновление списка данных касанием экрана).

6. Pop-up ads (1996) (всплывающие объявления).

Читайте также

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *