11 кроків руйнування Інтернету

Творці Інтернету надали ясний і тривожний звіт про те, чому все пішло не так: як технологію, яку вони створили, використовували, щоб підірвати ті самі аспекти вільного суспільства, які зробили цю технологію можливою в першу чергу.

Щось пішло не так з Інтернетом. І це підтвердив навіть сам Марк Цукерберг під час свого виступу перед Конгресом США. Пройшовшись по всіх пунктах, за якими його платформа «грішила», директор Facebook додав слова, яких всі так чекали:»Вибачте».

Завжди були ті, хто критикував технічну галузь, але сьогодні найбільш тривожні відгуки походять з самого серця Кремнієвої долини.

Людина, яка спостерігала за створенням iPhone, вважає, що пристрій, який він допомагав розробляти, занадто затягує.

Винахідник Всесвітньої павутини побоюється, що його створення»озброєне».

Навіть Шон Паркер, перший президент Facebook, назвав соціальні медіа небезпечною формою психологічних маніпуляцій. «Бог знає, що він робить з мізками наших дітей», — поскаржився він нещодавно.

Що вже говорити про збір даних і мікротаргетинг — маркетинговому іструменті, що б’є точно в ціль. Досить згадати 8 листопада 2016 року — день, коли президент США Дональд Трамп був обраний самим Інтернетом.

Так, Силіконова долина не врятує світ. Але ті, хто побудував Інтернет, надали чіткий і тривожний звіт про те, чому все пішло не так — як технологія, яку вони створили, використовувалася, щоб підірвати ті самі аспекти вільного суспільства, які зробили цю технологію можливою в першу чергу.

Крок 1: добрі наміри хіпі

Ярон Ланьє (Jaron Lanier), піонер віртуальної реальності, засновник першої компанії з продажу окулярів VR; працював в Atari і Microsoft:

— У витоків культури Силіконової долини були такі великі, традиційні компанії, як IBM, які, здавалося, були непроникними фортецями. Ми повинні були створити свій власний світ. Ми були аутсайдерами, і нам довелося боротися.

Антоніо Гарсіа Мартінес( Antonio García Martínez), Розробник ad-tech, допоміг створити рекламну машину Facebook:

— Багато з серії «врятувати світ» бере свій початок у долині: вона була альтернативою звичайному індустріальному життю. Стів Джобс ніколи б не отримав роботу в IBM. Оригінальний Інтернет був побудований крутими інженерами, які не до кінця розуміли його комерційні наслідки.

Еллен Пао (Ellen Pao), колишній генеральний директор Reddit:

— Я думаю, що в основі нинішньої кризи лежать два моменти. Перший: ідеалістичний погляд на інтернет-ідея про прекрасне місце для обміну інформацією та спілкування з однодумцями. Другий: люди, які створювали провідні компанії, володіли аналогічним набором вражень і поглядів. Ці фактори породили платформи, які були орієнтовані на свободу слова.

Кен Дурук (Can Duruk), програміст і письменник, виступав в якості керівника проекту в Uber:

— Працювати на Facebook або Google завжди був морально позитивним моментом. Намагатися зробити світ більш відкритим і пов’язаним. Зробити доступними для кожного всі знання цього світу. Або відправитися в Uber, щоб зробити транспорт доступним для всіх. Багато людей дійсно купилися на ці ідеали.
Facebook facebook, співробітник № 51, працював спічрайтером Марка Цукерберга:

— Мій досвід роботи в Facebook давав мені відчуття великої місії: пов’язувати людей, об’єднувати світ. З цим важко сперечатися. Що сталося з цим об’єднанням людей?..

Крок 2: хіпі заробляють гроші

Ланьє:

— Ми хотіли безкоштовний веб-світ, тому що ми були соціалістами-хіпі. Але ми також поважали підприємців, через любов до Стіва Джобса.

Трістан Харріс (Tristan Harris), дизайнер, написав презентацію Google про захоплюючий і неетичний дизайн:

— Все менше і менше технології створюють «велосипеди для нашого розуму», як говорив Стів Джобс. Все перетворюється на ляльковий театр, в якому технології роблять маріонетками людей.

Річ Кьянка( Rich Kyanka), засновник дошки оголошень Something Awful:

— Передбачалося, що в соцмережах буде так: “Привіт, бабуся, як твої справи?»Але вийшло інакше:» Боже Мій, ви бачили, що вона вчора одягла? Яка ж вона чортова корова!»В Інтернеті все токсично. Він був створений для об’єднання людей по всьому світу. Але тепер ви можете зустріти людину в будь-якій точці світу, а потім вбити його у віртуальній реальності і згвалтувати його вихованця.

Крок 3: монополія на цифрове життя

Пао:

— Що стосується Facebook, швидкий успіх призвів до зміни пріоритетів: від «Я збираюся поліпшити життя людей» до «Я збираюся побудувати цей продукт, щоб заробити багато грошей». Потім Google став надбанням громадськості, і раптово з’явилися нові мільярдери. У 2008 році, коли ринки впали (світова економічна криза. — Ред. ), Всі люди з Уолл-стріт опинилися в Силіконовій долині і почали вкладати в техніку. Саме тоді вона ще більше виросла в ціні.

Гарсія :

— Я думаю, що Силіконова долина змінилася. Все стало більш гострим, хіпі зникли. Раніше все крутилося навколо ідеалу свободи, ідеї рухатися швидко, виходити за рамки і плювати на наслідки. Цей дух ще витає під маркетинговою оболонкою «зробити світ кращим».

Етан Цукерман( Ethan Zuckerman), фахівець зі ЗМІ Массачусетського технологічного інституту, придумав спливаюче оголошення:

— За останнє десятиліття платформи соціальних медіа працюють над тим, щоб зробити Інтернет практично нерелевантним. Facebook багато в чому вважає за краще, щоб у нас не було інтернету. Вони хотіли б, щоб у нас був тільки Facebook.

Крок 4: Ціна свободи

Кьянка:

— Приблизно в 2000 році бізнеси намагалися щосили, щоб окупитися за допомогою реклами. Тому вони хотіли більше людей на своїх платформах. Їм було все одно, були ці люди дерьмовими або хорошими. Єдине, що їх хвилювало — щоб більше пристроїв з різними IP-адресами завантажувало рекламу.

Харріс:

— Був тиск з боку венчурного капіталу і графік, який показує, скільки років компаніям потрібно для збору 100 мільйонів користувачів. Раніше це було десять років, але тепер досить і півроку. Ми думаємо, що робимо світ більш відкритим і пов’язаним, коли насправді це гра під назвою «Як я можу привернути ще більше уваги».

Ден Маккомас( Dan McComas), колишній керівник в Reddit:

— Стимулююча структура — це зростання за всяку ціну. Можу сказати вам відверто: рада директорів ніколи не питає про дохід. Їм все одно. Вони запитують тільки про зростання. За час роботи в Reddit не пам’ятаю жодної розмови про користувачів або про потенційні небезпеки.

Харріс:

— В YouTube хочуть, щоб люди реєстрували якомога більше облікових записів, завантажуючи якомога більше відеороликів і переглядаючи їх-все з метою реклами. І не важливо, хто ці люди: справжні або боти. І не важливо, що в цих відео: теорії змови або небезпека для дітей. Ця модель стимулює самі безглузді дії і руйнує суспільство.

Ланьє:

— Реклама перетворилася на постійну модифікацію поведінки на масовому рівні, причому всі знаходяться під наглядом і впливом з боку своїх пристроїв.

Цукерман:

— Як тільки ви говорите :» мені потрібно встановити за вами спостереження, щоб зрозуміти, чого ви хочете, і краще відповідати вашим потребам», ви зобов’язані задати собі питання: «у правильному я бізнесі? Чи правильно я роблю?»

Крок 5: захоплюючий бізнес

Сенді Паракілас( Sandy Parakilas), продакт-менеджер в Uber:

— Технологія наркоманії робить негативний вплив на ваше здоров’я і здоров’я ваших дітей. Це дозволяє поганим акторам робити погані речі-від передвиборного втручання до сексуальної торгівлі. Це збільшує нарцисизм і бажання людей бути знаменитим в Instagram. Все це викликає звикання, а потім соцмережі монетизують увагу своїх користувачів за допомогою реклами.

Харріс:
— Мої друзі працювали в Zynga, і це було те ж саме. Ці ігри-для маніпуляції людьми, змушувати їх витрачати гроші і створювати помилкові соціальні зобов’язання, начебто посадити віртуальну кукурудзу на фермі. Zynga був бур’яном, який виріс через Facebook. Facebook — найбільша цивілізаційна система контролю свідомості, яку коли-небудь бачив світ.

Гійом Часлот (Guillaume Chaslot), дослідник AI, допоміг розробити алгоритмічну систему рекомендацій YouTube:

— AI повністю контролює вміст, який ви бачите. Наприклад, Facebook і YouTube вам покажуть контент, що викликає розбіжності: це утримає вас в онлайні. Наприклад, якщо ви ставите лайки одному типу контенту, в стрічці у вас буде прямо протилежний.

Крок 6: і це спрацювало

Пао:

— Є така теорія: «так, вони можуть використовувати цю інформацію для маніпуляції іншими людьми, але я від цього захищений». Згодом ви все одно стаєте залежними від взаємодій, все більше часу проводите в мережах і читаєте фейкові новини.

Роджер Макнамі( Roger McNamee), інвестор VC:

— Теорія пропаганди свідчить про те, що для впровадження ідеї вона повинна звучати не один раз в різних ЗМІ. Але з’явився Facebook, і вчинив інакше: замість того, щоб бути широкомовною моделлю, створив 2,2 мільярда індивідуальних каналів. Це найефективніший продукт, коли-небудь створений, щоб маніпулювати людськими емоціями.

Гарсіа:

— Якщо відключити Facebook, в буквальному сенсі почнуться заворушення на вулицях. Тобто, люди усвідомлюють свою залежність, але в той же час щасливі її мати? Саме тут вони потрапляють у вигрібну яму людської психології. Алгоритми захищають нас від реального життя.

Крок 7: ніхто не відповість

Гарсія:

— Коли щось йде не так, ви хочете, щоб хтось за це відповів. Але Facebook просто каже: «Не дивіться на нас. Всьому виною ця купа коду».

Паракілас:

— З точки зору дизайну, такі компанії як Facebook і Twitter, не мають пріоритетів у функціях, які захищають людей від найбільш зловмисних випадків зловживання. Це частково тому, що вони не несуть ніякої відповідальності, якщо щось піде не так. 230 Розділ закону США про основи зв’язку 1996 року, який спочатку передбачався для захисту свободи слова, ефективно захищає інтернет-компанії від дій третіх сторін на своїх платформах. Це дозволяє їм не встановлювати пріоритети функцій, які вони повинні створювати для захисту користувачів.

Крок 8: небезпечно і токсично

Паракілас:

— Один раз розробник, який мав доступ до даних Facebook, був звинувачений у створенні профілів людей без їх згоди, включаючи дітей. Але коли ми почули про це, не змогли довести, чи дійсно це сталося, тому що у нас не було даних, коли вони покинули сервери. Facebook має політику захисту від подібних речей, але це не дало нам можливості зрозуміти, що насправді роблять розробники.

Кьянка:

— Коли я почав свій форум Something Awful, одним з моїх перших пріоритетів було створення дуже докладного, вичерпного списку, в якому було зазначено, що дозволено і що заборонено. Проблема з Twitter полягає в тому, що у них немає нікого, хто міг би керувати спільнотою і спілкуватися з спільнотою, тому що вони — лише купка математиків.

Крок 9: вторгнення в особисте життя

Кьянка:

— Незалежно від того, куди ви йдете, рекламодавці слідують за вами по п’ятах. І під час цього переслідування працюють аналітичні центри, а потім будуються гігантські структури, призначені для крадіжки якомога більшої кількості даних, і цей процес незворотній.

Лоссе:

— Я не здивований тим, що відбувається зараз з Cambridge Analytica і скандалом з приводу виборів. Довгий час ідея Facebook полягала в тому, щоб надавати розробникам якомога більше даних для поліпшення продукту.

ПАТ:

— Ніхто не хоче брати на себе відповідальність за вибори. Люди знали про те, що дали дозвіл Facebook ділитися своєю інформацією з розробниками, навіть якщо не розуміли наслідків. Я знаю, що не зрозумів наслідків-наскільки ця інформація буде використовуватися для управління нашими емоціями.

Річард Столлман (Richard Stallman), програміст MIT:

— Я ніколи не кажу про те, хто я. Я плачу тільки готівкою. Мене не хвилює, чи буде це місцевий магазин або Amazon-ніхто не має права відстежувати, що я купую.

Крок 10: Бунт на кораблі

Гарсія:

— Деякі співробітники Facebook відчували себе незручно, коли вони повернулися додому після виборів. На них раптово посипалися важкі питання від їхніх матерів: «Якого біса? Що робить Facebook?»Раптово їм відкрилася інша сторона їх суперкрутої роботи.

Харріс:

— Масивна деморалізуюча хвиля вражає Силіконову долину. Компаніям дуже важко залучати та утримувати кращих інженерів та талантів, які розуміють, що автоматизована система, яку вони побудували, викликає хаос у всьому світі. Якщо Facebook втратить велику частину своєї робочої сили, це буде потужним стимулом змусити їх змінитися.

МакНами:

Протягом трьох місяців, починаючи з жовтня 2016 року, я звертався до Марка Цукерберга і Шеріл Сандберг безпосередньо. Я говорив: «хлопці, я думаю, що ця маніпуляція з виборами закінчиться кризою. Вам потрібно зробити експертизу і визначити, яку роль ви грали в цьому. Вам необхідно внести суттєві зміни у вашу бізнес-модель і алгоритми, щоб люди знали, що це не повториться». Переконати не вдалося.

Крок 11: Правила, які можуть все змінити

Столлман:

— Нам потрібен закон. Права людини-в першу чергу. Жодна компанія не настільки важлива, що її існування виправдовує створення поліцейської держави. І поліцейська держава-це те, до чого ми прямуємо.

Нам потрібен закон, який вимагає, щоб кожна система була спроектована таким чином, щоб досягти своєї основної мети при мінімальному зборі даних. Припустимо, ви хочете їздити в таксі і платити за поїздку. Це принципово не вимагає знання про те, хто ви. Таким чином, законні послуги повинні надати вам можливість платити готівкою або використовувати будь-яку іншу систему анонімного платежу, не будучи ідентифікованим.

Дурук:

— Найбільша проблема для них — це регулювання. І ніщо інше не зупинить ці компанії від використання своїх технологій для продовження зростання. Без регулювання ми будемо в основному просто скаржитися, і мало що зміниться.

Макнамі:

— По-перше, повинен бути закон проти ботів і тролів, які уособлюють інших людей. Я маю на увазі, що боти повинні бути дійсно чітко позначені. По-друге, повинні бути суворі вікові обмеження для захисту дітей. І по-третє, повинна бути справжня відповідальність за платформи, коли їх алгоритми зазнають невдачі.

Гарсія:

— Реклама — відстій, звичайно. Але важко уявити собі іншу бізнес-модель, відмінну від реклами для будь-якого споживчого інтернет-додатка, яке залежить від мережевих ефектів.

Список речей, що руйнують інтернет:

1. Cookie (інструмент спостереження в Інтернеті).

2. Уразливість Farmville (2007) (використання даних).

3. Алгоритмічне сортування (2006) (контент, заснований на десятках прихованих показників).

4. Кнопка» Лайк »

5. Pull-to-refresh (2009) (оновлення списку даних дотиком екрану).

6. Pop-up ads (1996) (спливаючі оголошення)