Ілюзія свободи в епоху тотального спостереження

Цифрові технології не є продуктом природи, подібним до лісових озер чи диких ягід. Смартфони, ноутбуки та смартгодинники не виростають на деревах — це артефакти, створені людським розумом для досягнення конкретних цілей. Дизайн визначає не лише тактильні відчуття чи зовнішній вигляд предмета, а й те, що він має робити. І якщо подушки створені для комфорту, а тостери — для підсмажування хліба, то в саму основу сучасних цифрових гаджетів закладено два «першородні гріхи»: стеження та передбачення.

Архітектура без демократії

Більшість цифрових технологій розробляли комп’ютерні інженери, аналітики даних та амбітні підприємці, які рідко зважали на вплив своїх винаходів на демократичні інститути. На початкових етапах створення інтернету було важко передбачити, що інструмент для наукової комунікації перетвориться на глобальну систему, доступну кожній людині щосекунди.

У середовищі розробників тривалий час панував наївний ідеалізм або радикальне лібертаріанство. Прикладом цього є «Декларація незалежності кіберпростору» (1996) Джона Перрі Барлоу, яка закликала уряди «промислового світу» залишити мережу в спокої, сподіваючись, що справедливість у цифровій цивілізації виникне сама собою. Проте відсутність регулювання відкрила шлях не лише для свободи, а й для зловмисників та алгоритмічного маніпулювання. ¹

Інший полюс представляє діяльність таких постатей, як Пітер Тіль. Бувши першим зовнішнім інвестором Facebook та співзасновником компанії Palantir, він сприяв створенню систем масового спостереження, які допомагають урядам контролювати населення. Існує очевидне протиріччя між риторикою про захист свободи та розбудовою інфраструктури тотального стеження й контролю. Це свідчить про те, що цифрові технології ніколи не проєктувалися як фундамент для підтримки демократичних цінностей.

Ілюзія нейтральності

Поширена теза про те, що технологія є нейтральною, а її етичність залежить лише від способу використання, є хибною. Кожен артефакт втілює цінності свого творця та має певні «афорданси» — властивості, які запрошують користувача до певної дії. Паперова книга запрошує до читання, а інструменти стеження — до контролю.

Стеження за своєю суттю є інструментом отримання влади. Якщо батьки наглядають за дитиною, щоб запобігти небезпеці, то в політичному контексті спостереження за автономними дорослими неминуче обмежує їхню свободу. Той, хто спостерігає, накопичує знання, що дозволяють передбачати наступні кроки суб’єкта та використовувати цю інформацію у власних інтересах.

Сучасні цифрові пристрої за замовчуванням налаштовані на збір максимальної кількості даних. Типовий смартфон оснащений значним переліком датчиків:

акселерометр та гіроскоп;
компас і барометр;
сенсори освітлення, наближення та вологості;
сканери відбитків пальців та райдужної оболонки ока;
GPS-модуль.

Цей арсенал робить суспільство «прочитним» для машин. Цифрові записи перетворюють аналогове життя на масиви даних, які легко копіювати, поширювати та аналізувати, ідентифікуючи особу, її доходи, переміщення та звички.

Від спостереження до пророцтв

Механізм стеження існує заради механізму передбачення. Дані монетизуються саме через здатність прогнозувати поведінку людей. Найефективніший спосіб передбачити майбутнє — це вплинути на нього або повністю його визначити. Якщо за часів Штазі для стеження за однією особою потрібен був окремий агент, то сьогодні кожна людина добровільно носить шпигуна у власній кишені.

З погляду філософії, передбачення часто є не описом фактів, а прихованими командами. Коли технологічні барони пророкують катастрофи в разі регулювання їхньої діяльності, вони фактично віддають наказ не втручатися в їхній бізнес. Прогнози щодо поведінки людей часто стають самосправджуваними пророцтвами: алгоритми створюють умови, за яких людина діє саме так, як було передбачено.

Використання прогнозних алгоритмів у правосудді (наприклад, для визначення термінів ув’язнення чи звільнення під заставу) прямо суперечить принципам справедливості. Справедливість має ґрунтуватися на фактах і вчиненому, а не на припущеннях про те, ким людина може стати. Прогнози неможливо оскаржити в теперішньому часі, оскільки вони стосуються майбутнього, яке ще не настало.

Здорова демократія тримається на управлінні невизначеністю. Якщо результати виборів чи дії громадян стають повністю передбачуваними через умови, створені тиранією або алгоритмічним тиском, демократичний процес втрачає сенс.

Повернення до критичного мислення

Сучасне середовище цифрових пророцтв нагадує Давню Грецію, де важливі рішення ухвалювали на основі прогнозів оракулів. Філософія виникла як реакція на цей містицизм. Коли Анаксагор пояснив появу однорогого барана фізіологічною аномалією, а не магічним знаком перемоги Перікла, він продемонстрував перевагу раціонального аналізу над сліпою вірою.

Сьогодні критика стеження та передбачення сприймається багатьма як єресь проти панівної технологічної ідеології. Ларрі Еллісон, голова корпорації Oracle, прямо заявляє про майбутнє, де громадяни будуть «поводитися якнайкраще», бо за ними постійно спостерігатимуть. Проте заспокійливий тон технологічних пророків приховує загрозу авторитарного захоплення влади. Коли сучасні системи проєктуються для підриву демократичних основ, єдиною адекватною відповіддю є порятунок цих основ через вимогу створення безпечніших технологій та відновлення критичного ставлення до цифрових «провісників».

Читайте також: Ми всі тепер живемо у селі