Синя сорочка, яку я отримав у подарунок від сестри моєї дружини, допомогла. Уся ця подія нагадала мені Якова Петровича Голяткіна, скромного бюрократа з повісті Федора Достоєвського «Двійник», тривожного дослідження розірваної особистості в межах величезної, безособової феодальної системи.
Все почалося з повідомлення від шановного колеги, в якому він привітав мене з виступом на геополітичну тему. Коли я натиснув на посилання, щоб згадати, що я сказав, я занепокоївся своєю пам'яттю. Я не міг згадати, коли записав це відео. Через кілька хвилин я зрозумів, що щось не так. Не через те, що я говорив, а тому, що на відео я сидів за своїм офісним столом в Афінах у синій сорочці, яку ніколи не носив поза межами свого острівного дому. На відео насправді було видно мого двійника, створеного за принципом «дипфейкового штучного інтелекту».*
Відтоді в соціальних мережах поширюються сотні таких відео з моїм обличчям та синтезованим голосом. А цими вихідними з'явилося нове відео, на якому deepfake я розповідаю вигадки про переворот у Венесуелі. Мої двійники-штучний інтелект читають лекції, кажучи те, що я міг би сказати, але також і те, що я б ніколи не сказав. Іноді вони сповнені гніву або виголошують пихаті проповіді. Іноді вони відверто брехливі, іноді тривожно переконливі. Знайомі запитують мене: «Джаніс, невже ти це сказала?» Опоненти діляться цими записами як доказом того, що я ідіот. Найгірше, коли вони кажуть, що мої двійники більш красномовні та переконливі, ніж я. Я опиняюся в дивному становищі спостерігача за власною цифровою маріонеткою, фантомом у технофеодальній машині, яка, як я давно стверджую, не просто зламана, а створена для нашого поневолення.
Моєю першою реакцією було написати до Google, Meta та інших сервісів з вимогою видалити всі такі записи. Я люто заповнював форми, щоб видалити хоча б деякі з цих облікових записів і записів, але вони знову з'являлися в інших місцях. Через кілька днів я здався: що б я не робив, скільки б часу я не витрачав на переконання великих технологічних компаній, мої двійники зі штучним інтелектом знову з'являлися, як відрубані голови Гідри.
Я заспокоївся і почав аналізувати. Хіба не я стверджував, що великі технологічні компанії оцифрували капіталізм і очолюють масштабну трансформацію ринків у хмарні вотчини, а прибутків – у хмарну ренту? Хіба мої двійники зі штучним інтелектом не є ідеальним підтвердженням того, що в цій технофеодальній реальності ліберальна особистість мертва?
Змирившись із частковою втратою права власності на себе, я шукав розради в раціоналізації діпфейку як найвищого акту феодального обмеження, доказу того, що в технофеодалізмі ми нічим не володіємо — ні даними, які ми створюємо завдяки нашій (цифровій) праці, ні мережами наших соціальних зв'язків, ні навіть нашою аудіовізуальною ідентичністю. Наші нові господарі бачать нас орендарями у своїх хмарних маєтках, андроїдами, чий образ вони можуть привласнювати за бажанням, щоб поширювати плутанину, каламутні розмови та заглушати справжню критику цілеспрямовано синтезованою какофонією.
А потім я згадав яскравішу ідею з часів Стародавньої Греції. Що, якби мої двійники зі штучного інтелекту були посланцями? ізегорія (ἰσηγορία), принцип яскравого, перспективного та відсутнього, як і справжня демократія? Я попросив різні версії чат-ботів зі штучним інтелектом визначити цей термін, і вони постійно неправильно тлумачили його як рівність слова, або право бути почутим, або свободу говорити на зборах. Але це не те, що мали на увазі стародавні афіняни. Для них ізегорія була повною протилежністю сучасної «свободи слова», яку вони відкидали б як абстрактне право кричати в повітря. Для афінян це означало право на серйозну оцінку ваших поглядів, заснованих на фактах, незалежно від того, хто ви або наскільки вміло ви їх формулюєте.
Чи можуть дипфейки штучного інтелекту врятувати ізегорію з лап нашої технофеодальної антиутопії? Коли ми усвідомимо, що неможливо перевірити відео, поширене в Інтернеті, чи будемо ми змушені оцінювати цінність сказаного, а не того, хто це говорить? Знищуючи автентичність, чи випадково великі технологічні компанії дали ізегорії шанс? Ці питання дають проблиск надії.
Це надія, що привид демократії все ще може нависати над нашими головами, якби ми тільки наважилися підняти голову, зайнятися повільною, важкою, демократичною роботою, яку алгоритмічний контент мав знищити: критичною оцінкою поглядів та аргументів, що кидаються нам у голову. На жаль, цієї надії, хоча й відчутної, недостатньо, доки наші технофеодальні господарі мають дві колосальні, асиметричні переваги.
По-перше, їм належить сама агора — сервери, вибір постів, алгоритмічні засоби комунікації. Вони можуть позначати свою промову цифровою печаткою автентичності, водночас топлячи нашу в болоті сумнівів і шуму. Результат? Не ізегорія, а цифрове божественне право, в якому істина є запатентованою властивістю влади.
По-друге, і це набагато хитріше, їм не потрібні діпфейки для правління. Їхня ідеологія вбудована в машина: здатність витягувати додаткову вартість з підключених до хмари пролетарів за допомогою різних цифрових пристроїв, логіка вилучення ренти з хмари васальними капіталістами на своїх платформах, тиранія вартості для акціонерів, їхній неминучий успіх у приватизації грошей.
Тож наше завдання не благати господарів перевірити зміст. Наше завдання політичне. Ми повинні соціалізувати хмарний капітал, всемогутню нову силу, яка трансформує суспільство та руйнує все, що гуманізм робить мислимим.
А поки що нехай говорять наші цифрові двійники. Можливо, вони настільки заглушать видовище, що ми нарешті перестанемо їх слухати. твій голос і ми починаємо оцінювати аргумент на основі їхньої цінності. Це, мабуть, найпарадоксальніший проблиск надії в залі дзеркал. Але на цій каруселі ми хапаємося за кожну соломинку.
(Переклад Міліци Йованович)
* Діпфейк, буквально «глибокий фейк»; тип синтетичного медіа, відео- чи аудіоконтенту, створеного за допомогою технології штучного інтелекту, в якому реальні люди говорять або роблять те, чого вони ніколи не робили. У повсякденному вжитку термін «діпфейк» є поширеним; переклад ред.
Бонусне відео:
