Відкритий лист Інституту майбутнього життя з вимогою 6-місячної паузи в розробці штучного інтелекту підписали тисячі впливових осіб, у тому числі Ілон Маск. Підписанти стурбовані тим, що лабораторії штучного інтелекту «увійшли в неконтрольовану гонку» з розробки все більш потужних систем, які ніхто, включаючи їх творців, не може зрозуміти, передбачити або контролювати.
Чим пояснити цей панічний напад частини еліти? В основі звернення, очевидно, контроль і регулювання, але чий? Під час запропонованої піврічної перерви, під час якої людство має розглянути ризики, хто буде його представляти? Оскільки лабораторії штучного інтелекту в Китаї, Індії та Росії продовжуватимуть працювати (можливо, таємно), глобальні публічні дебати на цю тему неможливі.
Однак ми повинні дослідити, що це таке. У своїй книзі Homo Deus (2015), історик Юваль Ной Харарі передбачив, що найбільш вірогідним результатом розвитку штучного інтелекту буде радикальний поділ людського суспільства, глибший за класовий. Невдовзі біотехнологія та комп’ютерні алгоритми об’єднають зусилля для створення «тіл, мізків і розуму», що призведе до збільшення розриву «між тими, хто знає, як будувати тіла та мізки, і тими, хто цього не знає». У такому світі «ті, хто сів на потяг прогресу, матимуть божественну здатність створювати та руйнувати, тоді як ті, хто залишиться позаду, зіткнуться з вимиранням».
Паніка, яка випливає з листа Інституту майбутнього життя, породжена страхом, що навіть ті, хто їде на «поїзді прогресу», не в безпеці. Наші цифрові феодали налякані. Але вони не хочуть публічних дебатів, а хочуть угоди між урядами та технологічними корпораціями, щоб зберегти реальну владу в своїх руках.
Масове розширення можливостей штучного інтелекту становить серйозну загрозу для правлячих еліт, у тому числі тих, хто розробляє, володіє та контролює ШІ. Це вказує на кінець капіталізму, яким ми його знаємо, з точки зору можливості появи самовідтворюваної системи штучного інтелекту, яка вимагатиме все менше людського впливу (алгоритмічна торгівля на фондовому ринку є лише першим кроком у цьому напрямку). ). Нам залишається вибір між якоюсь новою формою комунізму та неконтрольованим хаосом.
Нові чат-боти дозволять багатьом самотнім (чи не дуже) людям нескінченні вечори дружнього спілкування про фільми, книги, кулінарію чи політику. Якщо знову використати мою метафору, люди отримають каву без кофеїну та сік без фруктів: доброзичливого сусіда без темних секретів, Іншого, пристосованого до їхніх потреб. Це сама суть фетишистської відмови: «Я знаю, що це не справжня людина, але це добре для мене, тому що це нешкідливо».
У будь-якому випадку цей відкритий лист є ще одним прикладом неможливої заборони. Це старий парадокс: оскільки для нас, людей, немає місця в постлюдському майбутньому, давайте заборонимо його розвиток. Щоб визначитися за цими технологіями, ми повинні поставити старе питання Леніна: свобода для кого, для чого? В якому сенсі ми були вільні раніше? Хіба ми вже не контролюємо набагато більше, ніж ми усвідомлюємо? Замість того, щоб скаржитися на загрози свободі та гідності в майбутньому, можливо, нам варто спочатку подумати про те, що означає свобода зараз. Поки ми цього не зробимо, ми будемо поводитися як істерики, які, за словами французького психоаналітика Жака Лакана, відчайдушно шукають господаря, але лише такого, над яким вони панують.
Футуролог Рей Курцвейл передбачає, що завдяки експоненціальному характеру технологічного прогресу незабаром ми матимемо справу з духовними машинами, які не лише демонструватимуть усі ознаки самосвідомості, але й значно перевершать людський інтелект. Але це постлюдське ставлення не слід плутати з парадигматичним сучасним захопленням досягненням повного технологічного панування над природою. Натомість ми спостерігаємо діалектичний розворот цього процесу.
Сучасні науки про людину більше не стурбовані домінуванням. Їхнє кредо — здивування: які незаплановані властивості може розвинути ця чорна скринька? Ніхто не знає, і в цьому криється привабливість чи банальність усієї справи.
Французький філософ та інженер Жан-П’єр Діпі побачив у новій робототехніці, генетиці, нанотехнологіях, штучному житті та штучному інтелекті дивну інверсію традиційної антропоцентричної зарозумілості, яку уможливили технології:
«Як пояснити, що наука стала настільки ризикованою діяльністю, що сьогодні багато хто вважає її головною загрозою для виживання людства? Деякі філософи вважають, що мрія Декарта про людину як господаря природи є помилковою і що основи нашої потреби розуміти навколишній світ повинні бути терміново переглянуті. Вони не бачать головного, що технологія, яка постає перед нами витоком усіх дисциплін, має своєю метою саме відвернення від природи. Інженер завтрашнього дня не буде жадібним учнем чаклуна, який вийшов з-під контролю через лінь чи невігластво, а тому, що він цього захотів.
Людство створює свого бога чи диявола. Хоча результат неможливо передбачити, одне можна сказати напевно: якщо щось схоже на постлюдське постає як сукупний факт, наш світогляд втратить усі три визначальні теми: людство, природу та божественне. Людська ідентичність може існувати лише перед обличчям незбагненної природи, але якщо життя стане предметом технологічних маніпуляцій, воно втратить свій природний характер. Повністю контрольоване існування позбавлене сенсу, не кажучи вже про випадковість і подив.
Те ж саме стосується будь-якого відчуття божественного. Людський досвід Бога має сенс лише з точки зору людської скінченності та смертності. Як тільки ми станемо homo deus і ми створюємо властивості, які здаються надприродними з точки зору старої людини, боги, як ми їх знали, зникнуть. Питання в тому, що взагалі залишиться. Чи будемо ми поклонятися створеному нами штучному інтелекту?
У нас є вагомі підстави хвилюватися, що техно-гностичні бачення постлюдського світу насправді є ідеологічними фантазіями, які затьмарюють безодню, яка нас чекає. Зайве говорити, що нам потрібно набагато більше 6 місяців, щоб у найближчому майбутньому люди не стали неактуальними, а їхнє життя – позбавленим будь-якого сенсу.
(Project Syndicate/Peščanik.net; переклад: M. Jovanović)
Бонусне відео:
