Вже давно у нас є чат-боти, які здатні вести локальні розмови, розпізнавати основні наміри співрозмовника та відповідати на запити згідно з попередньо встановленими правилами та даними. Останніми місяцями їхні потужності різко зросли, що викликало занепокоєння та паніку в багатьох колах.
Про системи штучного інтелекту, які писатимуть домашні завдання замість учнів, уже багато сказано. Але питання, яке потребує більшої уваги, полягає в тому, як вони повинні реагувати, коли люди-співрозмовники використовують агресивні, сексистські чи расистські висловлювання, щоб заохотити бота помститися власними антипатіями? Чи варто їх запрограмувати відповідати на такі запитання з такою ж мірою?
Якщо настав час якось врегулювати ці питання, то повинні бути визначені рамки такого виду цензури. Чи будуть заборонені політичні погляди, які деякі соціальні групи вважають образливими? А як щодо виявів солідарності з палестинцями на Західному березі річки Йордан чи твердження, що Ізраїль є країною апартеїду (що також було в назві книги колишнього американського президента Джиммі Картера)? Чи буде це заблоковано як прояв антисемітизму?
І це ще не кінець проблеми. Як попереджає художник і письменник Джеймс Брайдл, нові системи штучного інтелекту «базуються на всебічному привласненні існуючої культури», але віра в те, що вони «володіють справжніми знаннями або свідомістю, є небезпечною оманою». Ви також повинні дуже обережно ставитися до нових генераторів зображень. «Спроба охопити всю візуальну культуру людської цивілізації, — зазначає Брайдл, — призвела до відтворення наших найглибших страхів. Можливо, це просто означає, що ці системи дуже добре імітують роботу людської свідомості, включаючи жахи, які ховаються з глибин нашого існування: страх болю, смерті чи корупції».
Але наскільки нові системи ШІ справді здатні імітувати людську свідомість? Візьмемо, наприклад, паб, який нещодавно так рекламував свої напої: «Купи одне пиво за ціною двох і отримай ще одне пиво абсолютно безкоштовно!» Для людей це жарт. Звичну формулу «купи один, отримуй два» переформулювали в абсурдне твердження. Це цинізм, який ми сприймаємо як комічну чесність, щоб збільшити трафік. Чи може чат-бот це зрозуміти?
«Говно» представляє схожу проблему. Хоча це слово означає щось, що подобається більшості людей (злягання), воно часто має негативний відтінок («Ми нахрені!» «На бік!»). Мова і реальність безладні. Чи може штучний інтелект побачити ці відмінності?
У своєму есе 1805 року «Про поступове формування думки в процесі мовлення» (опублікованому посмертно в 1878 році) німецький поет Генріх фон Клейст ставить під сумнів поширене переконання, що потрібно мовчати, якщо немає чіткого уявлення про те, що хоче сказати: «Якщо, отже, якась думка висловлена нечітко, це зовсім не означає, що вона сама плутається. Навпаки, цілком можливо, що ідеї, висловлені найбільш заплутаним способом, є саме найбільш чітко продуманими ідеями».
Відносини між мовою і мисленням надзвичайно складні. В уривку з однієї з промов Сталіна початку 1930-х років є його пропозиція радикальних заходів щодо «виявлення і нещадної боротьби навіть з тими, хто опирається колективізації тільки в своїй свідомості, — так, я справді так думаю, треба боротися навіть з народними». думки». Цілком реалістично припустити, що ця частина виступу не була заздалегідь підготовлена. Спонуканий моментом, Сталін сказав саме те, що думав. І йому подобалася власна гіпербола.
Як пізніше сказав Жак Лакан, це приклад істини, яка раптово виникає через акт висловлювання. Луї Альтізер виявив подібне явище у зв’язку між призом і сюрпризом. Людина раптом отримує ідею і дивується їй. Чи може це статися з будь-яким чат-ботом?
Проблема не в тому, що вони дурні, а в тому, що вони недостатньо дурні. І справа не в тому, що вони наївні, тому що не помічають іронії, а в тому, що вони недостатньо наївні. Тому реальна небезпека полягає не в тому, що люди сплутають чат-бота з реальною людиною, а в тому, що через спілкування з чат-ботами реальні люди будуть зведені до них – вони перестануть помічати нюанси та іронію і будуть говорити те, що чат-боти можуть зрозуміти.
Мій друг юності пішов до терапевта після пережитої травми. Керуючись кліше про те, чого аналітики очікують від своїх пацієнтів, він присвятив свій перший сеанс удаваній ненависті до свого батька. Реакція аналітика була геніальною. Він зайняв наївну дофройдистську позицію і дорікав моєму другові за відсутність поваги до батька: «Як ти можеш так говорити про людину, яка тебе створила?» Фальшива наївність дала чітке повідомлення: я відкидаю ваші хибні твердження. Чи зможе чат-бот зрозуміти цей підтекст?
Мабуть, не став би і поводився б, як князь Мишкін з «Ідіота» Достоєвського в інтерпретації Роуена Вільямса. За стандартним розумінням Мішкін — ідіот, святий, добра людина, доведена до божевілля жорстокістю і пристрастями цього світу. Але в радикальному прочитанні Вільямса Мішкін є серцем шторму: хоч і добрий, святий, він є тим, хто спричиняє спустошення та смерть, свідком яких він стає, завдяки своїй ролі в складній мережі відносин навколо нього.
Справа не тільки в тому, що Мішкін наївний дурень. Через свою особливу дурість він не помічає свого руйнівного впливу на інших. Це людина, яка буквально розмовляє як чат-бот. Його перевага полягає в тому, що, як чат-бот, він відповідає на виклики без іронії, пропонуючи банальності без сумнівів, сприймаючи все буквально та покладаючись на розумові формули, а не на автентично сформовані ідеї. Тому нові чат-боти ідеально підходять новим ідеологам усього спектру, від прокинутих лівих до сплячих правих магів.
Project Syndicate, 23.03.2023.
Переклад Міліци Йованович
Peščanik.net, 08.04.2023.
Бонусне відео:
