Уявіть, якби ми змогли вирішити проблему зміни клімату чи вилікувати рак. Це потенціал AGI

«Vijesti» нещодавно опублікували анкету, мета якої полягала в тому, щоб отримати враження про обізнаність чорногорської громадськості про AGI, їхні почуття до цієї технології, а також можливість використання її в роботі, яку вони виконують сьогодні

18865 переглядів 6 коментар(ів)
Фото: Шуттерсток
Фото: Шуттерсток
Застереження: переклади здебільшого виконуються за допомогою перекладача штучного інтелекту і можуть бути не 100% точними

Розвиток загального штучного інтелекту є найамбітнішим проектом в історії людства, і якщо ми навчимося поєднувати різні точки зору та знання, щоб створити щось більше, ніж ми самі, це може стати найбільшим досягненням в історії людства, вважає Міодраг Вуйкович.

Вуйкович є докторантом у галузі економічних ефектів ШІ та членом Чорногорської асоціації штучного інтелекту.

«Вієсті» нещодавно опублікувала анкету, мета якої полягала в тому, щоб отримати враження про обізнаність чорногорської громадськості про AGI, їхні почуття до цієї технології, а також про можливість її використання в роботах, які вони виконують сьогодні.

Опір громадськості виправданий

З 252 заповнених анкет на запитання, чи знаєте ви, що таке AGI, 174 людини відповіли «так». 78 із них, як вони заявили, не знали, що таке AGI.

Які ключові технічні та етичні проблеми в розробці AGI і як дослідницьке співтовариство штучного інтелекту може відповідально вирішувати ці проблеми?

Уявіть собі світ, де комп’ютери – це не просто інструменти, якими ми користуємося, а розумні партнери, які думають, навчаються та вирішують проблеми, як і ми, люди. Це світ загального штучного інтелекту (AGI), і, вірите чи ні, ми не так вже й далекі від нього. Але, як і будь-який великий прогрес, шлях до AGI всіяний труднощами – як технічними, так і етичними.

По-перше, технічні проблеми. Уявіть собі, що ви намагаєтеся навчити дитину не тільки розв’язувати одну математичну задачу, але й розуміти математику настільки добре, що вона зможе вирішити будь-яку задачу, яку ви їй задасте. Це те, чого експерти зі штучного інтелекту намагаються досягти за допомогою AGI. Справжній інтелект полягає не тільки в тому, щоб дуже добре розв’язувати одну проблему, але й у здатності вирішувати тисячі різних проблем і здатності узагальнювати нові ситуації, яких ми ніколи раніше не бачили. Це як створити розум, який навчиться грати в шахи, а потім застосовує ці знання, щоб навчитися готувати.

Міодраг Вуйкович
Міодраг ВуйковичФото: приватний архів

Цими днями DeepMind, одна з провідних компаній у світі штучного інтелекту, випустила модель AlphaProof, яка здатна вирішувати математичні задачі настільки добре, що виграє срібну медаль на Всесвітній математичній олімпіаді цього року.

Існує також проблема самостійного навчання. Уявіть собі дитину, яка може навчитися всьому, просто читаючи книги, без будь-яких інструкцій. Це ключ до створення машин, які навчаються, як люди та тварини.

Можливо, найскладнішим завданням є навчити комп’ютери розуміти причинно-наслідкові зв’язки – те, що ми називаємо причинним висновком. Сучасні системи штучного інтелекту є дуже хорошими статистиками, але справжній AGI вимагає причинно-наслідкового мислення. Це як різниця між папугою, який просто повторює слова, і дитиною, яка розуміє значення цих слів.

Технічні труднощі – це лише половина справи. З великою владою приходить велика відповідальність, і етичні проблеми розробки AGI є не менш важливими.

По-перше, як ми гарантуємо, що ці надрозумні системи діють відповідно до наших цінностей? Якщо ми створюємо машину, потужнішу за будь-яку людину, як ми гарантуємо, що ця машина буде доброзичливою? Anthropic і OpenAI намагаються вирішити це, створивши своєрідну «конституцію» для своїх моделей ШІ, визначаючи основні правила поведінки.

Існує проблема упередженості та справедливості. Тімніт Гебру, відомий дослідник у галузі етики штучного інтелекту, попереджає, що ми повинні переконатися, що системи ШІ не продовжують і не погіршують існуючу соціальну нерівність.

Міодраг Вуйкович
Міодраг ВуйковичФото: приватний архів

Безпека, звичайно, стоїть на першому місці в списку пріоритетів. Тестування систем штучного інтелекту має бути набагато глибшим, ніж проста функціональність. Це як коли ви тестуєте новий препарат – ви повинні переконатися, що він не тільки ефективний, але й безпечний у всіх можливих сценаріях. Системи ШІ мають свої протипоказання та побічні ефекти.

Нарешті, існує потреба в глобальній співпраці. AGI – це глобальна проблема, яка вимагає глобального рішення. Ініціатива ООН «AI for Good» є хорошим прикладом, де експерти з усього світу досліджують, як ШІ може допомогти вирішити глобальні проблеми.

Зрештою, розробка AGI схожа на дослідження нового континенту — захоплюючого, повного потенціалу, але водночас і повного невідомого. Ключ у балансі між інноваціями та відповідальністю. Ми повинні бути обережними, обдуманими та проактивними у своєму підході. Мета полягає не лише у створенні надрозумних систем, а й у тому, щоб ці системи працювали на благо всього людства.

Бонусне відео: