Британсько-канадський вчений-комп’ютерник, якого часто називають «батьком штучного інтелекту» (ШІ), звузив часові рамки, за які ШІ може знищити людство, до наступних трьох десятиліть, попереджаючи, що темпи розвитку технологій «набагато швидші», ніж ШІ. очікувано, повідомляє Guardian.
Професор Джеффрі Хінтон, який цього року був удостоєний Нобелівської премії з фізики за роботу над розробкою VI, сказав, що існує «10-20 відсотків ймовірності», що VI призведе до вимирання людства в наступні тридцять років.
Раніше Хінтон оцінював 10-відсоткову ймовірність того, що технологія спричинить катастрофічні наслідки для людства.
У ефірі BBC Radio 4 його запитали, чи змінив він свою думку щодо можливого апокаліптичного сценарію з VI, він відповів: «Насправді ні, 10-20 відсотків».
Оцінка Хінтона викликала реакцію запрошеного редактора шоу, колишнього канцлера Саджида Джавіда, який сказав: «Ви збільшуєте відсоток», на що Хінтон відповів: «Якщо що. Розумієте, нам ніколи не доводилося мати справу з чимось більшим розумніший за нас раніше».
«Скільки ви знаєте прикладів того, як більш розумна істота контролює менш розумну? Дуже мало прикладів. Є мати і дитина. Еволюція доклала багато зусиль, щоб дозволити дитині контролювати матір, але це єдине приклад, який я знаю».
Хінтон, який народився в Лондоні, почесний професор Університету Торонто, сказав, що люди будуть схожі на малюків порівняно з інтелектом потужних систем VI.
«Мені подобається описувати це так: уявіть себе і трирічну дитину. Ми будемо цими трирічними дітьми», — сказав він.
AI зазвичай визначається як комп’ютерні системи, які виконують завдання, які зазвичай потребують людського інтелекту.
Минулого року Хінтон потрапив у заголовки газет після того, як залишив роботу в Google, щоб більш відкрито говорити про ризики неконтрольованої розробки VI, посилаючись на занепокоєння, що «погані актори» можуть використовувати цю технологію, щоб завдати шкоди. Основне занепокоєння прихильників безпеки VI полягає в тому, що створення загального штучного інтелекту — систем, розумніших за людину — може становити загрозу існуванню, виходячи з-під контролю людини.
Говорячи про те, де, на його думку, буде розвиток VI, коли він розпочинав роботу над технологією, Хінтон сказав: «Я не думав, що ми будемо там, де ми є зараз. Я думав, що ми дійдемо до цього моменту в якийсь момент майбутнє».
«Оскільки ситуація, в якій ми зараз перебуваємо, полягає в тому, що більшість експертів у цій галузі вважають, що, ймовірно, протягом наступних 20 років ми розробимо системи ШІ, які розумніші за людей. І це дуже страшна думка», — додав він.
Хінтон сказав, що темпи розробки «дуже, дуже швидкі», набагато швидше, ніж він очікував, і закликав владу запровадити регулювання технології.
«Мене хвилює те, що «невидима рука» не захистить нас. Тому залишити прибутки великих компаній недостатньо для забезпечення безпечного розвитку. Єдине, що може змусити великі компанії інвестувати більше в дослідження безпеки, — це державне регулювання», — сказав він. пояснив.
Хінтон є одним із трьох «батьків штучного інтелекту», які отримали премію ACM AM Turing Award — еквівалент Нобелівської премії з обчислювальної техніки — за свою роботу. Однак один із них, Ян Лекан, головний науковий співробітник Meta Марка Цукерберга, применшує екзистенціальну загрозу і стверджує, що VI «може насправді врятувати людство від вимирання».
Бонусне відео:
