OpenAI, творець ChatGPT, заявив у четвер, що інвестуватиме в стартап, спрямований на запобігання зловживанню штучним інтелектом особами, які можуть спробувати створити біологічну зброю, повідомляє Reuters.
OpenAI є провідним інвестором початкового раунду фінансування Red Queen Bio у розмірі 15 мільйонів доларів, метою якого є забезпечення розвитку оборонних можливостей індустрії штучного інтелекту принаймні з такими ж швидкими темпами, як і зусилля тих, хто хоче використовувати моделі для заподіяння шкоди людям, заявив співзасновник стартапу Хану Раджаніємі.
Ці інвестиції є частиною ширших зусиль OpenAI щодо інвестування в стартапи, які намагаються обмежити ризики, що виникають через штучний інтелект. Минулого місяця компанія підтримала Valthos, нью-йоркський стартап, який розробляє програмне забезпечення для біобезпеки. Головний стратег OpenAI Джейсон Квон заявив, що компанія розгляне можливість інвестування в інші стартапи, які вирішують подібні проблеми.
«Ми хочемо підвищити загальну стійкість усієї екосистеми», – сказав Квон в інтерв’ю. «Один з найкращих способів зменшення ризиків – це більше технологій».
Дослідники та захисники безпеки стверджують, що технологія штучного інтелекту незабаром може пришвидшити розробку ліків або розробку нових вакцин. Однак ці ж можливості можуть дозволити зловмисникам розробляти нову та потужну біологічну зброю.
Red Queen Bio була виділена з Helix Nano, компанії, яка розробляє мРНК-терапію та дедалі частіше використовує штучний інтелект у розробці ліків. Helix Nano також співпрацювала з OpenAI для розробки тестів для оцінки біологічних ризиків штучного інтелекту, сказав Квон, повідомляє Reuters.
Генеральний директор OpenAI Сем Альтман та член правління Ніколь Селігман, які раніше інвестували в Helix Nano, отримають акції Red Queen Bio в рамках угоди. Квон був непрямим інвестором через Y Combinator, стартап-інкубатор Кремнієвої долини. Його частка оцінюється менше ніж у 2.500 доларів, повідомила OpenAI.
Представник компанії повідомив, що керівники не брали участі у схваленні інвестицій OpenAI в Red Queen Bio. Інвестиції були розглянуті та схвалені головним відповідальним за дотримання нормативних вимог OpenAI та неупередженими членами ради директорів.
Red Queen Bio спиратиметься на моделі штучного інтелекту, а також на традиційні лабораторні експерименти, щоб виявляти нові ризики та розробляти нові засоби захисту. Назва стартапу походить від сцени з книги Льюїса Керролла «Крізь задзеркалля».
«Стало зрозуміло, що біологічні можливості розвиваються швидше, ніж ми очікували», — сказав Раджаніємі. «Ми відчули, що маємо почати розробляти захисні механізми».
Іншими інвесторами "Red Queen Bio" є "Cerberus Ventures", "Fifty Years" та "Halcyon Futures".
Бонусне відео:
