Новий чат OpenAI може "роздавати" інструкції щодо застосування біологічної зброї

OpenAI визнала, що її нова модель ШІ, відома як o1 або "Strawberry", може стати справжнім головним болем через ризик її неналежного використання, особливо якщо йдеться про створення біологічної зброї.

Нещодавно запущена модель o1 виявилася набагато сильнішою, ніж її попередники. Ця модель може вирішувати складні завдання, відповідати на наукові питання та робити купу інших розумних речей. Але що розумніша ІІ, то більша ймовірність, що його можна використовувати з поганою метою.

Експерти турбуються про те, що модель може потрапити до рук тих, хто захоче використати її для розробки біологічної зброї. За їхніми словами, чат-бот здатний надавати інструкції щодо створення хімічної, біологічної, радіологічної та ядерної зброї.

OpenAI оцінив ризики, пов'язані з новою моделлю як "середній ризик" для створення зброї масового знищення. Це найвищий рівень ризику, який компанія колись привласнювала своїм технологіям. Загалом нові можливості o1 можуть допомогти у створенні небезпечної зброї, що піднімає безліч етичних і безпечних питань.

Професор Йошуа Бенджіо, один з провідних дослідників ШІ, вважає, що настав час вводити суворі правила та контроль, щоб уникнути зловживань. У Каліфорнії вже розглядається законопроект SB 1047, який має вирішити цю проблему, вимагаючи від розробників ШІ заходів щодо зниження ризиків.

У розробці таких моделей ІІ беруть участь великі компанії на кшталт Google, Meta та Anthropic, які змагаються за створення найпросунутіших ШІ, здатних допомагати у різних завданнях та приносити прибуток. Ці технології коштують великих грошей, але й ризики також високі.

Головний технічний директор OpenAI, Міра Мураті, заявила, що компанія підходить до запуску моделі o1 з великою обережністю. Вона буде доступна платним передплатникам та розробникам через API, а спеціальні "червоні команди" вже перевірили її на вразливості. Мураті зазначила, що нова модель виявилася безпечнішою за попередні версії, хоча все одно потрібно бути уважним.

Крім того, Знай.ua повідомляв, персонаж Five Nights at Freddy's став реальністю: ChatGPT вставили в плюшеву коалу