В Anthropic заявили про спроби потенційної розробки біологічної зброї у Claude: що відомо
Будьте першими у курсі головного — підпишіться на Новини на OBOZ.UA у Google
Американська компанія Anthropic заблокувала п'ять спроб використати моделі Claude у дослідженнях, які потенційно можуть стосуватися розробки біологічної зброї. Серед них були роботи з вірусами, пташиним грипом і токсином.
Про це йдеться у звіті Anthropic про випадки неналежного використання моделей штучного інтелекту. У документі описано п'ять епізодів, у яких Claude намагалися залучити до потенційно небезпечних біологічних досліджень.
Моделі ШІ зазвичай запрограмовані відмовлятися від запитів, пов'язаних із розробкою біологічної зброї. Водночас в Anthropic зазначили, що іноді складно провести чітку межу між безпечними та небезпечними дослідженнями, оскільки одна й та сама робота може мати як медичне, так і військове застосування.
Водночас, за даними Anthropic, ці випадки засвідчили, що дослідники з регіонів, де її сервіси недоступні або доступ до них обмежений, намагалися користуватися американськими моделями ШІ. Серед них були, зокрема, люди, пов'язані з місцевими урядами.
Anthropic не назвала ані наукових установ, ані країн, де вони розташовані.
В одному з випадків дослідник намагався використати Claude для підготовки заявки на фінансування дослідження вірусу. Йшлося про так зване дослідження з підвищення функціональності (gain-of-function research), під час якого посилюється здатність збудника до поширення.
Такий підхід використовують у лабораторіях для розробки засобів протидії хворобам. Однак отримані результати можуть також бути використані для створення біологічної зброї.
Ще в одному випадку, за даними Anthropic, Claude намагалися залучити для підготовки плану дослідження варіанту пташиного грипу, здатного передаватися ссавцям.
У компанії наголосили, що такі дослідження можуть допомогти запобігати хворобам, але водночас створюють ризик отримання небезпечних знань, які можуть бути використані для розробки зброї.
За інформацією Anthropic, ще один науковець намагався використати Claude для підготовки щоквартальних звітів про перебіг дослідження, пов'язаного з певним токсином.
Як писав OBOZ.UA, співзасновник Microsoft Білл Гейтс раніше попереджав про ризики стрімкого розвитку штучного інтелекту. Серед них він називав можливе масштабне безробіття та нові загрози для кібербезпеки, а також закликав світових лідерів готуватися до переходу в еру ШІ.
Лише перевірена інформація в нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!
