В Anthropic заявили о попытках потенциальной разработки биологического оружия в Claude: что известно

Американская компания Anthropic заблокировала пять попыток использовать модели Claude в исследованиях, которые потенциально могут быть связаны с разработкой биологического оружия. Среди них были работы с вирусами, птичьим гриппом и токсином.

Об этом говорится в отчете Anthropic о случаях ненадлежащего использования моделей искусственного интеллекта. В документе описаны пять эпизодов, в которых Claude пытались задействовать в потенциально опасных биологических исследованиях.

Модели ИИ обычно запрограммированы отклонять запросы, связанные с разработкой биологического оружия. В то же время в Anthropic отметили, что иногда сложно провести четкую грань между безопасными и опасными исследованиями, поскольку одна и та же работа может иметь как медицинское, так и военное применение.

При этом, по данным Anthropic, эти случаи показали, что исследователи из регионов, где её сервисы недоступны или доступ к ним ограничен, пытались использовать американские модели ИИ. Среди них были, в частности, люди, связанные с местными органами власти.

Anthropic не назвала ни научных учреждений, ни стран, в которых они расположены.

В одном из случаев исследователь пытался использовать Claude для подготовки заявки на финансирование исследования вируса. Речь шла о так называемом исследовании по повышению функциональности (gain-of-function research), в ходе которого усиливается способность возбудителя к распространению.

Такой подход используют в лабораториях для разработки средств противодействия заболеваниям. Однако полученные результаты могут также быть использованы для создания биологического оружия.

Еще в одном случае, по данным Anthropic, Claude пытались задействовать для подготовки плана исследования варианта птичьего гриппа, способного передаваться млекопитающим.

В компании подчеркнули, что такие исследования могут помочь предотвратить заболевания, но в то же время создают риск получения опасных знаний, которые могут быть использованы для разработки оружия.

По информации Anthropic, еще один ученый пытался использовать Claude для подготовки ежеквартальных отчетов о ходе исследования, связанного с определенным токсином.

Как писал OBOZ.UA, соучредитель Microsoft Билл Гейтс ранее предупреждал о рисках стремительного развития искусственного интеллекта. Среди них он называл возможную массовую безработицу и новые угрозы кибербезопасности, а также призывал мировых лидеров готовиться к переходу в эру ИИ.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!