В Anthropic заявили о попытках потенциальной разработки биологического оружия в Claude: что известно
Будьте первыми в курсе главного – подпишитесь на Новини на OBOZ.UA в Google
Американская компания Anthropic заблокировала пять попыток использовать модели Claude в исследованиях, которые потенциально могут быть связаны с разработкой биологического оружия. Среди них были работы с вирусами, птичьим гриппом и токсином.
Об этом говорится в отчете Anthropic о случаях ненадлежащего использования моделей искусственного интеллекта. В документе описаны пять эпизодов, в которых Claude пытались задействовать в потенциально опасных биологических исследованиях.
Модели ИИ обычно запрограммированы отклонять запросы, связанные с разработкой биологического оружия. В то же время в Anthropic отметили, что иногда сложно провести четкую грань между безопасными и опасными исследованиями, поскольку одна и та же работа может иметь как медицинское, так и военное применение.
При этом, по данным Anthropic, эти случаи показали, что исследователи из регионов, где её сервисы недоступны или доступ к ним ограничен, пытались использовать американские модели ИИ. Среди них были, в частности, люди, связанные с местными органами власти.
Anthropic не назвала ни научных учреждений, ни стран, в которых они расположены.
В одном из случаев исследователь пытался использовать Claude для подготовки заявки на финансирование исследования вируса. Речь шла о так называемом исследовании по повышению функциональности (gain-of-function research), в ходе которого усиливается способность возбудителя к распространению.
Такой подход используют в лабораториях для разработки средств противодействия заболеваниям. Однако полученные результаты могут также быть использованы для создания биологического оружия.
Еще в одном случае, по данным Anthropic, Claude пытались задействовать для подготовки плана исследования варианта птичьего гриппа, способного передаваться млекопитающим.
В компании подчеркнули, что такие исследования могут помочь предотвратить заболевания, но в то же время создают риск получения опасных знаний, которые могут быть использованы для разработки оружия.
По информации Anthropic, еще один ученый пытался использовать Claude для подготовки ежеквартальных отчетов о ходе исследования, связанного с определенным токсином.
Как писал OBOZ.UA, соучредитель Microsoft Билл Гейтс ранее предупреждал о рисках стремительного развития искусственного интеллекта. Среди них он называл возможную массовую безработицу и новые угрозы кибербезопасности, а также призывал мировых лидеров готовиться к переходу в эру ИИ.
Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!
