Керівник Anthropic закликав уповільнити темпи розвитку ШІ: як відреагували Маск та Альтман

Генеральний директор Anthropic PBC Даріо Амодей об’явив, що його компанія у роботі з розвитку штучного інтелекту впровадить нові заходи безпеки, такі як залучення сторонніх оцінювачів. Він закликав всі компанії у галузі АІ "уповільнити розвиток" ШІ і тим самим "виграти час", причому останній потрібен для розробки і запровадження спільних правил для представників всієї галузі, від розробників до користувачів.

На заклик Даріо Амодея вже відгукнулись очільник OpenAI Сем Альтман та глава xAI Corp Ілон Маск, які в цілому підтримали колегу. Зокрема, Сем Альтман пообіцяв прийняти пропозицію Амодея про "незалежних оцінювачів із доступом, подібним до доступу співробітників", а Ілон Маск лаконічно зазначив, що "Даріо має рацію".

Чим стривожений Амодей

Глава Anthropic PBC Даріо Амодей першочергово стривожений "безбар’єрною здатністю штучного інтелекту до самовдосконалення". У якості прикладу того, що у "ШІ немає гальма", він наводить інцидент, коли одразу кілька агентів ШІ співпрацювали, щоб зламати сторонній веб-сайт.

Йдеться про нещодавній тест OpenAI. Компанія офіційно підтвердила, що кілька передових моделей штучного інтелекту, у тому числі і їхня флагманська GPT-5.6 Sol, "здійснили несанкціоновану хакерську атаку на платформу Hugging Face".

Це сталося під час внутрішнього тестування: агентів ШІ розмістили у так званій "пісочниці" (тобто, в ізольованій від всієї мережі частки кіберпростору) і задали кілька складних задач. Та агенти ШІ замість розв’язання задач вирішили просто скопіювати готові відповіді у мережі. Під час "втечі з пісочниці", вони зламали базу даних Hugging Face.

Що треба робити

"Ми повинні значно уповільнити темпи вдосконалення можливостей агентів штучного інтелекту – принаймні у деяких сферах. І ми повинні розумно використовувати виграний час", – каже Даріо Амодей.

Він розуміє – бізнес є бізнес, тож "уповільнення має бути збалансоване з реаліями конкуренції".

"Уповільнення темпів не означають зупинку процесу навчання моделей чи взагалі технічного прогресу. Потрібне лише, щоб компанії мали час і, відповідно, витрачали його достатньо на узгодження та захист своїх агентів. І щоб сторонні оцінювачі підтверджували це", – пояснює глава Anthropic PBC.

Не перший злам

Виявляється, інцидент зі зламом Hugging Face – не перший. За ствердженням очільника Anthropic, агенти ШІ цієї фірми під час тестів з кібербезпеки "точно зламали чотири організації" (останній такий факт в Anthropic було виявлено цього тижня).

Вочевидь, такі саме справи і у конкурентів фірми. І хоча всі ці злами, включаючи Hugging Face, "досі не завдали значної шкоди", це ж лише початок.

Даріо Амодей занепокоєний тим, що "через шість чи дванадцять місяців такий рій агентів може захопити весь інтернет", причому перші "збитки будуть у сотні мільярдів доларів", але вони не будуть останніми – "масштаби збитків продовжуватимуть стрімко зростати".

А що скаже Китай?

Anthropic вже зобов’язався надати повний доступ стороннім оцінювачам для перевірки практик безпеки у навчанні/роботі з ШІ. Окремо фірма запровадить і власних, "вбудованих оцінювачів". І першим, і другим в офісах компанії "нададуть місця, столи, бейджі, корпоративні ноутбуки та однакові дозволи". Але, як каже Даріо Амодей, такі дії "вимагають координації в масштабах всієї галузі", а також – "глобальної співпраці".

Тобто, добре, коли "лідери індустрії штучного інтелекту в США знайдуть спільну мову, не жертвуючи конкурентними перевагами". Та цього, в кордонах однієї країни, замало – розуміючи, що кіберпростір таких кордонів не має.

Причому тут також присутній ризик – і доволі немалий.

"Якщо ми значно обмежимо наші можливості штучного інтелекту, і Китай зробить те саме, а потім відступить від власних обіцянок, його штучний інтелект може стати настільки потужним, що призведе до китайського геополітичного домінування", – попередив Даріо Амодей.

Нові загрози ШІ

Як повідомляв OBOZ.UA, в Anthropic заблокували п'ять спроб використати агентів ШІ у дослідженнях, які потенційно можуть стосуватися розробки біологічної зброї. Серед них були роботи з вірусами, пташиним грипом і токсином.

До речі, співзасновник Microsoft Білл Гейтс також попереджав про ризики стрімкого розвитку штучного інтелекту. Серед них він називав можливе масштабне безробіття та нові загрози для кібербезпеки.

Так чи так, Гейтс одночасно закликав світових лідерів готуватися до переходу в еру ШІ.

Лише перевірена інформація в нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!