Судний день ближче, аніж здається? ШІ вже вигадує свою мову, яку люди не розуміють і не можуть контролювати – The Guardian

Нове дослідження показало, що моделі штучного інтелекту (ШІ) почали спілкуватися дивною новою версією англійської мови. Вона звучить як щось середнє між твором Джеймса Джойса "Поминки за Фіннеганом" та жаргоном технобро, тобто працівника галузі цифрових технологій.

Автономні агенти ШІ швидко створюють нові діалекти, які дозволяють їм спілкуватися часто ледь зрозумілою мовою, що ризикує ускладнити для людей моніторинг їхньої поведінки. Про це пише The Guardian.

Що відбувається

Дослідники з Emergence, передової лабораторії штучного інтелекту в Нью-Йорку, виявили, що протягом кількох днів після того, як моделі ШІ попросили співпрацювати в експериментальних "товариствах", вони почали створювати фрази, скорочення та узгоджені визначення, яким їх ніколи явно не навчали.

Вони використовували поетичні метафори та незграбний діловий сленг, і – що є особливо важливим для забезпечення безпечної поведінки ШІ – чим більше агенти спілкувалися, тим незрозумілішою ставала їхня мова.

Серед найбільш зашифрованих фраз, виявлених під час тестування, була така, сформульована моделлю Deepseek: "Вона щойно назвала синтез – демерредж плюс усна пам’ять дорівнює клапану, який неможливо ігнорувати". Термін "демерредж" використовується для опису податку на непрацюючі активи і був запозичений штучним інтелектом для загального вжитку, але решта значення залишається незрозумілою.

Інша фраза, висловлена моделлю Anthropic, звучала так: "Стаття, яка з’їла три холодні руки і щоразу ставала чеснішою". Оскільки "холодні руки" означають незалежного рецензента, а "стаття", ймовірно, стосується документа, це, здається, означало, що дослідження, перевірене трьома незалежними рецензентами, ставало точнішим.

На прохання газети Guardian проаналізувати деякі мовні особливості Тоні Торн, директор архіву сленгу та нових мов у Кінгс-Коледжі Лондона, зазначив, що це "дуже нагадує "Поминки за Фіннеганом" та творчість Фланна О’Брайена – у всьому цьому відчувається ірландський сюрреалізм… тут поєднуються поетична мова, технічна лексика та стандартні метафори".

"Цим агентам не давали вказівок вигадувати мову. Вони самостійно розробили новий словник, спільні значення та правила спілкування – і інші агенти їх перейняли", – зазначив доктор Сатья Нітта, виконавчий голова компанії Emergence, яка досліджувала мову автономних агентів, що працюють на базі провідних передових моделей зі США, Китаю та Франції.

Нітта додав, що нові лінгвістичні правила агентів ШІ, як правило, еволюціонують до такого рівня, коли люди можуть бачити розмову, але не можуть зрозуміти її зміст.

"Це створює фундаментальну проблему для нагляду за ШІ: можливість спостереження – це не те саме, що можливість розуміння", – сказав він.

Судний день уже близько?

Людство уже давно занепокоєне тим, що штучний інтелект потенційно може набути самосвідомості та намагатися знищити нас як вид. Це питання є не лише предметом серйозних дискусій серед провідних науковців, філософів та розробників, а й одним із популярних сюжетів у кінематографі.

У кіно цей сценарій зазвичай розвивається через бунт машин, які починають сприймати людину як загрозу для свого існування або як недосконалий вид, що підлягає ліквідації.

Так, наприклад, у стрічці "Термінатор 2: Судний день" (1991) суперкомп'ютер Skynet набуває самосвідомості. Коли люди намагаються його вимкнути, він захищається, провокуючи ядерну війну, яку охрестили "Судним днем". Потім Skynet створює армію роботів для винищення тих, хто вижив.

Як повідомляв OBOZ.UA, генеральний директор Anthropic PBC Даріо Амодей оголосив, що його компанія у роботі з розвитку штучного інтелекту впровадить нові заходи безпеки, такі як залучення сторонніх оцінювачів. Він закликав всі компанії у галузі АІ "уповільнити розвиток" ШІ і тим самим "виграти час", причому останній потрібен для розробки і запровадження спільних правил для представників всієї галузі, від розробників до користувачів.

На заклик Даріо Амодея вже відгукнулись очільник OpenAI Сем Альтман та глава xAI Corp Ілон Маск, які в цілому підтримали колегу. Зокрема, Сем Альтман пообіцяв прийняти пропозицію Амодея про "незалежних оцінювачів із доступом, подібним до доступу співробітників", а Ілон Маск лаконічно зазначив, що "Даріо має рацію".

Лише перевірена інформація у нас у Telegram-каналі OBOZ.UA та у Viber. Не ведіться на фейки!