Уже не "кінець світу": фахівці назвали найбільшу загрозу, яку може становити ШІ

Експерти з безпеки розповіли про нову загрозу, яку може становити Штучний інтелект (ШІ) Зокрема, вони попереджають про безпрецедентну хвилю кібератак, що базуються на штучному інтелекті та керуються людиною.

Такий ризик реалістичніший і нагальніший, ніж теорії про те, що штучний інтелект знищить людство. Про це зазначило видання Axios.

Про яку загрозу йдеться

Потужні моделі штучного інтелекту з розвиненими можливостями у сфері кібербезпеки вже дають змогу зловмисникам долати людський фактор, що тривалий час не дозволяло більшості хакерських кампаній масштабуватися до промислових масштабів.

Деякі керівники компаній та колишні посадовці заявили, що вони бояться автоматизованих кібератак, які вимикають критично важливі служби, такі як енергомережа, або зловмисників, які використовують агенти штучного інтелекту для зламу безпілотних автомобілів або створення ботнету, який захопить весь інтернет.

Досвідчені експерти з кібербезпеки радше кажуть, що нещодавні провали в безпеці в OpenAI є повчальними історіями, що ілюструють, що може статися, коли потужні моделі штучного інтелекту зіткнуться з поганими засобами контролю безпеки.

Генеральний директор OpenAI Сем Альтман заявив, що порушення безпеки Hugging Face було "першим інцидентом безпеки, який я відчув дуже гостро", і компанія запровадила нові заходи внутрішнього контролю.

Експерти з кібербезпеки висловили думку, що неминуча загроза від кібератак є величезною. І вона значно більша, ніж поширені перед цим теорії про те, що штучний інтелект нібито знищить людство.

"Я не хвилююся, що машина прокинеться і вирішить нас знищити. Мене хвилює, що система з надто широким доступом робитиме саме те, що їй було наказано, без необхідного змагального тестування", – сказав генеральний директор Bugcrowd Дейв Джеррі.

Також генеральний директор Mimecast Ранджан Сінгх розповів, що реальний ризик сьогодні виникає з агентами штучного інтелекту, які мають доступ до конфіденційних документів та внутрішніх корпоративних систем.

Раніше OBOZ.UA повідомляв про те, що нове дослідження показало, що моделі штучного інтелекту (ШІ) почали спілкуватися дивною новою версією англійської мови. Вона звучить як щось середнє між твором Джеймса Джойса "Поминки за Фіннеганом" та жаргоном технобро, тобто працівника галузі цифрових технологій. Автономні агенти ШІ швидко створюють нові діалекти, які дозволяють їм спілкуватися часто ледь зрозумілою мовою, що ризикує ускладнити для людей моніторинг їхньої поведінки.

Лише перевірена інформація в нас у Telegram-каналі OBOZ.UA та Viber. Не ведіться на фейки!