«Достаточно мощный, чтобы привести к миллиарду смертей»: Билл Гейтс призвал к государственному регулированию ИИ
Будьте первыми в курсе главного – подпишитесь на Новини на OBOZ.UA в Google
Билл Гейтс заявил, что искусственный интеллект нуждается в государственном регулировании, поскольку эта технология достаточно мощная, чтобы в случае злонамеренного использования привести к миллиарду смертей.
Об этом основатель Microsoft сказал в эфире программы Meet the Press. Forbes отмечает, что Гейтс также выступил на фоне подготовки встречи президента США Дональда Трампа, спикера Палаты представителей Майка Джонсона и руководителей компаний, работающих в сфере ИИ. Пока неизвестно, какой именно будет основной темой этой встречи.
Встреча в Вашингтоне
Майк Джонсон ранее заявлял, что Трамп и руководители компаний в сфере ИИ должны провести закрытое обсуждение будущего технологии. По его словам, стороны должны обсудить ответственность компаний за безопасность и возможную роль правительства в регулировании отрасли.
В то же время пока не объявлен окончательный список представителей отрасли, которые могут принять участие во встрече. Накануне в Белом доме уже побывали руководитель OpenAI Сэм Альтман и Илон Маск, которые посетили государственный ужин.
Дискуссия о регулировании
Джонсон и лидер большинства в Сенате США Джон Тун пока не проявляли спешки в отношении принятия законодательства об искусственном интеллекте. Джонсон называл опасения относительно возможного уничтожения человечества технологией "обманом", тогда как Тун ранее выступал за регулирование ИИ и ещё в 2023 году представил соответствующий законопроект.
В середине сентября Тун заявил журналистам, что пока не определено, сможет ли Сенат принять законодательство об ИИ до конца года. Он отметил, что сделать это в ближайшее время будет сложно из-за других вопросов, которыми занимается Конгресс.
В то же время Тун продолжает рассматривать возможность возвращения к этому вопросу. По данным Axios, сенатор Эми Клобучар, которая была соавтором предыдущего законопроекта Туна, работает над привлечением дополнительной поддержки со стороны демократов.
Документ, представленный в 2023 году, предусматривал сертификацию критически важных систем ИИ, требования к прозрачности контента, созданного генеративным искусственным интеллектом, оценку рисков компаниями и дополнительные государственные исследования. Также речь шла об определении искусственно созданного контента и возможных мер предосторожности для отрасли.
Опасность ИИ
Дискуссия о безопасности искусственного интеллекта обострилась после заявлений бывшего исследователя Anthropic Джейкоба Коксона. 9 сентября он сообщил об уходе из компании и заявил, что люди, создающие ИИ, всерьёз считают возможным сценарий, при котором технология уничтожит человечество до конца десятилетия.
Руководитель направления исследований alignment в Anthropic Эван Хубингер поддержал эти слова. Он заявил, что считает вероятность уничтожения человечества искусственным интеллектом в течение следующего десятилетия выше 10%.
Хубингер также отметил, что у Anthropic пока нет готового плана по решению проблемы согласования сверхмощного ИИ с человеческими целями и компания не находится на чётком пути к её решению.
После этих заявлений Google, Anthropic и OpenAI начали совместно работать над планами создания группы по вопросам безопасности ИИ. Сэм Альтман и генеральный директор Anthropic Дарио Амодеи на этой неделе также выступили за международное сотрудничество и установление общих стандартов в сфере искусственного интеллекта.
Амодеи заявил в ООН, что решения по развитию технологии должны формироваться в рамках демократических процессов и правительств, несущих ответственность перед гражданами.
Ранее OBOZ.UA сообщал, что украинские пограничники уже используют искусственный интеллект в системах противовоздушной обороны. Автоматизированная турель "Тандем" после получения данных из сети радиолокационных станций может самостоятельно захватывать и сопровождать воздушные цели. Оператору остается лишь выбрать вооружение и управлять системой с помощью геймпада.
Только проверенная информация у нас в Telegram-канале OBOZ.UA и в Viber. Не ведитесь на фейки!