Что нельзя спрашивать в чате GPT: 14 запрещенных запросов

ChatGPT за несколько лет превратился в универсальный цифровой инструмент: от быстрого поиска информации до помощи с текстами и планированием. При этом все больше пользователей начинают воспринимать его как истину. Это ошибочное представление, ведь чат-боты склонны к ошибкам, выдумкам и не имеют реального понимания контекста.

Видео дня

Их польза возможна только при условии осознания ограничений. Издание SlashGear перечень из 14 типов запросов, которые не стоит доверять ChatGPT и любому другому ИИ.

Любая личная информация

Разговоры с ChatGPT не являются частными. Согласно политике конфиденциальности, OpenAI собирает запросы и загруженные файлы. Технологические компании регулярно становятся жертвами утечек данных, и OpenAI – не исключение: в прошлом уже случались сбои, которые приводили к раскрытию чужих чатов.

Отдельную угрозу подтверждает исследование Корнелльского университета. В нем ученые показали, что некоторые языковые модели можно заставить воспроизводить почти дословные фрагменты тренировочных данных. В рамках эксперимента исследователям удалось получить практически полный текст одного из романов о Гарри Поттере, несмотря на авторское право. Это означает, что информация, введенная пользователем, теоретически может быть впоследствии воспроизведена.

Все, что незаконно

Вопрос о незаконных действиях – плохая идея по двум причинам. Во-первых, чаты не являются конфиденциальными и могут быть использованы в суде. Подобные случаи уже случались с историями браузеров и поисковых запросов.

Во-вторых, даже если обойти ограничения, ChatGPT часто придумывает убедительные, но неправильные ответы. В контексте незаконных действий это может быть не просто ошибкой, а реальной угрозой здоровью или свободе. Кроме всего, такие запросы могут привести к блокировке доступа к сервису.

Анализ защищенной или конфиденциальной информации

ChatGPT часто используют как инструмент для обобщения и анализа текстов. Однако никогда не стоит загружать важные данные.

В 2023 году компания Samsung подтвердила, что ее сотрудники вводили в ChatGPT внутреннюю информацию, в том числе фрагменты программного кода и служебные документы, через корпоративную платформу. После этого компания ограничила использование чат-бота. Этот кейс показал, что даже непреднамеренные действия могут создавать серьезные риски утечки.

Медицинские советы

ChatGPT не способен отличить правду от вымысла. Он просто комбинирует информацию из разных источников, независимо от их достоверности. Несмотря на это, бот до сих пор может отвечать на запросы о симптомах и лечении.

Даже медицинские специалисты признают: чат-боты пригодны только для очень общей информации, но не для индивидуальных советов. Люди уже болели, пытаясь следовать рекомендациям, полученным от чат-ботов. При любых симптомах нужно обращаться к врачу, а не к алгоритму.

Советы по отношениям

ChatGPT учился на массиве интернет-контента, включая форумы сомнительного качества. Он не видит реального контекста, не считывает невербальные сигналы и не знает, объективно ли пользователь подает ситуацию.

Часто бот либо дает ложные советы, либо поддакивает вредным убеждениям, вместо того чтобы их ставить под сомнение. В сложных или токсичных отношениях это может быть особенно опасно.

Генерация паролей

ChatGPT – плохой инструмент для создания паролей. Он может генерировать одинаковые или недостаточно сложные комбинации, неправильно считать количество символов и, что хуже всего, сохранять эти данные в своих логах. Для этого существуют специализированные менеджеры паролей.

Психотерапия

ChatGPT склонен к чрезмерной поддержке и одобрению, что в терапевтическом контексте может быть разрушительным. Людям с психическими проблемами нужен объективный специалист, а не алгоритм, который случайно подкрепляет опасные мысли.

Инструкции по ремонту

ChatGPT может правильно описать общие принципы, но часто ошибается в деталях. Когда речь идет об автомобиле или дорогостоящей технике, один неправильный совет может привести к серьезным повреждениям. В таких случаях лучше обращаться к профессионалам.

Финансовые советы

Финансы – это сложная сфера, зависящая от законодательства, рынка и индивидуальных обстоятельств. ChatGPT может выдумывать или упрощать информацию. Налоговые, инвестиционные и бухгалтерские вопросы должны решать специалисты, а не чат-бот.

Выполнение домашних заданий

Образование базируется на развитии мышления и умении анализировать. Регулярное использование ChatGPT вместо собственной работы уже связывают со снижением когнитивных навыков. Кроме того, возникает риск зависимости от инструмента.

Юридические документы

ChatGPT не учитывает все нюансы законодательства и может выдумывать нормы или судебные прецеденты. Известны случаи, когда юристы подавали документы с несуществующими ссылками, сгенерированными ботом. Это серьезный риск.

Прогнозы будущего

Чат-бот не может предсказывать будущее – ни в экономике, ни в политике, ни в личной жизни. Он лишь обобщает прошлые данные. Использовать его для серьезных прогнозов или жизненных решений – рискованно.

Советы в экстренных ситуациях

В чрезвычайных ситуациях время имеет решающее значение. Ошибочный совет чат-бота может стоить жизни. В таких случаях нужно обращаться в службы спасения, а не к ИИ.

Политические вопросы

ChatGPT не является нейтральным. Он отражает предубеждения своих данных и может либо подтверждать уже имеющиеся убеждения, либо подавать искаженную информацию. Политические решения требуют проверенных источников и критического мышления.

Ранее OBOZ.UA рассказывал, как искусственный интеллект перешел "на сторону зла" и хакнул собственные тесты.

Подписывайтесь на каналы OBOZ.UA в Telegram и Viber, чтобы быть в курсе последних событий.