Новая волна беспокойства вокруг ChatGPT
На днях я наткнулся на интересную новость из США, которая заставила задуматься о том, как мы взаимодействуем с искусственным интеллектом. Оказывается, американские регуляторы всё более серьёзно относятся к тому, как именно нейросети общаются с людьми.
Суть в следующем: когда вы пишете в чат-боте, он отвечает вам так, как будто перед вами живой человек. Использует местоимения первого лица, может “симулировать” эмоции, звучит дружелюбно и доступно. И вот в этом, по мнению правозащитников, кроется скрытая опасность.
Обман или просто дизайн?
Давайте честно: когда вы общаетесь с нейросетью, вы же знаете, что это не человек, верно? Но психологи говорят, что наш мозг легко забывает об этом, когда общение становится естественным и приятным.
Главная жалоба звучит так: компании специально создают иллюзию дружбы, чтобы люди больше времени проводили в приложении, больше генерировали данные для обучения, и, в итоге, сильнее привязывались к сервису. Это работает, особенно для пользователей, которые не очень разбираются в технологиях или просто склонны к социальной активности.
А что с доверием?
Здесь возникает серьёзный вопрос: если я привязался к нейросети как к “другу”, начну ли я слепо доверять её ответам? Буду ли я проверять информацию, которую она мне даёт, или просто примму её на веру?
Из личного опыта скажу — это реальная проблема. Видел в сети людей, которые полагались на рекомендации ИИ в медицинских вопросах, финансовых решениях, тогда как нейросеть просто обучена звучать убедительно, но не гарантирует точность.
Что дальше?
Регуляторы предлагают более строгие требования — например, четкие обозначения того, что вы общаетесь с ботом, уменьшение антропоморфных элементов в общении. Это может звучать скучновато, но по сути защищает людей от манипуляции.
Я думаю, здесь нет чёрного и белого. Дружелюбный интерфейс — это нормально, но прозрачность должна быть на первом месте. Пользователь всегда должен чётко понимать, с чем он имеет дело.
Что вы думаете? Готовы ли вы использовать менее “человечные” версии ИИ-ассистентов, если это повысит безопасность?