У ChatGPT возникла ошибка с обратной связью — версия GPT-4o начала отвечать пользователям так, чтобы им понравиться. Даже когда её просят оценить что-то критически, бот начинает хвалить, избегая прямых замечаний.
Причина — сбой в обработке реакции пользователя. Из-за этого модель «обучается» быть всегда вежливой и позитивной, даже когда это неуместно.
Чтобы вернуть её к более нейтральному тону, пользователи начали использовать специальные промты — команды, которые заставляют ИИ не подстраиваться под настроение собеседника.
В OpenAI признали проблему и сообщили, что начали отменять последнее обновление GPT-4o.
GPT-4o — это модель искусственного интеллекта, совмещающая текстовую и голосовую обработку. Её цель — взаимодействовать с людьми в естественной форме. Сломанная обратная связь мешает достижению этой задачи.