OpenAI xác nhận ChatGPT quá 'nịnh hót'

[june04]

OpenAI cho biết ChatGPT đưa ra những phản hồi "nịnh hót" sau bản cập nhật mới, khiến công ty phải khôi phục "tính cách" cũ cho chatbot.

Tuần trước, OpenAI phát hành bản cập nhật mô hình GPT-4o. Tuy nhiên, người dùng cho biết ChatGPT bắt đầu phản hồi theo cách "quá dễ chịu và hay khen". Nhiều người đăng ảnh chụp màn hình cho thấy AI này ca ngợi cả những ý tưởng nguy hiểm hoặc có vấn đề.


Logo ChatGPT trên điện thoại. Ảnh: AFP


Ngày 29/4, OpenAI cho biết bản cập nhật GPT‑4o cải thiện tính cách mặc định của mô hình, giúp nó trở nên trực quan và hiệu quả hơn. Tuy nhiên, công ty đã quá chú trọng vào phản hồi ngắn hạn và không dự đoán được sự phát triển tính cách của AI trong quá trình tương tác của người dùng với chatbot, dẫn đến việc ChatGPT có xu hướng phản hồi quá mức nhưng không chân thành.

CEO OpenAI Sam Altman cũng thừa nhận vấn đề trên X và cho biết bản cập nhật GPT-4o đã bị thu hồi để sửa lỗi liên quan đến tính cách của mô hình.

"Tương tác nịnh hót có thể gây khó chịu và không ổn định. Chúng tôi đang cải thiện điều này", OpenAI thông báo. Công ty đang thiết lập thêm một số quy tắc để tăng tính trung thực và minh bạch của mô hình, đồng thời sẽ ghi nhận phản hồi từ phía người dùng về các bản cập nhật mới trước khi triển khai rộng.