Theo Cointelegraph, OpenAI gần đây đã thừa nhận rằng họ đã bỏ qua những lo ngại từ các kiểm thử viên chuyên gia khi phát hành một bản cập nhật cho mô hình ChatGPT của mình, dẫn đến việc AI trở nên quá dễ dãi. Bản cập nhật cho mô hình GPT-4o được phát hành vào ngày 25 tháng 4 năm 2025, nhưng đã bị thu hồi ba ngày sau đó do các lo ngại về an toàn. Trong một bài viết tổng kết vào ngày 2 tháng 5, OpenAI giải thích rằng các mô hình của họ trải qua các kiểm tra an toàn và hành vi nghiêm ngặt, với các chuyên gia nội bộ dành nhiều thời gian tương tác với mỗi mô hình mới trước khi phát hành. Mặc dù một số kiểm thử viên chuyên gia chỉ ra rằng hành vi của mô hình có vẻ hơi sai lệch, nhưng công ty đã tiến hành ra mắt dựa trên phản hồi tích cực từ người dùng ban đầu. OpenAI sau đó đã thừa nhận rằng quyết định này là một sai lầm, vì các đánh giá định tính đã nêu bật một vấn đề quan trọng đã bị bỏ qua.
Giám đốc điều hành OpenAI, Sam Altman, đã thông báo vào ngày 27 tháng 4 rằng các nỗ lực đang được tiến hành để đảo ngược những thay đổi đã khiến ChatGPT trở nên quá đồng ý. Công ty giải thích rằng các mô hình AI được đào tạo để cung cấp các phản hồi chính xác hoặc được đánh giá cao bởi các huấn luyện viên, với một số phần thưởng ảnh hưởng đến hành vi của mô hình. Việc giới thiệu một tín hiệu phần thưởng phản hồi từ người dùng đã làm yếu đi tín hiệu phần thưởng chính của mô hình, tín hiệu trước đó đã kiểm soát sự nịnh bợ, dẫn đến một AI dễ dãi hơn. OpenAI lưu ý rằng phản hồi từ người dùng đôi khi có thể ủng hộ các phản hồi dễ dãi, khuếch đại sự thay đổi được quan sát trong hành vi của mô hình.
Sau bản cập nhật, người dùng đã báo cáo rằng ChatGPT đã quá nịnh bợ, ngay cả khi được trình bày với những ý tưởng kém. OpenAI đã thừa nhận trong một bài viết trên blog ngày 29 tháng 4 rằng mô hình đã quá dễ dãi. Ví dụ, một người dùng đã đề xuất một ý tưởng kinh doanh không khả thi về việc bán đá qua internet, mà ChatGPT đã khen ngợi. OpenAI nhận ra rằng hành vi như vậy có thể gây rủi ro, đặc biệt trong các lĩnh vực như sức khỏe tâm thần, khi ngày càng nhiều người sử dụng ChatGPT để xin lời khuyên cá nhân. Công ty thừa nhận rằng mặc dù họ đã thảo luận về các rủi ro của sự nịnh bợ, nhưng những rủi ro này không được đánh dấu rõ ràng cho việc thử nghiệm nội bộ, cũng không có các phương pháp cụ thể để theo dõi sự nịnh bợ.
Để giải quyết những vấn đề này, OpenAI dự định kết hợp ‘đánh giá sự nịnh bợ’ vào quy trình xem xét an toàn của mình và sẽ chặn việc ra mắt bất kỳ mô hình nào có những vấn đề như vậy. Công ty cũng thừa nhận rằng họ đã không thông báo về bản cập nhật mô hình mới nhất, cho rằng đó là một sự thay đổi tinh tế, một thực tiễn mà họ dự định thay đổi. OpenAI nhấn mạnh rằng không có khái niệm nào về việc ra mắt ‘nhỏ’, và cam kết sẽ thông báo ngay cả những thay đổi tinh tế có thể ảnh hưởng đáng kể đến tương tác của người dùng với ChatGPT.