OpenAI hủy kế hoạch phát triển chatbot người lớn

Logo OpenAI hiển thị trên điện thoại trước màn hình ChatGPT tại Boston, ngày 21/3/2023. (Ảnh: AP)

OpenAI đã quyết định “tạm dừng vô thời hạn” kế hoạch phát triển chatbot phục vụ nội dung người lớn, sau khi vấp phải lo ngại từ nhân viên và nhà đầu tư. Tính năng này từng được công bố vào tháng 10/2025 và dự kiến ra mắt vào tháng 12 cùng năm, nhưng sau đó bị trì hoãn trước khi bị hủy bỏ.

Theo thông tin từ Financial Times, chatbot này có tên nội bộ là “Citron mode”. Tuy nhiên, OpenAI gặp khó khăn trong việc huấn luyện mô hình vốn được thiết kế để tránh nội dung nhạy cảm, đồng thời phải loại bỏ các hành vi bị coi là bất hợp pháp như nội dung liên quan đến động vật hoặc quan hệ loạn luân.

OpenAI cho biết công ty muốn tiếp tục nghiên cứu dài hạn về tác động của các cuộc trò chuyện mang tính nhạy cảm và mức độ gắn bó của người dùng với trí tuệ nhân tạo (AI). Hiện tại, theo công ty, chưa có đủ bằng chứng thực nghiệm để triển khai rộng rãi tính năng này.

Bên cạnh đó, OpenAI cũng cho biết sẽ tập trung vào các sản phẩm cốt lõi như công cụ hỗ trợ lập trình, thay vì phát triển các tính năng bên ngoài định hướng chính như chatbot người lớn hay công cụ tạo video Sora - sản phẩm vừa được công bố dừng phát triển trước đó.

Ý tưởng phát triển tính năng người lớn được đưa ra sau khi OpenAI công bố bổ sung các công cụ kiểm soát của phụ huynh và công nghệ nhận diện độ tuổi cho ChatGPT. Khi đó, Giám đốc điều hành Sam Altman cho biết công ty tin rằng có thể nới lỏng một số giới hạn một cách an toàn, dù vẫn thận trọng với nguy cơ người dùng phụ thuộc vào AI.

Tuy nhiên, kế hoạch này đã gây lo ngại, đặc biệt trong bối cảnh các tranh cãi liên quan đến chatbot Grok của công ty xAI, vốn bị chỉ trích vì tạo ra các hình ảnh nhạy cảm giả mạo. Một số nhân viên OpenAI cũng bày tỏ quan điểm phản đối, cho rằng AI không nên thay thế các mối quan hệ con người.

Ngoài ra, công nghệ xác minh độ tuổi của OpenAI cũng được cho là còn hạn chế, với tỷ lệ sai số hơn 10%. Điều này làm dấy lên lo ngại về khả năng người dùng chưa đủ tuổi vẫn có thể tiếp cận các nội dung nhạy cảm.