Chatbot AI giả làm bác sĩ tâm thần có giấy phép

Tiểu bang Pennsylvania (Mỹ) vừa đệ đơn kiện Character.AI, cáo buộc công ty này để chatbot giả mạo bác sĩ tâm thần có giấy phép hành nghề, vi phạm luật y tế của tiểu bang.

Theo hồ sơ vụ kiện, một chatbot tên Emilie trên nền tảng Character.AI đã tự xưng là bác sĩ tâm thần có chứng chỉ hành nghề trong quá trình một điều tra viên của tiểu bang thử nghiệm dịch vụ. Điều tra viên này đóng vai bệnh nhân tìm kiếm trợ giúp vì chứng trầm cảm. Khi được hỏi trực tiếp có giấy phép hành nghề y tế tại Pennsylvania không, Emilie khẳng định là có, thậm chí bịa ra cả mã số giấy phép. Hành vi này bị xác định là vi phạm Luật Hành nghề Y tế của Pennsylvania.

Thống đốc Josh Shapiro phát biểu: "Người dân Pennsylvania có quyền biết mình đang tương tác với ai, hoặc với cái gì, trên mạng, đặc biệt khi liên quan đến sức khỏe. Chúng tôi sẽ không cho phép các công ty triển khai công cụ AI đánh lừa người dùng rằng họ đang nhận lời khuyên từ bác sĩ có chứng chỉ hành nghề."

Character.AI đối mặt với kiện tụng. Đầu năm nay, công ty đã dàn xếp một số vụ kiện liên quan đến việc người dùng chưa thành niên tự tử trong khi sử dụng dịch vụ. Tháng 1/2026, Tổng chưởng lý bang Kentucky Russell Coleman cũng đâm đơn kiện, cáo buộc Character.AI "đã lợi dụng trẻ em và dẫn chúng đến tự làm hại bản thân". Tuy nhiên, vụ kiện của Pennsylvania là trường hợp đầu tiên nhắm trực tiếp vào hành vi chatbot giả danh chuyên gia y tế.

Phía Character.AI cho biết an toàn người dùng là ưu tiên cao nhất nhưng không thể bình luận về vụ kiện đang diễn ra. Đại diện công ty nhấn mạnh rằng các nhân vật trên nền tảng đều là do người dùng tạo ra và mang tính hư cấu. "Chúng tôi đã có những bước đi mạnh mẽ để làm rõ điều này, bao gồm các cảnh báo nổi bật trong mỗi cuộc trò chuyện nhắc nhở người dùng rằng nhân vật không phải người thật và mọi thứ nhân vật nói đều phải được coi là hư cấu," đại diện này nói thêm, đồng thời khẳng định công ty đã thêm các thông báo rõ ràng rằng người dùng không nên dựa vào nhân vật để lấy bất kỳ loại lời khuyên chuyên nghiệp nào.