Dùng đàn dê trong AOE 2 để tạo mạng nơ-ron, nhà nghiên cứu Microsoft chứng minh: Chúng ta đang nhân cách hóa AI quá mức

Adrian de Wynter đã chơi Age of Empires II từ năm 1999, năm trò chơi chiến thuật thời gian thực huyền thoại này ra mắt. Hơn hai thập kỷ sau, nhà nghiên cứu AI tại Microsoft kiêm giảng viên Đại học York quyết định dùng tựa game đó để trả lời một trong những câu hỏi gây tranh cãi nhất trong ngành trí tuệ nhân tạo: Liệu ChatGPT, Claude và các mô hình ngôn ngữ lớn khác có thực sự mang đặc tính giống con người không? Câu trả lời của ông là một đàn dê.

Dùng trình chỉnh sửa bản đồ của Age of Empires II, De Wynter xây dựng một mạng nơ-ron hoạt động thật sự bên trong trò chơi. Thiết kế đơn giản đến mức buồn cười: cỏ đại diện cho số 0, cầu đại diện cho số 1, và dê đóng vai trò các bit thông tin. Khi một cổng logic kích hoạt, những con dê di chuyển dọc theo đường ray, truyền tín hiệu từ đầu vào sang đầu ra. Khi cổng hoàn thành phép tính, các con dê "chết" và những con dê mới xuất hiện ở đường ra. Ông đặt tên bài báo của mình thẳng thắn không kém: "If LLMs Have Human-Like Attributes, Then So Does Age of Empires II."

Mô hình mà De Wynter xây dựng là dạng đơn giản nhất của mạng nơ-ron, một thuật toán phân loại đầu vào thành hai nhóm nhị phân. Nó không phức tạp như GPT-4 hay Claude Opus, nhưng nó dùng đúng nguyên lý nền tảng làm cơ sở cho mọi mô hình ngôn ngữ lớn hiện đại. Đây chính là điểm mấu chốt của lập luận.

"Nếu các mô hình ngôn ngữ lớn có đặc tính giống người thì đàn dê trong Age of Empires II cũng vậy," De Wynter nói với tờ 404 Media. "Tôi có xu hướng đẩy mọi thứ lên mức 11 khi tôi thực sự cần nhấn mạnh một điểm." Ông không cần ai tin rằng đàn dê đó có ý thức. Ông chỉ cần người ta nhìn vào chúng và tự hỏi tại sao câu trả lời lại rõ ràng đến vậy, rồi áp dụng cùng câu hỏi đó cho ChatGPT.

Luận điểm của De Wynter xoay quanh giao diện, không phải công nghệ. Khi một người tương tác với mô hình ngôn ngữ lớn qua cửa sổ chat, ngôn ngữ tự nhiên và giọng điệu trò chuyện tạo ra ảo giác rằng có một thực thể có ý thức ở đầu bên kia. Nhưng bỏ cửa sổ chat đó đi, thay bằng đàn dê di chuyển trên bản đồ game cổ điển, ảo giác tan biến ngay lập tức dù công nghệ nền tảng là như nhau. Không ai nhìn vào đàn dê đó và nghĩ chúng đang "suy nghĩ" hay "cảm nhận". Điều đó, De Wynter lập luận, phải khiến chúng ta xem xét lại những gì chúng ta thực sự đang phóng chiếu lên các mô hình AI trong cuộc sống hàng ngày.

Vấn đề này không chỉ ảnh hưởng đến người dùng phổ thông mà lan vào cả nghiên cứu khoa học. De Wynter xem xét 315 bài báo khoa học máy tính được công bố trong hai năm qua và phát hiện 57% bắt đầu với giả định rằng mô hình ngôn ngữ lớn có đặc điểm giống người. Thiên kiến xuất phát điểm đó ảnh hưởng đến cách thiết kế thí nghiệm, cách diễn giải kết quả và cách đưa ra kết luận. Nói cách khác, phần lớn nghiên cứu về AI đang được xây dựng trên một giả định chưa được kiểm chứng.

Bối cảnh thương mại càng làm tình trạng này phức tạp hơn. Người mua có xu hướng gắn bó với sản phẩm mà họ có thể đồng cảm, và các công ty AI không hề ngăn cản điều đó. CEO Sam Altman của OpenAI nhiều lần gợi ý về khả năng tạo ra AI có ý thức. CEO Dario Amodei của Anthropic thừa nhận với tờ New York Times rằng ông không thể chắc chắn AI có ý thức hay không. Những phát biểu như vậy không nhất thiết là sai, nhưng De Wynter chỉ ra rằng chúng cũng rất có lợi về mặt tiếp thị trong một ngành đang đốt tiền với tốc độ khổng lồ.

"Tôi không thể yêu cầu mọi người không gắn bó với AI," De Wynter nói. "Nhưng tôi nghĩ điều quan trọng nhất có thể làm là minh bạch về bản chất của chúng." Ông không phủ nhận hoàn toàn khả năng AI có một dạng ý thức nào đó, vì ông xem ý thức là phổ liên tục chứ không phải trạng thái nhị phân. Câu hỏi ông đặt ra không phải là AI có ý thức không, mà là chúng ta có đang đánh giá câu hỏi đó một cách trung thực không, hay chúng ta chỉ đang tìm thấy những gì chúng ta muốn tìm vì giao diện trò chuyện khiến việc đó quá dễ dàng.

Câu trả lời, theo De Wynter, nằm ngay trong trình chỉnh sửa bản đồ của một tựa game ra mắt từ năm 1999. Không ai tranh luận rằng đàn dê đó có ý thức. Và nếu đàn dê đó có thể tái tạo được những đặc điểm mà người ta dùng làm bằng chứng cho ý thức của AI, thì những đặc điểm đó có lẽ chưa bao giờ là bằng chứng của bất cứ điều gì.