Người ảnh hưởng AI "đổ bộ" đại nhạc hội Coachella: Thật giả khó phân biệt

Ngay khi lễ hội âm nhạc Coachella khai màn, các nền tảng mạng xã hội đã nhanh chóng bị "lấp đầy" bởi loạt bài đăng mang phong cách người ảnh hưởng. Tuy nhiên, điểm đáng chú ý là nhiều nội dung trong số này được tạo ra hoặc chỉnh sửa mạnh mẽ bằng công nghệ AI tạo sinh, khiến ranh giới giữa thực và ảo trở nên mờ nhạt hơn bao giờ hết.

Theo các thông tin được ghi nhận, nhiều tài khoản hoạt động dưới danh nghĩa nhà sáng tạo nội dung kỹ thuật số đã công khai việc sử dụng AI, trong khi một số khác lại không hề tiết lộ yếu tố này. Điều này dẫn đến một dòng nội dung hỗn hợp, nơi hình ảnh của người tham dự thật và các nhân vật ảo được tạo ra bằng AI xuất hiện xen lẫn, rất khó để phân biệt bằng mắt thường.

Một trong những tài khoản nổi bật là Ammarathegoat với hơn 170.000 người theo dõi trên Instagram. Tài khoản này đăng tải các hình ảnh cho thấy sự xuất hiện tại Coachella cùng những khoảnh khắc tương tác với gia đình Kardashian/Jenner và nhiều nhà sáng tạo nổi tiếng khác. Tuy nhiên, các hình ảnh này được cho là đã qua xử lý hoặc tạo dựng bằng AI, làm dấy lên câu hỏi về tính xác thực.

Về mặt kỹ thuật, xu hướng này tận dụng các công cụ tạo ảnh từ văn bản, chỉnh sửa ảnh nâng cao và kỹ thuật ghép ảnh để tạo ra những hình ảnh có độ chân thực cao. Quy trình phổ biến bao gồm việc kết hợp nhiều đầu ra từ các mô hình AI, sau đó tinh chỉnh để đạt được kết quả cuối cùng. Đáng chú ý, các dữ liệu về nguồn gốc hình ảnh thường bị loại bỏ trước khi đăng tải, trong khi các hệ thống phát hiện hiện tại vẫn gặp khó khăn khi phải xử lý nội dung đã qua hậu kỳ phức tạp.

Ba mô hình hoạt động chính đang được ghi nhận gồm việc sử dụng nhân vật ảo không công khai trong bối cảnh lễ hội, các tài khoản tự nhận là nhà sáng tạo AI, và dạng nội dung lai khi ảnh thật được chỉnh sửa hoặc thay thế một phần bằng yếu tố tạo sinh nhằm tăng tính thẩm mỹ.

Trên thực tế, việc dàn dựng hình ảnh hay "giả tham dự" sự kiện không phải là điều mới. Tuy nhiên, sự phát triển của AI đã đẩy quy mô và mức độ chân thực của hiện tượng này lên một tầm cao mới. Điều này khiến việc xác minh nội dung trở nên khó khăn hơn, ảnh hưởng trực tiếp đến các thương hiệu, nền tảng và cả những nhà nghiên cứu đang theo đuổi các giải pháp nhận diện nội dung giả mạo.

Trong bối cảnh đó, hiệu quả chiến dịch quảng bá và mức độ tuân thủ quy định của các thương hiệu ngày càng phụ thuộc vào khả năng xác minh danh tính và độ tin cậy của người ảnh hưởng. Đồng thời, các nền tảng mạng xã hội cũng phải đối mặt với cuộc chạy đua công nghệ giữa công cụ tạo sinh và hệ thống phát hiện, trong đó các chính sách yêu cầu công khai nội dung AI có thể đóng vai trò then chốt.

Thời gian tới, nhiều khả năng các nền tảng sẽ chịu áp lực phải triển khai các giải pháp nhận diện nguồn gốc nội dung tốt hơn, bao gồm nhãn cảnh báo bắt buộc và hệ thống phát hiện tự động được tối ưu hóa. Trong khi đó, các thương hiệu được khuyến nghị cần bổ sung quy trình xác minh chặt chẽ hơn khi hợp tác với người ảnh hưởng, đồng thời thận trọng hơn với các chỉ số tương tác dựa trên yếu tố hình ảnh.