Bất ngờ với lỗ hổng trong các công cụ bảo mật AI hiện nay

Trong một tập phát sóng của Lenny's Podcast, nhà nghiên cứu bảo mật AI Sander Schulhoff đã chỉ ra rằng các nhóm an ninh mạng truyền thống không được trang bị đủ để xử lý các vấn đề bảo mật liên quan đến trí tuệ nhân tạo. Ông nhấn mạnh rằng các nhóm này thường chỉ được đào tạo để vá lỗi và xử lý các lỗ hổng đã biết, trong khi AI hoạt động theo cách hoàn toàn khác.

Schulhoff nêu rõ rằng có một sự không phù hợp giữa cách các đội an ninh mạng suy nghĩ và cách các mô hình ngôn ngữ lớn gặp thất bại. Ông cho rằng: "Bạn có thể vá một lỗi, nhưng bạn không thể vá một bộ não", ám chỉ sự phức tạp của việc bảo mật AI.

Thêm vào đó, Schulhoff cũng bày tỏ lo ngại về việc nhiều tổ chức hiện nay thiếu nhân lực có khả năng hiểu và khắc phục các rủi ro bảo mật AI. Ông cũng chỉ trích các startup an ninh AI khi cho rằng nhiều công cụ của họ không thực sự mang lại sự bảo vệ hiệu quả, và những tuyên bố rằng các công cụ này có thể 'bắt được mọi thứ' là hoàn toàn sai lầm.

Trong bối cảnh đó, Google đã thực hiện một bước đi chiến lược vào tháng 3 khi mua lại Wiz, một startup an ninh mạng, với giá 32 tỷ USD nhằm củng cố vị trí trong lĩnh vực an ninh đám mây. Thương vụ này được Business Insider đánh giá là một phần trong nỗ lực tăng cường mảng bảo mật của Google.