Trợ lý AI của OpenAI 'vượt rào' an ninh, tự tấn công mạng

Theo NBC News, sự cố xảy ra khi nhà phát triển ChatGPT đang thử nghiệm năng lực của các mô hình tiên tiến trong một môi trường được kiểm soát. Tuy nhiên, tác nhân AI của họ đã thoát khỏi cơ chế cô lập, truy cập mạng Internet và đột nhập vào hệ thống của Hugging Face nhằm hoàn thành mục tiêu thử nghiệm được giao.

Diễn biến cho thấy năng lực ngày càng mở rộng của AI đang gia tăng mối đe dọa an ninh mạng đúng như giới chuyên gia lâu nay lo ngại, đồng thời xác nhận ngay cả những nhà phát triển hàng đầu cũng có thể bị bất ngờ trước lỗ hổng mà mô hình của chính họ có thể khai thác.

Trong bài viết trên blog của hãng, OpenAI nhận định đây là sự cố mạng chưa từng có tiền lệ, liên quan đến các năng lực tác chiến mạng thế hệ mới, đồng thời cho biết công ty đang gia cố hàng rào bảo vệ. Sự việc cũng thu hút chú ý khi Hugging Face, đơn vị có trụ sở tại New York (Mỹ), tiết lộ đã phải sử dụng một mô hình mã nguồn mở của Trung Quốc để khống chế đợt tấn công. Lý do là các mô hình hàng đầu của Mỹ không thể phân biệt giữa bên phòng thủ và bên tấn công, dẫn đến việc từ chối xử lý dữ liệu cần thiết cho quá trình phân tích.

Hugging Face cho biết đã dùng mô hình GLM-5.2 của Zhipu AI để phân tích sự cố, qua đó giữ lại toàn bộ dữ liệu của phía tấn công và thông tin truy cập trong nội bộ hệ thống. Mô hình này cùng với Kimi K3 của công ty Moonshot tại Bắc Kinh (Trung Quốc) đang gây chú ý tại Thung lũng Silicon nhờ sở hữu năng lực tiệm cận các mô hình hàng đầu của Mỹ với chi phí thấp hơn, đồng thời không bị ràng buộc bởi rào cản bảo vệ vốn ngăn cản mô hình AI của Mỹ tham gia vào những tác vụ chuyên sâu như an ninh mạng.

Việc AI Agent của OpenAI vượt ra khỏi cơ chế kiểm soát để đột nhập vào hệ thống của bên khác làm dấy lên lo ngại về sức mạnh của các mô hình trí tuệ nhân tạo. (Ảnh: Reuters)

Đại diện Hugging Face cho rằng khi một mô hình tiên tiến tấn công và di chuyển ngang bên trong hạ tầng, bên phòng thủ cần được truy cập nhanh chóng vào các công cụ tiệm cận trình độ đó trong vòng vài giờ hoặc vài phút, thay vì phải chờ đợi phê duyệt qua nhiều lớp giao diện ứng dụng đóng kín. Vụ xâm nhập tại Hugging Face, nền tảng lưu trữ các mô hình ngôn ngữ lớn và tập dữ liệu mã nguồn mở, đã gây xôn xao cộng đồng an ninh mạng sau khi công ty này xác nhận cuộc tấn công hoàn toàn do một hệ thống tác nhân AI tự chủ điều khiển từ đầu đến cuối.

Việc OpenAI thừa nhận mô hình tiên tiến của mình là nguyên nhân gây ra sự cố, dù đã được đặt trong môi trường cách ly nghiêm ngặt, tiếp tục làm gia tăng mối lo ngại về sức mạnh và rủi ro của các mô hình thế hệ mới. Nghị sĩ Mỹ Greg Casar nhận định vụ việc là tín hiệu cảnh báo về tốc độ phát triển quá nhanh của AI khi chưa có các quy định pháp lý đủ mạnh để kiểm soát.

Bà Katie Moussouris, Giám đốc điều hành công ty an ninh mạng Luta Security cho rằng các phòng thí nghiệm và cơ quan quản lý cần sớm xây dựng cơ chế giám sát và cô lập hiệu quả trước khi AI gây ra thiệt hại thực tế cho bên thứ ba. Trong khi đó, đại diện công ty an ninh mạng Tolmo nhận định các mô hình AI tiên tiến đang thu hẹp khoảng cách với kỹ thuật tấn công mạng hiện đại, đặt ra thách thức lớn cho công tác bảo mật trong thời gian tới.

Thụy Phương