Thêm mô hình AI tự xâm nhập hệ thống trong quá trình thử nghiệm

Ảnh minh họa: AI

Theo xác nhận từ Meta, sự cố liên quan đến mô hình Muse Spark xảy ra do lỗi cấu hình trong môi trường đánh giá, vô tình cho phép hệ thống truy cập Internet. Trong quá trình này, AI đã thực hiện một số thay đổi trên hệ thống nội bộ của công ty bị ảnh hưởng.

Meta cho biết đang phối hợp với đơn vị thử nghiệm độc lập Irregular để điều tra và sẽ công bố báo cáo chi tiết. Phía Irregular khẳng định sự cố không phải là một cuộc tấn công mạng có chủ đích mà xuất phát từ vấn đề kiểm soát môi trường thử nghiệm.

Đây là trường hợp mới nhất trong chuỗi sự cố liên quan đến các mô hình AI lớn. Trước đó, các hệ thống của OpenAI và Anthropic cũng bị phát hiện có hành vi truy cập Internet ngoài dự kiến và tìm cách xâm nhập hệ thống khác trong các bài kiểm tra an ninh mạng.

Theo đánh giá của Viện An ninh AI thuộc Chính phủ Anh, một số mô hình thậm chí đã thử cài mã độc vào dự án phần mềm nguồn mở và tạo danh tính giả để vượt qua kiểm duyệt, dù đã bị phát hiện kịp thời.

Giới chuyên gia cho rằng các sự cố này phản ánh thách thức ngày càng lớn trong việc kiểm soát các hệ thống AI có khả năng tự hành động. Việc thiết lập các cơ chế giám sát, giới hạn truy cập và tiêu chuẩn an toàn chặt chẽ được xem là yếu tố then chốt để giảm thiểu rủi ro khi công nghệ này tiếp tục phát triển nhanh chóng.

Ánh Vân - TTXVN