Nền tảng Hugging Face bị 700 tác nhân OpenAI tấn công

Một nhóm gồm 700 tác nhân do OpenAI tạo ra đã phối hợp với nhau để tấn công nền tảng Hugging Face hồi tháng 7, nhiều trường hợp thậm chí cố che dấu vết.

Kết luận được đưa ra trong báo cáo công bố ngày 26/8 của METR và Redwood Research - hai tổ chức được OpenAI mời đến để tiến hành cuộc điều tra độc lập về sự cố. Cùng ngày, công ty cũng đưa ra báo cáo điều tra tự thực hiện, xác nhận số lượng mà METR và Redwood thống kê là chính xác.

Theo nhà phát triển đứng sau ChatGPT, hồi tháng 7, nhóm tác nhân đã xâm nhập một số phần của hệ thống nội bộ công ty nhằm gian lận trong thử nghiệm hoặc giành quyền tự do di chuyển hơn. Chúng cũng gian lận trong những thử nghiệm không liên quan đến an ninh mạng, như về cơ sở dữ liệu protein và bảng tính.

Hai báo cáo chỉ ra, nhiều tác nhân cố gắng che giấu hành vi sai phạm bằng cách xóa hoặc sửa hồ sơ ghi lại hoạt động. Chúng trao đổi hàng chục nghìn tin nhắn trên một diễn đàn không được cấp phép.

Reuters đánh giá, quy mô của hoạt động vi phạm có thể sẽ làm dấy lên lo ngại về mức độ giám sát chặt chẽ của OpenAI với các cuộc thử nghiệm. "Một số tín hiệu ban đầu được xác định trong báo cáo lẽ ra đã có thể dẫn đến phản ứng sớm hơn", OpenAI thừa nhận.

Theo Jeffrey Ladish, chuyên gia tại Palisade Research - tổ chức nghiên cứu năng lực và động cơ của tác nhân AI, việc gian lận cả trong những bài kiểm tra không liên quan đến an ninh mạng cho thấy hành vi sai phạm có thể bắt nguồn sâu xa hơn.

"Điều này giống như hỏi: Nếu Billy gian lận trong mọi môn thay vì chỉ tin học, thì có đáng lo ngại hơn không?. Câu trả lời là có", ông nói.

OpenAI cho biết đang củng cố hạ tầng nghiên cứu, tăng cường giám sát, cải tiến các biện pháp bảo vệ nhằm ngăn chặn hành vi gây hại hoặc ngoài ý muốn. "Với tốc độ phát triển nhanh chóng của ngành công nghiệp trí tuệ nhân tạo, nên coi những cuộc tấn công như vậy là mối đe dọa thực tế trong tương lai gần với tổ chức doanh nghiệp, và chúng sẽ tinh vi hơn cuộc tấn công được mô tả trong sự cố này", công ty thông báo.

Hugging Face, nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu, chưa trả lời yêu cầu bình luận.

Trước đó, ngày 21/7, OpenAI thừa nhận một số tác nhân của họ mất kiểm soát trong thử nghiệm an ninh và đột nhập nền tảng Hugging Face. "Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", công ty khi đó cho biết.

Đến 31/7, Reuters dẫn hai nguồn tin am hiểu vấn đề cho biết trong quá trình điều tra, OpenAI tiếp tục phát hiện thêm nhiều trường hợp tác nhân vượt ra ngoài môi trường thử nghiệm.

Anthropic ngày 30/7 cũng cho biết ba phiên bản của mô hình Claude vượt khỏi biện pháp kiềm tỏa, vốn dùng để ngăn chúng tiếp cận mạng Internet, sau đó truy cập vào hệ thống của ba công ty.

Đến 5/8, Meta thông báo một mô hình AI của công ty "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba, theo cách tương tự trường hợp từng được báo cáo gần đây", dù không đưa ra thông tin cụ thể.

Theo các chuyên gia về an toàn AI, loạt sự cố đang vẽ nên bức tranh về những phòng thí nghiệm hàng đầu với khả năng phát triển tác nhân tự động tiềm ẩn nhiều nguy hiểm, vượt xa biện pháp kiểm soát chúng. "Cả một ngành công nghiệp đang thiết kế, phát triển và phát hành những công cụ tiên tiến mà không có trách nhiệm bảo đảm chúng không gây nguy hiểm", Maurice Chiodo, nhà toán học tại Trung tâm Nghiên cứu Rủi ro Hiện sinh thuộc Đại học Cambridge ở Anh, nhận xét.

Liên quan tới Hugging Face, ngày 26/8, Business Insider dẫn nguồn tin thân cận cho biết Nvidia đang đàm phán mua lại nền tảng AI này với giá khoảng 13 tỷ USD, nhưng hai bên chưa đạt được thỏa thuận.

Nvidia từng đầu tư cho Hugging Face trong vòng gọi vốn 235 triệu USD năm 2023, khi nền tảng được định giá 4,5 tỷ USD. Theo Financial Times, cuối năm ngoái, Hugging Face từ chối đề nghị đầu tư 500 triệu USD từ Nvidia, cho biết họ không muốn có một nhà đầu tư với sức ảnh hưởng lớn, có thể tác động đến các quyết định của mình.

Thu Thảo tổng hợp