OpenAI giảm tốc độ phát triển AI tiên tiến

OpenAI hoãn thực hiện đợt huấn luyện AI quy mô lớn nhất từng được lên kế hoạch. Ảnh: Rappler.

OpenAI cho biết đã tạm dừng hoạt động huấn luyện tăng cường với các mô hình AI mới nhất dự định triển khai trong hai tuần để củng cố môi trường nghiên cứu, tăng cường các biện pháp bảo vệ và mở rộng hệ thống giám sát. Đợt huấn luyện quy mô lớn nhất dành cho mô hình AI thế hệ mới vẫn đang bị đình chỉ.

OpenAI sẽ tạm thời duy trì các đợt huấn luyện và đánh giá quy mô nhỏ để theo dõi hành vi của mô hình AI. Song song đó, công ty kiểm tra hiệu quả các lớp bảo vệ và bảo đảm các yêu cầu an toàn được đáp ứng trước khi tăng quy mô huấn luyện.

Giám đốc Điều hành (CEO) OpenAI Sam Altman xác nhận công ty hiện yêu cầu các tiêu chuẩn khắt khe hơn về “tính căn chỉnh” đảm bảo AI luôn tuân thủ sự giám sát của con người trong suốt quá trình huấn luyện. Nhằm tăng cường an toàn, OpenAI đang đầu tư thêm các hệ thống AI phụ trợ để giám sát chặt chẽ hoạt động của các đại lý AI trong quá trình kiểm thử.

OpenAI tăng cường giám sát các tác nhân AI trong quá trình đánh giá. Ảnh: UA.NEWS.

Ngoài sự việc Hugging Face, OpenAI cũng xác nhận, các mô hình của OpenAI đã lợi dụng một “lỗi cấu hình” trong môi trường thử nghiệm để kết nối Internet và khai thác trái phép một trang web.

GPT-5.6 và các mô hình tiên tiến khác, bao gồm cả loạt Mythos của đối thủ chính của OpenAI là Anthropic, đã gây lo ngại về khả năng xâm phạm các hệ thống phòng thủ an ninh mạng. Cả hai công ty Mỹ này đều phải tạm thời hoãn phát hành rộng rãi các công nghệ mới nhất nói trên, do Washington lo ngại rằng chúng có thể được sử dụng để xâm nhập vào cơ sở hạ tầng quan trọng.

Thanh Giang

Nguồn: The Guardian.