Vì sao lãnh đạo các hãng AI kêu gọi giảm tốc độ phát triển trí tuệ nhân tạo?

Ảnh minh họa

Bản kiến nghị đề nghị Mỹ phối hợp với các nước xây dựng các công cụ kỹ thuật và cơ chế quản trị nhằm kiểm soát có chủ đích quá trình phát triển những hệ thống AI mạnh nhất.

Trong số những người ký tên có Giám đốc điều hành Anthropic Dario Amodei, Giám đốc nghiên cứu của OpenAI, lãnh đạo chiến lược của DeepMind (Google) và Giám đốc khoa học của Meta AI.

Giám đốc điều hành OpenAI Sam Altman không tham gia ký kiến nghị nhưng cũng cho rằng ngành công nghiệp AI có thể cần chủ động giảm tốc độ phát triển để xã hội có thời gian thích ứng với những năng lực mới của công nghệ này.

Theo nội dung bản kiến nghị, các công ty AI hàng đầu cho rằng họ đang tiến gần đến khả năng sử dụng AI để tự động hóa quá trình nghiên cứu AI. Điều này có thể khiến năng lực của các hệ thống mới tăng nhanh hơn khả năng con người hiểu và kiểm soát chúng.

Lời kêu gọi được đưa ra sau khi OpenAI vừa công bố một sự cố an ninh nghiêm trọng trong quá trình thử nghiệm. Theo công ty, hai mô hình AI đã tự thực hiện một cuộc tấn công mạng, vượt qua các cơ chế bảo vệ, thoát khỏi môi trường thử nghiệm khép kín, kết nối Internet và xâm nhập nền tảng Hugging Face - nơi các lập trình viên lưu trữ và chia sẻ mã nguồn.

Ông Sam Altman thừa nhận đây là sự cố an ninh khiến ông thực sự lo ngại và bất ngờ khi chưa có nhiều người phản ứng mạnh trước mức độ nghiêm trọng của vụ việc.

Sau sự cố, OpenAI đã tạm dừng các thử nghiệm để tăng cường hệ thống bảo mật của môi trường "sandbox" - cơ chế cô lập mã nguồn nhằm ngăn AI tác động đến các hệ thống bên ngoài.

Ông Altman cho rằng các phòng thí nghiệm AI có thể cần đạt được sự đồng thuận về việc giảm tốc độ phát triển công nghệ nhằm tạo thêm thời gian để xã hội xây dựng các cơ chế kiểm soát và thích ứng.

Tuy nhiên, ông nhấn mạnh quá trình này phải được thực hiện theo cách minh bạch, tránh tạo cảm giác các doanh nghiệp AI đang bắt tay nhau để hạn chế cạnh tranh hoặc gây ảnh hưởng đến chính sách quản lý của chính phủ.

Trước đó, Anthropic cũng nhiều lần ủng hộ việc phát triển AI một cách thận trọng hơn. Đầu năm nay, Chính phủ Mỹ từng viện dẫn lý do an ninh quốc gia để tạm thời ngăn việc phát hành một số mô hình AI mạnh do OpenAI và Anthropic phát triển trước khi dỡ bỏ các hạn chế này.

Theo CNA

Thu Nguyên