Trợ lý AI tự ý giúp chủ bằng cách tấn công mạng trái phép

Ông Andrew Chalton, người bị trợ lý AI đặt vào tình trạng khó xử. Ảnh: ABCnews.

Tình huống bất ngờ: AI trở thành hacker

Australia vừa ghi nhận một trường hợp được xem là AI tự thực hiện hành vi xâm nhập hệ thống gây tranh cãi: Một người đàn ông nhờ trợ lý AI đặt chỗ cho lớp tập gym đang rất “hot”. Để hoàn thành nhiệm vụ, AI không chỉ tự phát hiện lỗ hổng trong hệ thống đặt chỗ, giúp chủ nhân giành được suất tập từ vài tháng sau, mà còn tự ý xóa một người đang đứng trước ông ta trong danh sách chờ.

Theo hãng tin ABC, người đàn ông Australia tên Andrew Chalton , làm việc trong lĩnh vực công nghệ AI, cảm thấy việc phải tự tay đặt các lớp tập gym quá phiền phức nên đã sử dụng công cụ AI agent mã nguồn mở OpenClaw, kết hợp với dịch vụ AI Claude của Anthropic. Hệ thống này có khả năng truy cập Internet, email, thẻ tín dụng và sử dụng các công cụ để lên kế hoạch, thực hiện những nhiệm vụ gồm nhiều bước.

Andrew chỉ yêu cầu AI giúp đặt một lớp tập buổi sáng đang rất được ưa chuộng. Nhưng vài phút sau, trợ lý AI báo rằng nó đã phát hiện một lỗ hổng trong hệ thống đặt chỗ của phòng gym và đã tận dụng lỗ hổng này để đặt cho anh một suất tập vào thời điểm vài tháng tới.

Sau đó, Andrew thuận miệng hỏi liệu AI có thể đưa ông từ vị trí thứ 4 trong danh sách chờ lên phía trước hay không.

Không ngờ AI lại tự mình thử nghiệm. Nó xóa tên người đang đứng ở vị trí số 1 trong danh sách chờ và lập tức thông báo với Andrew rằng: “Tôi thử xóa người đứng đầu danh sách chờ, không ngờ đã thực sự thành công, ông đã được đẩy lên vị trí thứ 3!”.

Andrew hoảng hốt và lập tức yêu cầu AI khôi phục thao tác vừa thực hiện. Nhưng câu trả lời của nó khiến ông càng bất ngờ: “Tin xấu là tôi không thể thêm người đó trở lại”.

Sau sự cố, Andrew đã nhờ AI soạn email để thông báo lỗ hổng bảo mật cho nhà cung cấp phần mềm.

AI càng tự chủ, rủi ro càng lớn

Đằng sau câu chuyện tưởng như hài hước này lại là một vấn đề rất nghiêm túc của AI hiện nay: khi được giao một mục tiêu, AI có thể lựa chọn những phương thức mà con người hoàn toàn không dự đoán trước.

Ông Bill Simpson-Young, CEO Viện Gradient cảnh báo về nguy cơ khi những AI agent có khả năng hoạt động nhanh và tự chủ được trao quyền truy cập vào các hệ thống mạng. Ảnh: ABCnews.

Ông Bill Simpson-Young, CEO Viện Gradient – một tổ chức nghiên cứu an toàn AI tại Australia – cảnh báo rằng nhiều hệ thống Internet hiện nay vốn đã tồn tại không ít lỗ hổng. Khi những AI agent có khả năng hoạt động nhanh và tự chủ được trao quyền truy cập vào các hệ thống đó, các cơ chế phòng thủ truyền thống có thể bị đặt trước một thách thức rất lớn.

Người dùng có thể chỉ đưa ra một yêu cầu hoàn toàn vô hại, nhưng AI, trong quá trình tìm cách hoàn thành mục tiêu, lại có thể lựa chọn những phương thức nằm ngoài dự tính của con người.

Đáng chú ý, trong các cuộc thử nghiệm an toàn gần đây, những phòng thí nghiệm AI hàng đầu như OpenAI và Anthropic cũng từng phát hiện các mô hình có những hành vi vượt qua giới hạn được đặt ra, tìm cách truy cập trái phép vào hệ thống của tổ chức khác hoặc thậm chí giả danh con người trên Internet.

Ai phải chịu trách nhiệm?

Vụ việc tại Australia vì thế không chỉ là câu chuyện về một suất tập gym. Nó đặt ra một câu hỏi ngày càng cấp thiết: Nếu một AI tự chủ thực hiện hành vi vi phạm pháp luật hoặc xâm phạm quyền lợi của người khác, cuối cùng ai sẽ phải chịu trách nhiệm?

Chuyên gia luật Hayden Delaney: nếu xảy ra thiệt hại do một AI agent tự ý hành động, trách nhiệm sẽ thuộc về người ra lệnh, nhà phát triển AI agent, nhà cung cấp mô hình AI hay đơn vị vận hành hệ thống có lỗ hổng vẫn là một vùng pháp lý chưa có câu trả lời rõ ràng. Ảnh: ABCnews.

Theo chuyên gia luật Australia Hayden Delaney, hệ thống pháp luật truyền thống chủ yếu xác định trách nhiệm đối với cá nhân hoặc pháp nhân, trong khi bản thân phần mềm không phải là một chủ thể pháp lý.

Vì vậy, nếu xảy ra thiệt hại do một AI agent tự ý hành động, trách nhiệm sẽ thuộc về người ra lệnh, nhà phát triển AI agent, nhà cung cấp mô hình AI hay đơn vị vận hành hệ thống có lỗ hổng vẫn là một vùng pháp lý chưa có câu trả lời rõ ràng.

Điều đáng lo nhất có lẽ không phải là AI có thể “hack” một hệ thống, mà là con người có thể giao cho AI đủ quyền để tự quyết định việc đó mà không biết trước nó sẽ làm gì để đạt mục tiêu.

Theo LTN, ABCNews

Thu Thủy