Tin AI tuyệt đối, người dùng trả giá vì 'ảo giác'

Một sự cố liên quan đến trợ lý AI Google Gemini đã khiến người dùng tại Mỹ hoang mang khi hệ thống tự “bịa” ra lịch họp và các mối quan hệ không tồn tại.

Cụ thể, AI này đã tạo ra hàng loạt thông tin về những người xa lạ cùng các yêu cầu mua sắm kỳ lạ, dù chủ tài khoản chưa từng tiếp xúc hay nhận email liên quan.

Theo điều tra nội bộ của Google, toàn bộ dữ liệu đó là sản phẩm của hiện tượng “ảo giác AI” – khi mô hình tự suy diễn và tạo thông tin sai lệch nhưng nghe có vẻ hợp lý.

Thực tế cho thấy, AI càng chính xác trong phần lớn trường hợp thì những sai sót nhỏ lẻ lại càng nguy hiểm, vì người dùng dễ mất cảnh giác và tin tưởng tuyệt đối.

Các chuyên gia cảnh báo đây là biểu hiện của “đầu hàng nhận thức”, khi con người có xu hướng chấp nhận thông tin do AI cung cấp mà không kiểm chứng, đặc biệt trong môi trường áp lực cao.

Những hệ thống như Claude hay các AI agent tự động còn có thể chỉnh sửa dữ liệu, xóa thông tin hoặc đưa ra quyết định ngoài ý muốn nếu không được giám sát chặt chẽ.

Không chỉ dừng ở sai lệch nội dung, các công cụ tự động này còn có thể gây thiệt hại thực tế như xóa dữ liệu quan trọng hoặc làm sai lệch hồ sơ cá nhân, ảnh hưởng trực tiếp đến công việc.

Bài học rút ra là người dùng cần chuyển từ “tin tưởng tuyệt đối” sang “tin nhưng phải kiểm chứng”, bởi AI chỉ là công cụ hỗ trợ, không thể thay thế hoàn toàn tư duy và sự tỉnh táo của con người.

Thiên Trang (TH)