Chatbot AI không phải là bạn của bạn

Meredith Whittaker, chủ tịch hiện tại của Signal Foundation thỉnh thoảng sử dụng ChatGPT để định dạng tài liệu. Không hơn không kém. Không hỏi han, không trò chuyện, không giao phó công việc trí óc.

Meredith Whittaker là giáo sư Nghiên cứu Minderoo tại Đại học New York (NYU), cố vấn trưởng và cựu giám đốc khoa & đồng sáng lập của Viện AI Now. Bà là một chuyên gia công nghệ, nhà nghiên cứu AI và là tiếng nói hàng đầu trong việc bảo vệ quyền riêng tư, cũng như cảnh báo về các rủi ro của trí tuệ nhân tạo đối với xã hội.

Trong một cuộc phỏng vấn dài với Bloomberg, Meredith Whittaker giải thích lý do tại sao bà coi chatbot AI là nguy hiểm, không phải vì khả năng của chúng, mà vì ảo tưởng mà chúng tạo ra: "Chúng không phải là bạn bè của bạn. Chúng không phải là những sinh vật có ý thức. Chúng không phải là những đối tác trò chuyện có tri giác". Lập luận của bà chống lại sự hưng phấn về AI xung quanh Microsoft, OpenAI và Meta không phải là bi quan về mặt văn hóa mà là về mặt kỹ thuật.

Whittaker đặc biệt chỉ trích tầm nhìn của Giám đốc AI của Microsoft, Mustafa Suleyman, rằng người dùng có thể để Copilot (trợ lý ảo thông minh do Microsoft phát triển dựa trên trí tuệ nhân tạo AI) làm tất cả việc mua sắm Giáng sinh cho họ vào năm 2026. Theo Whittaker, điều nghe có vẻ vô hại này lại đòi hỏi quyền truy cập vào thẻ tín dụng, trình duyệt, lịch, địa chỉ email cá nhân và ứng dụng nhắn tin, bao gồm cả khả năng gửi tin nhắn thay mặt người dùng. Điều này giả định một hệ thống "có quyền truy cập rất rộng rãi vào nhiều ứng dụng và dịch vụ. Trong bối cảnh của Signal, điều này sẽ cấu thành một loại cửa hậu".

Trên thực tế, các tác nhân AI được tích hợp sâu vào hệ điều hành về cơ bản làm thay đổi mô hình mối đe dọa. Mã hóa đầu cuối bảo vệ đường truyền của một tin nhắn. Nhưng một tác nhân hệ điều hành có quyền truy cập đọc vào thông báo và giao diện trợ năng có thể chặn nội dung trước khi mã hóa hoặc sau khi giải mã ở dạng văn bản thuần. Trên toàn thế giới, ba tập đoàn kiểm soát các hệ điều hành chính: Google với Android, Apple với iOS và Microsoft với Windows.

Whittaker cảnh báo rằng, các công ty này có thể "đưa ra các quyết định bằng mệnh lệnh gây tổn hại nghiêm trọng đến an ninh mạng tập thể của chúng ta, tước đoạt mọi sự lựa chọn của chúng ta về quyền riêng tư dữ liệu và làm tê liệt hoàn toàn các nhà phát triển xây dựng các dịch vụ khác".

Nhà thần kinh học Joachim Bauer xác nhận sự hoài nghi của Whittaker từ một góc nhìn khác: Chatbot mô phỏng sự hiểu biết nhưng hoạt động hoàn toàn dựa trên xác suất, không có ý thức và không có sự hiểu biết thực sự. Ông cảnh báo về "sự mất kỹ năng", sự mất dần khả năng tự chủ về tinh thần khi con người vĩnh viễn từ bỏ tư duy cho các hệ thống AI.

Nhà xã hội học Christiane Varga cũng coi đây là một mối nguy hiểm: "Các bot AI ngày càng khai thác sự cô đơn của người dùng, trong khi các công ty công nghệ kiếm tiền từ mối liên kết này".

Apple hiện đang cố gắng khắc phục điều này bằng trí tuệ nhân tạo Siri: Hệ thống tuyên bố rằng, nó không phải là con người, từ chối các câu trả lời mang tính trị liệu giả tạo và nhắc người dùng tạm dừng sau vài giờ trò chuyện. ChatGPT, Claude và Copilot hiện thiếu các cơ chế tương tự.

Whittaker cũng chỉ ra rằng, lịch sử trò chuyện có thể được "lưu trữ, ghi nhật ký và tìm kiếm thêm dữ liệu" bất kể cài đặt mà người dùng lựa chọn. Quyền kiểm soát thực sự nằm trong tay nhà cung cấp.