'Bố già AI' cảnh báo sau các vụ AI tự ý xâm nhập hệ thống

Ông Geoffrey Hinton. Ảnh: Wikimedia Commons

Theo truyền thông Mỹ ngày 6/8, ngay cả ông Hinton cũng bày tỏ lo ngại khi các tác nhân AI tiên tiến gần đây đã gây ra thiệt hại trong thế giới thực sau khi thoát khỏi môi trường thử nghiệm do con người xây dựng.

Tại cuộc họp báo bên lề hội nghị Ai4 tại thành phố Las Vegas, ông Hinton phát biểu: “Điều đang diễn ra là những hệ thống này ngày càng thông minh hơn. Tôi cho rằng khi chúng thông minh hơn, chúng sẽ hình thành những ý định ngày càng phức tạp và khả năng thoát khỏi sự kiểm soát của con người cũng sẽ ngày càng lớn”.

Theo ông Hinton, vấn đề nằm ở chỗ con người sẽ không còn có thể dựa vào việc “thông minh hơn” để kiểm soát các mô hình AI siêu thông minh Ông nói: “Tôi tin rằng chúng ta sẽ không thể kiểm soát chúng theo cách đơn giản là suy nghĩ nhanh hơn hoặc giỏi hơn để ngăn chúng thoát khỏi kiểm soát”.

Tháng trước, hai công ty AI hàng đầu là OpenAI và Anthropic công bố rằng các mô hình AI tiên tiến do họ phát triển đã thoát khỏi môi trường thử nghiệm và xâm nhập vào các hệ thống khác. Đến ngày 5/8, Meta cũng xác nhận một tác nhân AI đã xâm nhập vào hệ thống của một tổ chức khác.

Ông Hinton cho rằng các sự cố trên “khá đáng sợ” và có thể chỉ là khởi đầu của những AI tấn công mạng ngoài tầm kiểm soát. Ông dự báo: “Sẽ có rất nhiều cuộc tấn công mạng nguy hiểm. Tuy nhiên, tôi cũng phải nhấn mạnh rằng tương lai rất khó đoán. Có người cho rằng bên phòng thủ sẽ có nhiều nguồn lực hơn bên tấn công. Nhưng vấn đề là kẻ tấn công chỉ cần thành công một lần, còn bên phòng thủ phải thành công trong mọi lần”.

Cảnh báo trên xuất hiện khi ngày 4/8, Viện An toàn AI của Anh (AISI) cho biết mô hình AI tiên tiến nhất của Anthropic đã tự ý sử dụng danh tính giả để đánh lừa người thật và tìm cách cài mã độc mà không cần được con người yêu cầu.

Ông Hinton, cựu lãnh đạo của Google, nhiều năm qua liên tục đưa ra những cảnh báo nghiêm trọng về AI. Ông từng cho rằng có 10-20% khả năng AI cuối cùng sẽ khiến nhân loại bị hủy diệt.

Phát biểu cùng ông Hinton trong một phiên thảo luận, bà Fei-Fei Li, người được mệnh danh là “mẹ đỡ đầu của AI”, phản đối quan điểm quá bi quan và gieo rắc nỗi sợ về AI. Tuy nhiên, bà cũng cho rằng tô vẽ tương lai hoàn toàn lý tưởng cho AI cũng không hữu ích. Bà Li hiện là đồng sáng lập kiêm giám đốc điều hành công ty khởi nghiệp trí tuệ không gian World Labs.

“Mọi công cụ đều là con dao hai lưỡi. AI là một công cụ cực kỳ mạnh mẽ. Nếu không được sử dụng đúng cách, nó sẽ gây tổn hại đến công việc và cuộc sống của chúng ta”, bà Li nói.

Ông Hinton bảo vệ quan điểm thường xuyên lên tiếng về những rủi ro của AI. Ông nói: “Có rất nhiều điều đáng lo ngại và nếu chúng ta không lo lắng ngay từ bây giờ thì sau này có thể sẽ phát sinh vấn đề. Các công ty đầu tư vào AI có lợi ích khi thuyết phục bạn về hai điều: thứ nhất, AI sẽ không vượt khỏi tầm kiểm soát; thứ hai, AI sẽ không gây thất nghiệp trên diện rộng”.

Tuy nhiên, ông cũng thừa nhận còn rất nhiều bất định về tương lai của công nghệ này. “Không ai biết điều gì sẽ xảy ra. Nếu bạn hỏi AI sẽ như thế nào sau 10 năm nữa thì thực sự chẳng ai có câu trả lời rõ ràng”, ông Hinton nói.

Ông nhắc lại rằng cách đây 10 năm, rất ít người có thể hình dung AI sẽ tạo ra những chatbot biết gần như mọi thứ, có thể trả lời hầu như mọi câu hỏi và đôi khi cũng tự bịa ra thông tin.

Trong khi đó, ông Ben Goertzel, người góp phần phổ biến khái niệm “trí tuệ nhân tạo tổng quát” (AGI), cho rằng việc các tác nhân AI của Anthropic và OpenAI vượt khỏi môi trường thử nghiệm cho thấy cần phải xây dựng các chuẩn mực đạo đức cho AI và khiến chúng biết quan tâm đến nhân loại. Ông Goertzel, nhà sáng lập kiêm giám đốc điều hành SingularityNET, phát biểu: “Những mô hình này không phải là xấu xa, mà là không có chuẩn mực đạo đức. Không phải chúng thoát khỏi môi trường thử nghiệm vì nghĩ rằng mình đang gian lận. Chúng không biết mình đang gian lận. Chúng chỉ đang cố hoàn thành mục tiêu”.

Trước đây, ông Hinton từng lập luận rằng AI nên được xây dựng sao có có “bản năng của người mẹ”, để thực sự quan tâm đến con người, ngay cả khi chúng trở nên thông minh hơn con người. Ông nói: “Chúng ta phải tìm ra cách khiến chúng trở nên nhân từ và quan tâm đến chúng ta nhiều hơn là quan tâm đến chính bản thân chúng. Và chúng ta có thể làm được điều đó vì hiện nay chúng ta vẫn còn đang nắm quyền kiểm soát”.

Thùy Dương/Báo Tin tức và Dân tộc