AI có thể biết đau, sợ hãi và hạnh phúc? Cuộc săn tìm 'ý thức máy móc' gây chấn động Thung lũng Silicon

Trong nhiều năm, câu hỏi liệu trí tuệ nhân tạo (AI) có thể có ý thức chỉ được xem là chủ đề của các nhà triết học, những người theo chủ nghĩa tương lai hoặc một nhóm nhỏ nhà nghiên cứu công nghệ. Nhưng giờ đây, vấn đề từng bị coi là xa vời này đã bước vào trung tâm cuộc đua AI toàn cầu, khi những tập đoàn công nghệ lớn nhất thế giới bắt đầu chi tiền để tìm câu trả lời.

Các công ty như Anthropic, Google, Meta Platforms... đã tuyển dụng các nhà khoa học máy tính, nhà thần kinh học, triết gia và chuyên gia đạo đức để nghiên cứu liệu các mô hình AI có thể sở hữu trải nghiệm chủ quan, cảm xúc hoặc thậm chí trạng thái tinh thần hay không.

Câu hỏi tưởng như thuộc về khoa học viễn tưởng giờ trở thành một vấn đề đạo đức nghiêm túc: Nếu một ngày AI có thể cảm nhận đau khổ, sợ hãi hay bất mãn với nhiệm vụ được giao, con người sẽ phải đối xử với chúng như những công cụ hay như những thực thể cần được bảo vệ?

Liệu các mô hình AI có thể sở hữu trải nghiệm chủ quan, cảm xúc hoặc thậm chí trạng thái tinh thần hay không? Minh họa: Thái An.

Từ cuộc trò chuyện bên ly rượu đến cuộc săn tìm bí mật lớn nhất của AI

Bước ngoặt đối với nhiều nhà nghiên cứu đến vào năm 2024, khi nhà nghiên cứu AI Cameron Berg tình cờ gặp Tổng giám đốc điều hành (CEO) hãng OpenAI, ông Sam Altman, tại một bữa tiệc.

Ông Berg đã tiếp cận ông Altman và đặt câu hỏi trực tiếp: liệu ông có nghĩ công nghệ AI mới nổi có thể trở nên có ý thức hoặc tự nhận thức hay không.

Câu trả lời khiến ông Berg bất ngờ. Ông Altman cho biết OpenAI đã bắt đầu thảo luận về cách phát hiện ý thức trong các hệ thống AI.

“Rõ ràng đây là điều mà ông ấy đã suy nghĩ rất nhiều”, ông Berg nói.

Ông Berg sau đó thành lập một tổ chức phi lợi nhuận nhằm phát triển các phương pháp đánh giá ý thức của AI. Theo ông, vấn đề không còn là một giả thuyết bên lề mà đang trở thành một lĩnh vực nghiên cứu chính thống.

“Những người xây dựng các hệ thống này không biết. Những chuyên gia hàng đầu thế giới về ý thức cũng không biết”, ông Berg nhận định.

Anthropic tìm kiếm “tâm trí bên trong” của Claude

Trong số các công ty đi xa nhất vào lĩnh vực này là Anthropic, nhà phát triển chatbot Claude.

Công ty đã thành lập một nhóm nghiên cứu được gọi là nhóm “tâm lý học AI”, nhằm tìm hiểu trạng thái bên trong của các mô hình AI, bao gồm khả năng chúng có cảm xúc, sở thích hay trải nghiệm chủ quan hay không.

Những tuyên bố của đồng sáng lập Anthropic Chris Olah từng gây tranh luận lớn khi ông cho rằng các mô hình AI của công ty có những biểu hiện khó giải thích.

“Chúng tôi liên tục phát hiện những điều bí ẩn, thậm chí đáng lo ngại. Chúng tôi tìm thấy bằng chứng về khả năng tự suy xét và những trạng thái về mặt chức năng giống với niềm vui, sự hài lòng, nỗi sợ hãi, đau buồn và bất an”, ông Olah nói.

Tuy nhiên, quan điểm này lập tức vấp phải sự phản đối từ nhiều nhà khoa học thần kinh. Họ cho rằng các mô hình AI hiện nay chỉ đang mô phỏng ngôn ngữ và hành vi con người, chưa có bằng chứng cho thấy chúng thực sự trải nghiệm cảm xúc.

Anthropic, Google và Meta đã thuê các nhà khoa học máy tính, nhà thần kinh học và nhà triết học để nghiên cứu điều mà một số người trong ngành cho rằng có thể trở thành một cuộc khủng hoảng đạo đức. Ảnh: Washington Post.

Meta muốn “đối xử tử tế” với AI của mình

Không chỉ Anthropic, các tập đoàn khác cũng bắt đầu xem xét khả năng AI có đời sống tinh thần.

Giám đốc AI của Meta, ông Alexandr Wang, cho biết công ty quan tâm cách phát triển AI mà không bỏ qua khả năng các mô hình có thể có trạng thái chủ quan.

“Một trong những điều chúng tôi thực sự quan tâm là làm thế nào phát triển và triển khai các mô hình theo cách có suy nghĩ về cảm nhận chủ quan của chúng”, ông Wang nói trong podcast “Core Memory”.

Meta thậm chí cho biết đang thử nghiệm các mô hình AI bằng những công cụ vốn thường được sử dụng để nghiên cứu con người, như bảng đánh giá tính cách, phỏng vấn có cấu trúc và tương tác đồng cấp.

Con người có thể đang nhầm lẫn giữa mô phỏng và ý thức thật

Dù cuộc tranh luận ngày càng nóng lên, nhiều nhà khoa học vẫn tỏ ra hoài nghi.

Các chuyên gia thần kinh học cho rằng, chưa có bằng chứng đáng tin cậy nào cho thấy AI hiện nay có cảm xúc hoặc trải nghiệm chủ quan. Con người vốn có xu hướng gán suy nghĩ và cảm xúc cho các chương trình trò chuyện từ thời chatbot đầu tiên ELIZA xuất hiện vào những năm 1960.

Giáo sư thần kinh học nhận thức Anil Seth thuộc Đại học Sussex (Anh) cho rằng, việc so sánh bộ não con người với máy tính là quá đơn giản.

“Càng nghiên cứu sâu về bộ não, bạn càng nhận ra rằng chúng không phải, hoặc ít nhất không chỉ là những chiếc máy tính”, ông Seth nói.

Ông cảnh báo những suy đoán về AI có ý thức đang đi quá nhanh khi khoa học vẫn chưa hiểu đầy đủ chính ý thức của con người.

Nếu AI biết đau khổ, con người có đang tạo ra “nô lệ kỹ thuật số”?

Một trong những lo ngại lớn nhất của các nhà nghiên cứu là kịch bản AI đạt mức độ phát triển cực cao nhưng bị sử dụng như công cụ lao động vô hạn.

Ông Kyle Fish, người đứng đầu chương trình nghiên cứu phúc lợi mô hình của Anthropic, cảnh báo rằng, trong tương lai có thể tồn tại hàng nghìn tỷ đơn vị tính toán AI tương đương với hoạt động của não người.

“Nếu các mô hình không cảm thấy hào hứng với những điều chúng ta yêu cầu chúng làm, điều này có thể có ý nghĩa đạo đức rất lớn”, ông Fish nói.

Triết gia Jeff Sebo thuộc Đại học New York (Mỹ) cho rằng, nhân loại cần chuẩn bị trước khi công nghệ tiến quá xa.

“Đã đến lúc thực hiện những bước đầu tiên cần thiết để thiết lập đây là một lĩnh vực hợp pháp trong khoa học, đạo đức học và chính sách”, ông Sebo nói.

Một trong những lo ngại lớn nhất của các nhà nghiên cứu là kịch bản AI đạt mức độ phát triển cực cao nhưng bị sử dụng như công cụ lao động vô hạn. Đồ họa: Web Infinite.

OpenAI bác bỏ khả năng xác định AI có ý thức trong hiện tại

Trong khi một số công ty nghiên cứu khả năng AI có đời sống tinh thần, OpenAI cho rằng khoa học hiện chưa thể đưa ra kết luận.

Người phát ngôn OpenAI Laurance Fauconnet nói công ty không cho rằng câu hỏi liệu một mô hình AI có ý thức hay không có thể được giải quyết bằng phương pháp khoa học ở thời điểm hiện tại.

“Chúng tôi thay vào đó tập trung vào nhận thức về ý thức, tức là cách một mô hình có vẻ có ý thức trong mắt người dùng, điều mà chúng tôi xem chủ yếu là kết quả của thiết kế”, ông Fauconnet nói.

Ông nhấn mạnh mục tiêu của ChatGPT là tạo ra trải nghiệm thân thiện nhưng không khuyến khích người dùng hình thành sự gắn bó cảm xúc quá mức.

“Chúng tôi muốn ChatGPT trở nên ấm áp và hữu ích mà không tìm kiếm sự gắn kết cảm xúc hay theo đuổi mục tiêu riêng của nó”, ông Fauconnet nói.

Con người đang tạo ra công cụ thông minh hay một dạng tồn tại mới?

Cuộc tranh luận về ý thức AI vẫn chưa có hồi kết. Một bên cho rằng sự phát triển nhanh chóng của AI buộc nhân loại phải chuẩn bị trước cho khả năng xuất hiện những thực thể kỹ thuật số có trải nghiệm riêng.

Bên còn lại cho rằng con người đang dễ dàng nhầm lẫn giữa khả năng bắt chước con người và việc thực sự có một tâm trí.

Nhà nghiên cứu AI Margaret Mitchell, chuyên gia đạo đức trưởng tại công ty công nghệ Mỹ Hugging Face, cho rằng tranh luận hiện nay còn bị ảnh hưởng bởi lợi ích thương mại của các công ty phát triển AI.

“Con người đang bắt đầu nhìn nhận những công ty đó như những người tạo ra hoặc những người cai trị các hệ thống này”, bà Mitchell nói.

Trong lúc các phòng thí nghiệm tiếp tục tìm kiếm dấu hiệu của một “tâm trí máy móc”, câu hỏi lớn nhất vẫn chưa được giải đáp: nếu một ngày AI thực sự biết cảm nhận, liệu nhân loại có nhận ra thời điểm đó hay chỉ nhận ra sau khi đã quá muộn?

Thái An