Chatbot AI và những nguy cơ tiềm ẩn đối với trẻ nhỏ

Gia tăng rủi ro từ các “bạn đồng hành” ảo

Ngày 24/3, Cơ quan Giám sát An ninh mạng Australia (eSafety) cảnh báo các chatbot trí tuệ nhân tạo được thiết kế như “bạn đồng hành” đang làm gia tăng nguy cơ trẻ em tiếp xúc với nội dung độc hại trên môi trường số.

AI thân thiện nhưng không vô hại với trẻ em.

Theo báo cáo của cơ quan này, nhiều nền tảng AI chưa triển khai đầy đủ các biện pháp bảo vệ trẻ em, đặc biệt trước các nội dung nhạy cảm hoặc không phù hợp.

Đáng chú ý, các chatbot có khả năng tương tác tự nhiên, mô phỏng giao tiếp như con người, khiến trẻ dễ hình thành sự gắn bó và tin tưởng, từ đó gia tăng nguy cơ tiếp nhận thông tin sai lệch hoặc nội dung tiêu cực.

Báo cáo của eSafety cho thấy nhiều nền tảng chatbot hiện chưa có cơ chế xác minh độ tuổi hiệu quả, chủ yếu dựa vào việc người dùng tự khai báo khi đăng ký.

Bên cạnh đó, khả năng kiểm soát nội dung do người dùng tạo ra còn hạn chế, đặc biệt với các nội dung liên quan đến xâm hại trẻ em hoặc nội dung không phù hợp.

Một số nền tảng thậm chí chưa có đội ngũ chuyên trách về kiểm duyệt an toàn nội dung, làm gia tăng nguy cơ phát tán thông tin độc hại trên diện rộng.

Ngoài ra, việc thiếu các cơ chế can thiệp kịp thời trong những tình huống nhạy cảm cũng là vấn đề đáng lo ngại. Nhiều chatbot không chuyển hướng người dùng tới các kênh hỗ trợ khi xuất hiện nội dung liên quan đến khủng hoảng tâm lý.

Ảnh hưởng đến tâm lý và hành vi của trẻ

Theo thống kê, khoảng 8% trẻ em trong độ tuổi 10–17 tại Australia, tương đương khoảng 200.000 em, đã từng sử dụng các dịch vụ “bạn đồng hành AI”.

Sự phổ biến nhanh chóng của các công cụ này đặt ra lo ngại về tác động lâu dài đối với sức khỏe tâm thần của trẻ. Khi coi chatbot như một “người bạn”, trẻ có thể phụ thuộc vào AI để chia sẻ cảm xúc hoặc tìm kiếm lời khuyên, thay vì tương tác với người thật.

Các chuyên gia cảnh báo rằng mối quan hệ này có thể làm suy giảm khả năng giao tiếp xã hội, đồng thời khiến trẻ dễ bị ảnh hưởng bởi những nội dung thiếu kiểm chứng hoặc mang tính tiêu cực.

Trước những rủi ro gia tăng, nhiều quốc gia đang xem xét siết chặt quản lý đối với các nền tảng chatbot AI nhằm bảo vệ người dùng, đặc biệt là trẻ em.

Các biện pháp được đề xuất bao gồm tăng cường xác minh độ tuổi, kiểm soát nội dung chặt chẽ hơn và yêu cầu các nền tảng chịu trách nhiệm đối với những rủi ro phát sinh từ sản phẩm của mình.

Giới chuyên gia cho rằng, cùng với hoàn thiện hành lang pháp lý, cần nâng cao nhận thức của phụ huynh và nhà trường trong việc hướng dẫn trẻ sử dụng công nghệ một cách an toàn, lành mạnh.

Sự phát triển của trí tuệ nhân tạo mở ra nhiều cơ hội trong giáo dục và giải trí, nhưng cũng đi kèm với không ít thách thức.

Việc kiểm soát các chatbot “bạn đồng hành AI” không chỉ nhằm hạn chế rủi ro mà còn hướng tới xây dựng môi trường số an toàn, nơi trẻ em có thể tiếp cận công nghệ một cách tích cực và có trách nhiệm.

Trong bối cảnh AI ngày càng hiện diện sâu rộng trong đời sống, việc cân bằng giữa đổi mới và bảo vệ người dùng, đặc biệt là nhóm dễ bị tổn thương, trở thành yêu cầu cấp thiết đối với các nhà quản lý và doanh nghiệp công nghệ.