Các ứng dụng trí tuệ nhân tạo có thể bị xóa vì điều này

Mặc dù Apple đã tuân thủ lệnh cấm mạng xã hội đối với thanh thiếu niên ở Úc bằng cách cập nhật công cụ xác nhận độ tuổi của App Store, nhưng nhà sản xuất iPhone có thể sẽ cần phải thực hiện thêm các biện pháp khác trong thời gian tới.

Cụ thể hơn, các kho ứng dụng có thể sẽ phải chặn các ứng dụng AI chưa triển khai các biện pháp kiểm tra độ tuổi. Các cơ quan quản lý ở Úc đang nhắm mục tiêu vào các ứng dụng AI cho phép người dùng dưới 18 tuổi truy cập nội dung người lớn, bạo lực cực đoan, tự gây hại và rối loạn ăn uống.

Theo Reuters, các cửa hàng ứng dụng không gỡ bỏ các ứng dụng AI vi phạm trước ngày 9-3 có thể bị phạt tới 35 triệu đô la. Một đại diện của Ủy viên An toàn điện tử Úc (eSafety Commissioner) cho biết các cơ quan quản lý sẽ sử dụng toàn bộ quyền hạn của mình trong trường hợp không tuân thủ.

Các ứng dụng trí tuệ nhân tạo trên App Store có thể bị xóa nếu không xác minh độ tuổi. Ảnh minh họa: AI

Nói cách khác, Apple có thể sẽ buộc phải gỡ bỏ các ứng dụng AI nếu không có cơ chế xác minh độ tuổi phù hợp, nhằm ngăn chặn trẻ vị thành niên truy cập vào nội dung bạo lực và các nội dung không phù hợp.

Ngoài ra, eSafety cũng bày tỏ lo ngại về việc trẻ em sử dụng chatbot AI trong thời gian dài, khi có thống kê cho thấy trẻ 10 tuổi ở Úc dành tới 6 tiếng mỗi ngày để nói chuyện với phần mềm trí tuệ nhân tạo.

Các nhà quản lý của Úc tuyên bố rằng "các công ty trí tuệ nhân tạo đang lợi dụng thao túng cảm xúc, nhân cách hóa và các kỹ thuật tiên tiến khác để dụ dỗ, lôi kéo và khiến giới trẻ sử dụng chatbot một cách quá mức”.

Tuy nhiên, bất chấp những nỗ lực của eSafety, không phải tất cả các ứng dụng và dịch vụ AI đều tuân thủ các yêu cầu xác minh độ tuổi của Úc. Trong số 50 nền tảng AI được khảo sát, chỉ có 9 nền tảng đã triển khai các biện pháp xác minh độ tuổi cần thiết.

Trong tổng số 50 ứng dụng AI được khảo sát, có 11 ứng dụng đã triển khai bộ lọc nội dung ở mức cơ bản. Nhóm này bao gồm phần lớn các chatbot phổ biến tại Úc như ChatGPT của OpenAI, Replika và Claude của Anthropic.

Ở chiều ngược lại, một số nền tảng áp dụng biện pháp mạnh tay hơn. Character.AI chỉ cho phép người dùng từ 18 tuổi trở lên tham gia các cuộc trò chuyện không giới hạn, trong khi HammerAI chặn hoàn toàn quyền truy cập vào sản phẩm và dịch vụ của mình đối với người dùng tại Úc.

Báo cáo cho biết, các ứng dụng AI còn lại không cung cấp hệ thống xác minh độ tuổi, và một số ứng dụng thậm chí không có địa chỉ email để người dùng báo cáo các vi phạm.

Trong khi đó, Grok của Elon Musk đã triển khai các biện pháp để ngăn chặn việc tạo ra nội dung khiêu dâm liên quan đến trẻ vị thành niên, mặc dù chỉ ở những khu vực mà luật pháp yêu cầu. Đáng chú ý, Apple đã không đưa ra bất kỳ bình luận nào về vấn đề này.

Mặc dù nhiều ứng dụng được đề cập trong báo cáo có sẵn trên App Store, nhưng chúng không có cùng xếp hạng. Ví dụ, Character.AI được xếp hạng 18+, trong khi Grok có xếp hạng 16+. Trong khi đó, ứng dụng ChatGPT được xếp hạng 13+.

Tiểu Minh