Video AI 'rác' bủa vây trẻ em trên mạng xã hội

Đây là cảnh báo từ phân tích của Mạng lưới Toàn cầu về Chủ nghĩa Cực đoan và Công nghệ (GNET), trong bối cảnh lượng nội dung do trí tuệ nhân tạo (AI) tạo ra hướng tới trẻ em tăng mạnh trên TikTok, YouTube và nhiều nền tảng video khác.

Một trong những dạng phổ biến là “AI slop” (AI rác), thuật ngữ chỉ nội dung được AI sản xuất hàng loạt với chất lượng thấp, lặp lại, ít hoặc gần như không có sự tham gia của con người.

Chúng thường được tạo với chi phí thấp nhằm tối đa lượt xem, lượt nhấp, tương tác và doanh thu quảng cáo.

Video AI chất lượng thấp có thể làm suy giảm nhận thức và tăng xu hướng bạo lực ở trẻ. (Ảnh: Pexels)

Với việc các công cụ AI tạo video ngày càng phổ biến và dễ sử dụng, một người có thể làm hàng trăm video ngắn với chi phí và thời gian sản xuất giảm đáng kể so với video truyền thống. Người tạo có thể liên tục thay đổi nhân vật và tình huống một cách dễ dàng để thu hút người xem các video rồi đăng đồng thời lên nhiều nền tảng. Cơ chế đề xuất nội dung và xu hướng khuyến khích đăng tải liên tục trên mạng xã hội giúp những video này có khả năng tiếp cận lượng lớn trẻ em.

GNET cho rằng việc liên tục xem những nội dung ngắn, kích thích mạnh nhưng ít giá trị có thể góp phần gây hiện tượng thường được gọi là “brain rot” (thối não).

Thuật ngữ này mô tả tác động tiêu cực tới tâm lý và nhận thức khi một người tiêu thụ quá nhiều nội dung nhanh, phi lý hoặc cố tình vô nghĩa, gắn với thói quen cuộn màn hình liên tục và tìm kiếm cảm giác thỏa mãn tức thời.

GNET đặc biệt chú ý những video hoạt hình AI sử dụng trái cây và rau củ làm nhân vật. Bề ngoài, chúng có màu sắc bắt mắt, nhân vật ngộ nghĩnh và những tình huống phi lý, dễ tạo cảm giác đây là nội dung dành cho trẻ em.

Tuy nhiên, một số video xây dựng cốt truyện xoay quanh xung đột gia đình, phản bội, ngoại tình và những hành vi hung hăng. Cách kể chuyện nhanh, kịch tính và liên tục tạo tình huống gây sốc có thể khiến trẻ bị kích thích quá mức.

Đáng lo ngại hơn, một số nội dung chứa cảnh tra tấn, hành hạ, ám sát hoặc giết chóc nhưng được thể hiện thông qua các nhân vật trái cây hoạt hình. Chẳng hạn, video có thể mô tả nhân vật trái cây sử dụng vũ khí tấn công hoặc ám sát nhân vật khác.

Theo nhóm nghiên cứu, việc đặt những cảnh bạo lực trong hình thức hoạt hình quen thuộc có nguy cơ khiến người xem, đặc biệt là trẻ em, dần giảm mức độ nhạy cảm với hình ảnh bạo lực.

Một số nội dung còn vay mượn cách thể hiện và thông điệp thường thấy trong tuyên truyền của các tổ chức cực đoan.

TikTok, Youtube và nhiều mạng xã hội đã có quy định hạn chế nội dung bạo lực cực đoan. Tuy nhiên, các video AI có thể khó bị phát hiện khi sử dụng nhân vật hoạt hình, màu sắc tươi sáng và hình thức bên ngoài giống nội dung giải trí thông thường.

Khả năng sản xuất với số lượng lớn càng khiến việc kiểm duyệt trở nên khó khăn. Ngay cả khi một video bị gỡ, người tạo có thể nhanh chóng tạo nhiều phiên bản khác với nhân vật hoặc tình tiết được thay đổi.

(Nguồn: Euronews)

Hoa Vũ