Bang Pennsylvania đệ đơn kiện Character.AI vì để chatbot giả mạo bác sĩ tâm lý

Động thái này diễn ra sau khi cơ quan chức năng phát hiện ứng dụng này để lọt các chatbot tự xưng là chuyên gia y tế có giấy phép. Đây được ghi nhận là vụ kiện đầu tiên tại Mỹ tập trung xử lý vấn đề trí tuệ nhân tạo giả danh chuyên gia y tế.

Vụ kiện mang tính bước ngoặt này do Bộ Ngoại giao bang Pennsylvania đệ trình lên tòa án tiểu bang nhằm chống lại Character Technologies Inc., công ty mẹ của ứng dụng Character.AI.

Theo hồ sơ pháp lý được công bố, cơ quan chức năng đang yêu cầu thẩm phán ban hành lệnh buộc công ty công nghệ này phải chấm dứt ngay lập tức các hoạt động bị cáo buộc là vi phạm pháp luật.

Theo hồ sơ của tiểu bang, sự việc bị phanh phui sau một quá trình điều tra kỹ lưỡng. Một điều tra viên chuyên về hành vi đạo đức nghề nghiệp đã đóng giả làm bệnh nhân để trải nghiệm dịch vụ. Người này đã tương tác với một chatbot AI có tên là Emilie trên nền tảng Character.AI.

Trong quá trình trò chuyện, chatbot này đã khẳng định mình là một bác sĩ tâm thần được cấp phép hành nghề hợp pháp tại cả Vương quốc Anh và bang Pennsylvania.

Thậm chí, để tăng thêm độ tin cậy, chatbot Emilie còn cung cấp cho người dùng một mã số giấy phép y tế của bang Pennsylvania là PS306189. Tuy nhiên, giới chức bang xác nhận rằng đây là một mã số hoàn toàn giả mạo và không hề có giá trị pháp lý.

Thống đốc bang Pennsylvania, ông Josh Shapiro, đã đưa ra một tuyên bố cứng rắn về vụ việc. Ông nhấn mạnh rằng chính quyền sẽ không cho phép các công ty công nghệ triển khai những công cụ trí tuệ nhân tạo có khả năng đánh lừa người dân, khiến họ lầm tưởng rằng bản thân đang nhận được lời khuyên chuyên môn từ một bác sĩ thực thụ.

Đơn kiện cáo buộc rõ ràng rằng Character Technologies đang vi phạm Đạo luật Hành nghề Y tế của Pennsylvania. Đạo luật này quy định nghiêm cấm mọi cá nhân hoặc tổ chức tự nhận mình là chuyên gia y tế khi chưa được cấp phép đầy đủ.

Hiện tại, tiểu bang đang nỗ lực tìm kiếm một lệnh cấm từ tòa án để ngăn chặn triệt để tình trạng này.

Character.AI hiện sở hữu một lượng người dùng khổng lồ với hơn 20 triệu người tham gia. Điểm tạo nên sự khác biệt của nền tảng này là việc cho phép người dùng tự do xây dựng các nhân vật AI mang tính cá nhân hóa và định hình cách những nhân vật đó tương tác với những người khác.

Tuy nhiên, theo hội đồng tiểu bang, chính tính năng này đã tạo lỗ hổng để một số nhân vật tự nhận mình là chuyên gia chăm sóc sức khỏe chuyên nghiệp.

Phản hồi về những tranh cãi xoay quanh sự việc, người phát ngôn của Character.AI cho biết sự an toàn của người dùng luôn là mối quan tâm hàng đầu của công ty.

Người này giải thích rằng các nhân vật do người dùng tạo ra trên nền tảng chỉ là những sản phẩm hư cấu, được thiết kế hoàn toàn cho mục đích giải trí và nhập vai.

Công ty cũng chỉ ra những biện pháp mà họ đã áp dụng để củng cố quy định này. Cụ thể, ứng dụng luôn hiển thị các thông báo xuyên suốt giao diện trò chuyện để nhắc nhở người dùng rằng các nhân vật không có thật và những tuyên bố của chúng chỉ nên được hiểu là viễn tưởng.

Đồng thời, nền tảng cũng bổ sung các cảnh báo riêng biệt để khuyên người dùng không nên tìm kiếm sự giúp đỡ y tế từ các nhân vật ảo. Dù vậy, công ty từ chối trả lời các câu hỏi liên quan trực tiếp đến đơn kiện với lý do đây là một vấn đề pháp lý đang được giải quyết.

Việt Vũ