Công cụ của Meta không nhận diện được ảnh AI do chính mình tạo ra

Công cụ phát triển từ tập đoàn Meta gặp khó khăn trong việc nhận diện hình ảnh do chính mình tạo ra sau khi bị cắt góc. Ảnh: Reuters.

Tập đoàn công nghệ Meta vừa tiến hành chạy thử nghiệm một công cụ nhận diện trí tuệ nhân tạo mới song song với việc ra mắt mô hình tạo ảnh tiên tiến mang tên Muse Image. Tuy nhiên theo một bài phân tích chuyên sâu từ hãng tin Reuters, hệ thống kiểm định này đã thất bại trong việc xác thực một số bức ảnh do chính thuật toán của doanh nghiệp tạo ra sau khi chúng trải qua các thao tác chỉnh sửa cơ bản.

Phát hiện này đã làm nổi bật những thách thức vô cùng lớn trong việc xác minh tính chân thực của các bức ảnh kỹ thuật số khi chúng bị thay đổi cấu trúc thông thường, một hạn chế có thể gây khó khăn lớn cho việc phát hiện các nội dung giả mạo trên không gian mạng ngay trong bối cảnh các kỳ bầu cử quan trọng sắp diễn ra.

Trong đợt khảo sát phân tích trên quy mô 40 bức ảnh được khởi tạo từ mô hình mới, các chuyên gia ghi nhận rằng công cụ rà soát hoàn toàn xác thực được toàn bộ các tác phẩm gốc ban đầu. Dù vậy, hệ thống đã không thể nhận diện được 55% tổng số ảnh kể trên sau khi chúng bị cắt bớt diện tích xuống còn khoảng 1/3 cho đến 1/2 so với kích thước ban đầu.

Trên trang thông tin điện tử của mình, tập đoàn tuyên bố công cụ thử nghiệm hoàn toàn có thể nhận biết chính xác các sản phẩm đồ họa nhờ vào một hệ thống đóng dấu bản quyền vô hình được tích hợp sâu vào từng tệp tin. Phản hồi về kết quả kiểm tra độc lập, đại diện doanh nghiệp giải thích rằng đây mới chỉ là phiên bản xem trước và hệ thống có thể không nhận ra nếu bức ảnh bị cắt bỏ quá nhiều góc cạnh.

Nhiều tập đoàn công nghệ đối thủ như Google hay OpenAI trước đó cũng từng đưa ra những lời cảnh báo tương tự rằng các công cụ quét mã của họ không thể chống lại tuyệt đối các kỹ thuật hoán đổi và chỉnh sửa hình ảnh tinh vi. Hội đồng giám sát độc lập của doanh nghiệp cũng từng lên tiếng kêu gọi ban lãnh đạo cần phải nỗ lực nhiều hơn nữa để ngăn chặn sự lây lan của các nội dung lừa đảo trực tuyến và đầu tư mạnh mẽ hơn vào các giải pháp dò tìm kỹ thuật số.

Giới nghiên cứu khoa học nhận định rằng các phương pháp đóng dấu kỹ thuật số chỉ đạt hiệu quả cao nhất khi các ký hiệu ẩn còn nguyên vẹn, trong khi mọi hành vi nén dữ liệu hay thay đổi tỷ lệ khung hình đều có thể làm suy giảm nghiêm trọng năng lực phân tích cốt lõi của hệ thống bảo mật.

Theo Reuters

Tiến Dũng