Rủi ro từ thuật toán y tế: Khi hệ thống AI Core-MG định đoạt mạng sống con người

Một bi kịch y tế vừa xảy ra tại bang Minas Gerais, Brazil đang trở thành tâm điểm của cuộc tranh luận về ranh giới giữa công nghệ và mạng sống con người. Rebeca Cardoso Tenente Molina, một nhà tâm lý học 32 tuổi, đã tử vong sau khi hệ thống phân bổ giường bệnh vận hành bằng trí tuệ nhân tạo (AI) có tên Core-MG liên tục đánh giá sai lệch mức độ nguy kịch của cô.

Ảnh minh họa.

Cơ chế vận hành của Core-MG: Khi dữ liệu bị "số hóa" vô cảm

Core-MG là hệ thống điều phối giường bệnh do cơ quan nhà nước vận hành, mới được đưa vào sử dụng từ tháng trước với mục tiêu minh bạch hóa và đẩy nhanh tốc độ phân loại bệnh nhân. Về mặt kỹ thuật, hệ thống này sử dụng các thuật toán để tổng hợp dữ liệu lâm sàng và đưa ra một con số cụ thể trên thang điểm để xác định thứ tự ưu tiên điều trị.

Tuy nhiên, rào cản lớn nhất xuất hiện khi thuật toán này trở thành một "bức tường" ngăn cách giữa bệnh nhân và sự chăm sóc cần thiết. Trong trường hợp của Molina, dù các bác sĩ điều trị trực tiếp đều đồng thuận rằng cô cần được chuyển ngay đến đơn vị chăm sóc đặc biệt (ICU), hệ thống Core-MG lại chấm điểm mức độ nghiêm trọng của cô chỉ ở mức 6,8.

Xung đột giữa trực giác lâm sàng và logic thuật toán

Gia đình nạn nhân cho biết, do thuật toán cố định điểm số và từ chối nâng bậc bất chấp các kết quả xét nghiệm lâm sàng ngày một tồi tệ hơn, Molina liên tục bị đẩy lùi lại phía sau trong danh sách chờ. Sự bất lực của các y bác sĩ lớn đến mức gia đình phải đệ đơn kiện ra tòa để ép hệ thống tìm kiếm giường bệnh nhanh hơn.

Hậu quả của sự chậm trễ này là vô cùng nghiêm trọng. Phải mất đến 5 ngày chờ đợi, một giường bệnh mới được tìm thấy tại cơ sở y tế cách đó 300 km. Dù đã được vận chuyển khẩn cấp bằng máy bay, Molina đã trút hơi thở cuối cùng chỉ vài giờ sau đó do sốc nhiễm trùng. Vụ việc dấy lên hồi chuông cảnh báo về việc tước bỏ quyền tự quyết của con người trong các quyết định sinh tử.

Bài học về việc lạm dụng AI trong ngành y tế toàn cầu

Cái chết thương tâm của nữ nhà tâm lý học người Brazil không phải là trường hợp duy nhất. Tại Mỹ, các tập đoàn bảo hiểm lớn cũng từng đối mặt với kiện tụng do sử dụng thuật toán tự động để từ chối chi trả chi phí điều trị. Đội ngũ y tá tại New York cũng liên tục cảnh báo về việc các bệnh viện quá vội vã đưa AI vào quy trình khi chưa có đủ sự giám sát chuyên môn sâu sát.

Mặc dù Sở Y tế bang Minas Gerais khẳng định các bác sĩ vẫn là bên giám sát tối cao, nhưng thực tế cho thấy hệ thống Core-MG đã làm đứt gãy quy trình chuyển viện thông thường. Điều này đặt ra yêu cầu cấp thiết về việc thiết lập các cơ chế kiểm soát, đảm bảo rằng trí tuệ nhân tạo chỉ đóng vai trò hỗ trợ thay vì thay thế hoàn toàn phán đoán lâm sàng của bác sĩ.

Nhìn chung, công nghệ chỉ thực sự có ích khi nó phục vụ con người, thay vì biến bệnh nhân thành những mã số thuế vô tri trong một hệ thống điện tử cứng nhắc. Việc cân bằng giữa hiệu suất của thuật toán và đạo đức y khoa sẽ là thách thức lớn nhất của ngành y tế trong kỷ nguyên số.

Tuệ Nhân