Danh sách 46 hệ thống AI có rủi ro cao được công bố: Xa rời, giáo dục, y tế, ngân hàng và tố tụng

Những điểm chính:

46 hệ thống AI được xếp vào nhóm rủi ro cao theo quy định của Chính phủ
Danh mục bao gồm nhiều lĩnh vực như giáo dục, y tế, ngân hàng và giao thông vận tải
Mỗi lĩnh vực có các hệ thống AI cụ thể với rủi ro riêng

Câu hỏi đặt ra

Liệu việc công bố danh mục 46 hệ thống AI có rủi ro cao này sẽ ảnh hưởng như thế nào đến ngành công nghiệp và người dùng?

Lĩnh vực giáo dục

Danh sách 46 hệ thống AI có rủi ro cao được công bố: Xa rời, giáo dục, y tế, ngân hàng và tố tụng

Hệ thống AI được chấm vào nhóm rủi ro cao bao gồm AI cung cấp nội dung tự học sử dụng nguồn dữ liệu không kiểm soát; AI tự động kiểm tra, đánh giá kết quả, xếp hạng người học; hệ thống sử dụng AI để giám sát, phân tích hành vi người học sinh bằng dữ liệu sinh trắc học.

Lĩnh vực y tế

Trong ngành y tế, hai hệ thống được liệt kê đều liên quan đến robot phẫu thuật. Đây là các hệ thống tích hợp vào robot trực tiếp thực thi hoặc tham gia trực tiếp vào quá trình can thiệp, hướng dẫn thao tác.

Lĩnh vực ngân hàng

Ở lĩnh vực ngân hàng là AI tự động thực hiện giao dịch điện tử giá trị lớn mà không qua kiểm tra, phê duyệt của con người; AI tự quyết định cấp tín dụng cũng thuộc nhóm rủi ro cao.

Lĩnh vực dân tộc và tôn giáo

AI ở lĩnh vực này là những hệ thống tự động chấm điểm, phân loại, xếp hạng hồ sơ để xác định đối tượng, địa bàn hưởng chính sách; xác thực và quyết định tính hợp lệ của thông tin; hệ thống tự động quyết định chấp thuận hoặc từ chối hồ sơ; phân bổ ngân sách theo thuật toán hoặc phân loại cá nhân, nhóm cộng đồng theo thuộc tính dân tộc, tín ngưỡng, tôn giáo.