Ba mức rủi ro của hệ thống AI: cao, trung bình, thấp và nghĩa vụ đi kèm

Bạn làm một ứng dụng AI viết caption, một bot tư vấn sản phẩm hay một công cụ tạo ảnh và cho người khác dùng. Luật Trí tuệ nhân tạo yêu cầu bạn biết hệ thống của mình thuộc mức rủi ro nào.

Ba mức rủi ro

• Rủi ro cao: có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia.
• Rủi ro trung bình: có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do họ không nhận biết chủ thể tương tác là AI hoặc nội dung do AI tạo ra.
• Rủi ro thấp: các hệ thống còn lại.

Nghĩa vụ phân loại

• Nhà cung cấp tự phân loại trước khi đưa vào sử dụng. Rủi ro trung bình hoặc cao phải có hồ sơ phân loại.
• Rủi ro trung bình hoặc cao phải thông báo kết quả phân loại cho Bộ Khoa học và Công nghệ qua Cổng thông tin điện tử một cửa về trí tuệ nhân tạo trước khi đưa vào sử dụng.
• Chưa xác định được mức rủi ro thì có thể đề nghị Bộ Khoa học và Công nghệ hướng dẫn.
• Bên triển khai kế thừa kết quả phân loại, nhưng nếu tự sửa đổi, tích hợp làm phát sinh rủi ro mới thì phối hợp phân loại lại.

Gợi ý cho người làm công cụ nhỏ

• Chatbot trò chuyện với khách, công cụ tạo giọng nói, hình ảnh người: xem xét kỹ khả năng thuộc mức trung bình.
• Ghi lại lý do bạn phân loại như vậy.

Câu hỏi thường gặp

Tôi chỉ dùng công cụ của hãng lớn, có phải phân loại không? Nghĩa vụ tự phân loại thuộc về nhà cung cấp. Bạn là bên triển khai thì kế thừa kết quả đó, trừ khi bạn tích hợp, sửa đổi làm phát sinh rủi ro mới.