Sự cố AI nghiêm trọng là gì và người dùng, bên triển khai phải làm gì

Chatbot của shop bỗng trả lời khách bằng lời lẽ xúc phạm, công cụ AI tự đăng hàng loạt nội dung sai, hệ thống AI làm lộ dữ liệu khách hàng. Khi chuyện lớn xảy ra, luật yêu cầu không im lặng.

Thế nào là sự cố nghiêm trọng

Luật Trí tuệ nhân tạo định nghĩa sự cố nghiêm trọng là sự kiện xảy ra trong hoạt động của hệ thống AI, gây ra hoặc có nguy cơ gây ra thiệt hại đáng kể đến tính mạng, sức khỏe, quyền con người, tài sản, an ninh mạng, trật tự công cộng, môi trường, hoặc làm gián đoạn hệ thống thông tin quan trọng về an ninh quốc gia.

Ai phải làm gì

• Nhà phát triển, nhà cung cấp, bên triển khai và người sử dụng đều có trách nhiệm bảo đảm an toàn, kịp thời phát hiện, khắc phục sự cố có khả năng gây tổn hại.
• Khi có sự cố nghiêm trọng, nhà phát triển, nhà cung cấp phải khẩn trương áp dụng biện pháp kỹ thuật để khắc phục, tạm dừng hoặc thu hồi hệ thống và thông báo cho cơ quan có thẩm quyền.
• Bên triển khai và người sử dụng có nghĩa vụ ghi nhận, thông báo kịp thời sự cố và phối hợp khắc phục.
• Báo cáo và xử lý sự cố được thực hiện qua Cổng thông tin điện tử một cửa về trí tuệ nhân tạo.

Nên chuẩn bị gì

• Biết cách tắt nhanh chatbot, công cụ tự động đăng bài.
• Lưu nhật ký, ảnh chụp màn hình khi phát hiện lỗi.
• Có đầu mối liên hệ của đơn vị cung cấp công cụ AI.

Câu hỏi thường gặp

Chatbot trả lời sai giá một lần có phải sự cố nghiêm trọng? Thường không, vì chưa đến mức thiệt hại đáng kể. Nhưng vẫn nên sửa ngay và xử lý với khách theo chính sách của shop.