Nội dung AI nhắm vào trẻ em, người cao tuổi: luật cấm lợi dụng nhóm dễ bị tổn thương

Video hoạt hình AI dụ trẻ bấm mua vật phẩm trong trò chơi, giọng đọc AI giả bác sĩ khuyên người già mua thuốc. Đối tượng càng dễ tin, nội dung càng dễ gây hại.

Quy định nói gì

Luật Trí tuệ nhân tạo nghiêm cấm phát triển, cung cấp, triển khai hoặc sử dụng hệ thống AI nhằm lợi dụng điểm yếu của nhóm người dễ bị tổn thương, bao gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số, người mất hoặc bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác.

Nguyên tắc chung của luật là lấy con người làm trung tâm và không gây hại cho con người hoặc xã hội.

Những kiểu nội dung cần tránh

• Nhân vật AI hối thúc trẻ nạp tiền, mua hàng.
• Giọng đọc, gương mặt AI đóng vai chuyên gia để thuyết phục người cao tuổi.
• Nội dung đánh vào nỗi sợ bệnh tật, tai nạn để bán sản phẩm.

Nên làm gì

• Xác định rõ người xem chính của nội dung.
• Với kênh thiếu nhi, không lồng lời kêu gọi mua hàng vào lời nhân vật.
• Không dùng AI đóng vai bác sĩ, dược sĩ, chuyên gia không có thật.

Câu hỏi thường gặp

Kênh truyện cổ tích AI cho trẻ có bị cấm không? Làm nội dung AI cho trẻ không bị cấm. Điều cấm là lợi dụng điểm yếu của trẻ để gây tổn hại. Nội dung lành mạnh, không dụ dỗ mua bán thì không thuộc điều cấm này.