California ban hành luật đầu tiên nhằm bảo vệ trẻ em chống ứng dụng AI độc hại và deepfake nóng bỏng
 

California đang cho thực hiện những biện pháp mạnh mẽ để kiểm soát công nghệ trí tuệ nhân tạo (AI) mà được coi là mối nguy hại cho trẻ em, tập trung vào hai vấn đề an toàn cho trẻ em đang ngày càng trở nên nghiêm trọng: robot bạn đồng hành và nội dung khiêu dâm giả mạo. Vào hôm thứ Hai vừa qua, Thống đốc Gavin Newsom đã ký ban hành luật đầu tiên tại Mỹ quy định về robot bạn đồng hành, sau khi một loạt vụ dâm ô ở thanh thiếu niên đã dẫn đến các vụ kiện cáo.

Luật mới yêu cầu các nền tảng robot bạn đồng hành, bao gồm ChatGPT, Grok, Character.AI và các ứng dụng tương tự, phải cho thiết kế và công khai "các quy trình nhận diện và giải quyết những suy nghĩ dâm ô hoặc biểu hiện tự hại của người tiêu dùng". Ngoài ra, các nền tảng này cũng phải báo cáo cho biết về "thống kê có liên quan đến việc họ đã cung cấp thông báo hỗ trợ từ trung tâm khủng hoảng cho người dùng bao nhiêu lần" đến Sở Y tế Công cộng. Những số liệu này sẽ được cho công bố trên trang web của các nền tảng, giúp cho giới lập pháp và phụ huynh theo dõi các xu hướng gây ra lo ngại.

(Minh họa)

Hơn nữa, các "robot bạn đồng hành" sẽ bị cấm tuyên bố rằng chúng là những phương pháp trị liệu, và các nền tảng phải thực hiện các biện pháp bổ sung để đảm bảo an toàn cho trẻ em, chẳng hạn như nhắc nhở thời gian nghỉ giải lao cho trẻ em và ngăn trẻ em không được tiếp xúc với những hình ảnh khiêu dâm.

Ngoài ra, Thống đốc Newsom cũng đã cho tăng cường mức hình phạt đối với việc tạo ra nội dung khiêu dâm giả mạo, điều này sẽ giúp bảo vệ cho giới trẻ, những người ngày càng bị nhắm đến với những bức ảnh được ngụy tạo thật trắng trợn. Giờ đây, các nạn nhân, bao gồm cả trẻ vị thành niên, có thể yêu cầu được bồi thường lên đến 250,000 USD cho mỗi trường hợp chứa nội dung giả mạo từ bất cứ một bên thứ ba nào phân phối tài liệu, hình ảnh khiêu dâm không được đồng ý, được ngụy tạo ra với kỹ thuật AI. Trước đây, luật của tiểu bang chỉ cho phép nạn nhân được "bồi thường thiệt hại theo luật định không dưới 1,500 USD nhưng không quá 30,000 USD, hoặc 150,000 USD cho một sự vi phạm ác ý".

Cả hai đạo luật này sẽ có hiệu lực kể từ ngày 1/1/2026.

Ông Steve Padilla, Thượng nghị sĩ Đảng Dân chủ là người bảo trợ cho đạo luật robot bạn đồng hành, đã phát biểu trong một thông cáo báo chí rằng luật California chứng minh cách thức "thiết lập các biện pháp nhằm bảo vệ thực sự cho người tiêu dùng" và nhấn mạnh rằng nó "sẽ trở thành nền tảng cho việc quy định tiếp theo khi kỹ thuật này ngày càng được mở rộng phát triển".