Hội đồng New York thông qua dự luật RAISE nhằm kiểm soát rủi ro từ AI

[sunshine1104]

Các nhà lập pháp bang New York vừa thông qua Dự luật RAISE với mục tiêu ngăn chặn các mô hình AI tiên tiến góp phần gây ra thảm họa có thể khiến hơn 100 người chết hoặc bị thương, hoặc gây thiệt hại tài chính trên 1 tỉ USD.


Con người luôn lo ngại AI thống trị thế giới trong tương lai

Đây được coi là một chiến thắng lớn cho phong trào an toàn AI, vốn đã suy yếu trong những năm gần đây khi Thung lũng Silicon và chính quyền Tổng thống Donald Trump chú trọng tốc độ và đổi mới hơn là kiểm soát rủi ro. Những người ủng hộ an toàn AI như giáo sư Geoffrey Hinton (chủ nhân giải Nobel) và nhà tiên phong nghiên cứu AI Yoshua Bengio đã công khai ủng hộ dự luật này.

Nếu được ban hành, RAISE Act sẽ trở thành bộ tiêu chuẩn minh bạch pháp lý đầu tiên của Mỹ dành cho các phòng thí nghiệm AI tiên tiến.

Không cản trở đổi mới nhưng yêu cầu trách nhiệm rõ ràng

Dự luật RAISE có nhiều điểm tương đồng với dự luật SB 1047 gây tranh cãi tại California, nhưng bị phủ quyết. Tuy nhiên, Thượng nghị sĩ bang New York Andrew Gounardes, đồng tác giả RAISE, cho biết ông thiết kế dự luật này sao cho không làm “nguội lạnh” đổi mới trong cộng đồng startup hay giới học thuật. Đấy chính là điều từng bị chỉ trích ở SB 1047.

Ông Gounardes nói: “Cơ hội để thiết lập các rào chắn đang thu hẹp nhanh chóng vì công nghệ này phát triển quá nhanh. Những người hiểu rõ AI nhất đều nói rủi ro là rất thực tế và điều đó thật đáng báo động”.

Dự luật hiện đã chuyển đến bàn của Thống đốc bang New York Kathy Hochul, người có thể ký thành luật hoặc trả lại để sửa đổi, hoặc tệ hơn là phủ quyết.

Nếu được ký ban hành, dự luật sẽ buộc các phòng thí nghiệm AI lớn nhất thế giới phải công bố các báo cáo chi tiết về an toàn và bảo mật liên quan đến các mô hình AI tiên tiến của họ. Ngoài ra, họ cũng phải báo cáo các sự cố an toàn, chẳng hạn hành vi bất thường của AI hoặc trường hợp mô hình bị đánh cắp.

Nếu các công ty không tuân thủ, Tổng chưởng lý bang New York có thể áp dụng mức phạt dân sự lên đến 30 triệu USD.

RAISE Act chủ yếu nhắm đến các công ty AI hàng đầu trên thế giới, dù đặt tại California (OpenAI, Google) hay Trung Quốc (DeepSeek, Alibaba). Quy định minh bạch sẽ chỉ áp dụng với những mô hình AI được huấn luyện bằng tài nguyên tính toán trên 100 triệu USD và đang được cung cấp cho người dùng tại New York.

Không giống SB 1047, dự luật không yêu cầu các nhà phát triển AI phải tích hợp “nút dừng khẩn cấp” (kill switch) vào mô hình và cũng không truy cứu trách nhiệm hậu kỳ đối với công ty tinh chỉnh mô hình AI tiên tiến.

Phản ứng từ hãng công nghệ

Tuy nhiên, một số tập đoàn công nghệ ở Thung lũng Silicon đã phản ứng mạnh với dự luật. Dân biểu Alex Bores, đồng tác giả RAISE, cho rằng điều này không bất ngờ và nhấn mạnh dự luật không hề giới hạn đổi mới công nghệ.

Còn Anjney Midha, đối tác tại quỹ đầu tư Andreessen Horowitz, viết trên X: “RAISE Act của New York là một dự luật AI cấp bang ngốc nghếch khác, chỉ làm tổn hại đến nước Mỹ trong khi các đối thủ của ta đang tiến nhanh”. Quỹ Andreessen Horowitz và Y Combinator là hai trong số những đối thủ lớn nhất của SB 1047 tại California.

Anthropic từng kêu gọi ban hành chuẩn minh bạch liên bang vào đầu tháng này. Hiện họ chưa đưa ra lập trường chính thức về RAISE Act. Tuy nhiên, đồng sáng lập Jack Clark tỏ ra lo ngại rằng dự luật có thể gây khó khăn cho các công ty nhỏ hơn.

Về chỉ trích này, Thượng nghị sĩ Gounardes nói rằng Clark “hiểu sai trọng tâm”, và nhấn mạnh dự luật không áp dụng cho công ty nhỏ. Trong khi đó, OpenAI, Google và Meta chưa đưa ra bình luận.

Một chỉ trích phổ biến khác là các công ty AI lớn có thể không cung cấp các mô hình AI tiên tiến của họ tại bang New York, giống như cách một số công ty đã rút khỏi châu Âu vì các quy định nghiêm ngặt.

Tuy nhiên, Dân biểu Bores cho rằng gánh nặng pháp lý của RAISE là nhẹ, và sẽ không khiến các công ty buộc phải ngừng hoạt động tại bang này. Ông cũng lưu ý New York là bang có GDP lớn thứ ba nước Mỹ, nên việc rút khỏi thị trường là điều không dễ dàng để thực hiện về mặt kinh tế. Bores kết luận: “Tôi rất tự tin rằng không có lý do kinh tế nào để các công ty AI không cung cấp mô hình tại New York”.

Nhắc lại về Dự luật SB 1047

Dự luật này còn được gọi là Đạo luật Đổi mới an toàn và bảo mật cho các mô hình trí tuệ nhân tạo tiên phong (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act), là một dự luật được đề xuất tại bang California vào năm 2024. Mục tiêu chính của nó là giảm thiểu rủi ro gây ra các tác hại thảm khốc từ các mô hình AI tiên tiến đến mức chúng vẫn chưa được biết đến.

Phe ủng hộ: Những người ủng hộ, gồm một số nhà khoa học AI và chính trị gia như Thượng nghị sĩ Scott Wiener (người đề xuất dự luật) và Elon Musk, cho rằng đây là một bước cần thiết để bảo vệ công chúng khỏi những rủi ro thảm khốc tiềm ẩn của AI tiên tiến.

Phe phản đối: Nhiều gã khổng lồ công nghệ như OpenAI, Meta, Google, và các quỹ đầu tư mạo hiểm lớn đã phản đối mạnh mẽ dự luật này. Họ lập luận rằng nó quá khắc nghiệt, không rõ ràng, có thể kìm hãm sự đổi mới, đẩy các công ty AI ra khỏi California, và gây tổn hại đến hệ sinh thái mã nguồn mở. Họ cho rằng việc quản lý AI nên được thực hiện ở cấp liên bang thay vì cấp bang.

Kết quả: Cuối cùng, Thống đốc Gavin Newsom đã phủ quyết SB 1047 vào cuối tháng 9 năm ngoái, cho rằng nó cần được cân nhắc kỹ lưỡng hơn và có thể gây ra những hậu quả không mong muốn. Mặc dù vậy, cuộc tranh luận xung quanh SB 1047 đã định hình lại cuộc thảo luận về quản lý AI ở Mỹ và ảnh hưởng đến các dự luật tương tự ở các bang khác (như New York với Đạo luật RAISE).