AI có thể gây ra thảm họa diệt vong cho loài người

[nguoiduatinabc]

"Giảm thiểu rủi ro về cuộc tuyệt chủng do AI gây ra nên là ưu tiên hàng đầu trên toàn cầu. Bên cạnh các mối nguy cơ cho xã hội khác như đại dịch hay chiến tranh hạt nhân". Thư ngỏ có 350 chữ ký của các lãnh đạo ngành AI được công bố bởi Trung tâm An toàn AI (CAIS) có đoạn.

Ngoài giám đốc điều hành OpenAI Sam Altman, thư ngỏ có chữ ký của giám đốc điều hành các công ty lớn khác như DeepMind và Anthropic, cũng như lãnh đạo của Microsoft MSFT.O và Google GOOGL.O.

Bên cạnh đó, Geoffrey Hinton và Yoshua Bengio, hai trong số ba nhân vật được mô tả là "cha đỡ đầu của AI" và nhiều giáo sư từ các trường đại học như Havard cũng ký vào thư ngỏ.



Thông điệp của CAIS cho biết không có đại diện nào của Meta, nơi Yann LeCun, "cha đỡ đầu" thứ ba của AI, đang làm việc, ký tên vào thư ngỏ.

Thư ngỏ được công bố vào thời điểm Hội đồng Thương mại và Công nghệ Mỹ - EU họp tại Thụy Điển, nơi các chính trị gia có thể sẽ bàn về các biện pháp kiểm soát AI.

Tỷ phú Elon Musk và một nhóm các chuyên gia AI là những người đầu tiên nói về nguy cơ tiềm tàng cho xã hội từ hồi tháng 04.

"Chúng tôi đã mời Musk ký vào thư ngỏ, hy vọng ông ấy sẽ làm vậy trong tuần này," Dan Hendrycks, giám đốc CAIS cho biết.

Những tiến bộ gần đây của AI tạo ra công cụ mà người ủng hộ cho rằng có thể áp dụng trong y học hay luật pháp, tuy vậy cũng gây ra lo ngại công nghệ này dẫn đến vi phạm quyền riêng tư, tạo ra tin giả, đồng thời nhắc lại mối lo khi "những cỗ máy thông minh" có thể tự nghĩ.

Tuần trước, giám đốc điều hành OpenAI Sam Altman cho rằng EU kiểm soát quá chặt chẽ AI và dọa rời khỏi châu Âu. Sau khi nhận ý kiến chỉ trích từ các chính trị gia, ông này đã thay đổi quan điểm.

Altman trở thành bộ mặt của AI sau khi chatbot ChatGPT được sử dụng phổ biến trên thế giới. Chủ tịch Ủy ban Châu Âu Ursula von der Leyen sẽ gặp Altman hôm 01/06, và Thierry Breton, ủy viên phụ trách thị trường nội khối của EU sẽ gặp ông này trong tháng 06.