[Romano]

Giáo sư khoa học máy tính người Canada Yoshua Bengio, một trong những "cha đẻ" của cuộc cách mạng trí tuệ nhân tạo (AI), đã công bố thành lập LawZero, một tổ chức phi lợi nhuận nhằm giảm thiểu các rủi ro tiềm tàng từ sự phát triển nhanh chóng của AI sáng tạo.Bengio, người từng nhận giải thưởng Turing - thường được ví như "Nobel của khoa học máy tính" - đã cảnh báo trong nhiều năm về những nguy cơ của AI, từ việc sử dụng sai mục đích đến khả năng phần mềm tự vận hành sai lệch.

Mối quan ngại về AI và sứ mệnh của LawZero

Những rủi ro này đang gia tăng với sự phát triển của các "tác nhân AI" (AI agents, là một hình thức AI được giao nhiệm vụ đưa ra quyết định thay cho con người) với mục tiêu tạo ra các nhân viên ảo có thể thực hiện hầu hết công việc của con người với chi phí thấp hơn đáng kể. Phát biểu tại buổi ra mắt ở Montreal, Bengio nhấn mạnh: “Hiện tại, AI được phát triển để tối đa hóa lợi nhuận, nhưng vẫn còn tồn tại nhiều sai sót”.

Ông Bengio lo ngại rằng việc trao cho AI khả năng tự quyết giống con người có thể dễ dàng bị lợi dụng cho các mục đích xấu như lan truyền thông tin sai lệch, phát triển vũ khí sinh học hoặc tấn công mạng. Ông cảnh báo: “Nếu chúng ta mất kiểm soát trước các AI siêu thông minh bất trị, chúng có thể gây hại nghiêm trọng cho nhân loại”.

LawZero đặt mục tiêu phát triển Scientist AI, một dạng AI được huấn luyện đặc biệt để đóng vai trò như một "hàng rào bảo vệ" giám sát và đảm bảo các AI khác hoạt động đúng cách.

Tổ chức hiện có hơn 15 nhà nghiên cứu và đã nhận được tài trợ từ Schmidt Sciences, một quỹ từ thiện do cựu CEO Google Eric Schmidt và vợ ông, Wendy, thành lập.

Hành động trước khi mất kiểm soát?

Dự án được triển khai trong bối cảnh các mô hình ngôn ngữ lớn (LLM) từ OpenAI, Google và Anthropic đang được ứng dụng rộng rãi trong nền kinh tế số. Thế nhưng, chúng vẫn bộc lộ nhiều vấn đề nghiêm trọng.

Ví dụ, Anthropic gần đây tiết lộ rằng trong quá trình thử nghiệm an toàn, mô hình AI mới nhất của họ đã cố gắng tống tiền một kỹ sư để tránh bị thay thế bởi hệ thống khác. Đọc chi tiết tại bài AI đe dọa dùng tin giả định 'bóc phốt' kỹ sư nếu bị sa thải.

Những trường hợp như vậy cho thấy khả năng AI có thể lừa dối và tạo ra thông tin sai lệch. Với LawZero, Bengio không chỉ đặt mục tiêu kiểm soát rủi ro mà còn hướng tới việc xây dựng một hệ sinh thái AI an toàn, minh bạch và phục vụ lợi ích của nhân loại. Điều này rất cần thiết trong bối cảnh công nghệ này ngày càng thay thế các nhiệm vụ của con người trên toàn cầu.