OpenAI nhận báo cáo về 'AI đe dọa nhân loại'

[troopy]

Nguồn tin nội bộ tiết lộ việc OpenAI sa thải CEO Sam Altman hôm 18-11 xảy ra vài ngày sau khi hội đồng quản trị công ty nhận bức thư báo cáo về "đột phá AI có thể đe dọa đến nhân loại" của đội ngũ phát triển phần mềm.


CEO OpenAI Sam Altman từng tiết lộ công ty này đang phát triển một siêu trí tuệ nhân tạo - Ảnh: REUTERS

Nội dung bức thư bày tỏ sự phấn khích lẫn lo ngại của các nhà khoa học về một siêu trí tuệ nhân tạo mới có trí thông minh vượt trội.

Cụ thể, các nhà khoa học của OpenAI đang phát triển một dự án tên là Q* (Q-Star). Họ gọi Q* là siêu trí tuệ nhân tạo hoặc trí tuệ nhân tạo tổng hợp (AGI), đồng thời khẳng định AGI là hệ thống AI thông minh hơn con người.

Reuters cho biết mô hình AI mới này có thể giải quyết các vấn đề về toán học. Mặc dù ở thời điểm hiện tại Q* mới chỉ làm toán ở cấp độ tiểu học, nhưng kết quả của các đợt thử nghiệm khiến các nhà nghiên cứu rất lạc quan về siêu trí tuệ này.

Các nhà nghiên cứu xem toán học là tiền đề cho sự phát triển của các AI tạo sinh như ChatGPT.

Mỹ và cuộc đua quản lý trí tuệ nhân tạo
AI tạo sinh là loại trí tuệ nhân tạo có khả năng viết và dịch ngôn ngữ dựa trên dữ liệu sẵn có, chúng sẽ đưa ra nhiều câu trả lời khác nhau cho cùng một câu hỏi. Tuy nhiên các phép tính trong toán học chỉ có một đáp án đúng, do đó các nhà khoa học cho rằng siêu trí tuệ nhân tạo Q* có khả năng suy luận tốt hơn, thậm chí vượt xa con người.

Trong bức thư gửi hội đồng quản trị OpenAI, các nhà nghiên cứu trên đã bày tỏ lo ngại về siêu trí tuệ nhân tạo này. Thậm chí các nhà khoa học máy tính của công ty quản lý ChatGPT còn tổ chức thảo luận nhiều giờ liền về việc máy móc siêu thông minh có suy nghĩ đến việc hủy diệt nhân loại hay không.

Trước khi bị sa thải và trở lại vị trí cũ, CEO Sam Altman trong cuộc họp với những nhà lãnh đạo của thế giới tại San Francisco (Mỹ) từng nói đùa rằng ông đã đưa siêu trí tuệ nhân tạo AGI vào tầm ngắm.

“Đã 4 lần trong lịch sử Công ty OpenAI. Lần gần nhất là vào vài tuần trước, tôi có mặt trong phòng nghiên cứu nơi các đồng nghiệp gần như đẩy lùi bức màn vô thức và mở rộng biên giới khám giá của nhân loại. Làm được điều này là vinh dự nghề nghiệp chỉ xảy ra một lần trong đời", vị doanh nhân công nghệ trẻ tuổi ngụ ý về dự án siêu trí tuệ nhân tạo tại Hội nghị thượng đỉnh Hợp tác Kinh tế châu Á - Thái Bình Dương.

VietBF©sưu tập