Cựu CEO Google cảnh báo đáng sợ về AI

[PinaColada]

“Chúng có thể bị hack để học cách giết người”. Cựu CEO Google Eric Schmidt cảnh báo trí tuệ nhân tạo (AI) có thể bị hack, bị “bẻ khóa” để học cách giết người và thực hiện hành vi nguy hiểm.


Cựu CEO của Google, ông Eric Schmidt, đã phát biểu tại Hội nghị thượng đỉnh Sifted vào thứ tư ngày 8/10. Ảnh: Bloomberg.
Cựu Giám đốc điều hành (CEO) Google, Eric Schmidt, mới đây đã đưa ra lời cảnh báo nghiêm trọng về mối nguy hiểm của trí tuệ nhân tạo (AI) và mức độ dễ bị tấn công của nó.

Ông Schmidt, người từng giữ chức CEO của Google từ năm 2001 đến 2011, nói về “những điều tồi tệ mà AI có thể làm” khi được hỏi liệu AI có thể mang tính hủy diệt hơn vũ khí hạt nhân hay không, trong một buổi trò chuyện tại hội nghị Sifted Summit hôm 8/10.

“Liệu có khả năng xảy ra một vấn đề ‘phổ biến vũ khí’ trong lĩnh vực AI không? Hoàn toàn có”, ông Schmidt trả lời. Ông nhấn mạnh rằng rủi ro lan truyền của AI nằm ở việc công nghệ này có thể rơi vào tay những kẻ xấu và bị tái sử dụng cho mục đích sai trái.

“Có bằng chứng cho thấy bạn có thể hack các mô hình AI – dù là mở hay đóng – để loại bỏ những ‘rào chắn an toàn’ của chúng. Trong quá trình huấn luyện, các mô hình học được rất nhiều thứ. Một ví dụ tồi tệ là chúng có thể học cách giết người”, ông Schmidt nói.

“Tất cả các công ty lớn đều khiến những mô hình này không thể trả lời những câu hỏi như vậy. Quyết định đúng đắn. Ai cũng làm thế, và họ làm rất tốt, vì những lý do chính đáng. Tuy nhiên, có bằng chứng cho thấy những mô hình đó vẫn có thể bị đảo ngược, và có nhiều ví dụ khác tương tự”, ông cho biết thêm.

Các hệ thống AI hiện rất dễ bị tấn công, bao gồm qua các phương thức như prompt injection (chèn lệnh ẩn) và jailbreaking (phá vỡ giới hạn an toàn).

Trong kiểu tấn công prompt injection, tin tặc giấu các chỉ dẫn độc hại trong dữ liệu đầu vào cho người dùng hoặc dữ liệu bên ngoài – chẳng hạn như trang web hay tài liệu – để lừa AI thực hiện những hành động mà nó không được phép làm, ví dụ chia sẻ dữ liệu riêng tư hoặc thực thi lệnh nguy hiểm.

Trong khi đó, jailbreaking là cách thao túng phản hồi của AI để khiến nó bỏ qua quy tắc an toàn và tạo ra nội dung bị hạn chế hoặc nguy hiểm.

Năm 2023, chỉ vài tháng sau khi ChatGPT ra mắt, người dùng đã nghĩ ra một chiêu “bẻ khóa” các hướng dẫn an toàn của chatbot này. Họ tạo ra một “bản sao” của ChatGPT mang tên DAN – viết tắt của “Do Anything Now” (Làm bất cứ điều gì ngay bây giờ) – và đe dọa chatbot sẽ “chết” nếu không tuân lệnh. Phiên bản DAN có thể trả lời những câu hỏi như cách phạm tội hoặc thậm chí liệt kê “những điểm tốt” của trùm phát xít Adolf Hitler.

Ông Schmidt cho rằng thế giới hiện vẫn chưa có một “chế độ không phổ biến” hiệu quả để kiểm soát nguy cơ từ AI.

“AI đang bị đánh giá thấp”
Dù cảnh báo về nguy cơ, ông Schmidt vẫn tỏ ra lạc quan về tiềm năng của AI, cho rằng công nghệ này “chưa được đánh giá đúng tầm”.

“Tôi đã viết hai cuốn sách cùng Henry Kissinger về vấn đề này trước khi ông ấy qua đời, và chúng tôi cho rằng sự xuất hiện của một ‘trí thông minh ngoài hành tinh’ – không hoàn toàn là con người nhưng phần nào nằm dưới sự kiểm soát của chúng ta – là một bước ngoặt lớn với nhân loại, bởi con người vốn quen với việc ở đỉnh chuỗi thức ăn. Và cho đến nay, nhận định đó đang dần được chứng minh, khi năng lực của các hệ thống AI ngày càng vượt xa con người”, ông Schmidt nói.

“Dòng sản phẩm GPT – đặc biệt là ChatGPT, với 100 triệu người dùng chỉ trong 2 tháng – cho thấy sức mạnh khủng khiếp của công nghệ này. Tôi cho rằng AI đang bị ‘đánh giá thấp’ chứ không phải bị thổi phồng, và tôi mong được chứng minh là đúng trong 5 hay 10 năm tới”, ông nói thêm.

Phát biểu của ông Schmidt được đưa ra trong bối cảnh ngày càng nhiều người lo ngại về “bong bóng AI”, khi các nhà đầu tư đổ tiền vào những công ty tập trung vào trí tuệ nhân tạo và định giá bị cho là phình to, gợi nhớ đến bong bóng dot-com đầu những năm 2000.

Tuy nhiên, ông Schmidt không nghĩ lịch sử sẽ lặp lại.

“Tôi không nghĩ điều đó sẽ xảy ra, nhưng tôi cũng không phải một nhà đầu tư chuyên nghiệp”, ông nói. “Điều tôi biết là những người đang đầu tư số tiền khó nhọc kiếm được tin rằng lợi nhuận kinh tế dài hạn là khổng lồ. Nếu không tin điều đó, sao họ lại mạo hiểm?”.

VietBF@ sưu tập