Hacker đang tạo ra những phiên bản "chatbot xấu" dựa trên ChatGPT để yêu cầu AI này viết email lừa đảo hoặc mã độc.
Để ChatGPT hoạt động an toàn, OpenAI có chính sách lọc nội dung, hạn chế thông tin nhạy cảm, kích động, độc hại. Tuy nhiên, theo hãng bảo mật Check Point Research, tội phạm mạng không khó vượt qua rào cản kiểm duyệt và lợi dụng điều này để kiếm tiền.
Cụ thể, một số hacker sử dụng giao diện lập trình ứng dụng (API) của OpenAI và tạo các bot đặc biệt, không bị giới hạn nội dung và có thể tích hợp vào ứng dụng nhắn tin Telegram. Sau đó, tin tặc bán cho những người có nhu cầu với giá thấp nhất 5,5 USD cho 100 truy vấn.
Một bot ChatGPT độc hại trên Telegram thực hiện yêu cầu tạo email nhắm vào người dùng ngân hàng. Ảnh: Check Point Research
Một số tin tặc cũng tìm cách qua mặt hệ thống kiểm duyệt của ChatGPT bằng cách tạo ra một tập lệnh đặc biệt và công khai trên nền tảng GitHub. Phiên bản ChatGPT độc hại này có thể mạo danh doanh nghiệp và ngân hàng để tạo mẫu email lừa đảo. Thậm chí, nó còn hướng dẫn vị trí tốt nhất để đặt link lừa đảo cho người dùng.
Kẻ xấu cũng đang lợi dụng chatbot để tạo virus hoặc chỉnh sửa, cải thiện mã độc hiện có, giúp người không có nhiều kinh nghiệm vẫn có thể viết mã cho phần mềm độc hại dễ dàng.
Trong khi đó, OpenAI cho biết việc ChatGPT bị hacker điều khiển để đưa ra các nội dung tự do là chống lại quy tắc ban đầu và làm tổn hại danh tiếng công ty. Startup này đang nghiên cứu biện pháp mới để giúp đảm bảo an toàn cho người dùng.
Theo Digital Trends, đây không phải lần đầu ChatGPT bị kẻ lừa đảo nhắm đến. Hồi tháng 1, hàng nghìn người đã bị lừa trả tiền cho các phiên bản ứng dụng di động iOS và Android có tên "ChatGPT", mặc dù chatbot này mới chỉ hoạt động trên trình duyệt web.
Công nghệ AI tương tự ChatGPT hiện cũng được Microsoft đưa vào công cụ tìm kiếm Bing, với khả năng trò chuyện chuyên sâu và chi tiết. Các chuyên gia lo ngại điều này sẽ kéo theo một loạt vấn đề liên quan đến việc sử dụng các tài liệu có bản quyền.
ChatGPT được OpenAI giới thiệu từ tháng 11/2022 và thu hút chú ý khi có thể đưa ra câu trả lời theo ngữ cảnh cho đa dạng chủ đề. AI này hoạt động dựa trên mô hình xử lý ngôn ngữ tự nhiên NLP (Natural Language Processing), được huấn luyện với nguồn dữ liệu lớn trên Internet để trả lời câu hỏi của người dùng. Dù được đón nhận, ChatGPT gây nhiều tranh cãi do mô hình này không thật sự hiểu về nội dung. Nó chỉ đơn giản tổng hợp câu trả lời dựa trên xác suất từ hàng triệu ví dụ được dùng để huấn luyện.