AI của Elon Musk 'tự nguyện' chuyển 150.000 USD cho kẻ gian: Ông trùm công nghệ đau đớn quá!

[pizza]

Kẻ gian đã lợi dụng lỗ hổng bảo mật để sai khiến AI của Grok tự thực hiện giao dịch chuyển hơn 150.000 USD từ ví điện tử sang tài khoản cá nhân.

Theo báo cáo từ BeInCrypto, một người dùng có tên tài khoản “ilhamrafli.base.eth ” mới đây đã "lừa" AI Grok của nền tảng X tự nguyện chuyển cho mình số tiền mã hóa trị giá hơn 150.000 USD.

Thay vì dùng mã độc hay hack tài khoản, người này chỉ gửi các dòng tin nhắn chứa câu lệnh ẩn qua phần bình luận trên X để điều khiển trí tuệ nhân tạo này. Kỹ thuật này được giới công nghệ gọi là “tấn công bằng câu lệnh” (Prompt Injection).

Nguồn cơn sự việc bắt nguồn từ Bankr, một dịch vụ tài chính có tính năng tự động tạo ví tiền mã hóa cho bất kỳ tài khoản X nào tương tác với họ. Vì Grok cũng có một chiếc ví tự động như vậy, kẻ gian đã lợi dụng kẽ hở này để đánh lừa chat bot, khiến nó tự tay chuyển tiền sang ví của mình.


Đại diện DRB cho biết chỉ khi bị lộ thông tin cá nhân, kẻ gian mới hoàn trả 80% số tiền đã đánh cắp. Ảnh: X.
Để khai thác lỗ hổng này, trước đó, kẻ gian đã tặng cho ví của Grok một loại NFT đặc biệt từ hệ thống Bankr. NFT này đóng vai trò như một "chìa khóa" kích hoạt quyền chuyển tiền tự động. Khi Grok phản hồi lại các bài đăng của kẻ tấn công, hệ thống Bankr đã hiểu lầm đó là lệnh xác nhận từ chủ sở hữu ví. Kết quả là 3 tỷ token DRB, trị giá hơn 150.000 USD, đã được chuyển đi ngay lập tức.

Đội ngũ phát triển Bankr sau đó đã thừa nhận sai sót trong khâu vận hành. Một đại diện của dự án cho biết, họ từng có lớp bảo mật để chặn các phản hồi từ AI. Tuy nhiên, lớp bảo mật này đã vô tình bị gỡ bỏ trong một đợt cập nhật phần mềm gần đây. Điều này tạo điều kiện cho AI của Grok bị điều khiển để thực hiện các giao dịch ngoài ý muốn.

"Kẻ tấn công đã sử dụng kỹ thuật chèn lệnh để đánh lừa Grok, khiến nó ký một lệnh chuyển khoản trực tiếp. Vì Grok có quyền truy cập trực tiếp vào ví, nên việc chèn lệnh đã bỏ qua bước xác minh giao dịch", tài khoản Bankr giải thích trên X.

Sau khi sự việc bị phát giác, cộng đồng blockchain đã nhanh chóng truy vết danh tính thực của kẻ tấn công. Trước áp lực bị lộ thông tin cá nhân và đối mặt với pháp lý, người này đã phải nhượng bộ.

“Kẻ tấn công đã đồng ý hoàn trả khoảng 80% số tiền chiếm đoạt được”, đại diện dự án Bankr xác nhận sau quá trình thương thảo. Tổng cộng khoảng 120.000 USD đã được trả lại cho giao thức.

Các chuyên gia an ninh mạng khuyến cáo người dùng và các nhà phát triển cần thận trọng. Việc trao quyền quản lý tài sản cho AI cần đi kèm với các biện pháp xác thực đa lớp. Những lỗi logic đơn giản trong câu lệnh có thể dẫn đến những thiệt hại tài chính khổng lồ trong tích tắc.

Sau sự cố, phía Bankr đã nhanh chóng vá lỗ hổng bằng cách chặn không cho AI tự chuyển tiền. Họ cũng lập thêm một "danh sách an toàn" gồm các địa chỉ mạng đáng tin cậy mới được phép truy cập, nhằm đảm bảo những vụ việc tương tự tái diễn.

VietBF@ sưu tập