Kiểu tấn công lần đầu vừa xảy ra với trí tuệ thông minh AI

[trungthuc]

Chỉ với một email tưởng chừng vô hại, phụ tá AI Microsoft Copilot có thể tự động tiết lộ ra các dữ kiện mật mà không cần phải thông qua sự đồng ý của người sử dụng.

Tin tặc đang tìm cách khai thác để tấn công vào Microsoft 365 Copilot. (Ảnh: Bloomberg)

Một lỗ hổng về bảo mật nghiêm trọng vừa được phát hiện ra trong Microsoft 365 Copilot, phụ tá AI được kết hợp trong bộ ứng dụng văn phòng như Word, Excel, Outlook, PowerPoint và Teams. Sự phát hiện này do công ty an ninh mạng Aim Security cho công bố ra, làm dấy lên mối lo ngại về tình trạng tấn công vào các ứng dụng AI.

Lỗ hổng nói trên được công ty Aim Security đặt tên là EchoLeak, cho phép kẻ tấn công dễ dàng truy cập thông tin số liệu quan trọng mà không cần bất cứ hành động nào từ phía người sử dụng. Đây là dạng tấn công "zero-click" đầu tiên được biết đến nhằm vào một ứng dụng AI, hệ thống sử dụng mô hình ngôn ngữ lớn (LLM) để tự động thực hiện nhiệm vụ được giao phó.

Ứng dụng AI vào tầm ngắm của tin tặc
Trong trường hợp của Microsoft Copilot, kẻ tấn công chỉ cần gửi một email chứa đường dẫn ẩn giấu đến người sử dụng. Vì Copilot vốn tự động cho quét email trong nền, nó sẽ đọc ra và thực hiện các lệnh này mà không cần sự tương tác từ người nhận. Hậu quả là AI có thể bị nắm quyền điều khiển để truy cập và trích xuất ra các tài liệu, bảng tính, tin nhắn nội bộ và chuyển các số liệu này ngược lại cho bọn tin tặc.

"Chúng tôi đánh giá cao Aim Security vì đã xác định và thông báo vấn đề này một cách có trách nhiệm để giải quyết trước khi khách hàng bị ảnh hưởng. Các bản cập nhật sản phẩm đã được cho triển khai và không yêu cầu bất cứ hành động nào từ phía người sử dụng", phát ngôn viên của Microsoft xác nhận với Fortune News.

Aim Security cảnh giác bọn tin tặc đang tìm cách khai thác Microsoft 365 Copilot. (Ảnh: Bloomberg)

Tuy nhiên, theo Aim Security, vấn đề này còn nằm sâu hơn ở phần thiết kế nền tảng của các ứng dụng AI. Adir Gruss, đồng sáng lập kiêm Giám đốc kỹ thuật của Aim Security, nhận định về lỗ hổng EchoLeak là dấu hiệu cho thấy các hệ thống AI hiện tại đang lặp lại sai lầm về bảo mật từ trong quá khứ.

"Chúng tôi đã tìm thấy chuỗi lỗ hổng cho phép bọn tin tặc thực hiện tấn công tương đương với zero-click trên điện thoại, nhưng lần này là tấn công vào hệ thống AI", ông Gruss chia sẻ. Ông cho biết, đội ngũ của ông đã phải mất đi khoảng 3 tháng để ra sức phân tích về kỹ thuật đảo ngược của Microsoft Copilot, từ đó xác định ra cách thức mà AI có thể bị xâm nhập và điều khiển từ kẻ xấu.

Dù Microsoft đã có phản ứng và tung ra bản vá, ông Gruss cho rằng quá trình nhằm khắc phục khi mất đến 5 tháng là "rất lâu so với mức độ nghiêm trọng của hậu quả có thể gây ra". Ông lý giải việc này một phần do khái niệm lỗ hổng quá mới cũng như cần thêm thời gian để cho các nhóm kỹ thuật của Microsoft nhận diện và ra tay hành động kịp thời.

Lịch sử lại tái hiện?
Theo ông Gruss, EchoLeak không chỉ gây ra ảnh hưởng xấu đến Copilot mà còn có thể cho áp dụng với các nền tảng tương tự như Agentforce (Salesforce) hay giao thức MCP của Anthropic.

"Nếu tôi đứng đầu một công ty đang cho triển khai các ứng dụng AI, tôi sẽ sợ hãi rất lớn. Đây là loại lỗi trong việc thiết kế đã từng gây ra hàng chục năm bị tổn thương trong ngành kỹ nghệ và giờ đây nó lại tái xuất với AI", ông Gruss nhận định thêm.

Nguyên nhân gốc rễ của vấn đề nói trên đến từ việc các ứng dụng AI hiện tại không phân biệt ra rõ các số liệu nào là đáng tin cậy và không đáng tin cậy. Ông Gruss tin rằng giải pháp lâu dài là tái thiết kế toàn bộ cách phát minh ra ứng dụng AI, với khả năng phân biệt rạch ròi giữa số liệu hợp lệ và thông tin nào có thể gây ra nguy hiểm.

Hiện tại, Aim Security đang cung cấp các biện pháp nhằm giúp giảm thiểu tạm thời cho một số khách hàng sử dụng ứng dụng AI. Tuy nhiên, đây chỉ là cách để tạm thời khắc phục và việc cho thiết kế lại hệ thống mới có thể bảo đảm mức độ an toàn tốt hơn về thông tin cho người dùng.

"Mọi công ty trong Fortune 500 mà tôi biết đều cảm thấy lo sợ khi cho triển khai ứng dụng AI vào trong vận hành thực tế. Họ có thể đang cho thử nghiệm nhưng với những lỗ hổng như thế này sẽ khiến cho họ mất ngủ và làm chậm quá trình đổi mới", Giám đốc công ty bảo mật của Aim Security cho biết thêm.

Cũng may là, hôm nọ tôi mới vừa mua phone Samsung Galaxy A 36 5G với giá gần 400 USD trên Amazon để thay thế cho smartphone Samsung cũ. Khi vô phần Settings thì thấy cho update lên rất nhiều apps trong đó lại có 365 Copilot này. Cứ loay hoay để đăng ký vô xài thì thấy quá rắc rối, nên liền cho xóa app này, vô Play Store để cài app Word, thật êm xuôi khi muốn mở xem các bài đã cho lưu lại trước đó.

Hơn nữa, trang mạng ở VN cũng báo động, nên xóa thằng Copilot 365 này đi, vì còn trong giai đoạn thử nghiệm ban đầu của Microsoft, nên cảnh giác kẻo bị lộ ra thông tin cá nhân riêng tư.

Vài hàng xin được chia sẻ thêm. Bây giờ nghe đến phải update này nọ là sợ đến xanh mặt vì giới tài phiệt cứ gạ gẫm tung ra "đồ mới", kêu "phải mau update này nọ", nhưng thật ra sẽ làm hư hỏng máy móc, thật là xỏ lá vì bọn họ muốn thiên hạ phải bỏ ra tiền để chuốc lấy thêm rắc rối!!!