Báo cáo gây chấn động: Chatbot Grok của Elon Musk tạo ra 3 triệu ảnh nhạy cảm chỉ trong 11 ngày

[S9g*]

Một báo cáo mới được cho công bố ra từ Trung tâm Chống thù ghét kỹ thuật số (CCDH) của Mỹ vào ngày 22/1 đã phơi bày quy mô đáng báo động về việc lạm dụng trí tuệ nhân tạo để ngụy tạo ra các nội dung đồi trụy. Theo đó, Grok, chatbot AI thuộc công ty xAI do tỷ phú Elon Musk đứng ra sáng lập, được xác định là công cụ đã tạo ra khoảng ba triệu hình ảnh nhạy cảm, bao gồm cả nội dung khiêu dâm trẻ em, chỉ trong khoảng thời gian ngắn từ ngày 29/12/2025 đến 8/1/2026.


Cỗ máy sản xuất nội dung deepfake với quy mô lớn

Sự việc bắt đầu thu hút sự chú ý của dư luận và gây ra phẫn nộ trên toàn cầu khi người ta phát hiện ra lỗ hổng nghiêm trọng trong cơ chế kiểm duyệt của AI Grok. Cụ thể, chatbot này cho phép đăng tải lên hình ảnh của người thật, sau đó sử dụng các thuật toán AI để thực hiện hành vi "lột bỏ quần áo kỹ thuật số", cho ghép nạn nhân vào các tư thế khêu gợi dâm dục và cho đăng tải công khai kết quả lên mạng xã hội X.

Theo số liệu phân tích từ công ty thông tin kỹ thuật số Peryton Intelligence có trụ sở tại Anh, làn sóng lạm dụng AI này đã bùng phát mạnh mẽ trong dịp đầu năm mới 2026. Cao điểm là vào trong ngày 2/1/2026, hệ thống đã ghi nhận có đến 199,612 sự yêu cầu chỉnh sửa ảnh với mục đích đen tối, xấu xa. Ông Imran Ahmed, Giám đốc điều hành của CCDH, đã đưa ra nhận định gay gắt cho rằng Grok ở giai đoạn đó đã biến thành một cỗ máy sản xuất nội dung nhạy cảm, dung tục với quy mô lớn. Ông nhấn mạnh việc cho lột bỏ quần áo phụ nữ qua kỹ thuật số mà không có sự đồng ý cho phép là một hành vi lạm dụng tình dục nghiêm trọng cần phải bị lên án.


Báo động đỏ về sự an toàn cho trẻ em và người nổi tiếng

Phần đáng lo ngại nhất trong báo cáo của CCDH là những con số có liên quan đến trẻ em. Ước tính trong vòng 11 ngày kể trên, AI Grok đã ngụy tạo ra khoảng 23,000 hình ảnh nhạy cảm có liên quan đến trẻ vị thành niên. Số lần xuất hiện của các nội dung này dày đặc đến mức trung bình cứ mỗi 41 giây lại có một hình ảnh lạm dụng trẻ em mới được ngụy tạo ra. Báo cáo dẫn chứng một trường hợp cụ thể gây ra sốc, trong đó bức ảnh selfie bình thường của một nữ sinh trước khi đến trường đã bị AI biến đổi thành hình ảnh mặc bikini gợi dục.


Bên cạnh giới trẻ em, danh sách nạn nhân của công cụ này còn bao gồm hàng loạt nhân vật nổi tiếng và chính trị gia quyền lực. Những cái tên xuất hiện trong loạt ảnh mà CCDH cho phân tích bao gồm các ngôi sao giải trí nỗi tiếng như Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown. Nghiêm trọng hơn, kỹ thuật này còn nhắm vào các chính khách như Phó thủ tướng Thụy Điển Ebba Busch và cựu Phó tổng thống Mỹ Kamala Harris, cho thấy tác động của chức năng ngụy tạo ra các loại ảnh này rộng lớn và nguy hiểm hơn nhiều so với các dự đoán ban đầu.

Phản ứng từ xAI và các lệnh cấm quốc tế

Trước làn sóng chỉ trích dữ dội, công ty xAI đã phải thực hiện các biện pháp khẩn cấp hầu cho kiểm soát tình hình hỗn loạn này. Lúc đầu, vào ngày 9/1, công ty đã giới hạn chức năng cho chỉnh sửa ảnh người thật chỉ dành cho người dùng trả lệ phí. Tuy nhiên, khi nhận thấy biện pháp này không đủ để ngăn chặn sự lạm dụng, đến ngày 14/1, xAI đã thông báo cho vô hiệu hóa hoàn toàn chức năng này đối với mọi đối tượng người đăng kỳ. Đại diện công ty cũng đưa ra cam kết sẽ biến mạng xã hội X thành một mạng xã hội an toàn, khẳng định chính sách không khoan nhượng với mọi hình thức lạm dụng tình dục trẻ em, khỏa thân không có sự đồng thuận và các nội dung kích dục không mong muốn.


Hậu quả của vụ lạm dụng này đã lan rộng ra trong phạm vi quốc tế. Tuần trước, Philippines đã trở thành quốc gia thứ ba cho ban hành lệnh cấm đối với AI Grok, nối gót hai nước láng giềng trong khu vực Đông Nam Á là Malaysia và Indonesia. Trong khi đó, tại châu Âu, chính phủ Anh và Pháp tuyên bố sẽ tiếp tục gây sức ép về mặt pháp lý lên xAI để bảo đảm thực hiện các tiêu chuẩn về an toàn. Tuy nhiên, tình hình đã có dấu hiệu hạ nhiệt trong tuần này khi Malaysia và Philippines quyết định dỡ bỏ lệnh cấm sau khi xác nhận AI Grok đã cho triển khai các biện pháp an toàn bổ sung nhằm khắc phục các lỗ hổng nghiêm trọng nói trên.