Vài ngày sau khi John (không phải là tên thật) kết nối với một phụ nữ trên ứng dụng hẹn hò
OkCupid, anh có nhận được tin nhắn từ người bạn.
Người này nói rằng có ai đó đã gửi cho anh ta bức ảnh được cho là hình khỏa thân của John.
John (21 tuổi), chia sẻ lại, anh biết đó là người phụ nữ mà anh đã gặp trên ứng dụng hẹn hò vào tháng 6 với tên Janice.
Vài giờ sau, cô lại tiếp tục gửi cho John bức ảnh chụp khuôn mặt anh trên cơ thể trần trụi của một người đàn ông lạ.
Cô đe dọa sẽ cho phát tán bức ảnh này với nhiều bạn bè khác của anh trên nền tảng mạng xã hội, trừ khi John đồng ý chuyển 1,000 USD vào tài khoản ngân hàng.
Tuy nhiên, John cho hay, anh chưa bao giờ gửi cho Janice một bức ảnh nào, chứ đừng nói đến ảnh chụp khỏa thân. Họ chỉ có mỗi một cuộc trò chuyện qua video call mà thôi.
Kết luận cuối cùng: hình ảnh đó hóa ra là được tạo ra với ứng dụng
DEEPFAKE. Những kẻ lừa đảo đã sử dụng kỹ thuật kết hợp với trí tuệ nhân tạo (AI) hoán đổi khuôn mặt để cho ghép khuôn mặt của John sang cơ thể người khác.
Anh John không phải là nạn nhân duy nhất.
Straits Times đã ghi nhận ít nhất 4 người đàn ông từng bị những kẻ lừa đảo nhắm mục tiêu trong hoạt động
"deepfake sexploitation" (tạm dịch: lạm dụng tình dục qua ứng dụng kỹ thuật DEEPFAKE).
John từ chối đưa tiền cho Janice, nhưng những người khác đã buộc phải chi tiền ra để tránh tai tiếng. Trong đó có một nạn nhân đã bị những kẻ lừa đảo tống tiền đến nhiều lần liên tiếp.
Tài khoản Instagram của kẻ lừa đảo dưới tên "Janice". (Ảnh: Kyleen Cabael)
Hồ sơ vụ lừa đảo
Hồ sơ trên
OkCupid của Janice cho thấy cô này cư trú tại Singapore. Tài khoản này tự nhận mình là một cô gái lai Nhật Bản 21 tuổi và rất thích ăn sushi.
"Hồ sơ của cô gái này không có gì là bất thường", John kể lại.
Sau đó khi kết nối với nhau, anh bắt chuyện cùng Janice thông qua chức năng nhắn tin của ứng dụng hẹn hò này. Họ đã trao đổi địa chỉ liên hệ trên Telegram và Instagram.
4 ngày sau, Janice yêu cầu gọi video call và John đồng ý.
"Cô ấy trông hơi khác so với ảnh đại diện, nhưng tôi không nghĩ gì nhiều về điều đó. Dù vậy, thật kỳ lạ khi cô ấy cứ nhất quyết gọi điện", anh cho biết.
"Cô ấy liên tục nói ra những câu khiêu khích như 'Tôi muốn làm điều đó ngay bây giờ' cho đến cuối cuộc gọi", anh kể thêm.
Sau đó, John quyết định họ không có hợp nhau và kết thúc cuộc gọi. Vài giờ tiếp theo, anh nhận được tin nhắn từ bạn mình về bức ảnh khỏa thân từ ứng dụng Deepfake. Lời đe dọa của Janice cũng thấy xuất hiện ngay sau đó.
Dù bị sốc, nhưng John vẫn phớt lờ lời đe dọa vì anh biết mình không làm gì sai trái cả. Anh cũng tìm kiếm lời khuyên nhủ trên mạng.
"Tôi học được rằng kẻ lừa đảo thường không thể thực hiện lời đe dọa vì họ chỉ muốn tống tiền", anh nói.
John cũng nhận thấy Janice đã cho xóa tài khoản trên
OkCupid trước khi anh cũng cho tạm dừng tài khoản của mình.
Nữ ca sĩ Taylor Swift từng là nạn nhân khi hàng loạt hình ảnh được tạo ra bằng ứng dụng deepfake ghép gương mặt của nữ ca sĩ nổi tiếng vào hình ảnh khiêu dâm. (Ảnh: Samir Hussein/WireImage).
Cùng ngày mà John bị Janice tống tiền, anh nhận được tin nhắn từ bạn mình, Sam (không phải tên thật), cũng 21 tuổi.
Sam muốn hỏi liệu John có biết Janice không, vì anh nhận thấy John theo dõi tài khoản Instagram của cô. Hóa ra Sam cũng từng là nạn nhân của cô này.
Sam đã gặp Janice trên
OkCupid cùng thời điểm với John. Cô ta cũng làm điều tương tự với Sam: trò chuyện trên ứng dụng và sau đó gọi điện video trên Telegram.
Lời đe dọa cũng tương tự, ngoại trừ việc cô muốn anh trả 2,000 USD. Sam vì lo sợ không ai tin mình nên đã đưa tiền.
Joel (không phải tên thật), 25 tuổi, cũng nhượng bộ. Trong trường hợp của anh, kẻ lừa đảo đã ép anh tổng cộng 2,200 USD, sau khi đòi 700 USD lúc ban đầu.
Vào tháng 8/2023, Joel nhấp vào email lừa đảo mà anh nghĩ rằng đó là hồi âm cho suất học bổng mà anh đã đăng ký.
Anh được chuyển hướng đến trang web quét khuôn mặt. Vài ngày sau, anh nhận được đoạn video tục tĩu về mình từ người dùng không xác định rõ danh tính.
Joel kinh hoàng khi nhận ra đó là video sử dụng deepfake giả mạo. Kẻ lừa đảo đe dọa sẽ phát tán video đến bạn bè anh trừ khi anh chịu trả 700 USD.
"Tôi thấy sợ hãi vì họ nói rằng có cách thức để liên lạc với người thân, bạn bè và đồng nghiệp của tôi. Video trông cũng khá thật", Joel kể.
Anh đã đồng ý đưa tiền và xin kẻ lừa đảo hãy xóa video. Thế nhưng, bọn chúng vẫn tiếp tục yêu cầu thêm nhiều tiền hơn. Tổng cộng, Joel đã chi trả 2,200 USD cho 3 cuộc giao dịch trước khi tìm kiếm sự giúp đỡ của cảnh sát.
"
Tôi nhận thấy không thể dừng lại được nên đã nói chuyện với anh trai mình. Anh ấy đề nghị tôi báo vụ này với cảnh sát", Joel nói.
"Sextortion deepfake"
"Sextortion deepfake" là hiện tượng mới, nhưng đã gây ra chú ý ở nhiều nơi trên thế giới.
Vào tháng 4, một người đàn ông ở Anh đã bị tống tiền bằng đoạn video deepfake làm giả cảnh anh đang thủ dâm.
Udi Mokady, chủ tịch của CyberArk Software, bên cạnh hình ảnh deepfake của ông. (Ảnh: Bloomberg Businessweek).
Anh nghi ngờ kẻ lừa đảo đã lấy được danh bạ và vào được thư viện ảnh của anh sau khi nhận được cuộc gọi từ số điện thoại không xác định.
"Khi công luận nhận thức rõ hơn về kỹ thuật AI và úng dụng Deepfake, việc sử dụng trò lừa đảo deepfake cho âm mưu như tống tiền tình dục có thể gia tăng, đặc biệt ở châu Á", ông Leonardo Hutabarat, người đứng đầu bộ phận giải pháp kỹ thuật khu vực châu Á - Thái Bình Dương và Nhật Bản tại công ty an ninh mạng
LogRhythm, cho biết.
Một số kẻ lừa đảo đang hoạt động ngoài các trung tâm được thành lập ở Campuchia. Ông Hutabarat cho biết nhiều đối tượng ban đầu bị lừa bởi lời hứa
"việc nhẹ lương cao", nhưng sau đó bị ép buộc phải thực hiện hành vi lừa đảo trực tuyến.
Theo ông, vào tháng 4/2024, chính phủ Ấn Độ đã cho giải cứu 250 công dân khỏi Campuchia. Những người này bị buộc phải làm việc tại các trung tâm và thực hiện hành vi lừa đảo, bao gồm cả tống tiền qua tình dục.
"Trò lừa đảo này thường nhắm vào cá nhân đang tìm kiếm mối giao du lãng mạn và có thể gây thiệt hại đáng kể về tiến bạc cho nạn nhân", ông Hutabarat nhấn mạnh.
Ông còn cho biết thêm, kẻ lừa đảo cũng sử dụng ứng dụng
DEEPFAKE để cho sao chép giọng nói của bạn bè, thành viên gia đình hay người có thẩm quyền, nhằm đưa ra yêu cầu khẩn cấp về chuyển tiền hoặc thông tin nhạy cảm.
"Âm thanh giả mạo nghe qua rất chân thực, khó phát hiện ra", ông cho hay.
Mối đe dọa trên mạng xã hội
Cơ quan An ninh Mạng Singapore (
CSA) cho biết sự trỗi dậy và phát triển đáng kể của
Generative AI (Gen AI) vào năm 2023 có thể giúp tăng năng suất bằng cách tự động hóa nhiệm vụ lặp đi lặp lại và cho phép quá trình sáng tạo có hiệu quả hơn.
Tuy nhiên, điều đó cũng đem đến mối đe dọa mới trên mạng, như khả năng tạo ra video deepfake.
"Khi các phương tiện và hướng dẫn sử dụng AI ngày càng trở nên phổ biến, bất cứ một ai có hiểu biết về kỹ thuật ở mức độ vừa phải đều có thể bắt đầu và tạo ra video deepfake trong thời gian tương đối ngắn", người phát ngôn viên của cơ quan này cho biết.
"Với rào cản từ đầu vào khá thấp như vậy, chúng tôi dự kiến sẽ thấy được sự gia tăng trong việc tạo và sử dụng deepfake, có thể được sử dụng cho nhiều mục đích độc hại khác nhau".
Theo
CSA, vào tháng 2/2024, một nhân viên tài chính tại công ty đa quốc gia ở khu vực châu Á-Thái Bình Dương đã bị lừa chuyển 25 triệu USD. Kẻ lừa đảo cho sử dụng ứng dụng Deepfake để đóng vai giám đốc tài chính của công ty trong cuộc gọi hội nghị video call.
Ông Hutabarat cho biết một số công ty thậm chí còn cung cấp dịch vụ có tên
Deepfakes-as-a-Service, nơi mà khách hàng có thể nhận được nội dung deepfake chuyên nghiệp với một khoản lệ phí.
Trong bối cảnh đó, CSA khuyên rằng người bị lừa đảo bằng Deepfake nên báo cáo ngay với cảnh sát và bất cứ tổ chức nào có liên quan.
"Người sử dụng mạng khi bị nhắm mục tiêu, được khuyên không nên trả tiền chuộc cho kẻ lừa đảo, vì ngay cả chi trả tiền không bảo đảm rằng chúng sẽ dừng lại", CSA nói thêm.
Ông Hutabarat nhấn mạnh nạn nhân cần báo cảnh sát để kẻ lừa đảo phải chịu trách nhiệm và không dám chia sẻ các hình ảnh nhạy cảm của nạn nhân.
"Việc thu thập bằng chứng rất cần thiết trong bất cứ cuộc điều tra nào. Vì vậy, điều quan trọng là phải ghi giữ lại tất cả thông tin liên lạc, điện thoại và bảo đảm không có phần mềm độc hại nào được cài đặt trên hệ thống của nạn nhân", ông nói thêm.
