VN: Cảnh giác với video do AI ngụy tạo, giả người khuyết tật đang bán hàng gây bức xúc

[trungthuc]

Mạng xã hội chợt thấy xuất hiện có nhiều video của người khuyết tật đang bán hàng với dấu hiệu bất thường, gây ra mất lòng tin ở cộng đồng.

Tài khoản sử dụng AI ngụy tạo, giả mạo người bán hàng. (Ảnh: TikTok)

Với sự xuất hiện của hàng loạt ứng dụng AI tiên tiến trong thời gian qua, việc tạo dựng hình ảnh, video clip nay đã trở nên đơn giản hơn rất nhiều chỉ với vài câu lệnh. Tuy nhiên, khả năng phân biệt thật giả của thiên hạ chưa theo kịp mức độ ngụy tạo này, và bị một số đối tượng xấu lợi dụng để trục lợi bất chính.

Gần đây, mạng xã hội có lan truyền ra tài khoản TikTok cho đăng tải hàng loạt video về một người phụ nữ bị cụt hai tay, phải bán hàng để nuôi con nhỏ. Trong các clip, người này mặc quần áo đơn giản, nói những lời thương cảm để giới thiệu sản phẩm như khăn giấy, nước tẩy rửa.

Theo ghi nhận, người phụ nữ chia sẻ hoàn cảnh chồng mất sớm do tai nạn, phải một mình nuôi con nhỏ, nhưng câu chuyện này lại không đồng nhất qua các video. Tài khoản nhận về hơn hàng triệu lượt xem và tương tác, tăng thêm 100,000 lượt theo dõi trong 3 ngày lập ra kênh. Nhiều người bày tỏ sự cảm thông, kêu gọi ủng hộ và thậm chí đặt mua sản phẩm để giúp đỡ.

Sau đó người ta tiếp tục phát hiện ra các tài khoản có nội dung tương tự. Điểm chung của các kênh này đều là trang cá nhân mới cho thiết lập ra, không có lịch sử tương tác thực tế, thường chia sẻ nội dung gây cảm động quá mức.

Những kênh này thường mới cho thiết lập ra trên TikTok, không có tiểu sử rõ ràng.(Minh họa)

Tuy nhiên, sau một thời gian cư dân mạng đồng loạt nhận thấy có nhiều điều bất thường, cũng như không có sự mạch lạc qua từng video. Ví dụ như cánh tay cụt của người phụ nữ trông rất nhẵn nhụi, màu sơn tường nhà khác nhau hay đứa bé nằm im bất thường. Lý do vì toàn bộ các clip này đều do AI ngụy tạo ra để đánh lừa người khác.

Đáng nói là, những bình luận cảnh cáo hay bóc trần sự thật đều bị chủ tài khoản cho ẩn hay tẩy xóa đi mất. Nhiều người cảm thấy bị xúc phạm khi bị lừa dối, cũng như bức xúc về hành vi trục lợi bất chính trên chính sự thương cảm của người dân.

Ngoài ra, các video giả mạo này cũng gây ra ảnh hưởng đến chính chủ, và người tàn tật khác đang mưu sinh trên cùng nền tảng. Chị Trần Thị Nga (36 tuổi) ở Phú Thọ, chủ kênh Nga Tích Cực đã phải liên tục lên tiếng rằng bản thân chị bị cụt tay thật.

Cuối năm 2024, người này bị mắc viêm cơ tim cấp do vi rút và buộc phải phẫu thuật cắt bỏ toàn bộ tay chân, bắt đầu lại cuộc sống với sự yêu thương của gia đình. Trong livestream gần đây, chị bày tỏ sự buồn bã vì bị hoài nghi, hoặc bị buông ra lời cay nghiệt.

Những kênh mới lập này cũng rất nhanh đã có số lượt theo dõi cao, gây khó phân biệt ra hơn. Một tài khoản có nội dung tương tự khác có tên N. L. S. đã tăng gần 50,000 theo dõi chỉ sau một video.

Thiên hạ bày tỏ sự bức xúc, mất niềm tin khi bị kẻ xấu lừa đảo. (Minh họa)

Do đó, không thể trách cộng đồng mạng dần mất đi niềm tin vào những gì mà họ xem qua, từ đó không còn thiết tha với những ai đang thật sự cần sự giúp đỡ. Một bình luận cho rằng đáng bị lên án là những người sử dụng kỹ thuật AI để đi trục lợi cảm xúc cộng đồng.

Các thủ đoạn lừa đảo qua không gian mạng ngày càng tinh vi, nhắm đến đối tượng ít tiếp xúc hoặc người lớn tuổi. Đa số chủ tài khoản sử dụng hình ảnh của người đang chịu tình trạng bị thương tổn, như nhập viện, khuyết tật, sau đó gắn lên giỏ hàng hoặc để số tài khoản để kêu gọi sự ủng hộ.

Trước đó, trang CNBC ở Mỹ đã phát hiện hơn 30 tài khoản trên Instagram, YouTube, TikTok dùng AI giả mạo người bị hội chứng Down. Những đối tượng sử dụng câu chuyện thương tâm để thu hút người theo dõi và kêu gọi gây quỹ cho cộng đồng nhưng thực chất bọn chúng chiếm dụng cho bản thân.

Vụ việc trên cảnh cáo về khả năng ngụy tạo nội dung giống như thật của AI bị đối tượng xấu ra tay lợi dụng. Khi kỹ thuật càng tiến bô nhanh chóng, người tiêu dùng cần nên đề cao cảnh giác, khi muốn giúp đỡ người thân chung quanh để không trở thành nạn nhân cho những trò lừa đảo bỉ ổi qua mạng.