Mối nguy từ trào lưu biến ảnh selfie thành tranh vẽ

[Hanna]

Nhiều người dùng chi tiền để tạo ảnh đại diện trông như tranh vẽ bằng ứng dụng Lensa, mà không biết đến nguy cơ lộ dữ liệu sinh trắc học hoặc tạo ra hình ảnh phản cảm.Chỉ trong 5 ngày đầu tháng 12, ứng dụng tạo ảnh này có hơn 4 triệu lượt tải, theo dữ liệu từ SensorTower. Prisma Labs, công ty tạo ra ứng dụng, từng gây sốt vào năm 2016 với một ứng dụng tương tự có thể biến các bức ảnh thành tranh vẽ.

Cũng chỉ trong 5 ngày, ứng dụng đã thu về hơn 8 triệu USD từ tính năng tạo "ảnh đại diện phép thuật", hay "magic avatars", cho dù một lượt tạo ảnh chỉ có giá khoảng 4 USD. Đây là bằng chứng cho sự hấp dẫn của ảnh hay "tranh vẽ" mà Lensa tạo ra, nhờ khả năng xử lý mạnh hơn ứng dụng cũ của Prisma Labs.

Tuy nhiên, việc gửi ảnh cho AI luôn tiềm ẩn rủi ro về quyền riêng tư hoặc hình ảnh phản cảm, và các chuyên gia khuyến cáo người dùng cần cân nhắc kỹ trước khi sử dụng Lensa.

Lộ dữ liệu sinh trắc học
Một bước quan trọng thường bị người dùng bỏ qua là đọc và đồng ý với các chính sách quyền riêng tư, cũng như điều khoản sử dụng của ứng dụng. “Người dùng ứng dụng cần lưu ý dữ liệu sinh trắc học của mình đang được sử dụng các mục đích nào, vì đây là dữ liệu nhạy cảm", David Leslie, nhà nghiên cứu về các vấn đề đạo đức xung quanh công nghệ mới tại Viện Alan Turing, cho biết.“Lensa hoạt động dựa trên mô hình Stable Diffusion và nhận dạng khuôn mặt trên từng hình ảnh được tải lên, có nghĩa là có một mô hình riêng cho từng người dùng. Ảnh của người dùng sẽ bị xóa khỏi máy chủ của chúng tôi ngay khi hình đại diện được tạo”, Andrey Usoltsev, Giám đốc điều hành và đồng sáng lập của Prisma Labs, nói với Wired.

Tuy nhiên, hình ảnh tải lên chỉ là một phần của các dữ liệu mà một ứng dụng có thể thu thập. Lensa có thể sử dụng các tệp ghi trên thiết bị, số nhận dạng thiết bị và thông tin người dùng. Chi tiết các thông tin này được ghi tại phần 3 của chính sách quyền riêng tư. Công ty cũng chỉ tuyên bố sẽ xóa các hình ảnh của người dùng tải lên, không phải các hình ảnh do ứng dụng tạo ra.Người dùng có thể từ chối việc thu thập dữ liệu bằng cách liên hệ với công ty qua hộp thư điện tử phụ trách vấn đề quyền riêng tư. Nếu sử dụng thiết bị iOS, lựa chọn từ chối cung cấp dữ liệu sẽ có trong cài đặt.

LenBen Winters, chuyên gia về quyền riêng tư tại Electronic Privacy Information Center, lưu ý ngay cả khi người dùng tin tưởng Lensa và Prism Labs, dữ liệu cá nhân của họ vẫn có thể bị "đổi chủ" nếu công ty này bị mua lại trong tương lai, thường là bởi các công ty lớn hơn và "thành thạo" hơn trong việc thu thập dữ liệu.

Nguy cơ tạo ra hình ảnh phản cảm
Điều khoản sử dụng của Lensa yêu cầu người dùng không gửi lên hình ảnh trẻ em hoặc ảnh khỏa thân, nhưng ngay cả khi tuân thủ, người dùng vẫn có thể nhận được kết quả hình ảnh phản cảm.

“Ứng dụng không chỉ tạo ảnh khỏa thân mà còn gán cho người dùng các đặc điểm gợi dục nhưng theo phong cách hoạt hình, chẳng hạn như các tư thế khiêu gợi và bộ ngực khổng lồ", Olivia Snow, nhà nghiên cứu Internet tại Đại học California, Los Angeles, cho biết.Snow cho biết sau khi thử nghiệm nhiều lần với Lensa, cô đã nhận được một số hình ảnh kết quả hoàn toàn khỏa thân, mặc dù chỉ tải lên các bức ảnh chụp cận cảnh khuôn mặt.

Khi đưa ảnh cho AI "sáng tác", người dùng còn có thể nhận về kết quả là hình ảnh phân biệt chủng tộc hoặc giới tính, theo Grant Fergusson, chuyên gia tại tổ chức tư vấn Equal Justice Works.

“Internet chứa rất nhiều hình ảnh có thể khiến các AI hoạt động theo hướng tạo ra các hình ảnh gây khó chịu, chẳng hạn như biến chân dung của một người dùng thành hình ảnh khiêu dâm hay tranh biếm họa chủng tộc”, Fergusson cho biết.

Các chuyên gia lưu ý, nếu người dùng đã cân nhắc kỹ và vẫn quyết định chi tiền để có một bộ “ảnh đại diện phép thuật”, nên xóa ứng dụng sau khi sử dụng.