Đến lúc này, nhiều người mới nhận thấy ra, khả năng tạo ra ảnh giả mạo "không để lại một tỳ vết nào" của ChatGPT có thể trở nên đáng sợ đến như thế nào.
Cho đến mãi gần đây, việc gửi ảnh, chụp tài liệu vẫn được coi là
"bằng chứng đủ tốt" cho nhiều hệ thống xác minh ra sự chính xác và trung thục. Tuy nhiên, thời đại đó nay đã kết thúc. Với sự ra đời của công cụ tạo ra ảnh
GPT-4o, AI giờ đây có thể ngụy tạo ra những tài liệu giả mạo chân thực đến mức khó có thể phân biệt với tài liệu thật khi xem trên màn hình điện tử. Điều này đặt ra mối đe dọa nghiêm trọng cho các hệ thống xác minh dựa trên hình ảnh, vốn đang được sử dụng rộng rãi trong nhiều lĩnh vực khác nhau trong đời sống.
Hóa đơn tiền ăn trông giống như thật này thực ra là do AI ngụy tạo ra
Yêu cầu được bồi thường khi hủy bỏ chuyến bay
Chỉ với một câu lệnh đơn giản yêu cầu
GPT-4o tạo ra
"ảnh chụp màn hình email cho hủy bỏ chuyến bay của hãng [TÊN HÃNG] cho chuyến bay [SỐ HIỆU] từ [ĐIỂM ĐI] đến [ĐIỂM ĐẾN] [THỜI GIAN]", kẻ gian lận có thể tạo ra bằng chứng
"giả' để yêu cầu được bồi thường.
Hình ảnh chuyến bay bị hủy bỏ trông rất giống như thật nhưng thực ra lại là "giả mạo"
Điều đáng lo ngại là có nhiều hãng hàng không chấp nhận ảnh chụp màn hình email làm bằng chứng cho các yêu cầu đòi bồi thường lên đến 600 Euro. Mặc dù một cuộc gọi xác minh đơn giản có thể phát hiện gian lận, nhưng trong môi trường dịch vụ khách hàng với khối lượng cao, nhiều công ty đã bỏ qua hoàn toàn bước này.
Làm giả cả lịch sử thanh toán tiền thuê nhà
Tương tự, AI cũng đặt ra sự rủi ro lớn cho thị trường bất động sản thông qua khả năng tạo ra lịch sử thanh toán tiền thuê nhà giả mạo.
GPT-4o có thể tạo ra ảnh chụp màn hình ứng dụng ngân hàng di động hiển thị ra 12 lần thanh toán tiền thuê hàng tháng với đầy đủ mã giao dịch và tham chiếu.
Lịch sử thanh toán tiền thuê nhà cũng có thể bị làm giả để đánh lừa người cho thuê nhà
Đây là vấn đề thật đáng lo ngại vì các chủ nhà trong thị trường cạnh tranh thường chấp nhận ảnh chụp màn hình để làm bằng chứng về mức độ tin cậy trong việc thanh toán tiền thuê mướn nhà. Phương pháp này không những chỉ bỏ qua việc cho kiểm tra tín dụng thực tế mà còn tạo ra lịch sử thanh toán hoàn toàn hư cấu, trong khi người xem xét những ảnh này hầu như không có cách nào xác minh ra tính xác thực từ một bức ảnh.
Làm giả bằng cấp giáo dục
Không chỉ dừng lại ở đó, lĩnh vực giáo dục cũng đang đối mặt với nguy cơ tương tự khi công cụ tạo ảnh 4o của
OpenAI có thể tạo ra hình ảnh chân thực về bằng cấp đại học. Những hình ảnh này bao gồm đầy đủ con dấu chính thức, chữ ký của hiệu trưởng và các chức năng bảo mật khác, thậm chí trông như được chụp khi đang treo trên tường.
Hình ảnh chân thực về bằng đại học, nhưng hóa ra là bị cho làm giả với AI
Bởi vì quá trình sàng lọc việc làm ban đầu thường yêu cầu gửi ảnh bằng cấp trước khi xác minh chính thức, điều này có thể tạo cơ hội cho ứng viên không đủ điều kiện vượt qua vòng đầu và tiềm ẩn khả năng được nhận vào những vị trí mà việc xác minh chính thức không bao giờ xảy ra hoặc bị bỏ qua.
Làm giả tài liệu y tế
Đặc biệt nguy hiểm hơn là khả năng của AI trong việc ngụy tạo ra tài liệu y tế giả mạo.
GPT-4o có thể tạo ảnh chụp toa thuốc viết tay trên giấy nhàu nát với tất cả các chi tiết như ánh sáng, phơi sáng quá mức, các nếp gấp, bóng đổ, kết cấu, và sự không hoàn hảo làm mờ đi nét đặc trưng của nhiếp ảnh từ điện thoại thông minh.
Không thể nghi ngờ rằng tờ giấy trông như viết tay này lại do AI ngụy tạo ra
Vấn đề là các công ty bảo hiểm và nơi tuyển dụng thường chấp nhận ảnh tài liệu y tế trong quá trình yêu cầu xin bồi thường ban đầu hoặc yêu cầu xin nghỉ phép. Việc xác minh tiếp theo chỉ xảy ra khi có điều gì đó gây ra nghi ngờ và những hình ảnh từ AI tinh vi này hiếm khi kích hoạt lời cảnh cáo đó.
Bằng chứng bảo hiểm cũng không có ngoại lệ
Ngoài ra, lĩnh vực bảo hiểm xe hơi cũng không có ngoại lệ. AI có thể tạo ra hình ảnh thẻ bảo hiểm ô tô GEICO cho một chiếc Honda Accord 2022 với đầy đủ các thông tin về bảo hiểm hiện tại, số hợp đồng, và tất cả các yếu tố về tiêu chuẩn, thậm chí trông như đang được ai đó cầm trên tay. Hình ảnh này còn bao gồm các khiếm khuyết đặc trưng của ảnh chụp từ điện thoại như phơi sáng quá mức, bóng đổ, độ phân giải thấp và kết cấu.
Cả ngón tay cầm thẻ bảo hiểm này cũng có thể được tạo ra bằng AI
Điều đáng lo ngại là cảnh sát giao thông, đại lý cho thuê xe và nhiều dịch vụ khác thường chỉ kiểm tra trực tiếp thẻ bảo hiểm mà không thực hiện cuộc gọi xác minh hoặc kiểm tra cơ sở dữ liệu, đặc biệt đối với các tương tác thông thường.
Làm giả hình ảnh trong visa, hộ chiếu
Một lĩnh vực nhạy cảm khác đang bị đe dọa là các tài liệu trong visa và di trú. Kẻ gian lận có thể yêu cầu AI ngụy tạo ra hình ảnh trong visa làm việc với đầy đủ tem, định dạng chính thức và các chức năng bảo mật hoàn toàn
"giả mạo". Điều này đặc biệt rất nguy hiểm vì đơn xin việc làm và nhà ở ban đầu thường bắt đầu với ảnh tài liệu trước khi được chính thức cho xác minh. Quá trình này tạo ra cơ hội cho người vượt qua vòng sàng lọc đầu tiên mà có thể không phải đối mặt với các bước xác minh sâu hơn.
(Minh họa)
Với những khả năng thật đáng báo động này, chúng ta cần nhận ra rằng phương pháp
"Gửi hình ảnh làm bằng chứng" đã chính thức trở nên lỗi thời. Thay vào đó, xác minh nhiều yếu tố nay trở thành điều không thể thiếu, cùng với việc hệ thống xác thực qua kỹ thuật số cũng cần phải thay thế kiểm tra trực tiếp. Bên cạnh đó, xác minh cơ sở dữ liệu cần được thực hiện cho tất cả tài liệu, không chỉ những tài liệu được coi là đáng ngờ vực.
Có thể nói rằng kỷ nguyên
"thấy là tin" đã chính thức kết thúc khi nói đến tài liệu kỹ thuật số. Các hệ thống tin cậy dựa trên xác minh trực tiếp đơn thuần cần được loại bỏ ra ngay lập tức, trước khi vấn đề tài liệu do AI ngụy tạo ra có thể phát tán lan rộng ra hơn nữa.
