Khả năng công cụ này được vũ khí hóa lớn đến mức cựu Giám đốc điều hành Google Eric Schmidt đã phải ngừng phát triển, không công bố ra công chúng.
Siêu công cụ nhận dạng
Hãy tưởng tượng bạn đang tản bộ trên một con phố đông đúc trong thành phố và chụp một bức ảnh của một người lạ rồi tải nó lên một công cụ tìm kiếm có thể gần như ngay lập tức giúp bạn xác định được đó là ai.
Đây không phải là câu chuyện viễn tưởng. Giờ đây, điều này có thể thực hiện vào trang web có tên PimEyes, được coi là một trong những công cụ nhận dạng khuôn mặt trực tuyến mạnh mẽ nhất hiện có.
Trên TikTok, PimEyes đã trở thành một công cụ đáng gờm dành cho các thám tử trên Internet có ý định tìm kiếm người lạ, với các video thu hút hàng triệu lượt xem cho thấy sự kết hợp giữa PimEyes và các công cụ tìm kiếm khác. Ví dụ nổi bật như tìm được tên của một người ngẫu nhiên tại buổi hòa nhạc của Taylor Swift.
Được thành lập lần đầu tiên vào năm 2017 bởi hai lập trình viên máy tính ở Ba Lan, đây là công cụ AI tìm kiếm hình ảnh ngược, quét một khuôn mặt trong một bức ảnh và thu thập các góc tối của Internet để hiển thị những bức ảnh mà nhiều người thậm chí còn không biết là có tồn tại.
Mặc dù công ty tuyên bố đây là dịch vụ có thể giúp mọi người theo dõi sự hiện diện trực tuyến nhưng nó đã gây ra tranh cãi về việc sử dụng như một công cụ giám sát, thu thập vô số hình ảnh trẻ em và thêm hình ảnh người đã khuất vào cơ sở dữ liệu mà không được phép.
Nếu không có bất kỳ luật nào về quản lý công nghệ nhận dạng khuôn mặt, các dịch vụ sao chép PimEyes dự kiến sẽ phát triển mạnh mẽ trong những năm tới.
Nhà báo Kashmir Hill đã nêu ví dụ về hậu quả của việc mọi người sử dụng công nghệ này mọi lúc ở những nơi công cộng.
"Có điều gì đó xảy ra trên tàu, bạn va phải ai đó hoặc bạn đang mặc trang phục đáng xấu hổ, ai đó có thể chụp ảnh bạn và tìm ra bạn là ai và có thể đăng bài về bạn, gọi tên bạn hoặc viết những điều khó chịu về bạn trên mạng", Hill, phóng viên của tờ The New York Times cho biết.
Dễ bị lợi dụng
Giorgi Gobronidze, một học giả nghiên cứu về trí tuệ nhân tạo tại Georgia, hiện là Giám đốc điều hành của PimEyes, công ty có đội ngũ nhân viên khoảng 12 người.
Trong một cuộc phỏng vấn với NPR, ông cho biết việc lạm dụng công cụ này đã bị cường điệu hóa.
Khi ai đó tìm kiếm PimEyes, tên của người trong ảnh sẽ không xuất hiện. Tuy nhiên, các thám tử trên internet có thể dễ dàng ghép các manh mối lại và tìm ra danh tính của ai đó.
Tuy nhiên, Gobronidze nhấn mạnh rằng về mặt kỹ thuật, PimEyes không tự xác định danh tính.
"Chúng tôi không xác định được danh tính của mọi người", ông nói. "Chúng tôi tìm ra các trang web có hình ảnh tương tự với tài liệu tìm kiếm".
Quy tắc của PimEyes quy định mọi người chỉ tìm kiếm hình ảnh chính mình hoặc những người cho phép tìm kiếm. Tuy nhiên, không có công cụ nào ngăn cản mọi người tìm kiếm bất cứ ai.
"PimEyes có thể được sử dụng cho nhiều mục đích hợp pháp, như để bảo vệ bạn khỏi những trò gian lận", ông nói. "Hoặc để tìm hiểu xem bạn hoặc một thành viên trong gia đình có phải là mục tiêu của kẻ trộm danh tính hay không".
Nhà báo Hill cho biết các công cụ tìm kiếm khuôn mặt siêu mạnh đã được phát triển tại các công ty Big Tech như Meta và Google.
Tuy nhiên, khả năng công cụ này được vũ khí hóa lớn đến mức một số giám đốc điều hành hàng đầu - như cựu Giám đốc điều hành Google Eric Schmidt - đã không muốn phổ biến ra thế giới, một động thái gần như không thể tưởng tượng trong Thung lũng Silicon vốn có nhịp độ nhanh và siêu cạnh tranh.
"Eric Schmidt từ năm 2011 đã nói rằng đây là công nghệ mà Google từng phát triển và quyết định giấu kỹ, cho rằng nó quá nguy hiểm nếu rơi vào tay kẻ xấu", Hill tiết lộ.
Có những ứng dụng tiềm năng mà công nghệ có thể mang lại lợi ích, như nhanh chóng xác định ai đó mà bạn đã quên tên cũng như tự theo dõi mình trên mạng.
Nhưng công nghệ này có khả năng xâm phạm quyền riêng tư của công dân. Ví dụ: ai đó có thể triển khai công nghệ này để lập hồ sơ hoặc giám sát mọi người ở nơi công cộng.
Các nhà phân tích công nghệ cho biết, sau cùng, các công ty Big Tech có thể sẽ không có lựa chọn nào khác ngoài việc cung cấp công khai các công cụ tìm kiếm khuôn mặt tiên tiến để duy trì tính cạnh tranh.
Tại Liên minh châu Âu, các nhà lập pháp đang tranh luận về lệnh cấm công nghệ nhận dạng khuôn mặt ở không gian công cộng.
Trong khi đó, tại Mỹ, có luật ở một số vùng như Illinois, cấm các công ty tư nhân quét và sử dụng khuôn mặt nhân viên mà không có sự đồng ý.
Cho đến khi có các quy định nghiêm ngặt, việc các công ty tư nhân ghi lại khuôn mặt như thế nào và ở đâu gần như không bị hạn chế và phần lớn được quyết định bởi các công ty công nghệ trị giá hàng tỷ đô la đang phát triển các công cụ này.
VietBF@ Sưu tập