Apple thiết kế hệ thống phát hiện và cảnh báo ảnh đồi trụy cho trẻ em trên iPhone

[nguoiduatinabc]

Tính năng này sẽ giúp trẻ em tránh khỏi những dụ dỗ trên không gian mạng hoặc những hình ảnh đồi trụy được chia sẻ trong nhóm trò chuyện.

Apple vừa cho biết, tập đoàn này sẽ ra mắt một phần mềm mới vào cuối năm nay.

Phần mềm có khả năng phân tích các file ảnh được lưu trữ trên bộ nhớ tài khoản iCloud Photo của người sử dụng để phát hiện các file ảnh đồi trụy của trẻ em và báo cáo những trường hợp này tới các cơ quan có thẩm quyền liên quan.



Trong bộ phần mềm bảo vệ trẻ em, Apple cũng công bố một chức năng mới có khả năng phân tích các file ảnh được gửi tới và nhận được từ người dùng trẻ em thông qua ứng dụng Messages để đảm bảo tính hợp pháp.

Apple sẽ thêm những chức năng cho ứng dụng trợ lý ảo Siri nhằm can thiệp kịp thời khi người sử dụng tìm kiếm những nội dung phạm pháp nói trên.

Gã khổng lồ công nghệ có trụ sở tại Cupertino, California đã đưa ra bản thử nghiệm ba tính năng trên vào ngày 5/8/2021 và cho biết, họ sẽ đưa chương trình này hoạt động chính thức cuối năm 2021.

Nếu Apple phát hiện một lượng nhất định các file ảnh đồi trụy của trẻ em trên tài khoản của một người dùng, trường hợp này sẽ được kiểm tra một cách thủ công bởi nhân viên của tập đoàn, sau đó sẽ được báo cáo tới Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC), một trung tâm làm việc trực tiếp với các cơ quan hành pháp. Apple cũng cho biết, các file ảnh này sẽ được phân tích ngay trên thiết bị iPhone hoặc iPad của người dùng tại Hoa Kỳ trước khi được gửi lên bộ nhớ iCloud.

Apple cho biết, tập đoàn này sẽ phát hiện được những file ảnh phạm pháp bằng cách đối chiếu với cơ sở dữ liệu những văn hóa phẩm đồi trụy liên quan tới trẻ em đã phát hiện từ trước, được cung cấp bới NCMEC. Apple sẽ sử dụng một công nghệ mang tên NeuralHash có khả năng phân tích một file ảnh và từ đó trích xuất ra một chuỗi mã hash, một dãy số độc nhất cho file đó.

Chuỗi "mật mã" này sau đó sẽ được so sánh với cơ sở dữ liệu nói trên thông qua nhiều phương pháp mã hóa. Apple tiết lộ, quy trình này đảm bảo rằng họ sẽ không giữ lại thông tin về những file ảnh không khớp với cơ sở dữ liệu.

Tập đoàn này khẳng định, hệ thống có tỷ lệ sai “dưới 1 phần ngàn tỷ” mỗi năm và đảm bảo tuyệt đối quyền riêng tư của người sử dụng. Trong một báo cáo, Apple cho biết: “Apple chỉ có được thông tin về file ảnh của người dùng khi người dùng đó sở hữu một bộ các văn hóa phẩm đồi trụy về trẻ em trong tài khoản iCloud Photos của họ. Ngay cả trong những trường hợp này, Apple chỉ nắm giữ được thông tin về những file ảnh được đối chiếu khớp với những nội dung đồi trụy về trẻ em đã có sẵn trong cơ sở dữ liệu”.

Người sử dụng nếu cho rằng tài khoản của họ bị đánh dấu do nhầm lẫn, có thể "kháng cáo".

Để trả lời những lo ngại về quyền riêng tư của chức năng này, Apple đã đưa ra một bộ tài liệu sách trắng nêu rõ những công nghệ được sử dụng cũng như những phân tích về hệ thống từ nhiều nhà nghiên cứu độc lập.

John Clark, Chủ tịch - Giám đốc điều hành của NCMEC có lời ngợi khen Apple về quyết định đưa ra chức năng mới này.

“Những biện pháp an toàn mới có khả năng giúp đỡ những trẻ em đang bị dụ dỗ trên không gian mạng và có những hình ảnh đáng sợ được lan truyền trong những nhóm chia sẻ văn hóa phẩm đồi trụy về trẻ em” ông cho biết trong một tuyên bố được đưa ra bởi Apple.

Chức năng này trong ứng dụng Messages là một chức năng không bắt buộc, và có thể được kích hoạt bởi các phụ huynh trên thiết bị do con em họ sử dụng. Hệ thống sẽ kiểm tra, tìm kiếm những hình ảnh đồi trụy trong những file ảnh nhận được hoặc gửi đi qua tin nhắn trên thiết bị. Nếu như người dùng trẻ em nhận được file ảnh có nội dung đồi trụy, file ảnh đó sẽ được làm mờ, người dùng sẽ phải nhấn vào một nút bấm để xem file ảnh này. Nếu như người dùng quyết định xem file ảnh trên, các phụ huynh sẽ nhận được một thông báo. Tương tự, nếu người dùng gửi một file ảnh có nội dung đồi trụy, họ sẽ được cảnh báo và các phụ huynh sẽ nhận được một thông báo trên thiết bị của họ.

Apple cho biết, chức năng trong Messages này sử dụng tính năng phân tích ngay trên thiết bị và tập đoàn này không thể xem nội dung tin nhắn. Chức năng này được áp dụng cho dịch vụ iMessage của Apple và những giao thức khác như dịch vụ tin nhắn đa phương tiện Multimedia Messaging Service (MMS).

Tập đoàn công nghệ đa quốc gia này cũng sẽ đưa vào hoạt động hai chức năng tương tự cho trợ lý ảo Siri và mục tìm kiếm. Hệ thống có khả năng trả lời những câu hỏi về báo cáo xâm hại trẻ em cũng như những hình ảnh xâm hại, đồng thời cung cấp thông tin hướng dẫn người dùng cách họ có thể gửi báo cáo tới những cơ quan liên quan.

Bên cạnh đó, phần mềm còn có khả năng cảnh báo người dùng thực hiện những tìm kiếm liên quan tới văn hóa phẩm có nội dung xâm hại trẻ em. Theo Apple, các chức năng trong ứng dụng Messages và Siri sẽ được cập nhật trên các thiết bị iPhone, iPad, Mac và Apple Watch.