Hệ thống nhận diện của Apple cho phép phát hiện các nội dung khiêu dâm trẻ em một cách tự động được lưu trữ trên iPhone của người dùng.
Theo báo cáo từ 9to5mac, Apple được cho là sẽ sớm công bố một hệ thống nhận diện mới sử dụng thuật toán băm (hash) nhằm phát hiện các nội dung lạm dụng trẻ em, đặc biệt là các nội dung khiêu dâm trẻ em được lưu trữ trong iPhone của người dùng.
Nhằm đảm bảo quyền riêng tư, hệ thống nhận diện này sẽ chỉ được thực thi trực tiếp trên iPhone của người dùng. iPhone sẽ tự động tải về một tập hợp các nội dung bất hợp pháp, sau đó đối chiếu với các nội dung có trong thư viện ảnh trên iPhone. Nếu có phát hiện bất cứ điều gì, một bản báo cáo sẽ được gửi ngược về Apple để phân tích.
Hệ thống nhận diện này tương tự như cách mà Apple triển khai các tính năng máy học (machine learning) để nhận diện đối tượng có trong thư viện ảnh.
Tuy nhiên, chuyên gia bảo mật Matthew Green lưu ý rằng tác động của việc triển khai như vậy rất phức tạp. Các thuật toán băm không đáng tin cậy và có thể tạo ra kết quả không chính xác, gây rắc rối cho người dùng.
Có thể trong tương lai, Apple có thể tung ra các hệ thống tương tự để quét nội dung ở phía thiết của người dùng, sau đó sẽ được lưu trữ với cách mã hoá đầu cuối trên máy chủ. Cách thức này cũng được nhiều chính phủ ủng hộ, đặc biệt là ứng dụng đối với các dịch vụ nhắn tin mã hoá đầu cuối như iMessages hay WhatsApp, bởi khi tội phạm hoạt động trên các nền tảng này, rất khó để theo dõi cũng như truy tố các vụ lạm dụng trẻ em.
Green suy đoán rằng Apple sẽ không đầu tư vào việc phát triển hệ thống này nếu việc áp dụng nó cho nội dung được mã hóa đầu cuối không phải là mục tiêu dài hạn.