Функция работает на алгоритмах хеширования: Apple увидит снимки в хешах, числовых кодах, а при частых совпадениях будет их расшифровывать. Отредактированные фото neuralMatch также распознает.

Компания заявила, что система имеет «чрезвычайно высокий уровень точности и гарантирует менее одного неверного распознавания из триллиона операций со снимками за год».

Эксперты опасаются по поводу конфиденциальности пользователей: в будущем технология может сканировать телефоны на предмет запрещенного контента или даже политических высказываний. Тогда ею могут заинтересоваться авторитарные правительства для слежки за своими гражданами, считают они.

В Apple заявили, что в новых версиях iOS и iPadOS, которые планируют представить в конце этого года, будут «новые криптографические разработки, помогающие ограничить распространение изображений с насилием в интернете, но при этом обеспечивающие конфиденциальность».

Это не единственный шаг Apple в сторону защиты детей. Устройства начнут размывать откровенные изображения в «Сообщениях» и сообщать родителям об отправке сексуальных снимков, а Siri будет учить безопасности. Этим компания поделилась в своем блоге.