Apple въвежда няколко нови инструмента за борба с насилието над деца

Компанията въвежда различни функции за безопасност на децата в Messages, Photos и Siri

от Иван Гайдаров

6 август 2021 10:57

След като съобщи докъде е стигнала работата по създаване на инструмент, който сканира iPhone за изображения на насилие над деца, Apple предостави повече подробности за усилията си в тази посока. С пускането на iOS 15, watchOS 8 и macOS Monterey по-късно тази година компанията казва, че ще въведе различни функции за безопасност на децата в Messages, Photos и Siri.

За начало приложението Messages ще включва нов тип известия, които ще предупреждават децата, както и техните родители, когато изпращат или получават снимки със сексуално съдържание. Когато някой изпрати на дете неподходящо изображение, приложението ще го замъглява и ще показва няколко предупреждения. "Вие може да не сте вие виновни, но чувствителните снимки и видеоклипове могат да бъдат използвани, за да ви се навреди", се казва в едно от известията, публикувани от Apple.

Като допълнителна предпазна мярка, компанията казва, че Messages може също така да уведомява и родителите, ако детето им реши да продължи и да види чувствителното изображение. "Подобни защити са налични, ако дете се опита да изпрати снимки с откровен сексуален характер", казват от Apple. Компанията отбелязва, че функцията използва машинно обучение на самото устройство, за да определи дали снимката е притеснителна. Освен това Apple няма да има достъп до самите съобщения, а функцията ще бъде налична за семейните акаунти в iCloud.

Apple също така ще въведе нови софтуерни инструменти в iOS и iPadOS, които ще позволят на компанията да открие, когато някой качи съдържание в iCloud, което показва деца, замесени в сексуални действия. Компанията казва, че ще използва технологията, за да уведомява Националния център за изчезнали и експлоатирани деца (NCMEC), който от своя страна ще работи с правоприлагащите органи в САЩ. "Методът на Apple за откриване на материали, свързани със сексуална злоупотреба с деца, е проектиран с оглед на поверителността на потребителите", твърдят още от компанията.

Вместо да сканира снимки, когато са качени в облака, системата ще използва база данни на устройството с "известни" изображения, предоставена от NCMEC и други организации. Компанията казва, че базата данни присвоява хеша на снимките, който действа като вид цифров пръстов отпечатък за тях.

Криптографска технология, наречена частно пресичане, позволява на Apple да определи дали има съвпадение, без да вижда резултата от процеса. В случай на съвпадение, iPhone или iPad ще създават криптографски ваучер за сигурност, който ще криптира качването, заедно с допълнителните данни за него.

Друга технология, наречена праг на секретно споделяне, прави така, че компанията да не може да вижда съдържанието на тези ваучери, освен ако някой не премине определен праг на съдържанието. "Прагът е зададен, за да осигури изключително високо ниво на точност и да гарантира по-малко от едно на един трилион шанс годишно за неправилно маркиране на даден акаунт", обясняват от Apple.

Едва когато този праг бъде преминат, технологията, която Apple планира да внедри, ще позволи на компанията да прегледа съдържанието на ваучерите. Тази проверка ще се прави ръчно, за да не бъдат допуснати никакви грешки. Потребителите също така ще могат да обжалват спиране на профила си, ако смятат, че то е било погрешно.