Apple ogłosiło szereg nowych inicjatyw na rzecz bezpieczeństwa dzieci, które pojawią się wraz z najnowszymi aktualizacjami systemów iOS 15, iPadOS 15 i macOS Monterey i które mają na celu zapewnienie dzieciom większego bezpieczeństwa w Internecie. Obserwując zachowania nastolatków z podstawówki, odnoszę wrażenie, że to dobry pomysł, choć na myśl przychodzi mi jeden z odcinków „Czarnego lustra”.

Nowe narzędzia w Messages

W aplikacji Wiadomości zostaną dodane nowe narzędzia do ostrzegania dzieci i ich rodziców w przypadku otrzymania lub wysłania zdjęcia o charakterze seksualnym.

W przypadku otrzymania tego typu treści zdjęcie zostanie zamazane, a dziecko otrzyma ostrzeżenie, pomocne informacje oraz zapewnienie, że będzie ok, jeśli nie zechce obejrzeć tego zdjęcia. 

W ramach dodatkowego zabezpieczenia dziecko może zostać poinformowane, że aby upewnić się, że jest bezpieczne, jego rodzice otrzymają wiadomość, jeśli zdjęcie zostanie obejrzane. Podobne zabezpieczenia są dostępne w przypadku próby wysłania przez dziecko zdjęć o charakterze seksualnym. Dziecko zostanie ostrzeżone przed wysłaniem zdjęcia, a rodzice mogą otrzymać wiadomość, jeśli zdecyduje się je wysłać.

To oczywiście dotyczy tylko kont dzieci w chmurze rodzinnej z włączonymi odpowiednimi opcjami zabezpieczeń, a opcję informowania o obejrzeniu lub wysłaniu potencjalnie niebezpiecznego zdjęcia, rodzice mogą włączyć dla kont trzynastoletnich lub młodszych dzieci.

Ważne: System wykorzystuje uczenie maszynowe w urządzeniu do analizy załączników obrazów i oceny, czy zdjęcie jest seksualnie wyraźne. Funkcja ta została zaprojektowana w taki sposób, aby Apple nie miał dostępu do tych wiadomości. Wszystko odbywa się w urządzeniu.

Wykrywanie pornografii dziecięcej

Funkcja działa tylko, jeżeli mamy włączone wysyłanie zdjęć do iCloud. 

Opracowana przez Apple metoda wykrywania znanych CSAM została zaprojektowana z myślą o prywatności użytkowników. Zamiast skanować obrazy w chmurze, system dokonuje dopasowania na urządzeniu, korzystając z bazy danych znanych obrazów CSAM udostępnionej przez NCMEC i inne organizacje zajmujące się bezpieczeństwem dzieci. Apple następnie przekształca tę bazę danych w nieczytelny zestaw haszy, który jest bezpiecznie przechowywany na urządzeniach użytkowników.

System przed wysłaniem zdjęcia do iCloud tworzy podobny klucz. Ten jest za pomocą kryptograficznej technologii zwanej prywatnym przecięciem zbiorów, sprawdzany z bazą kluczy CSAM. Funkcja określa, czy istnieje dopasowanie bez ujawniania wyniku. 

Urządzenie tworzy kryptograficzny kupon bezpieczeństwa, który koduje wynik dopasowania wraz z dodatkowymi zaszyfrowanymi danymi na temat obrazu. Ten kupon jest przesyłany do usługi Zdjęć iCloud razem z obrazem.

Korzystając z innej technologii, zwanej progowym dzieleniem tajemnicy, system zapewnia, że zawartość kuponów bezpieczeństwa nie może być interpretowana przez firmę Apple, dopóki konto iCloud nie przekroczy progu znanej zawartości CSAM. Próg jest ustawiony w taki sposób, aby zapewnić niezwykle wysoki poziom dokładności i gwarantuje mniej niż jedną na bilion szansę na rok na nieprawidłowe oznaczenie danego konta.

Dopiero po przekroczeniu progu technologia kryptograficzna pozwala Apple na interpretację zawartości kuponów bezpieczeństwa powiązanych z pasującymi obrazami CSAM. Następnie Apple ręcznie sprawdza każdy raport w celu potwierdzenia zgodności, dezaktywuje konto użytkownika i wysyła raport do NCMEC. Jeśli użytkownik uważa, że jego konto zostało błędnie oflagowane, może złożyć odwołanie w celu przywrócenia konta.

Apple udostępnia szczegółowy, wręcz naukowy opis użytych technologii, na stronie: The Apple PSI System.

Link do strony opisującej nowe funkcje: Expanded Protections for Children.

Jak widać, w komunikacie są podane informacje dotyczące głównie agencji działających w USA. Na razie nie wiadomo, jak proces będzie przebiegał w innych regionach.

Do czego ma dostęp Apple?

Od razu warto przypomnieć jakie dane z naszych urządzeń przesyłane do iCloud, mogą na wniosek sądu lub uprawnionych agencji odszyfrowane. Dotyczy to też danych, które będziemy chcieli przekazać wskazanym osobom po naszej śmierci (funkcja nadchodzących systemów). Dane szyfrowane kompleksowo, to są dane, do których Apple nie ma dostępu, bo klucze są przechowywane na naszych urządzeniach.

Co i gdzie jest szyfrowane, sprawdzicie na stronie: Omówienie kwestii bezpieczeństwa w usłudze iCloud.