“Apple” tādējādi vēlas pasargāt bērnus un pastiprināt cīņu pret bērnu pornogrāfiju, bet eksperti raizējas, ka autoritāro režīmu rokās šāda tehnoloģija varētu tikt izmantota arī cita veida materiālu cenzēšanai.
Tehnoloģija centīsies identificēt attēla atbilstību jau atklātiem bērnu seksuālās izmantošanas materiāliem pirms fotogrāfiju saglabāšanas tiešsaistes fotoattēlu krātuvē “iCloud Photos”. “Apple” pārstāvji skaidro, ka gadījumā, ja tiks atrasta sakritība, to vispirms izvērtēs uzņēmuma darbinieks un tikai tad ziņos varas iestādēm par atklājumiem.
Apple expanding child safety features across iMessage, Siri, iCloud Photos https://t.co/tNPTTAW2xR
— AppleInsider (@appleinsider) August 6, 2021
Saistībā ar jaunajiem bērnu drošībai izstrādātajiem noteikumiem “Apple” paziņoja arī par funkciju, kas turpmāk analizēs ziņojumu aplikācijā bērniem nosūtītos un no bērniem saņemtos fotoattēlus. “Apple” pievienos jaunas funkcijas arī savam digitālās balss palīgam “Siri”, kura uzdevums būs iejaukties, kad lietotāji meklēs ar bērnu seksuālu izmantošanu saistītus materiālus.
“Apple” izmanto “NeuralHash” tehnoloģiju, kas analizē attēlus un pārvērš tos unikālā skaitļu kombinācijā. Šādā formātā informāciju ievieto datubāzē un, izmantojot kriptogrāfiju, salīdzina ar tajā esošajiem datiem.
“Apple” apgalvo, ka minētais process nodrošina citu lietotāju privātumu un tādējādi nav iespējams iegūt informāciju par attēliem, kam datubāzē nav sakritības. Iespējamās kļūdas īpatsvaru sistēmā kompānija raksturo kā “mazāku par vienu triljonu gadā”.
Tikmēr pētnieki uztraucas, ka rīks, kas “neredz’’ attēlus, bet tikai to matemātiskos “pirkstu nospiedumus”, var tikt izmantots dažādiem mērķiem. Eksperti norāda, ka pastāv pamatotas bažas par “Apple” produktu lietotāju privātumu un iespējām šādu programmatūru izmantot arī plašāk, piemēram, meklējot cita veida aizliegtu saturu vai pat politiska rakstura materiālus.
This sort of tool can be a boon for finding child pornography in people’s phones. But imagine what it could do in the hands of an authoritarian government? https://t.co/nB8S6hmLE3
— Matthew Green (@matthew_d_green) August 5, 2021
Šādu tehnoloģiju potenciāli var izmantot arī autoritārie režīmi, lai izspiegotu savus pilsoņus. “Apple” jau iepriekš ir saskārusies ar spiedienu no valdībām un tiesībsargājošajām iestādēm, kas ir pieprasījušas piekļuvi šifrētiem datiem.
Atbildot uz bažām, “Apple” publicēja detalizētu tehnoloģijas aprakstu, kā arī ar kompāniju nesaistītu pētnieku analīzi. Uzņēmums skaidro, ka šāda funkcija aplikācijā nebūs obligāta, kompānijai nebūs piekļuves plašākam ziņojumu saturam un vecāki to var iespējot ierīcēs, ko izmanto viņu bērni.