Dette er et gæstepost fra John Carr, den førende britiske tænker om at fjerne billeder af børnemishandling fra internettet. Den originale blog om efterforskning fra New York Times dukkede op på Johns Desiderata websted. Vi har vist andre nylige blogs fra John her, link. , link..
I september producerede New York Times først i en række artikler hvor de fokuserede på internetindustriens reaktion på den eksplosive vækst i påvisning af online børne-sexmisbrugsmateriale (csam).
De startede med statistik leveret af NCMEC. I 1998 modtog de 3,000 rapporter om csam. 2018's antal var 18.4 millioner rapporter, der henviste til 45 millioner stillbilleder og videoer af csam.
Vi blev informeret om a senere artikel i 2013 var der rapporteret om færre end 50,000 csam-videoer. I 2018 var det op til 22 millioner. Video har været det største vækstområde. Det Canadisk Center for Børnebeskyttelse og de britiske Internet Watch Foundation har været vidne til lignende vækstniveauer.
Selvom disse numre er chokerende, er det sandsynligvis, hvad de viser, simpelthen den øgede proaktive implementering og effektivitet af værktøjer, der bruges til at opdage csam af et relativt lille antal internetfirmaer.
Hvad New York Times-artiklerne principielt viste, var imidlertid utilstrækkeligheden af den bredere internetindustris reaktion og faktisk utilstrækkeligheden af responsen fra nogle af branchens førende aktører. Vi er ført op ad stien til haven.
Hvis børnesikkerhed og sikkerhed virkelig var indlejret i en virksomheds kultur, historier af den art, der blev offentliggjort af New York Times, ville simpelthen ikke være mulige. Alligevel har de vist sig i årevis, hvis aldrig før med sådanne retsmedicinske detaljer.
Teknologikoalitionen
I 2006 Teknologi Koalition blev etableret. Her er dens erklærede mission
Vores vision er at udrydde seksuel udnyttelse af børn online. Vi har investeret i at samarbejde og dele ekspertise med hinanden, fordi vi anerkender, at vi har de samme mål og står over for mange af de samme udfordringer.
Dette er standardrubriken. Du hører det hele tiden. Fra alle. Det er ikke sandt.
Børnemishandlere kører løbende, da tekniske virksomheder ser den anden vej
Det var overskriften for det andet artikel i New York Times-serien. Det blæser helt facaden af et energisk, målrettet kollektiv branche til at slippe af med csam fra internettet.
Her er nogle uddrag fra stykket:
Virksomhederne har de tekniske værktøjer til at stoppe recirkulering af misbrugsmateriale ved at matche nyopdagede billeder mod databaser over materialet. Alligevel udnytter industrien ikke fuldt ud værktøjerne.
Specielt fik vi at vide
Det største sociale netværk i verden, Facebook, scanner grundigt sine platforme og tegner sig for over 90 procent af billedet, der blev markeret af tech-selskaber sidste år, men virksomheden bruger ikke alle tilgængelige databaser til at opdage materialet ... .. (vægt tilføjet).
Apple scanner ikke sit cloud-lager…. og krypterer sin messaging-app, gør detektion næsten umulig. Dropbox, Google og Microsofts forbrugerprodukter scanner efter ulovlige billeder, men kun når nogen deler dem, ikke når de uploades.
… Andre virksomheder, herunder…. Yahoo (ejet af Verizon), se efter fotos, men ikke videoer, selvom ulovligt videoindhold har eksploderet i årevis.
Ifølge Times
Der er ikke en enkelt liste over hash med billeder og videoer, som alle relevante virksomheder kan bruge.
Google og Facebook udviklede værktøjer til at registrere csam-videoer, der er forskellige og uforenelige. En plan for at oprette en proces til deling af video “Fingeraftryk” (hashes for at fremskynde detektionen) tilsyneladende har væk intet sted.
Der er mere
Teknologiske virksomheder er langt mere tilbøjelige til at gennemgå fotos og videoer og andre filer på deres platforme til…. malware afsløring og håndhævelse af ophavsret. Men nogle virksomheder siger, at det at se efter misbrugsindhold er anderledes, fordi det kan give anledning til væsentlige fortrolighedshensyn.
Amazon, ganske vist ikke medlem af Technology Coalition, men verdens største udbyder af cloud-tjenester, scanner for ingenting.
En talsmand for Amazon…. sagde, at "privatlivets fred for kundedata er afgørende for at tjene vores kunders tillid," ... ... Microsoft Azure sagde også, at det ikke scannede efter materialet med henvisning til lignende grunde.
På et tidspunkt vil det være interessant at dekonstruere hvad “Kundernes tillid” betyder virkelig.
Og vi ved alt dette, fordi ...
Hvordan lærte vi om alt dette? Fremkom det som et resultat af åbne erklæringer fra teknologivirksomheder? Tydeligvis ikke. Efter omhyggelig analyse af et dedikeret team af akademikere? Nej. Er sandheden blevet afsløret af et retshåndhævende organ, ngo eller et regeringsorgan, der endelig besluttede, at omertà ikke var i offentlighedens interesse? Ingen.
Vi har fået denne indsigt, fordi ledelsen af New York Times besluttede at give to journalister, Michael Keller og Gabriel Dance, plads og ressourcer til at forfølge en selvindlysende vigtig historie.
Jeg mødte disse fyre for første gang på New York Times kontorer sidste mandag, men jeg talte med dem oprindeligt i juni. De havde undersøgt csam siden februar, flyvende rundt (bogstaveligt talt), snakket med en mangfoldighed af mennesker, samlet tingene fra posten og fra kildekildene.
Det var en gigantisk indsats, der gjorde et forholdsmæssigt stænk på avisens forside. Det ser ud til at have den ønskede effekt.
Et brev fra fem senatorer
En øjeblikkelig konsekvens af New York Times-artiklerne kom i sidste uge, da fem amerikanske senatorer (to demokrater, tre republikanere) skrev en imponerende detaljeret brev til tredive og seks tech-virksomheder. De inkluderer alle medlemmer af Technology Coalition og meget mere derudover. Senatorerne ønsker svar senest 4. december.
Lad os se, hvordan virksomhederne reagerer. Brevet indeholder alle de rigtige spørgsmål. Det er nøjagtigt den slags teknologiske virksomheder bør være lovligt forpligtet til at svare på. Når det britiske valg er overstået, lad os håbe, at vi hurtigt kan bevæge os for at etablere en stærk regulator, der kan bede dem sikre på, at de vil modtage sandfærdige svar. Enhver tøven eller afslag fra de amerikanske virksomheder for at svare på senatorernes brev vil kun øge en følelse af haster her.
New York Times har hjulpet børn over hele verden
Børn overalt skylder Keller og Dance og deres chefer meget, men det er lidt mindre skandaløst, at det krævede en avis at sprænge den op. Hvor er det offentlige interesseorgan, der har ressourcerne og evnen til at spore og rapportere konsekvent over tid om spørgsmål af denne art? Det findes ikke. Det burde.
Jeg har argumenteret i årevis, at vi har brug for et globalt observatorium, blandt andet for at gøre rutinemæssigt, hvad New York Times netop gjorde som en engang. Et eller andet sted skal der være et uafhængigt agentur med passende ressourcer, der har børns interesser i centrum og højteknologiske industrier i dens syn. Men en sådan krop skal være bæredygtig over tid. Det er en stor og dyr ting at gøre, men jeg vil prøve igen at gøre det.
