Facebook, Twitter, Microsoft og YouTube har annonsert at de ville jobbe sammen for å bygge en massiv database. Denne databasen vil inneholde bilder og videoer som brukes av terroristnettverk Kriminalitet, terrorisme og sikkerhet: Den mørke siden av sosiale medier Kriminalitet, terrorisme og sikkerhet: Den mørke siden av sosiale medier Sosiale medier er ikke bare kattememoer og prankvideoer. Facebook, Twitter og Tumblr-brukere kan like lett komme inn i mørkere materiale distribuert av teknologisk dyktige terroristgrupper. Hva skal du gjøre med det? Les mer for å spre propaganda og nå ut til potensielle rekrutter. Databasen vil varsle disse selskapene når noe på deres nettsted sannsynligvis bryter med bruksvilkårene.
Virker som en god ide, ikke sant?
Detaljene
Fra nå av er detaljene litt uklare. Hvert bilde og video i databasen vil ha et "unikt digitalt fingeravtrykk", og bedrifter vil bli varslet når det innholdet dukker opp på deres nettsted. Ved starten av programmet vil selskapene bare legge til "de mest ekstreme og egregious terroristbildene og videoene" til databasen.
Tanken er at disse bildene og videoene vil være mest sannsynlige å bryte bruksvilkårene. Hvorfor du bør lese vilkårene for bruk, gjør Pokemon GO Away ... [Tech News Digest] Hvorfor du bør lese vilkårene for bruk, lage Pokemon Go Go Away ... [Tech News Digest] Alle hopper over Tjenestevilkår, PokeGone vender Pokemon GO inn i Pokemon NO, Facebook holder samtalene dine hemmelige, Blizzard stenger douchebag World of Warcraft-spillere, og Samuel L. Jackson forklarer Game of Thrones. Les mer av alle plattformene. Dette gjør det enkelt å fjerne innholdet hvis det vises et annet sted. Hvert selskap kommer til å bestemme hvilket bilde og video som skal være i databasen. De har også mulighet til å avgjøre om innholdet skal fjernes hvis det vises på nettstedet deres.
Det er ganske mye alt vi vet så langt. Twitter håper "dette samarbeidet vil føre til større effektivitet når vi fortsetter å håndheve våre retningslinjer for å bidra til å dempe det globale globale spørsmålet om terroristinnhold online." Men vi vet egentlig ikke mye så langt. Hvem bestemmer hvilket innhold som skal bidra? Vil selskapene sette opp uavhengige gjennomgangskomiteer for denne typen ting? Eller vil de bare legge til noen ting nå og da når de føler det?
En dårlig plate
Det er veldig vanskelig å politisere innhold på nettet. Uansett om det er feilinformasjon, misbruk, terroristrekryterings videoer Hvordan Social Media Platforms Battle Extremists Hvordan Social Media Platforms Battle Extremists Sosiale medier nettverk presenterer et kraftig verktøy for terroristgrupper, primært for propaganda og rekruttering. Så hva gjør Facebook og Twitter om dette? Hvordan kan sosiale nettverk bekjempe terrorisme? Les mer, eller et av de myriade andre typer dårlig innhold på Internett, det er et minefelt av problemer som er knyttet til prosessen. Hvem bestemmer hvilke grupper som kvalifiserer som terrorister? Hvordan går det med å fjerne innhold? Vil selskapene gå ut på jakt etter det, eller stole på at brukere skal rapportere det?
Microsoft, i sin uttalelse om online terroristinnhold, sa dette:
Når terroristinnholdet på våre vertsbaserte forbrukertjenester blir gjort oppmerksom på via vårt online rapporteringsverktøy, fjerner vi det.
Og de gir en lenke til et skjema som brukes spesielt for rapportering av terroristinnhold. Men hvor sannsynlig er det noen som faktisk skal søke etter og bruke det skjemaet? De sier også at de "fjerner koblinger til terroristrelatert innhold fra Bing bare når det er nødvendig med nedhenting av søkeleverandører etter lokal lov."
Dette stiller ansvaret andre steder.
Spørsmål av ansvar
Electronic Frontier Foundation har skrevet mye om vanskelighetene ved å polisere denne typen innhold på nettet. I et innlegg i 2014 kritiserte de Storbritannias plan om å tvinge Internett-leverandører til å blokkere "ekstremistisk innhold" uten åpenhet og ansvarlighet. Menneskerettighetsgruppene har også kritisert Frankrike for at de har svært store definisjoner av terroraktivitet.
Både Twitter og Facebook har ganske dårlige poster med politiet innhold på deres nettsteder. Hvordan sosiale medier plattformer slår ekstremister. Hvordan sosiale medier plattformer slår ekstremister. Sosialmedia nettverk presenterer et kraftig verktøy for terroristgrupper, primært for propaganda og rekruttering. Så hva gjør Facebook og Twitter om dette? Hvordan kan sosiale nettverk bekjempe terrorisme? Les mer . Selv om Twitter har slettet over 100 000 ISIS-relaterte Twitter-kontoer og begynt å politiere hat-talegrupper sterkere, har de et dårlig rykte for å la ekstremisme og misbruk løpe voldsomt på plattformen. Også Facebook virker innholdsrik for å fortsette å bruke en hands-off tilnærming under banneret for fri tale.
Selvfølgelig er det ganske vanskelig å håndtere denne typen ansvar. Jeg sier ikke det er enkelt. Men teknologibedrifter er dygtige til å distansere seg fra hva teknologien brukes til. Det omfatter utbredelse av terroristbilder, videoer, rekrutteringsstasjoner og annet innhold. I august 2016 uttalte en britisk rapport at Facebook, Twitter og YouTube var "bevisst mislyktes i å bekjempe bruken av deres nettsteder for å fremme terrorisme og drap."
Etableringen av en database med bilder og videoer virker ikke sannsynlig å endre det. Det er oppmuntrende at de tar handlingen, men det er vanskelig å forestille seg at det er mer enn halvhjertet.
Kunne dette være et personvernproblem?
Fordi selskaper manuelt legger til elementer i databasen etter at brukere har rapportert dem, ser det ut til at det ikke er sjanse for at bildene eller videoene dine ved et uhell kan finne veien inn i databasen. Som er oppmuntrende. Imidlertid er etableringen av en massiv sentral database full av unikt identifisert "dårlig" innhold bekymringsfullt.
Dette skyldes i stor grad at de ansvarlige på det tidspunktet kommer til å bestemme hva som teller som "dårlig". Dette gjelder spesielt hvis det er statlig engasjement. Du kan være en del av flertallet en dag, og i en forfulgt minoritet den neste. Utviklingen av denne typen teknologi gjør at den typen endring er enda skremmende.
Selvfølgelig er det ingen indikasjon på at disse selskapene vil bruke denne databasen for annet enn laxhåndheving av sine egne bruksretningslinjer. Men det faktum at private organisasjoner har utviklet og distribuerer denne teknologien kan få noen mennesker bekymret. Regjeringene har sikkert overvåkningsteknologi som allerede er kraftig, men spredning kan være et tegn på at selskapene skal ha verktøyene for å samle inn mer informasjon i nær fremtid.
Fra nå av er det ingen grunn til å bekymre deg for at personvernet ditt vil bli truet av terroristdatabasen. Men personvern og advokatorganisasjoner som kjemper mot deg mot NSA og for personvern? Hvem kjemper mot deg mot NSA og for personvern? Det er flere Internett-aktivitetsgrupper som kjemper på vegne av deg for personvern. De gjør sitt beste for å utdanne netizens også. Her er bare noen få av dem som er utrolig aktive. Les mer ville gjøre det bra å holde øye med distribusjonen av denne typen teknologi andre steder.
Et skritt fremover?
Det er godt å se at teknologibedrifter styrker opp og er proaktiv om terroristinnhold på sine plattformer. Men deres rekord er full av laxhåndhevelse og forsettlig forsømmelse. Vil dette verktøyet hjelpe til med å snu det? Det virker lite sannsynlig. (Med mindre de automatiserer det, som kommer med en hel rekke andre problemer.) Etter min mening, vil denne databasen ikke forandre seg mye, og Twitter, Facebook, Microsoft og YouTube har veldig godt tenkt det som et PR-forhold i stedet for en egentlig ment å gjøre det bra.
Hva tror du? Vil denne databasen bidra til å bekjempe spredning av terroristinnhold online? Eller er det en tom gestus i et forsøk på å skaffe noen offentlig beundring? Del dine tanker i kommentarene nedenfor!
Image Credits: Yunava1 / Shutterstock