DARPA etterspør anbud for system for «Semantisk etterforskning»

Pentagon forbereder for massiv sensur av internett

Av Kevin Reed
7 September 2019

Det amerikanske militæret har meldt en forespørsel om forskningsanbud fra teknologipartnere, for utviklingen av et automatisert system som skal være i stand til å skanne hele internett og lokalisere og sensurere innhold som anses å være «falske medieverdier» og «desinformasjon». Ifølge regjeringsdokumenter skal løsningen kunne tilby «innovative semantiske teknologier for analyse av medier» som skal bidra til «å identifisere, motvirke og forstå en motparts desinformasjonskampanjer».

Den 23. august publiserte DARPA – Defense Advanced Research Projects Agency – Pentagons finansieringsinstans for forskning og utvikling, en forespørsel om anbud for et såkalt SemaFor-program for Semantisk etterforskning [‘Semantic Forensics’], på den føderale regjeringens nettsted for forretningsmuligheter. I henhold til anbudspesifikasjonene skal SemaFor «utvikle teknologier for automatisk å kunne oppdage, attribuere og karakterisere forfalskede multimodale medievirkemidler (tekst, lyd, bilde, video) til forsvar mot storskala, automatiserte desinformasjonsangrep».

Det amerikanske forsvarsdepartementet søker med andre ord etter en teknologipartner for å bygge en plattform for å muliggjøre for Pentagon å finne alt innhold den identifiserer som en motparts «desinformasjonsangrep» og stenge det ned. Denne teknologien skal dekke alt på internett, inkludert nettsider, videoer, foto- og sosialmedieplattformer.

Dokumentene utgitt som del av DARPA-forespørselen sier at teknologi- og programvarealgoritmene de søker skal «utgjøre videreutvikling av state of the art [den moderne teknologistand]» som vil være topphemmelig og ikke inkluderer «informasjon som er lovlig tilgjengelig for allmennheten uten begrensninger».

Diagram over det nettbaserte sensursystemet for semantisk etterforskning, som etterspørres av forsvarsdepartementet

Disse fremskrittene ville innebære å bevege seg vekk fra «statistiske detekteringsteknikker» som er iferd med å bli «utilstrekkelige for å oppdage falske medievirkemidler». Anvendelsen av intelligente semantiske teknikker – et programs mulighet for å analysere online-innhold innen kontekst og bestemme dens betydning og intensjon – krever det siste av utvikling innen kunstig intelligens (AI) og såkalte «neurale nettverk» som har evne til å «lære» og forbedre ytelsen over tid. Ifølge det amerikanske forsvarsdepartementet vil semantisk analyse kunne nøyaktig identifisere uoverensstemmelser innen kunstig generert innhold og derved fastslå at det er «falskt».

Det er tre komponenter i DARPAs forespurte løsning. Den første er å «fastslå hvorvidt media er genererte eller manipulerte», den andre er at «attribueringsalgoritmer skal utlede hvorvidt media stammer fra én bestemt organisasjon eller ett individ», og den tredje skal avgjøre hvorvidt media er «manipulerte for ondsinnede formål». Selv om forespørselen gjør henvisninger til avskrekking, er det ingen detaljer om hvordan Pentagon har til hensikt å handle på innhold de har identifisert som «falskt».

Anbudsforespørselen kommer heller aldri til å spesifisere hvem motpartene er som må identifiseres, motvirkes og forstås. Det er imidlertid tydelig at én av motiveringene for initiativet er bekymringen for økningen av «deepfake»-innhold [særdeles falskt innhold]. Deepfake-videoer innebærer for eksempel bruk av spesialisert programvare for endring av videoinnhold, på måter som fullstendig endrer det opprinnelige bildet eller meldingen, og som genererer en ny billedstrøm med tilsynelatende autentisitet.

I følge Dr. Matt Turek, DARPAs informasjonsoffiser for innovasjon som utarbeidet Pentagons anbudsforespørsel, er «det å kunne speile denne økningen av digital bildbruk, med den tilhørende muligheten for selv relativt ufaglærte brukere til å kunne manipulere og forvrenge det visuelle mediets budskap, for våre formål. Selv om mange manipulasjoner er godartede, utført for moro skyld eller for en kunstneriske verdi, er andre for motstridende formål, som for eksempel propaganda eller desinformasjonskampanjer.»

DARPAs tidsfrist for anbudsforslag er satt til den 21. november 2019. Byrået har til hensikt å tildele kontrakten til flere teknologipartnere, på tvers av prosjektets forskjellige fagområder. Etterspørselen inkluderer detaljer om hvordan tilbydende foretak vil bli evaluert og hvordan kontraktene til slutt vil tildeles.

Som flere rapporter allerede har påpekt er den vanvittige ideen at kunstig intelligens (AI) kan brukes til å identifisere innhold generert av kunstig intelligens en teknologisk ekvivalent av den billedlige slangen som spiser sin egen hale. Som Gizmodo påpekte: «Mens en automatisert modell i teorien høres fint ut, er det til dags dato i utførelsen at disse typer algoritmisk genererte systemer fortsatt feiler og er partiske, og i mer urovekkende tilfeller er fullstendig diskriminerende. Eksisterende applikasjoner inspirerer ikke mye tiltro til et nær-fremtidssystem som både ville være effektivt og rettferdig.»

Mye av foretaksmedienes omtale av DARPA-anbudsforespørselen har presentert initiativet som en legitim bestrebelse for å stoppe «falske nyheter» på nettet. Denne typen presentasjon følger opp de ustanselige og ubelagte anklagene om «russisk innblanding» i 2016-valget, som ble drevet av støttespillere for Hillary Clintons kandidatur som president, innen det amerikanske militær-etterretningsetablissementet.

Pentagons nåværende innsats for å få laget et automatisert system for å identifisere og slå av såkalte «falske nyheter», er imidlertid del av den pågående bredere innsatsen fra demokratenes og republikanernes side, i samarbeid med etterretningsstaten, for både å kontrollere sosialmedier og nettinnhold, og anvendelsen av det for å overvåke allmennhetens stemninger, ideer og politikk.

Uansett de offentlig uttalte påstandene fra DARPA angående ønsket om å stoppe bruken av «falske medievirkemidler» for målrettede personangrep, og genereringen av «troverdige» begivenheter og forplantningen av ransomware [utpressingsprogramvare], er disse verktøyene utvilsomt del av det imperialistiske cyberkrigføringsarsenalet som for tiden blir utviklet og iverksatt av det amerikanske militæret og CIA.