IT-företagen i Silicon Valley förknippas ofta med den hippiekultur som formade dem. Samtidigt är IT-jättarna en viktig del av USA:s försvarsindustri – ibland på både köpar- och säljarsidan. Tidningen American Prospect har kartlagt hur Eric Schmidt, Googles före detta vd, som formell rådgivare åt den amerikanska kongressen förespråkar mer artificiell intelligens i försvaret och underrättelsetjänsten – samtidigt som han som riskkapitalist investerar i företag som marknadsför just sådan teknologi till regeringen. 

– Han har många, många finansiella incitament att se till att försvarsdepartementet och andra federala myndigheter aggressivt börjar använda sig av AI, säger John Davisson, jurist vid forskningscentrumet Electronic Privacy Information Center, till Prospect.

Google och den nationella säkerheten

På 60- och 70-talen var försvarsdepartementet den dominerande investeraren i forskning och utveckling i USA. Själva internet började som en militär plattform. Efter hand började en allt större del av försvarsdepartementets budget gå till komplexa vapensystem, men underrättelsetjänsten var på 90-talet fullt medveten om vilka möjligheter det kommersiella internet medförde.

Förhoppningen inom underrättelsetjänsten var att USA:s ledande programmerare skulle kunna skapa kommersiella internetföretag till nytta för både allmänheten och underrättelseväsendet, skrev Quartz i ett reportage 2017. Redan då såg CIA och NSA övervakningspotentialen i människors digitala spår på nätet och finansierade lovande datavetenskaplig forskning – exempelvis den forskning som Sergey Brin och Larry Page utförde vid Stanford University innan de grundade Google. I början av 00-talet sålde Google teknologi till NSA, skriver Prospect.

Vid det laget hade Eric Schmidt redan blivit Googles vd. Han tillträdde 2001 och stannade på posten i ett decennium. Sedan blev han styrelseordförande, först på Google och sedan på dess nya moderbolag Alphabet. Han lämnade posten 2017, men stannade kvar som teknisk rådgivare fram till 2020.

Parallellt med detta gjorde Schmidt även karriär i staten. När Barack Obama tillträdde som president anlitade han Schmidt som vetenskaplig och teknologisk rådgivare till regeringen. Mot slutet av Obamas regeringstid utnämndes Schmidt till ordförande för Defense Innovation Board, som grundades 2016 i syfte att hjälpa militären att anamma Silicon Valleys teknologier.

– Ni suger verkligen på maskinlärning, sade den nytillträdde Schmidt, vid tillfället styrelseordförande i Googles moderbolag, enligt New York Times, till en av USA:s främsta generaler.

– Om jag vore med i ert tält i en dag skulle jag kunna lösa de flesta av era problem.

Två år senare, år 2018, upprättade den amerikanska kongressen en AI-kommission, National Security Commission on Artificial Intelligence. Den arbetade på plats i försvarets högkvarter Pentagon och fungerar som rådgivare angående artificiell intelligens inom nationell säkerhet. Även där blev Eric Schmidt ordförande. Hans linje var, skriver Prospect, att kongressen borde använda AI varhelst det var möjligt.

Project Maven

Samtidigt upplevde Google inre slitningar. Året dessförinnan, 2017, hade Pentagon anlitat Google för att utveckla försvarets förmåga att analysera drönarfotografier och -videor med hjälp av AI. Detta ledde till ett internt uppror våren 2018 där över 3 000 anställda undertecknade ett brev till Googles vd Sundar Pichai.

”Vi anser inte att Google ska ägna sig åt krigsverksamhet”, inleddes det. Författarna hänvisade till företagets motto ”Don’t be evil” och uppmanade sin arbetsgivare att dra sig ur Project Maven och sätta på pränt att Google aldrig någonsin ska utveckla krigsteknologi. Senare sade flera anställda upp sig i protest mot projektet.

Googles ledning beskrev arbetet med Project Maven som ”icke-offensivt”, samtidigt som projektet enligt Pentagon skulle användas för antiterroroperationer och upprorsbekämpning. Den förbättrade analysen av drönarvideor skulle kunna användas för att minska dödandet av oskyldiga vid drönarattacker – men också för att rikta attacker mot mänskliga mål, rapporterade New York Times.

Under tiden Google var involverat i Project Maven-kontraktet satt Eric Schmidt ordförande för Defense Innovation Board. Enligt Prospect säger han att han inte på något vis bidrog till att just Google fick uppdraget. Ännu en hög Google-chef, Milo Medin, satt i Defense Innovation Board.

I slutet av november 2017 hade Schmidt fått frågan hur relationen egentligen bör se ut mellan IT-företag, AI-forskare och det amerikanska försvaret.

– Det finns en allmän oro i IT-branschen för att det militärindustriella komplexet på något sätt använder deras grejer för att inkorrekt döda folk, så att säga, sade han.

Han fortsatte med att säga att han själv aldrig skulle föreslå Alphabets teknologi för militären, dels på grund av intressekonflikten och dels eftersom militären och dess upphandlingsprocesser fungerar så annorlunda jämfört med IT-branschen. Det senare skulle dock komma att ändras, förutspådde han:

– Min gissning är att det som kommer att hända är att IT-företag kommer att grundas som är mer i linje med militärens mission och värderingar, som kommer att använda den här teknologin för att hjälpa till att hålla landet säkert.

Det visade sig vara en förutseende gissning. 2019 lämnade han själv Google-koncernen och en månad senare köpte hans riskkapitalbolag in sig i Rebellion Defense.

Rebellion Defense

När Schmidt gick in som investerare hade Rebellion Defense just bildats. Det fanns tre grundare: Chris Lynch, Nicole Camarillo och Oliver Lewis. Lynch var den första chefen för Defense Digital Service, ännu en expertgrupp i Pentagon där IT-experter agerar rådgivare åt försvaret. Camarillo var chefsstrateg vid den amerikanska arméns avdelning för cyberkrigföring och skriver i sin Linkedin-profil att hon arbetade nära Defense Digital Service. Lewis hade varit digital rådgivare åt den brittiska regeringen.

Rebellion Defense skulle ägna sig åt militär och polisiär AI och dataskydd, men framför allt var det kännedomen om Pentagon och kongressen de marknadsförde sig med när de letade investerare, skriver Prospect. Denna kännedom gav dem ”substantiellt försprång före de nystartade företag som försöker bygga produkter som ska säljas till regeringen”.

I marknadsföringen mot investerare nämndes även Googles kontroversiella projekt. ”Det här är ett obegränsat ’Project Maven’”, skrev de – och Eric Schmidt investerade. Det gjorde även den konservative mediemogulen Rupert Murdochs son James, och Ted Schlein, som förvaltar CIA:s eget riskkapitalbolag In-Q-Tel.

Inledningsvis fanns enligt Prospect ingen biografi över Schmidt på Rebellion Defenses hemsida. I stället fanns en länk till hans profil på Defense Innovation Board, organisationen som i egenskap av rådgivare åt Pentagon och kongressen uppmanar den amerikanska staten att köpa in mer av just den sortens teknologi Rebellion Defense erbjuder.

Enligt Chris Lynch är Schmidt enbart rådgivare till Rebellion Defense inom rekryteringar och tillväxt. Schmidt själv säger att han aldrig har förespråkat att försvarsdepartementet ska köpa teknologi från Rebellion Defense, skriver New York Times.

I dag har Schmidts ordförandeperiod på Defense Innovation Board löpt ut, men han är fortfarande ordförande för kongressens National Security Commission on Artificial Intelligence. Han är inte heller den enda personen med kopplingar till Rebellion Defense i den amerikanska staten. Medan Rebellion Defenses grundare har gått från det offentliga till det privata har andra rört sig i motsatt riktning. 

2020 var Rebellion Defense med och finansierade en arbetsgrupp vid den inflytelserika tankesmedjan Center for Strategic and International Studies (CSIS). Arbetsgruppens mål är bland annat att kartlägga hur underrättelsebranschen ska kunna utnyttja avancerad teknologi och bibehålla sitt teknologiska övertag inom exempelvis AI och maskinlärning. En av arbetsgruppens två ordförande, Avril Haines, lämnade nyligen CSIS för att bli Bidenregeringens nationella underrättelsechef. Gruppens seniora rådgivare Kathleen Hicks presenterades i december som Joe Bidens vice försvarsminister.

En talesperson för CSIS säger till Prospect att tankesmedjan står bakom sina experters oberoende.

AI-kapprustningen

Det gångna året har Eric Schmidt vid flera tillfällen argumenterat offentligt för att den amerikanska staten ska satsa mer pengar på Silicon Valley. Annars, skrev han i New York Times i februari förra året, kommer USA att förlora AI-kapplöpningen mot Kina. Samma linje driver Ashton Carter, som under sin tid som USA:s försvarsminister gav Schmidt ordförandeposten i Defense Innovation Board.

Samtidigt är användandet av artificiell intelligens inom militären ett kontroversiellt ämne. Autonoma vapensystem, som attackerar eller försvarar utan inblandning av en mänsklig beslutsfattare, är en framtidsutsikt som oroar många. Den världsberömde forskaren Stephen Hawking hörde till dem som varnade för utvecklingen:

– Om vi inte lär oss förbereda oss för, och undvika, de potentiella riskerna, kan AI vara den värsta händelsen i vår civilisations historia. Den medför faror, som kraftfulla autonoma vapen, eller nya sätt för de få att förtrycka de många.

För andra är ett ännu mer skrämmande scenario en situation där USA förlorar AI-kapprustningen till länder som Kina. Jack Shanahan, generalen som ledde Project Maven, vill hellre kalla det en ”strategisk tävling” än en kapprustning, men menar att det vore farligt att halka efter.

– Vad jag inte vill se är en framtid där våra potentiella motståndare har en helt AI-kompatibel styrka och vi inte har det, sade Shanahan vid en presskonferens 2019.

Text: Bulletin/Nyhetsredaktionen