Shutterstock/Hamara

Skal Silicon Valley bevege seg raskt og bryte ting i forsvaret? 

av Elke Schwarz

Jeg er en propagandist, jeg vil vri på sannheten, jeg vil bare legge frem min versjon av den hvis jeg tror det kommer til å propagandere folk til å tro det jeg trenger at de skal tro.

Dette er ikke en lydbit fra et spesielt sprudlende øyeblikk i TV-showet Mad Men. Disse ordene var ytret av Palmer Luckey, administrerende direktør for Silicon Valleys hotteste oppstart av militærteknologi. Luckeys selskap, Anduril Industries, spesialiserer seg på kunstig intelligens-aktiverte systemer, inkludert autonome våpensystemer. Med en verdsettelse på 14 milliarder dollar er Anduril en av de kjære av oppstartsscenen for forsvar og dets nye venturekapitaløkosystem (VC) der store løfter, store innsatser og en tendens til propaganda er en nødvendig basis for suksess.

Integreringen av kunstig intelligens (AI) i forsvarsprogrammer, enn si våpensystemer, er fortsatt kontroversiell. UK Artificial Intelligence in Weapon Systems Committee har oppfordret til forsiktighet over anskaffelsesprosesser for AI-aktiverte våpen, men – som så ofte er tilfellet når det gjelder Silicon Valley-produkter – har utviklingen, anskaffelsen og utrullingen av AI-forsvarsprogrammer akselerert kraftig de siste årene.

Grunnlagt først i 2017, har Anduril allerede blitt tildelt flere multi-million dollar kontrakter av USAs forsvarsdepartement (DoD), så vel som Storbritannias forsvarsdepartement (MoD). På bakgrunn av den pågående Russland-Ukraina-krigen, krigen i Gaza og økende global spenning, virker dette kanskje ikke som en overraskende utvikling.

In min siste forskning på militær AI identifiserte jeg at en av nøkkeldriverne for akselerert anskaffelse av militære oppstartsprodukter, som autonome droner og andre AI-aktiverte systemer, er tilstrømningen av enorme summer av risikokapitalpenger og innflytelse. Disse risikokapitalselskapene trenger forsvarsorganisasjoner for å ta i bruk teknologiindustriens etos om hastighet og skala og risikokapitalverdenens appetitt på risiko og revolusjon. Dette gjør disse firmaene til ikke bare finansielle aktører, men også politiske.

Min forskning, publisert i Finans og samfunn, antyder at denne trenden mot å forme forsvar i bildet av Silicon Valley, motivert av venturekapitalinteresser, sannsynligvis vil bli mer uttalt og utbredt. Med dette i bakhodet, er det verdt å se nærmere på dynamikken i spill når venturekapital setter øynene på liv og død.

Den fremvoksende militære finansiseringen

Både den militære AI-industrien og globale forsvarsutgifter blomstrer. For tiden estimater, var det globale militære AI-markedet verdt 13.3 milliarder dollar i 2024, med en anslått vekst til 35 milliarder dollar i løpet av de neste syv årene. Disse tallene varierer, avhengig av markedsdatatjenestene som er konsultert, men de har blitt revidert opp med jevne mellomrom de siste 12 månedene. Globale forsvarsbudsjetter har også økt mot bakteppet av pågående konflikter og et generelt skifte mot militarisering de siste 24 månedene.

Globalt forsvar utgifter nådde et rekordnivå på litt over 2 billioner dollar i 2023. Med 877 milliarder dollar har USA rede for nesten 40 % av globale forsvarsutgifter i 2023. The NATO-alliansen vil bruke 1.47 billioner dollar i 2024. Dette er store, attraktive tall for store teknologi- og finansselskaper med intensjoner om å få fotfeste i forsvarsmarkedet.

Ocuco Innsikt-delen er forpliktet til høy kvalitet langformig journalistikk. Våre redaktører jobber med akademikere fra mange forskjellige bakgrunner som takler et bredt spekter av samfunnsmessige og vitenskapelige utfordringer.

I mellomtiden begynner forsvarsorganisasjoner å bruke mer penger på banebrytende teknologier, inkludert, uunngåelig, AI. Et 2024 Brookings Institute Report fant at forsvarskontrakter for AI-relaterte teknologier økte i verdi med nesten 1200 % i løpet av de 12 månedene fra august 2022 til august 2023.

For de fleste nye AI-produkter, sivile eller andre, er det ofte en eller annen form for risikokapitalfinansiering involvert, spesielt hvis den aktuelle AI-satsingen kan vise seg å være for risikabel til å finansieres gjennom banklån eller andre finansielle instrumenter. Venturekapital er villig til å satse på innovasjon som andre finansiører ville være uvillige eller ute av stand til å ta.

I de siste to tiårene har denne typen finansiering primært fokusert på Silicon Valley-produkter for det sivile markedet, hvor dynamikken har gjort det mulig å oppnå ekstraordinære gevinster for investorer. Men etter hvert som forsvarsmarkedet vokser, og mulighetene for ekstraordinær venturekapitalavkastning i de kommersielle sfærene avtar, ser de med store mengder kapital å investere en ny mulighet for enorme gevinster i forsvaret innenfor deres rekkevidde.

Det er derfor ikke overraskende at de siste fem årene har venturekapitalinvesteringer i forsvarsteknologi økt. Fra 2019 til 2022 har amerikansk risikokapitalfinansiering for oppstart av militærteknologi doblet, og siden 2021 har forsvarsteknologisektoren sett en injeksjon på 130 milliarder dollar i VC-penger.

Risikokapitalinvesteringer er også på et rekordhøyt nivå for den europeiske forsvarssektoren; private VC-investeringer er anslått å nå rekordhøye USD 1 milliard, hovedsakelig drevet av amerikanske venture-selskaper. Det er et påtagelig sus i luften om mulighetene for VC-støttede bestrebelser og muligheten til å omforme forsvarslandskapet.

Vennskapskapital-militær-Silicon Valley-forbindelsen

Venturekapital har alltid vært knyttet til militærsektoren på en eller annen måte. Faktisk kan den nåværende boomen i forsvarsinvesteringer med risikovillig kapital sees på som en tilbakevending til de tidlige dagene. Opprinnelsen til venturekapital er typisk spores tilbake til de amerikanske forsknings- og utviklingsselskapene (ARDC) grunnlagt i 1946, like etter den andre verdenskrigen der USA ble styrket av en seier oppnådd, i det minste delvis, av banebrytende teknologier.

ARDC var et av de første selskapene som systematisk skaffet kapital fra institusjonelle investorer for å finansiere oppstartsselskaper med høyt potensial, men som var for risikable for banklån. Med denne tilnærmingen var ARDC det første risikokapitalutstyret som opprettet investeringsporteføljer som ofte var avhengige av en eller to ekstraordinære suksesser for å oppveie de fleste selskapene som bare ga svært beskjeden avkastning eller faktisk tap. På denne måten var ARDC det første såkalte «unicorn»-selskapet.

Enhjørninger er unge selskaper som mottar en verdsettelse på 1 milliard dollar eller mer (inntil nylig en ekstremt sjelden anledning for en oppstart og noe hver investor begjærer i sin portefølje). Dette er kjernen i venturekapitalinvesteringer: det er risikokapital med potensielt svært høye belønninger.

Spesielt i de første dagene, like etter andre verdenskrig, gikk mange investeringer mot å støtte oppstartsselskaper som skulle handle om militær innovasjon og teknologi. Dette førte til forskjellige analytiske instrumenter, høyspenningsgeneratorer, strålingsdeteksjonsteknologi, så vel som tidlige minidatabedrifter, som Digital Equipment Corporation.

Det digitale landskapet, slik vi kjenner det i dag, har sine røtter i militæret. Innovasjoner innen kommunikasjonsteori var ment for militær missilteknologi på 1950-tallet, bestefedrene til AI arbeidet nesten alle med militære prosjekter fra midten av århundret, og til og med internett selv dukket opp fra et militært prosjekt, da kalt Arpanet.

Mange Silicon Valley-firmaer forble viklet inn i militærsektoren gjennom flere tiår, og som antropologen Roberto Gonzales har skrevet, nesten "alle dagens teknologigiganter bærer litt DNA fra forsvarsindustrien, og har en lang historie med å samarbeide med Pentagon". Så venturekapitalens DNA er foldet inn i dette forholdet.

Men det er verdt å understreke at tradisjonelt var det behovene til de militære organisasjonene og myndighetene som i stor grad dikterte tempoet, strukturen og prosessen for teknologiske innovasjoner.

Nå settes tempoet og fokuset for militær teknologi og innovasjon i økende grad av en stadig vokal og kraftig teknologistartup-industri og deres finansieringskilder som har sluppet løs en rekke "Patriotisk hovedstad” initiativ, som f.eks Amerikansk dynamikk; de Spesialprosjekt for konkurransestudier, Restarter Arsenal of Democracy og America's Frontier Fund. Disse foretakene ble unnfanget av en håndfull fremtredende selskaper og enkeltpersoner i det nye forsvarsteknologidomenet for å forme forsvars- og militærprioriteringer og oppnå god avkastning mens de gjør det. Støttet opp av enorme mengder risikokapital, sprer enhjørningsselskaper seg i forsvarsrommet, inkludert nye militærteknologiske enhjørninger som Anduril Industries, Skjold AI, skydio, Skala AI og Palantir (Palantir er teknisk sett ikke lenger en oppstart siden den ble offentlig i 2020, men den er fortsatt en del av en gruppe nye militære teknologier).

Dette er en nylig utvikling. I de to tiårene fra midten av 90-tallet til 2014 fokuserte venturekapitalsektoren sin innsats på et blomstrende sivilt teknologilandskap, der himmelen var den velkjente grensen for avkastning fra teknologistartups som Google, Microsoft, Facebook og PayPal.

Forsvarsmarkedet ble derimot ansett som modent og konsolidert, med strenge oppkjøpsregler og for små muligheter for overdimensjonert avkastning på investeringer. For en statlig kontrakt å komme i stand, ville det ofte ta mange år. Forsvaret ble også dominert av en håndfull viktige bransjeaktører – de såkalte prime som inkluderer Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics og BAE Systems.

Disse primtallene delte brorparten av forsvarsmarkedet seg imellom, og det så ut til å være små muligheter for teknologistartups å få en fot innenfor døren uten store anstrengelser. For eksempel saksøkte selskaper som Space X og Palantir henholdsvis US Airforce og US Army i 2014 for muligheten til å by på visse kontrakter. Å bruke loven til å bryte åpent forsvar for militære startups har siden blitt mer utbredt.

I tillegg til disse strukturelle hindringene for VC-investeringer i forsvarssektoren, var det en større nominell moralsk kostnad knyttet til ideen om å tjene penger på krig. Siden venturekapitalinvestorer ofte er legater, stiftelser, forsikringsselskaper, universiteter og pensjonsfond, var det en ytre motvilje mot å bli sett på som å investere i «en forsvarsportefølje» – eller med andre ord, i dødsinstrumenter. Europeiske venturekapitalinvestorer var spesielt forsiktige.

Imidlertid er hastigheten som denne frykten ser ut til å ha avtatt i løpet av mindre enn et tiår bemerkelsesverdig, noe som antyder enten at investorene støtter opp venturekapitalselskaper kommer fra ulike bakgrunner som kanskje har mindre nøling når det gjelder å dra nytte av krigsvirksomheten, eller at det alltid først og fremst bare var et spørsmål om matematikk i stedet for moral.

Enhjørninger og hypervekst

I dag ønsker alle å investere i en enhjørning fordi den har potensial til å skyte i været i verdivurdering.

Men for å få en fot innenfor døren med et uprøvd produkt eller konsept, kan noen startups motiveres til å komme med store, dristige påstander om produktenes revolusjonerende, endringsskapende natur. Og selv når et selskap har sikret finansiering, forblir etosen med overløftende ofte nedfelt for å opprettholde suksess mot hypervekst.

I verste fall gjøres overløfting i et slikt omfang at det utgjør kriminelt svindel, slik det var tilfellet med den beryktede blodprøvestartupen Theranos, som gikk fra å være en av de mest spennende helseforetakene, verdsatt til USD 10 milliarder på topp i 2015, til en fullstendig byst på fire korte år.

I Theranos-saken hadde selskapets karismatiske grunnlegger vilt overlovet teknologiens evner, og hevdet at den ville muliggjøre en hel rekke tester som kunne gjøres fra bare en liten dråpe blod. Denne banebrytende teknologien "kunne revolusjonere medisinen og redde liv verden over".

Det var et fremtidsrettet løfte – teknologien kunne ikke gjøre det som ble lovet ennå – likevel hevdet selskapet å allerede ha en fungerende testenhet, noe som viste seg å være løgn. Theranos kastet seg i 2018 og den karismatiske grunnleggeren, Elizabeth Holmes, ble fengslet.

Selge en fantasi

Det er mange andre, mindre dramatiske historier som utspiller seg på en lignende, men ikke uredelig måte: selskaper som lover å revolusjonere måten vi gjør hverdagslige ting på med banebrytende teknologi, som viser seg å være uholdbar, ubrukelig, eller rett og slett sprudler ut.

Men resultatet er at investorer taper penger, og enda viktigere, at folk som har kommet til å stole på teknologiens løfte, kommer til skade.

I forsvarssammenheng dreier løftene om ny militærteknologi seg om salg kraftig avskrekking, Av beskytte demokratiet, for å kunne ha omfattende, nøyaktige, sanntids kunnskap, av en helt gjennomsiktig klode, og først og fremst en ren, rask og avgjørende seier med jevn og uanstrengt tilkobling.

Dette kan i verste fall fremme en fantasi om allvitenhet og allestedsnærvær, og i beste fall vekker det et ønske om en umulig revolusjon i krigføring som er for attraktiv til å motstå og til slutt trekker inn et stadig bredere publikum i kjølvannet. Disse fortellingene er ofte underskrevet av en generell hype om at en fremtid med AI er uunngåelig. Dette gir en kraftig historie som mytologiserer og verdier en teknologi som kanskje aldri leverer det som er lovet. Det er en potent blanding som ofte motstår mer nøkterne stemmer som oppfordrer til forsiktighet.

Påstandene fra forsvarets enhjørninger kan ofte virke plausible, men de er vanligvis ikke verifiserbare, fordi de tar for seg fremtiden. Og ofte gjenspeiler den fremtiden en visjon formet av skjønnlitteratur og science-fiction, som alltid er noen grader fjernet fra virkelighetens sosiale og politiske utfordringer.

Denne fristelsen av overløftende og mytologiseringen av mulig teknologi former programmer som jobber mot å realisere global åpenhet og global rekkevidde i fart. Programmet Joint-All-Domain Command and Control (JADC2) er en slik innsats initiert av Pentagon. Den tar sikte på å koble alle domener – land, luft, sjø, rom og cyber – til ett enkelt nettverk for "prediktiv analyse» og «høyhastighetskamp".

For å gjøre programmet velsmakende for kongressen, blir JADC2 ofte sammenlignet med ride-deling plattform Uber, som lover sømløs interaksjon mellom systemer og plattformer for raske intervensjoner. Dette retter oppmerksomheten mot AI som en infrastrukturell nødvendighet for alle militære eiendeler og plattformer. Uten å utvide militær AI vil denne visjonen være umulig. Det er her muligheten for militære startups ligger.

To fremtredende militærteknologiselskaper er kontraktører for JADC2 – Anduril og Palantir. Begge selskapene legger lite skjul på sine ambisjoner om å forstyrre forsvarssektoren, løsne de nåværende primtallene og skjære ut en monopoldel av markedet for å sikre økende gevinster.

Palantir har sette øynene om "å bli det sentrale operativsystemet for alle amerikanske forsvarsprogrammer"; Anduril har erklært at det vil gå "etter alt som står på [Forsvarsdepartementets] liste” for å dominere i sektoren. For begge selskapene er dette kampen – kampen om vekst.

Som Anduril's Luckey sier: "du må kjempe og vinne på tvers av flere områder". (Han mener det når det gjelder bedriftsstrategi, ikke faktiske slagmarker). På samme måte erkjente administrerende direktør og medgründer av Palantir, Alex Karp, at for å bryte forsvaret som et bredt åpent marked, er han stolt over å "har dratt og sparket og lokket og ydmyket" forskjellige lovgivere, beslutningstakere og myndigheter for å bidra til å nå dette målet. Beveg deg fort og knekk ting.

Å lage en enhjørning krever en samlet innsats og en aggressiv holdning fra de som vil tjene mest økonomisk på dette området. Dette gjøres best i allianse med likesinnede andre. I dagens forsvarsrisikokapitallandskap er det en tett sammenfiltring av gründere og finansiører.

Peter Thiel, for eksempel, er medgründer av Palantir, han driver også Founders Fund VC-antrekket som har investeringer i blant annet Space X, Anduril og Scale AI. VC-selskapet Andreessen Horowitz finansierer også SpaceX, Anduril, Shield AI og Skydio. Lederne av disse VC-selskapene har langvarige bånd med hverandre. På samme måte er det interlacing mellom selskaper. Anduril, for eksempel, ble startet av tidligere Palantir-ansatte som tok sin erfaring fra Palentir og brukte den på Anduril. Palmer Luckey, tidligere fra Oculus Rift, ble installert som sin karismatiske og frittalende administrerende direktør.

Peter Thiel og Eric Schmidt (tidligere administrerende direktør i Google og styreleder for US National Security Commission on Artificial Intelligence) er investere i America's Frontier Fund, og så videre. Det er et tett sammensveiset og veldig godt sammenkoblet nettverk av finansfolk og startups som alle jobber for å doble det sentrale drivende budskapet: Forsvarssektoren trenger avbrudd og det er vi som skal riste opp.

På et nylig panel avgi bevis til US Armed Services Committee var representanter for fem militære oppstartsselskaper. Hver eneste av de fem ble enten finansiert av VC-firmaet Andreessen Horowitz eller på annen måte tilknyttet firmaet.

Under høringen i US Armed Services Committee, Palantirs Chief Technology Officer, Shyam Sankar, ga bevis talsmann for «mer gal» og for å «la kaos råde» i den militære anskaffelses- og anskaffelsesprosessen, slik at nødvendige insentiver kan fremmes for innovasjon gjennom tverrdepartemental konkurranse.

Regulatoriske begrensninger, mener han, «begrenser deg til å overse», og han «ville gjerne akseptert flere fiaskoer hvis det betydde at vi hadde mer katastrofal suksess». Hva slags suksess dette kan være, eller hva implikasjonene er for fiasko, forblir uadressert, men det er klart at Palantirs CTO snakker med en venturekapitallogikk i tankene. Og ifølge et nylig USA Defence Innovation Board rapport, ser det ut til at regjeringen er klar til å omfavne mer risiko og gi toppdekning for slike "mavericks".

«Krise»-fortellingen

Foruten å dyrke startups med høyt potensial, er det en rekke måter å bøye forsvarssektoren til behovene til Silicon Valley-entreprenører og deres VC-støttespillere. Kraften til fortellinger går langt også her. Risikokapitalforvaltere og deres startups skriver ofte høyprofilerte artikler der dårlig tilstand av (amerikansk) forsvar beklages, der behovet for akselerert innovasjon er fremhevet, og hvor muligheten for at USA "svært sannsynlig" kan bli involvert i "en trefrontskrig med Kina, Russland og Iran" er tryllet frem. Kort sagt, en historie om at det haster, er spunnet som bidrar til å verdsette de selskapene som ser ut til å håndtere den forestående krisen.

En andre pilar i den strukturelle overhalingen av forsvaret er å ansette et intrikat nettverk av tidligere statsansatte som fungerer enten som lobbyister eller som rådgivere med nære forbindelser til myndighetene.

Tidligere republikansk kongressmedlem Mike Gallagherble for eksempel Palantirs sjef for forsvarsoperasjoner i august 2024 og tidligere nasjonal sikkerhetsrådgiver HR McMaster er nå seniorrådgiver for Shield Capital. Det finnes mange flere slike "svingdør” øyeblikk der troverdige eksperter gir sin autoritet til de nye startupene. Den militærteknologiske oppstartsscenen, som de fleste Silicon Valley-kreasjoner, har en viss omdømmebuffer, og pengene er også attraktive.

Anduril, etter å ha lært av Palantir, hyret inn en rekke lobbyister i første uke, bruke mer penger på "advokater og lobbyister enn ingeniører” som Luckey bemerket i et nylig intervju med The Economist.

Med dette tar Anduril i bruk en relativt tradisjonell måte å forme forsvarslandskapet på, som også er ansatt av hovedforsvarsentreprenører som har, som Anduril erkjenner i en 2022 blogginnlegg, et insentiv "til å bruke tungt på team av advokater og lobbyister for å forme programkrav i tråd med selskapets eksisterende teknologi".

Anduril, og dets støttespillere, gjør nå det samme, skreddersydd for deres egen pakke med teknologier. Advokatene er ofte ansatt ikke bare for å føre tilsyn med fusjoner, oppkjøp og partnerskap, men også som en måte å bruke loven som et instrument for å tvinge fram reformer.

Hovedmålet med SpaceX- og Palantir-søksmålene mot den amerikanske hæren og luftvåpenet, som jeg nevnte tidligere, var ikke nødvendigvis å vinne (Space X-søksmålet var ikke vellykket, Palantirs var det), men å lirke åpne rom for oppkjøpsoverhaling, og begge søksmålene oppnådde nettopp det .

En strategi for å skape en følelse av at det haster, doble ned med lobbyister og skape den strukturelle muligheten for en forsvarsoverhaling er nå godt i gang. For å være tydelig, jeg argumenterer ikke for at forsvarssektoren ikke ville tjene på modernisering eller omstilling. Jeg argumenterer heller ikke for at alle militære oppstartsprodukter er irrelevante eller uholdbare. Jeg prøver heller ikke å sette prime mot den nye venturekapitaldynamikken og deres fokus på vekst.

Men det jeg synes er verdt å undersøke er dynamikken som spiller med disse nye selskapene og deres implisitte prioriteringer og interesser, fordi de vil forme praksis og prioriteringer. Og der det er avbrudd på jobben, er det en viss grad av brudd å forvente. Og dette får en annen tone i spørsmål om liv og død.

Avbrudd rusk

Forstyrrelsen i forsvarssektoren er godt i gang og arbeidet med å forme den i bildet av Silicon Valley har båret frukter de siste årene med en rekke konkrete resultater. JADC2-programmet nevnt tidligere er ett. Andre er tydelige i programmer som det amerikanske forsvarsdepartementets Replikatorinitiativ, som inkluderer målene, tidslinjene og produktene som Silicon Valley militære startups har å tilby.

Høy level forsvarstjenestemenn gjentar snakk om venturekapitalindustrien og ulike oppkjøpsprogrammer har justert for å imøtekomme hastigheten og skalaen som trengs. Disse selskapene har politikernes øre og kravene om en kvasi-åndelig "Forsvarsreformasjonen” finner et voksende publikum.

Så hva er de mulige konsekvensene?

Da Uber forstyrret den private transportindustrien, etterlot det seg en rekke uthulet arbeidslover, arbeidstakers rettigheter og helsetjenester for sjåfører. Da AirBnB rystet opp i overnattingsbransjen, resulterte det i økte leiepriser på populære turistmål. Når du prøver å skape et monopol, får det alltid sosiale og politiske konsekvenser. Ofte er disse konsekvensene forutsigbare, noen ganger er de ikke det.

Å forstyrre forsvarsoppkjøpsprosessen kommer i det minste på bekostning av større tilsyn med oppkjøpsprosessen. Teknologisektoren er ikke kjent for sin forståelse av regulatoriske grenser. Snarere tvert imot. Noen av de mest fremtredende finansiererne av det nye militære oppstartslandskapet er mest vokalt imot til enhver type regulering.

VC-tungvekteren Marc Andreessen, for eksempel, skrev det berømt et Techno-Optimist-manifest der han kaller risikostyring, tillit og sikkerhetstiltak og føre-var-prinsippene som «fienden».

Mindre regulering betyr mindre tilsyn og ansvarlighet, ikke bare i utgifter, men også i hvordan og hvor visse teknologier brukes og med hvilke effekter. Så mye er tydelig.

Men det er mange andre svært plausible konsekvenser vi kan forutse med akselerert anskaffelse og utrulling av militærteknologi for kamp. Den ene er refokuseringen på risiko og eksperimentering.

Den nåværende avlingen av militære oppstartsteknologier, som AI-aktiverte droner og AI-beslutningsstøttesystemer, blir testet og forbedret live og under pågående konflikter, som i Russland-Ukraina-krigen, men også i Gaza. Dette er en form for prototyping som blir stadig mer fremtredende og som trenger en aktiv slagmark for effektiv testing, iterasjon og optimalisering av teknologiene.

Dette betyr også at det er mulig at teknologier som ikke er egnet for formålet vil bli brukt, bare for å teste dem og bli bedre etter hvert. Det normaliserer, om ikke fremmer, lansering og salg av mangelfulle og muligens utilstrekkelige AI-produkter, som uunngåelig vil skade uskyldige sivile som er fanget i konfliktens trådkors.

Vi kan observere dette akkurat nå med presset fra teknologiselskaper om å selge sine store språkmodeller til militære organisasjoner. Scale AI, for eksempel, har slått seg sammen med Meta for å selge et LLM-produkt, Forsvarslama, for forsvarsformål. Selskapet sier at menneskelig involvering er "absolutt nødvendig" for systemet.

Men gitt velkjent faktum at LLM-er er utsatt for det som kalles hallusinasjoner, er sjansene for at slike teknologier vil fungere akkurat som annonsert små for en kontekst så kompleks og dynamisk som krigføring. Dette kan skade de som er fanget midt i denne eksperimenteringen, finjusteringen og live-testingen. Det er en sentral bekymring at teknologien kanskje ikke er egnet for det uventede, for de mindre kalkulerbare eller mindre forutsigbare elementene i krigføring. Det inkluderer potensielle nye terrortrusler eller grep fra de statene som ofte anses som irrasjonelle; som Nord-Korea, for eksempel.

Anduril CEO, Luckey, innrømmet så mye i intervjuet jeg åpnet med. Han erkjente at logikken som våpnene hans er bygget på faller fra hverandre med potensielle fiender som unngår spillets teoretiske tilnærming som mye av AI-logikken for forsvar hviler på: «Det er veldig vanskelig å engasjere seg i spilleteori med folk som forfølger ikke-spillet. teori optimal strategi ... Det er som å spille monopol med personen som skal droppe ut og gi alle pengene sine til noen andre. En alvorlig begrensning for noe så tilfeldig som krigføring.

Det er også andre og tredje ordens effekter som kommer fra dette skiftet mot venturekapitallogikk. Ved å fremmane en overhengende trussel kan det bredere globale risiko- og sikkerhetslandskapet endres; ved å prioritere våpenteknologier, kan midler til andre måter å håndtere konflikt på reduseres, ved å dedikere et økende beløp til teknologier som forblir uprøvde og som kanskje ikke har varighet, kan betydelige mengder penger som ville være bedre fordelt andre steder være bortkastet.

Men dette er et land med forestillinger og enhjørninger, hvor slike betraktninger er like spekulative som de mye hypede løftene om AI-våpen som forsvarerne av demokratiet.

I Silicon Valley innebærer mottoet "beveg deg raskt og knekk ting" at problemer som oppstår i utrullingen av teknologien alltid kan løses og løses senere. I forsvars- og krigsverdenen kan skaden forårsaket av denne typen risikotaking ikke så lett oppheves.

The Conversation satte punktene opp i denne artikkelen til de nevnte teknologi- og venturekapitalfirmaene. De svarte ikke på vår forespørsel om kommentar.

Elke Schwarz, Leser i politisk teori, Queen Mary University of London

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker:

On Tyranni: Twenty Lessons from the Twentieth Century

av Timothy Snyder

Denne boken tilbyr lærdom fra historien for å bevare og forsvare demokrati, inkludert viktigheten av institusjoner, rollen til individuelle borgere og farene ved autoritarisme.

Klikk for mer info eller for å bestille

Vår tid er nå: makt, formål og kampen for et rettferdig Amerika

av Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin visjon for et mer inkluderende og rettferdig demokrati og tilbyr praktiske strategier for politisk engasjement og velgermobilisering.

Klikk for mer info eller for å bestille

Hvordan demokratier dør

av Steven Levitsky og Daniel Ziblatt

Denne boken undersøker varseltegnene og årsakene til demokratisk sammenbrudd, og trekker på casestudier fra hele verden for å gi innsikt i hvordan man kan ivareta demokratiet.

Klikk for mer info eller for å bestille

The People, No: A Brief History of Anti-Populism

av Thomas Frank

Forfatteren gir en historie om populistiske bevegelser i USA og kritiserer den "antipopulistiske" ideologien som han hevder har kvalt demokratisk reform og fremgang.

Klikk for mer info eller for å bestille

Demokrati i én bok eller mindre: Hvordan det fungerer, hvorfor det ikke gjør det, og hvorfor det er enklere enn du tror å fikse det

av David Litt

Denne boken gir en oversikt over demokratiet, inkludert dets styrker og svakheter, og foreslår reformer for å gjøre systemet mer responsivt og ansvarlig.

Klikk for mer info eller for å bestille

Artikkeloppsummering:

Silicon Valleys risikokapitalister presser på militær AI-innovasjon mens de utvider deres forstyrrende etos til demokratiske prosesser. Forsvarsindustrien, som lenge har vært motstandsdyktig mot endringer, er nå prisgitt venture-støttede startups som lover effektivitet, men risikerer kaos. Den samme drivkraften etter forstyrrelse har drevet valgintervensjon, utnyttelse av svakt regulatorisk tilsyn og prioritert profitt fremfor offentlig gods. Med militære systemer stadig mer formet av uprøvd AI og demokrati undergravd av bedriftens ambisjoner, har innsatsen aldri vært høyere.

hashtags:
#SiliconValley #ElectionInterference #MilitaryAI #TechRisks #DemocracyUnder Threat