Rat algoritama

Kada je riječ o korištenju umjetne inteligencije u vojsci, odmah se budi noćna mora znanstvene fantastike, buntovna i smrtonosna umjetna inteligencija koja se diže protiv čovječanstva kako bi ga uništila. Nažalost, strahovi vojske i čelnika da će nas “neprijatelj sustići” jednako su jaki u razvoju algoritama ratovanja.

Algoritamski ratšto bi, prema mnogima, moglo iz temelja promijeniti lice bojišta kakvo poznajemo, uglavnom zato što bi ratovanje bilo brže, daleko ispred sposobnosti ljudi da donose odluke. američki general Jack Shanahan (1), čelnik američkog Zajedničkog centra za umjetnu inteligenciju, naglašava, međutim, da prije uvođenja umjetne inteligencije u arsenale moramo osigurati da ti sustavi i dalje budu pod ljudskom kontrolom i da sami od sebe ne započinju ratove.

"Ako neprijatelj ima strojeve i algoritme, izgubit ćemo ovaj sukob"

Sposobnost vožnje algoritamsko ratovanje temelji se na korištenju napretka računalne tehnologije u tri glavna područja. Prvi desetljećima eksponencijalnog rasta računalne snageovo je uvelike poboljšalo izvedbu strojnog učenja. Drugi brz rast resursa “Big data”, odnosno ogromni, obično automatizirani, kojima se upravlja i kontinuirano kreirani skupovi podataka prikladni za strojno učenje. Treće se tiče brz razvoj tehnologija računalstva u oblaku, putem kojeg računala mogu lako pristupiti izvorima podataka i obraditi ih za rješavanje problema.

Ratni algoritamkako ga definiraju stručnjaci, najprije se mora izraziti s računalni kod. Drugo, mora biti rezultat platforme sposobne i za prikupljanje informacija i za donošenje odluka, donošenje odluka koje, barem u teoriji, ne zahtijevaju ljudska intervencija. Treće, što se čini očitim, ali ne nužno, jer tek na djelu postaje jasno može li tehnika namijenjena nečemu drugom biti korisna u ratu i obrnuto, mora biti sposobna za rad u uvjetima. oružani sukob.

Analiza navedenih pravaca i njihove interakcije to pokazuje algoritamsko ratovanje nije posebna tehnologija kao što je npr. energetsko oružje ili hipersonične rakete. Njegovi učinci su široki i postupno postaju sveprisutni u neprijateljstvima. Prvi put vojna vozila postaju inteligentni, potencijalno čineći obrambene snage koje ih provode učinkovitije i učinkovitije. Takvi inteligentni strojevi imaju jasna ograničenja koja treba dobro razumjeti.

", rekao je Shanahan prošle jeseni u intervjuu s bivšim izvršnim direktorom Googlea Ericom Schmidtom i Googleovim potpredsjednikom za međunarodne poslove Kentom Walkerom. "".

Nacrt izvješća američkog Vijeća za nacionalnu sigurnost o umjetnoj inteligenciji spominje Kinu više od 50 puta, naglašavajući službeni cilj Kine da postane svjetski lider u umjetnoj inteligenciji do 2030. (vidi također: ).

Ove riječi izgovorene su u Washingtonu na posebnoj konferenciji koja se održala nakon što je spomenuti Shanakhan Center predstavio svoje preliminarno izvješće Kongresu, pripremljeno u suradnji s renomiranim stručnjacima iz područja umjetne inteligencije, uključujući Microsoftovog direktora istraživanja Erica Horwitza, izvršnog direktora AWS-a Andyja Jassa i Glavni istraživač Google Clouda Andrew Moore. Završno izvješće bit će objavljeno u listopadu 2020.

Zaposlenici Googlea prosvjeduju

Prije nekoliko godina u to se umiješao Pentagon. algoritamsko ratovanje te niz projekata povezanih s umjetnom inteligencijom u okviru projekta Maven, temeljenih na suradnji s tehnološkim tvrtkama, uključujući Google i startupove kao što je Clarifai. Radilo se uglavnom o radu na umjetna inteligencijakako bi se olakšalo prepoznavanje objekata na.

Kada se u proljeće 2018. doznalo za Googleovo sudjelovanje u projektu, tisuće zaposlenika giganta Mountain Viewa potpisalo je otvoreno pismo protestirajući zbog umiješanosti tvrtke u neprijateljstva. Nakon mjeseci radnih nemira Google je usvojio vlastiti skup pravila za AIšto uključuje zabranu sudjelovanja na događanjima.

Google se također obvezao dovršiti ugovor Project Maven do kraja 2019. Googleov izlazak nije okončao Project Maven. Kupio ga je Palantir Petera Thiela. Zračne snage i američki marinski korpus planiraju koristiti posebne bespilotne letjelice, poput Global Hawka, u sklopu projekta Maven, od kojih bi svaka trebala vizualno nadzirati do 100 četvornih kilometara.

Povodom onoga što se događa oko projekta Maven postalo je jasno da američkoj vojsci hitno treba vlastiti oblak. Ovo je ono što je Shanahan rekao tijekom konferencije. To je bilo očito kada su videosnimke i ažuriranja sustava morali biti transportirani kamionima do vojnih postrojenja raštrkanih po terenu. U zgradi objedinjeno računalstvo u oblaku, koji će pomoći u rješavanju problema ovog tipa, u sklopu projekta ujedinjene IT infrastrukture za Jedi vojsku, Microsoft, Amazon, Oracle i IBM. Google nije zbog svojih etičkih kodeksa.

Iz Shanahanove izjave jasno je da velika AI revolucija u vojsci tek počinje. A uloga njegova središta u američkim oružanim snagama raste. To se jasno vidi u procijenjenom proračunu JAIC-a. U 2019. iznosio je nešto manje od 90 milijuna dolara. U 2020. bi već trebao iznositi 414 milijuna dolara, odnosno oko 10 posto Pentagonovog 4 milijarde dolara AI budžeta.

Stroj prepoznaje predanog vojnika

Američke trupe već su opremljene sustavima kao što je Phalanx (2), što je vrsta autonomnog oružja koje se koristi na brodovima američke mornarice za napad na dolazeće projektile. Kada se otkrije projektil, automatski se uključuje i uništava sve na svom putu. Prema Fordu, on može napasti s četiri ili pet projektila u pola sekunde, a da ne mora proći i pogledati svaku metu.

Drugi primjer je poluautonomni Harpy (3), komercijalni sustav bez posade. Harpija se koristi za uništavanje neprijateljskih radara. Na primjer, 2003. godine, kada je SAD pokrenuo napad na Irak koji je imao zračne radarske sustave za presretanje, bespilotne letjelice izraelske proizvodnje pomogle su ih pronaći i uništiti kako bi Amerikanci mogli sigurno uletjeti u irački zračni prostor.

3. Lansiranje drona IAI Harpy sustava

Još jedan dobro poznati primjer autonomnog oružja je Korejski Samsung SGR-1 sustav, koji se nalazi u demilitariziranoj zoni između Sjeverne i Južne Koreje, dizajniran za prepoznavanje i ispaljivanje uljeza na udaljenosti do četiri kilometra. Prema opisu, sustav "može razlikovati osobu koja se predaje i osobu koja se ne predaje" na temelju položaja ruku ili prepoznavanja položaja oružja u rukama.

4. Demonstracija detekcije vojnika koji se predaje sustavom Samsung SGR-1

Amerikanci se boje biti ostavljeni

Trenutno najmanje 30 zemalja diljem svijeta koristi automatsko oružje s različitim razinama razvoja i uporabe AI. Kina, Rusija i Sjedinjene Države vide umjetnu inteligenciju kao nezamjenjiv element u izgradnji svoje buduće pozicije u svijetu. "Tko god pobijedi u utrci umjetne inteligencije, vladat će svijetom", rekao je ruski predsjednik Vladimir Putin studentima u kolovozu 2017. Predsjednik Narodne Republike Kine Xi Jinping nije davao tako glasne izjave u medijima, ali on je glavni pokretač direktive koja poziva da Kina do 2030. postane dominantna sila na području umjetne inteligencije.

U Sjedinjenim Državama raste zabrinutost zbog "efekta satelita", koji je pokazao da su Sjedinjene Države izrazito loše opremljene za suočavanje s novim izazovima koje postavlja umjetna inteligencija. A to može biti opasno za mir, makar samo zato što zemlja ugrožena dominacijom možda želi eliminirati stratešku prednost neprijatelja na drugi način, odnosno ratom.

Iako je izvorna svrha projekta Maven bila pomoći u pronalaženju islamskih boraca ISIS-a, njegov značaj za daljnji razvoj vojnih sustava umjetne inteligencije je ogroman. Elektroničko ratovanje bazirano na snimačima, monitorima i senzorima (uključujući mobilne, leteće) povezano je s ogromnim brojem heterogenih tokova podataka, koji se mogu učinkovito koristiti samo uz pomoć AI algoritama.

Hibridno bojište je postalo vojna verzija IoT-a, bogat važnim informacijama za procjenu taktičkih i strateških prijetnji i prilika. Mogućnost upravljanja ovim podacima u stvarnom vremenu ima velike prednosti, ali neuspjeh u učenju iz ovih informacija može biti katastrofalan. Mogućnost brze obrade protoka informacija s različitih platformi koje djeluju u više područja pruža dvije glavne vojne prednosti: brzina i dostupnost. Umjetna inteligencija omogućuje vam da analizirate dinamičke uvjete na bojnom polju u stvarnom vremenu i nanesete brzo i optimalno, istovremeno minimizirajući rizik za vlastite snage.

Ovo novo bojište također je sveprisutno i. AI je u središtu takozvanih rojeva dronova, koji su posljednjih godina dobili veliku pozornost. Uz pomoć sveprisutnih senzora, ne samo da omogućuje bespilotnim letjelicama navigaciju neprijateljskim terenom, već na kraju može omogućiti formiranje složenih formacija raznih vrsta bespilotnih letjelica koje djeluju u mnogim područjima, s dodatnim oružjem koje omogućuje sofisticirane borbene taktike, odmah prilagođavajući se neprijatelj. manevre kako bi se iskoristila prednost bojnog polja i izvijestili o promjenjivim uvjetima.

Napredak u ciljanju i navigaciji uz pomoć umjetne inteligencije također poboljšava izglede za učinkovitost u širokom rasponu taktičkih i strateških obrambenih sustava, posebno proturaketne obrane, poboljšavajući metode otkrivanja, praćenja i identificiranja ciljeva.

stalno povećava snagu simulacija i alata za igre koji se koriste za istraživanje nuklearnog i konvencionalnog oružja. Masovno modeliranje i simulacija bit će bitni za razvoj sveobuhvatnog multi-domenskog sustava ciljanih sustava za kontrolu borbe i složene misije. AI također obogaćuje interakcije više strana (5). AI omogućuje igračima da dodaju i mijenjaju varijable igre kako bi istražili kako dinamički uvjeti (oružje, sudjelovanje saveznika, dodatne trupe, itd.) mogu utjecati na performanse i donošenje odluka.

Za vojsku je identifikacija objekata prirodna početna točka za AI. Prvo, potrebna je sveobuhvatna i brza analiza sve većeg broja slika i informacija prikupljenih sa satelita i bespilotnih letjelica kako bi se pronašli objekti od vojnog značaja, poput projektila, kretanja trupa i drugih podataka vezanih uz obavještajne poslove. Danas bojno polje obuhvaća sve krajolike – more, kopno, zrak, svemir i kiberprostor – na globalnoj razini.

Cyberspacekao inherentno digitalna domena, prirodno je prikladna za AI aplikacije. S ofanzivne strane, AI može pomoći u pronalaženju i ciljanju pojedinačnih mrežnih čvorova ili pojedinačnih računa radi prikupljanja, ometanja ili dezinformiranja. Cyber ​​napadi na internu infrastrukturu i zapovjedne mreže mogu biti katastrofalni. Što se obrane tiče, AI može pomoći u otkrivanju takvih upada i pronalaženju destruktivnih anomalija u civilnim i vojnim operativnim sustavima.

Očekivana i opasna brzina

Međutim, brzo donošenje odluka i promptno izvršenje možda vam neće dobro poslužiti. za učinkovito antikrizno upravljanje. Prednosti umjetne inteligencije i autonomnih sustava na bojnom polju možda neće ostaviti vremena za diplomaciju, koja je, kao što znamo iz povijesti, često bila uspješna kao sredstvo za sprječavanje ili upravljanje krizom. U praksi, usporavanje, stanka i vrijeme za pregovore mogu biti ključ pobjede ili barem sprječavanja katastrofe, osobito kada je nuklearno oružje u pitanju.

Odluke o ratu i miru ne mogu se prepustiti prediktivnoj analitici. Postoje temeljne razlike u načinu na koji se podaci koriste u znanstvene, ekonomske, logističke i prediktivne svrhe. ljudsko ponašanje.

Neki mogu percipirati AI kao silu koja slabi međusobnu stratešku osjetljivost i time povećava rizik od rata. Slučajno ili namjerno oštećeni podaci mogu navesti sustave umjetne inteligencije da izvedu nenamjerne radnje, kao što su pogrešna identifikacija i ciljanje pogrešnih ciljeva. Brzina djelovanja pretpostavljena u slučaju razvoja ratnih algoritama može značiti preuranjenu ili čak nepotrebnu eskalaciju koja ometa racionalno upravljanje krizom. S druge strane, algoritmi također neće čekati i objašnjavati, jer se od njih također očekuje da budu brzi.

Uznemirujući aspekt funkcioniranje algoritama umjetne inteligencije također predstavljen od nas nedavno u MT. Čak ni stručnjaci ne znaju točno kako AI dovodi do rezultata koje vidimo u izlazu.

U slučaju ratnih algoritama, ne možemo si priuštiti takvo neznanje o prirodi i o tome kako ih oni “razmišljaju”. Ne želimo se buditi usred noći uz nuklearne rakete jer je "naša" ili "njihova" umjetna inteligencija odlučila da je vrijeme da se konačno riješi utakmica.