Duh strojnog ubojice se nastavlja. U što vjeruje predsjednik Putin?

Zagovornici vojnih robota (1) tvrde da automatizirano oružje pruža više mogućnosti za zaštitu ljudskog života. Strojevi su u stanju približiti se neprijatelju od vojnika i ispravno procijeniti prijetnju. A emocije ponekad paraliziraju sposobnost donošenja ispravnih odluka.

Mnogi zagovornici robota ubojica uvjereni su da će oni učiniti ratove manje krvavim jer će umrijeti manje vojnika. Napominju da su roboti, iako ne osjećaju sažaljenje, imuni na negativne ljudske emocije poput panike, ljutnje i osvete, koje često dovode do ratnih zločina.

Aktivisti za ljudska prava također koriste argument da je vojska dovela do ogromnog smanjenja civilnih žrtava u posljednjih pola stoljeća, a robotizacija vojske omogućuje mehanizam za strožiju provedbu zakona rata. Tvrde da će strojevi postati etični kada budu opremljeni softverom koji će ih prisiliti da se povinuju zakonima rata.

Naravno, ogroman broj ljudi, uključujući i one vrlo poznate, godinama ne dijeli ovo mišljenje. U travnju 2013. pokrenuta je međunarodna kampanja pod sloganom (2). U okviru njega nevladine organizacije zahtijevaju potpunu zabranu uporabe autonomnog oružja. Stručnjaci iz mnogih zemalja prvi su put razgovarali o ovoj temi na Konferenciji UN-a o razoružanju u Ženevi u svibnju 2014. U izvješću koje su nekoliko mjeseci kasnije objavili Human Rights Watch i znanstvenici sa Sveučilišta Harvard kaže se da bi autonomaši bili preopasni – sami su birali mete i ubijali ljude. Pritom nije baš jasno tko bi za to trebao odgovarati.

2. Demonstracija u sklopu akcije "Stop robotima ubojicama"

Što može roj malih dronova

Sporovi oko robota ubojica (ROU) traju godinama i ne jenjavaju. Posljednji mjeseci donijeli su nove pokušaje zaustavljanja vojnih robota i val izvješća o novim projektima ovog tipa, od kojih se neki čak testiraju u stvarnim borbenim uvjetima.

U studenom 2017., video koji prikazuje smrtonosni rojevi mini-dronova ., u zastrašujućoj akciji. Gledatelji su vidjeli da nam više ne trebaju teški ratni strojevi, tenkovi ili projektili koje su grabežljivci bacali za masovno ubijanje iz mitraljeza. Glavni redatelj Stuart Russell, profesor umjetne inteligencije na Berkeleyu, kaže:

-

Prošlog proljeća pedeset profesora Vodeća svjetska sveučilišta potpisala su apel Korejskom institutu za naprednu znanost i tehnologiju (KAIST) i njegovom partneru Hanwha Systems. najavili su da neće surađivati ​​sa sveučilištem i ugostiti goste KAIST-a. Razlog je bila izgradnja "autonomnog oružja" koju su izvele obje institucije. KAIST je demantirao napise medija.

Ubrzo nakon toga u SAD-u više od 3 Googleova zaposlenika prosvjedovao protiv rada čete za vojsku. Bili su zabrinuti da je Google bio partner s vladinim projektom kodnog naziva Maven koji ima za cilj koristiti umjetnu inteligenciju za prepoznavanje objekata i lica u video zapisima vojnih dronova. Uprava tvrtke kaže da je cilj Mavena spašavanje života i spašavanje ljudi od zamornog posla, a ne agresije. Prosvjednici nisu bili uvjereni.

Sljedeći dio bitke bila je deklaracija stručnjaci za umjetnu inteligenciju, uklj. radeći na Google projektu i Elona Muska. Obećavaju da neće razvijati robote. Također pozivaju vlade da intenziviraju napore za reguliranje i ograničenje ovog oružja.

U priopćenju se, dijelom, kaže da "odluku o oduzimanju ljudskog života nikada ne smije donijeti stroj". Iako su vojske svijeta opremljene brojnim automatskim uređajima, ponekad s visokim stupnjem autonomije, mnogi stručnjaci strahuju da bi u budućnosti ova tehnologija mogla postati potpuno autonomna, dopuštajući ubijanje bez ikakvog uključivanja ljudskog operatera i zapovjednika.

Stručnjaci također upozoravaju da bi autonomni strojevi za ubijanje mogli biti još opasniji od "nuklearnog, kemijskog i biološkog oružja" jer se lako mogu izmaknuti kontroli. Ukupno je u srpnju prošle godine pismo pod okriljem Instituta za budućnost života (FGI) potpisalo 170 organizacija i 2464 pojedinca. U ranim mjesecima 2019., skupina medicinskih znanstvenika povezanih s FLI-jem ponovno je pozvala na novo pismo kojim se zabranjuje razvoj oružja kontroliranog umjetnom inteligencijom (AI).

Prošlogodišnji kolovoški sastanak UN-a u Gniewou o mogućoj pravnoj regulaciji vojnih "robota ubojica" završio je uspjehom ... strojeva. Skupina zemalja, uključujući Sjedinjene Države, Rusiju i Izrael, blokirala je daljnji rad na uvođenju međunarodne zabrane ovog oružja (nacrt Konvencije o zabrani ili ograničenju uporabe određenog konvencionalnog oružja, CCW). Nije slučajno da su ove zemlje poznate po svom radu na naprednim sustavima autonomnog i robotskog oružja.

Rusija se fokusira na borbene robote

Predsjednik Vladimir Putin često se citira o vojnim sustavima umjetne inteligencije i borbenim robotima:

-.

otvoreno govori o razvoju autonomnog oružja. Načelnik Glavnog stožera njegovih oružanih snaga, general Valery Gerasimov, nedavno je za vojnu novinsku agenciju Interfax-AVN rekao da će korištenje robota biti jedno od glavnih obilježja budućih ratova. Dodao je da se Rusija trudi potpuno automatizirati bojno polje. Slične komentare dali su potpredsjednik vlade Dmitrij Rogozin i ministar obrane Sergej Šojgu. Predsjednik Odbora Vijeća Federacije za obranu i sigurnost Viktor Bondarev rekao je da Rusija teži razvoju Roju tehnologijeto bi omogućilo mrežama dronova da funkcioniraju kao jedan entitet.

To ne čudi ako se prisjetimo da su prvi teletankovi razvijeni u Sovjetskom Savezu 30-ih godina. Korišteni su na početku Drugog svjetskog rata. Danas i Rusija stvara tenk roboti postaju sve autonomniji.

Putinova je država nedavno poslala svoje u Siriju Bespilotno borbeno vozilo Uran-9 (3). uređaj je izgubio kontakt s zemaljskim kontrolnim točkama, imao je problema sa sustavom ovjesa, a njegovo oružje nije funkcioniralo savršeno i nije gađalo pokretne mete. Ne zvuči baš ozbiljno, ali mnogi smatraju da je sirijski wipe dobar borbeni test koji će Rusima omogućiti poboljšanje stroja.

Roscosmos je odobrio preliminarni plan slanja dva robota na Međunarodnu svemirsku postaju do kolovoza ove godine. Fedor (4) u Uniji bez posade. Ne kao teret, ali. Kao u filmu RoboCop, Fedor rukuje oružjem i pokazuje smrtonosno gađanje tijekom vježbi gađanja.

Pitanje je zašto bi robot u svemiru bio naoružan? Postoje sumnje da nije stvar samo u zemaljskim aplikacijama. U međuvremenu na Zemlji, ruski proizvođač oružja Kalašnjikov pokazao je vizualizaciju robot Igorekšto, iako je izazvalo mnogo smijeha, signalizira da tvrtka ozbiljno radi na autonomnim borbenim vozilima. U srpnju 2018. Kalašnjikov je objavio da pravi oružje koje koristi za donošenje odluka "pucati ili ne pucati".

Ovoj informaciji treba dodati izvješća da je ruski oružar Digtyarev razvio mali autonomni tenk Nerekht koji se može nečujno kretati prema svojoj meti sam od sebe, a zatim eksplodirati snažnom silom da uništi druge ili cijele zgrade. Kao i Tenk T14 vojske , ponos ruskih oružanih snaga, dizajniran je za moguće daljinsko upravljanje i vožnju bez posade. Sputnjik tvrdi da ruski vojni inženjeri rade na tome da T-14 bude potpuno autonomno oklopno vozilo.

Direktiva o prigovoru

Sama američka vojska nametnula je prilično jasno ograničenje razine autonomije svog oružja. Godine 2012. Ministarstvo obrane SAD-a izdalo je Direktivu 3000.09, koja kaže da bi ljudi trebali imati pravo prigovoriti postupcima naoružanih robota. (iako može biti nekih izuzetaka). Ova direktiva ostaje na snazi. Trenutna politika Pentagona je da odlučujući čimbenik u korištenju oružja uvijek treba biti osoba i da takva prosudba treba biti. u skladu sa zakonima rata.

Iako Amerikanci desetljećima koriste leteće, Predator, Reaper i mnoge druge superstrojeve, oni nisu bili i nisu autonomni modeli. Upravljaju ih operateri na daljinu, ponekad s udaljenosti od nekoliko tisuća kilometara. Burna rasprava o autonomiji strojeva ovog tipa započela je premijerom prototipa. dron X-47B (5), koji ne samo da je samostalno letio, već je mogao i poletjeti s nosača zrakoplova, sletjeti na njega i napuniti gorivo u zraku. Značenje je također pucati ili bombardirati bez ljudske intervencije. Međutim, projekt je još uvijek u fazi testiranja i pregleda.

5. Testovi bespilotnog X-47B na američkom nosaču zrakoplova

Godine 2003. Ministarstvo obrane počelo je eksperimentirati s malim robotom nalik tenku. SPOES opremljen strojnicom. 2007. godine poslan je u Irak. međutim, program je završio nakon što se robot počeo ponašati neredovito, neredovito pomičući svoju pušku. Kao rezultat toga, američka vojska je napustila proučavanje naoružanih kopnenih robota dugi niz godina.

Istovremeno, američka vojska povećala je potrošnju na operacije s 20 milijuna dolara u 2014. na 156 milijuna dolara u 2018. godini. U 2019. ovaj je proračun već skočio na 327 milijuna dolara. To je kumulativno povećanje od 1823% u samo nekoliko godina. Stručnjaci kažu da bi već 2025. američka vojska mogla imati bojno polje više robota vojnika nego ljudi.

U posljednje vrijeme mnogo je kontroverzi izazvala i najavila američka vojska Projekt ATLAS () - automatski. U medijima je to ocijenjeno kao kršenje spomenute Direktive 3000.09. No, američka vojska to opovrgava i uvjerava da isključenje neke osobe iz ciklusa odlučivanja ne dolazi u obzir.

AI prepoznaje morske pse i civile

Međutim, branitelji autonomnog oružja imaju nove argumente. prof. Ronald Arkin, robotičar s Tehnološkog instituta Georgije, u svojim publikacijama navodi da U modernom ratovanju, inteligentno oružje ključno je za izbjegavanje civilnih žrtava, jer tehnike strojnog učenja mogu učinkovito pomoći u razlikovanju između boraca i civila, te važnih i nevažnih ciljeva.

Primjer takvih vještina umjetne inteligencije je patroliranje australskim plažama. dronovi Mali Trbosjekopremljen sustavom SharkSpotter koji je razvilo Tehnološko sveučilište Sydney. Ovaj sustav automatski skenira vodu u potrazi za morskim psima i upozorava operatera kada uoči nešto nesigurno. (6) Može identificirati ljude, dupine, čamce, daske za surfanje i predmete u vodi kako bi ih razlikovao od morskih pasa. Može otkriti i identificirati oko šesnaest različitih vrsta s visokom točnošću.

6. Prepoznati morski psi u sustavu SharkSpotter

Ove napredne metode strojnog učenja povećavaju točnost zračnog izviđanja za više od 90%. Za usporedbu, ljudski operater u sličnoj situaciji točno prepoznaje 20-30% objekata na zračnim fotografijama. Osim toga, čovjek još uvijek provjerava identifikaciju prije alarma.

Na bojnom polju, operater, vidjevši sliku na ekranu, teško može odrediti jesu li ljudi na zemlji borci s AK-47 u rukama ili, na primjer, farmeri sa štukama. Arkin napominje da ljudi imaju tendenciju "vidjeti ono što žele vidjeti", posebno u stresnim situacijama. Taj je učinak pridonio slučajnom rušenju iranskog zrakoplova od strane USS Vincennesa 1987. godine. Naravno, po njegovom mišljenju, oružje kontrolirano umjetnom inteligencijom bilo bi bolje od sadašnjih "pametnih bombi", koje zapravo i nisu razumne. Prošlog kolovoza, saudijski laserski navođen projektil pogodio je autobus pun školaraca u Jemenu, ubivši četrdesetero djece.

"Ako je školski autobus ispravno označen, identificirati ga u autonomnom sustavu može biti relativno lako", tvrdi Arkin u Popular Mechanics.

Međutim, čini se da ovi argumenti ne uvjeravaju borce protiv automatskih ubojica. Osim prijetnje robotima ubojicama, mora se uzeti u obzir još jedna važna okolnost. Čak i "dobar" i "pažljiv" sustav mogu hakirati i preuzeti vrlo loši ljudi. Tada svi argumenti u obranu vojne opreme gube na snazi.