Recite svom mačiću što mislite iznutra - efekt crne kutije

Činjenica da su napredni AI algoritmi poput crne kutije (1) koja odbacuje rezultat bez otkrivanja kako je do njega došlo, brine neke, a uznemiruje druge.

Godine 2015., istraživački tim u bolnici Mount Sinai u New Yorku zamoljen je da upotrijebi ovu metodu za analizu opsežne baze podataka lokalnih pacijenata (2). Ova ogromna zbirka sadrži ocean informacija o pacijentima, rezultate testova, recepte i još mnogo toga.

Znanstvenici su analitički program razvijen tijekom rada nazvali. Obučavao se na podacima od oko 700 ljudi. ljudski, a kada je testiran u novim registrima, pokazao se iznimno učinkovitim u predviđanju bolesti. Bez pomoći ljudskih stručnjaka otkrio je obrasce u bolničkim kartonima koji ukazuju koji je pacijent na putu do bolesti, poput raka jetre. Prema riječima stručnjaka, prognostička i dijagnostička učinkovitost sustava bila je mnogo veća od bilo koje druge poznate metode.

2. Medicinski sustav umjetne inteligencije baziran na bazama podataka pacijenata

Istodobno, istraživači su primijetili da djeluje na misteriozan način. Pokazalo se npr. da je idealna za prepoznavanje mentalnih poremećajakao što je shizofrenija koja liječnicima izuzetno teško pada. To je bilo iznenađujuće, pogotovo jer nitko nije imao pojma kako sustav umjetne inteligencije može tako dobro vidjeti mentalne bolesti samo na temelju pacijentove medicinske dokumentacije. Da, stručnjaci su bili jako zadovoljni pomoći tako učinkovitog strojnog dijagnostičara, ali bi bili puno zadovoljniji kada bi shvatili kako AI dolazi do svojih zaključaka.

Slojevi umjetnih neurona

Od samog početka, odnosno od trenutka kada je koncept umjetne inteligencije postao poznat, postojala su dva stajališta o AI. Prvi je sugerirao da bi bilo najrazumnije izgraditi strojeve koji razumiju u skladu s poznatim principima i ljudskom logikom, čineći njihovo unutarnje djelovanje transparentnim svima. Drugi su vjerovali da bi se inteligencija lakše pojavila ako bi strojevi učili kroz promatranje i ponovljeno eksperimentiranje.

Potonje znači preokrenuti tipično računalno programiranje. Umjesto da programer piše naredbe za rješavanje problema, program generira vlastiti algoritam na temelju podataka uzorka i željenog rezultata. Metode strojnog učenja koje su kasnije evoluirale u najmoćnije AI sustave poznate danas su upravo krenule putem, zapravo, stroj sam programira.

Ovaj pristup ostao je na marginama istraživanja AI sustava 60-ih i 70-ih godina. Tek početkom prošlog desetljeća, nakon nekih pionirskih promjena i poboljšanja, "Duboke" neuronske mreže počeo pokazivati ​​radikalno poboljšanje sposobnosti automatizirane percepcije. 

Duboko strojno učenje obdarilo je računala izvanrednim sposobnostima, kao što je sposobnost prepoznavanja izgovorenih riječi gotovo jednako točno kao čovjek. Ovo je previše složena vještina za programiranje unaprijed. Stroj mora moći kreirati vlastiti "program" po obuka na velikim skupovima podataka.

Duboko učenje također je promijenilo računalno prepoznavanje slika i uvelike poboljšalo kvalitetu strojnog prevođenja. Danas se koristi za donošenje svih vrsta ključnih odluka u medicini, financijama, proizvodnji itd.

Međutim, uz sve to ne možete samo pogledati unutar duboke neuronske mreže da vidite kako "unutra" funkcionira. Procesi mrežnog razmišljanja ugrađeni su u ponašanje tisuća simuliranih neurona, organiziranih u desetke ili čak stotine zamršeno međusobno povezanih slojeva..

Svaki od neurona u prvom sloju prima ulaz, kao što je intenzitet piksela na slici, a zatim izvodi izračune prije nego što daje izlaz. Oni se u složenoj mreži prenose do neurona sljedećeg sloja – i tako dalje, do konačnog izlaznog signala. Osim toga, postoji proces poznat kao prilagodba izračuna koje izvode pojedinačni neuroni tako da mreža treninga daje željeni rezultat.

U često citiranom primjeru koji se odnosi na prepoznavanje slike psa, niže razine AI analiziraju jednostavne karakteristike kao što su oblik ili boja. Oni viši se bave složenijim problemima kao što su krzno ili oči. Samo gornji sloj sve to spaja, identificirajući cijeli skup informacija kao psa.

Isti pristup se može primijeniti na druge vrste unosa koji pokreću stroj da uči sam: zvukove koji čine riječi u govoru, slova i riječi koje čine rečenice u pisanom tekstu ili volan, na primjer. pokreti potrebni za upravljanje vozilom.

Auto ne preskače ništa.

Pokušava se objasniti što se točno događa u takvim sustavima. Godine 2015. istraživači u Googleu modificirali su algoritam za prepoznavanje slika dubokog učenja tako da umjesto da vidi objekte na fotografijama, on ih generira ili modificira. Pokretanjem algoritma unatrag, htjeli su otkriti karakteristike koje program koristi za prepoznavanje, recimo, ptice ili zgrade.

Ovi eksperimenti, javno poznati kao naslov, proizveli su nevjerojatne prikaze (3) grotesknih, bizarnih životinja, krajolika i likova. Otkrivajući neke od tajni strojne percepcije, kao što je činjenica da se određeni obrasci opetovano vraćaju i ponavljaju, također su pokazali koliko se duboko strojno učenje razlikuje od ljudske percepcije - na primjer, u smislu da se širi i duplicira artefakte koje ignoriramo. u našem procesu percepcije bez razmišljanja . .

3. Slika stvorena u projektu

Usput, s druge strane, ti su eksperimenti razotkrili misterij naših vlastitih kognitivnih mehanizama. Možda je u našoj percepciji da postoje razne nerazumljive komponente koje nas tjeraju da odmah nešto shvatimo i zanemarimo, dok stroj strpljivo ponavlja svoje iteracije na “nevažnim” objektima.

Drugi testovi i studije provedeni su u pokušaju da se "razumije" stroj. Jason Yosinski stvorio je alat koji djeluje poput sonde zaglavljene u mozgu, ciljajući bilo koji umjetni neuron i tražeći sliku koja ga najjače aktivira. U posljednjem eksperimentu pojavile su se apstraktne slike kao rezultat "provirivanja" mreže, što je procese koji se odvijaju u sustavu činilo još tajanstvenijim.

Međutim, za mnoge znanstvenike takva je studija nesporazum, jer, po njihovom mišljenju, da bi razumjeli sustav, prepoznali obrasce i mehanizme višeg reda donošenja složenih odluka, sve računske interakcije unutar duboke neuronske mreže. To je golemi labirint matematičkih funkcija i varijabli. Trenutno nam je to neshvatljivo.

Računalo se ne pokreće? Zašto?

Zašto je važno razumjeti mehanizme donošenja odluka naprednih sustava umjetne inteligencije? Već se koriste matematički modeli kako bi se utvrdilo koji zatvorenici mogu biti pušteni na uvjetnu slobodu, kome se može dati zajam, a tko može dobiti posao. Zainteresirani bi htjeli znati zašto je donesena ova, a ne neka druga odluka, koji su njezini temelji i mehanizam.

priznao je u travnju 2017. u MIT Technology Reviewu. Tommy Yaakkola, profesor na MIT-u koji radi na aplikacijama za strojno učenje. -.

Postoji čak i pravni i politički stav da je sposobnost proučavanja i razumijevanja mehanizma donošenja odluka u sustavima umjetne inteligencije temeljno ljudsko pravo.

EU od 2018. radi na tome da tvrtke zahtijevaju da svojim klijentima daju objašnjenja o odlukama koje donose automatizirani sustavi. Pokazalo se da to ponekad nije moguće čak ni sa sustavima koji se čine relativno jednostavnim, kao što su aplikacije i web stranice koje koriste duboku znanost za prikazivanje oglasa ili preporuku pjesama.

Računala koja pokreću te usluge sami programiraju, a oni to rade na načine koje mi ne možemo razumjeti... Čak ni inženjeri koji stvaraju ove aplikacije ne mogu u potpunosti objasniti kako to funkcionira.