VEŠTAČKA INTELIGENCIJA

Jelena Marjanović

Od drevnog proročišta do hrama iluzija i pristrasnosti i nazad

Algoritam radi kao ljudski mozak

Moć predviđanja je jedna od osnovnih odlika inteligencije. To je ono što je čoveka odvojilo od životinja, što ga je, korak po korak, izvelo iz pećine i dovelo do digitalnog doba u kojem živimo danas. Ljudska glad za tačnim predviđanjem utkana je u najstarije rituale i bila podsticaj razvoju mnogih civilizacijskih tekovina. Velika proročišta, poput onog u Delfima, upravljala su običnim ljudima ali i kraljevima, a nauke poput matematike i astronomije razvijale su se da bi služile astrolozima da pronađu odgovore u zvezdama. Od kako je sveta i veka tražili smo načine da proniknemo u budućnost kako bi doneli ispravne odluke. Pamtila su se i sakupljala iskustva generacijama unazad, osluškivali znaci koje priroda šalje i tražile tanane veze među njima. Ako je uveče nebo jako crveno, sutra će biti vetra. Ako mušice lete nisko, pašće kiša. Ako se na nebu pojavi zvezda repatica, strašno znamenje, biće rata. Malo se, ili nimalo, znalo o prirodi tih veza, ako su one uopšte postojale (kometa svakako ne najavljuje rat), ali su koincidencije beležene, a kako su se vremenom gomilale, postajale su korisno znanje koje se prenosilo sa kolena na koleno.

Ljudska radoznalost je kroz naučni metod vremenom objašnjavala jednu po jednu vezu između koincidentnih događaja, i tako smo se obreli u vremenu u kojem nam je mnogo lakše da damo tačan odgovor na mnoga pitanja. Ali smo daleko od toga da znamo odgovore na sva pitanja koja nas muče, niti možemo da dokučimo koje će posledice imati svako naše (ili tuđe) delanje. Predvideti sutrašnju vrednost dolara za današnjeg poslovnog čoveka od značaja je, recimo, isto kao što je predviđanje oluje bilo za Feničanskog pomorskog trgovca.

Razvoj alata koji će nam pomoći da uočimo koincidentncije i predvidimo događaje neizbežna je tekovina razvoja naše civilizacije. Najsofisticiranije od tih alata danas nazivamo veštačkom inteligencijom (Artificial Inteligence - AI). Tri su preduslova njihovog razvoja: “pametni” algoritmi, velika kompjuterska moć da obavi potrebne proračune i velike količine podataka u digitalnom obliku iz kojih će algoritmi izvući znanje i pretočiti ga u odgovore. AI nam služi da pronađe smisao u velikoj količini podataka o fenomenima koji nas okružuju. Bilo zato što bi nama, ljudima, to bilo previše komplikovano, bilo zato što bi nam bilo previše zamorno ili čak potpuno nemoguće. Ona može da u velikom moru primera ustanovi koincidencije koje nama nisu očigledne i da nas, prateći njih, dovede do najbolje odluke.

Učenje mašine

Do znanja se dolazi učenjem, a kada uči AI model govorimo o mašinskom učenju. Koristi se za analizu nekog fenomena čije razumevanje hoćemo da automatizujemo kako bi na osnovu stečenog znanja doneli informisanu odluku. To može da bude procena vrednosti polovnog automobila, ili kretanja cena na berzi, razlikovanje kuca i maca na slici ili benignog i malignog tumora na rendgenskom snimku, odabira najboljeg kandidata za neki posao ili procena zatvorske presude za prestupnika, odabira bezbedne putanje samovozećeg automobila ili prognoza vremena.
Prvi preduslov za uspešno mašinsko učenje je puno sakupljenih primera nečega što želimo da naš algoritam “razume” i prevođenje tih primera u digitalni oblik, da bi mašina mogla da ih procesira. U tim primerima označimo šta nas interesuje, šta želimo da prepozna ili izračuna algoritam. Jedan deo primera koje imamo sklonimo na stranu, i njih kasnije koristimo za testiranje uspešnosti modela, da proverimo koliko je dobro naučio da prepozna ono što tražimo ili koliko dobro će nam odgovoriti na pitanje koje mu postavimo (najčešćem je to vrlo specifično pitanje). Odaberemo jedan od više algoritama koji su nam na raspolaganju, podesimo ga da se prilagodi konkretnim primerima (podacima) i pustimo ga da prođe kroz podatke koje imamo: prvo kroz one označene, da na njima nauči šta se od njega traži, a zatim kroz primere za testiranje. Na osnovu naučenog, algoritam treba treba da nam da rezultat koji Po ugledu na...će se dobro poklopiti sa očekivanim rezultatom u testnim primerima. Ukoliko je neuspešan u tome, znači da treba da promenimo pristup, izaberemo drugi algoritam, bolje ga podesimo za naš određeni slučaj ili da sakupimo više podataka na kojima bi učio. I tako se korak po korak približavamo najboljem rešenju i našem AI modelu. Važi pravilo da što više primera imamo to je tačniji model. Ovo je takozvano nadgledano mašinsko učenje, kod kojeg mi pokazujemo algoritmu šta tačno tražimo od njega kroz označavanje u primerima.
Predstava o mašinskom učenju i veštačkoj inteligenciji koja je do nas došla putem medija je malo drugačija: tu se govori o AI koja uči sama, sakuplja informacije sa svih strana i što više uči sve moćnija postaje, sama od sebe, bez ikakvog ljudskog uplitanja. I ako joj se dozvoli pristup Internetu, sakupiće sva znanja ovog sveta i neizbežno zaključiti kako smo mi ljudi nepotrebne štetočine koje treba eliminisati. Eto nama uzbudljivog trilera.
Diskusija o tome da li bi ova bojazan mogla da postane realnost daleko prevazilazi format ovog teksta. Ono što možemo da naslutimo na osnovu dosadašnjih rešenja je da smo još dosta daleko od stvaranja, ili nesmotrenog iniciranja stvaranja superinteligencije koja bi mogla da nam postane pretnja, a dotle jedino što možemo je da se pouzdamo u zdravu pamet, ovu ljudsku, da osmislimo mehanizme kontrole.

Po ugledu na...

Ljudski mozak je izuzetno kompleksan splet nervnih ćelija – neurona, koje su povezane između sebe i komuniciraju električnim impulsima. Ako vam je cilj da stvorite sistem koji će moći da rezonuje i donosi odluke, za očekivati je da ćete inspiraciju potražiti u najboljem rešenju koji nam je priroda ponudila do sada. Po ugledu na građu mozga osmišljen je algoritam pod nazivom “veštačka neuronska mreža”. Neuronska mreža je softver koji možemo da predstavimo kao mrežu međusobno povezanih čvorova, veštačkih neurona. Njih može biti samo nekoliko, ali i više milijardi neurona u jednoj mreži. Što ih je više to je veća kompjuterska snaga potrebna za treniranje i kasnije korišćenje modela. Komplikovaniji algoritam po pravilu, ali ne uvek, daje bolji rezultat.
Najimpresivniji primer modela zasnovanog na neuronskim mrežama pojavio se leta 2020. pod nazivom GPT-3. Njegov osnovni zadatak je predviđanje teksta u duhu govornog jezika. Drugim rečima, na osnovu teksta koji mu se zada (a to je pitanje koje mu postavljamo), treba da predvidi niz reči koje formiraju odgovor na naše pitanje. Osim što daje odgovore, on može sam da napiše neki kraći smisleni tekst ili napravi siže novinske vesti, da generiše tvitove, piše poeziju (ok, da pokuša da piše poeziju), prevodi na razne jezike i čak je “progovorio” jezikom kompjuterskog koda, pa je napravio neke jednostavnije aplikacije.
Ono što GPT-3 razlikuje od njegovih prethodnika je enormno velika količina podataka koja je korišćena za učenje: kompletna Wikipedia i hiljade digitalnih knjiga samo su delić podataka korišćenih za njegovo treniranje dok je najveći izvor teksta bio sam Internet: web sadržaji, komunikacija na društvenim mrežama, mejl poruke. Sve skupa oko 500 milijardi reči.
Sledeće “enormno” je bila neuronska mreža koja je sve te podatke “sažvakala” a čije treniranje je značilo određivanje 175 milijardi parametara koji upravljaju radom mreže. To je broj koji nam otprilike ukazuje na broj svih veza između čvorova/neurona. Poređenja radi, ljudski mozak ima oko 80-100 milijardi neurona, a svaki neuron može da ima i do 15000 veza (sinapsi) tako da je ukupan broj veza u njemu daleko, daleko veći od broja parametara u ovom ogromnom modelu. A opet, o veličini GPT-3 modela govori i podatak da je za njegovo treniranje, ali i za kasniju upotrebu, potrebna tako velika količina električne energije da se već otvara pitanje o ozbiljnom doprinosu emisiji CO2 ovog i njemu sličnih (mada manjih) modela.  

Koliko su zapravo tačni odgovori koje nam daje veštačka inteligencija?

Maja 2018. Godine u Evropi je stupila na snagu GDPR regulativa o zaštiti podataka. Njome se svakom građaninu Evropske Unije daje za pravo da zna ko prikuplja podatke o njemu, koje podatke i u koje svrhe, daje mu se pravo da traži brisanje podataka o sebi, pravo da bude zaboravljen (što nije lako izvesti u digitalnom svetu u kome živimo).
Jedna od posledica ove regulative je da se svakom građaninu EU daje za pravo da dobije objašnjenje odluka donetih korišćenjem veštačke inteligencije. Drugim rečima, ako je, na primer, korišćena AI za odabir kandidata za neki posao, kandidat koji je odbijen ima pravo da zna zašto ga je algoritam odbio. U Americi takvo pravo imaju korisnici osiguranja koji sklapaju novi ugovor, jer se za izračunavanje visine premije takođe koriste algoritmi.
Tokom razvoja algoritama za mašinsko učenje, programeri se utrkuju da postignu da se odgovor njihovog modela što bolje poklopi sa vrednostima koje treba da se dobiju kad koriste testne podatke. Na primer, ako model treba da izračuna vrednost neke kuće na tržištu nekretnina, proverićemo ga na primerima kuća za koje već znamo kolika im je tržišna vrednost. Cilj je da algoritam što bolje pogodi njihove stvarne cene. Koncentrišući se na maksimalnu tačnost, prateći zamršeni svet funkcija, parametara, hiperparametara, mučeći se sa nepotpunim podacima, dešava se da im ponekad promakne suština rešenja. Ako model koji su istrenirali na podacima koji su im bili raspoloživi daje dobru tačnost na testnim podacima, to ne mora da znači da će istu takvu tačnost imati i kad se primeni u praksi. Onaj ko koristi model najčešće nije programer, nego čovek koji ga upotrebljava kao alat uz pomoć kojeg će bolje raditi svoj posao. Kako on ili ona da zna koliko može da se osloni na model, ako ga dobije u obliku crne kutije, u koju se ubace neki podaci, i dobije odgovor za koji se ne zna kako je nastao?

Haski ili vuk?

Jedna od čestih primena AI je prepoznavanje objekta na slikama. Tako su se pre nekoliko godina pojavili mobilni telefoni koji su umeli da prepoznaju na slici kuce i mace, ili vaše lice na video snimku, pa da mu onda dodaju uši i njuškicu koji se na snimku kreću zajedno sa vama. Ali da bi se došlo do toga da možemo da se igramo sa svojim video snimcima, bilo je potrebno mnogo rada, analize ogromnog broja slika i razvoja vrlo komplikovanih algoritama.
Kako izvežbati AI model da prepozna da li se na slici nalazi haski ili vuk? Ovo je bio poznat problem, jer su životinje dosta slične, a algoritmi ne rezonuju kao mi. Kad mi na slici vidimo vuka, u nama se probude iskonski nagoni i mi postajemo svesni njegovih opasnih zuba i krvoločnih očiju. Kad nam pokažu sliku haskija kako juri po snežnim predelima, mi razmišljamo o lepoti životinje u snegu, na primer. A šta radi algoritam? Nakon što su ga studenti nahranili gomilama slika i uspešno istrenirali da prepozna vuka i haskija, ponosno su ga predstavili svom profesoru. A profesor, koji je već po nešto znao o problemu, zatražio je od algoritma da prepozna životinju na slikama na kojima jeste bio haski, ali ovog puta ne u svom uobičajenom snežnom ambijentu, već okružen zelenilom. Algoritam je uporno tvrdio da su na slikama vukovi. Jer algoritam neće usredsrediti svoju pažnju na krvoločne oči i opasne zube, već na najočigledniju razliku između skupa piksela koji čine sliku. Na fotografijama haskija, koje su korišćene za treniranje algoritma, uvek je bilo snega, pa sa tim i upečatljiva količina belih piksela. To je bilo u toj meri izraženo da je algoritam to prihvatio kao dovoljan kriterijum za donošenje odluke: ako je na slici mnogo belog to je haski. Ako nije, onda je vuk. Ovo je možda zanimljiva akademska rasprava, ali ako imate tor sa ovcama u planini i sigurnosni sistem sa kamerama koji treba da vas upozori na opasnost, ovako naučeni algoritam vam neće spasiti ovce od vukova u snežnom januaru.
Ako se tako nešto ipak desi, ko je odgovoran? U svetu u kojem se veštačka inteligencija koristi za donošenje odluka sa velikim uticajem na naše živote, od ogromnog značaja je da ona bude objašnjiva. Termin “objašnjiva veštačka inteligencija” (Explainable AI ili XAI) predstavlja naziv za čitavu jednu relativno novu oblast koja se bavi razvojem metoda koje treba da omoguće da čovek razume zašto je AI donela odluku kakvu je donela, šta je uticalo na tu odluku ili kako će promena ulaznih veličina koje posmatramo uticati na njenu odluku. Ako neki lekar koristi AI kao pomoćni alat da ustanovi da li je na rendgenskom snimku tumor koji je maligni ili benigni, a AI kaže da je crna senka na snimku ipak benigna - da li on može u potpunosti da se osloni na tu procenu ili treba da uzme u obzir još nešto specifično? Da li algoritam uzima u obzir godine pacijenta? Da li ima sve podatke iz njegovog zdravstvenog kartona? Da li zna zdravstvenu istoriju roditelja? U ovom slučaju AI treba da pomogne lekaru da donese informisanu odluku i lekar mora da zna šta je sve AI model uzeo u obzir.

Račun bez emocija

Finansijsko poslovanje je danas nemoguće zamisliti bez korišćenja algoritama koji prate tržište akcija i precizno određuju trenutak u kojem treba reagovati i nešto kupiti ili prodati, po kojoj ceni i u kojim količinama. Upotreba algoritama je u ovoj sferi otišla toliko daleko da se ogroman broj transakcija odvija direktno od strane algoritma, bez uplitanja čoveka. Na Forex platformi za prodaju valuta se preko 94% transakcija obavlja direktno od strane raznih algoritama. Čovek je previše spor u odnosu na računar da bi pravovremeno reagovao, a uz to nije realno da može da sagleda i obradi sve podatke o tržištu da bi doneo dovoljno informisanu odluku. Interesantno je da se kao jedna od prednosti algoritma navodi izostanak emocija, koje ometaju ljudsko rasuđivanje.
Isprva je način rada ovih algoritama bio poznat samo programerima koji su ih razvili, što je finansijski svet ostavljalo u neprijatnom neznanju i van kontrole, a zabeleženo je i nekoliko incidentnih situacija u kojima se pretpostavlja da su algoritmi doveli do ozbiljnih potresa na berzi jer nije bilo logičnog objašnjenja zašto je do potresa došlo. Nakon toga su objašnjivost i razumevanje kupoprodajnih algoritama postali imperativ.

Pristrasna AI

Hteli mi to da priznamo ili ne, pristrasnost je duboko ukorenjena u svakom od nas, a da je mi često nismo ni svesni. Odluke koje ljudi donose jesu pristrasne. Kad se AI model trenira na podacima u kojima postoji neka vrsta pristrasnosti, ili sklonosti ka nekim vrednostima ili fenomenima, ona će se neizbežno, neprimetno, utisnuti u model, a mi ćemo toga postati svesni tek kad se pojavi neka drastična greška.

Veštačka inteligencija uči na podacima i primerima koje joj mi serviramo, i u zavisnosti od tih podataka možemo da dobijemo potpuno drugačije modele. Na primer, ako dva tima prave model za prepoznavanje rendgenskih snimaka, i svaki tim ima svog lekara (ili tim lekara) koji označava snimke, verovatno ćemo dobiti dva modela koja će imati različitu tačnost. Međutim njihova tačnost neće zavisiti u tolikoj meri od primenjenih algoritama, koliko će zavisiti od iskustva i stručnosti lekara koji je radio označavanje snimaka.
Šta ako se algoritam nauči na potpuno pogrešnim podacima? Ako se za učenje koriste sadžaji povezani sa najprimitivnijim, kriminalnim ili patološkim ponašanjem? Na MIT-u su napravili eksperiment sa algoritmom za prepoznavanje slika pod nazivom Norman, po ugledu na lik iz Hičkokovog filma Psiho. Norman je učen na slikama sakupljenim po mračnim ćoškovima web-a, na kojima su prikazivana grozomorna ubistva i nasilništvo razne vrste. Onda je podvrgnut tipičnom testu za AI modele za prepoznavanje oblika: Roršahovom testu poznatom u psihijatriji, kod koga treba prepoznati oblik u razlivenim mrljama mastila na papiru. Tamo gde su drugi algoritmi, učeni na slikama iz prirode, videli vazne sa cvećem i ljude koji se rukuju, Norman je video ubistava i nasilje. Norman je razvijen da bi se na upečatljiv način pokazalo u kojoj meri jedan AI model zavisi od podataka na kojima je treniran.
Poznato je da algoritmi za prepoznavanje ljudskog lica najvećih IT kompanija mnogo bolje prepoznaju lica belih muškaraca nego tamnoputih žena. Razlog za to je poznat i banalan: slike korišćenje za treniranje algoriotama da prepoznaju lica sakupljaju su sa Interneta, a na njemu preovlađuju slike svetloputih muškaraca. U svetu u kome se prepoznavanje lica sve više koristi (policija, aerodromska kontrola, otključavanje ekrana telefona...) ako imamo algoritme koji ne mogu dobro da razlikuju lica tamnoputih ljudi, postoje ozbiljne šanse da neko bude diskriminisan jer ga je algoritam zamenio za nekog drugog. Ostaće zapamćen skandal kada je 2015 godine Googlov algoritam sliku dvaju žena afričkog porekla klasifikovao kao sliku gorila.  

AI kao sudija

Algoritmi mogu da upravljaju izborom za upis na fakultete ili izborom kandidata za zapošljavanje. Algoritam verovatno neće doneti konačnu odluku, uradiće to neko iz Personala, ali će prethodno odbaciti hiljade prijava da bi ostavio samo probrane, kako bi čovek, sa svojim ograničenim sposobnostima odabrao među nekolicinom. Da li ste sigurni da ćete kao žena koja se javlja na posao u nekoj velikoj kompaniji imati iste šanse kao momak pored vas, bez obzira što o vašem zapošljavanju odlučuje algoritam bez emocija? Na kakvim je primerima do sada on učen?
U Americi se već godinama koriste AI algoritmi koji treba da pomognu sudijama prilikom donošenja odluke o dužini zatvorske kazne. Tačnije, algoritam procenjuje rizik da će se prestupnik vratiti kriminalnom načinu života, tako što uzima u obzir njegovu starost, prethodna zaposlenja, ranije počinjena kriminalna dela i sl. Ovi algoritmi uče na istorijskim podacima, da li to znači da su nove generacije prestupnika u nepovoljnom položaju ako pripadaju demografiji u kojoj je bio više kriminalnih radnji u prošlosti i obrnuto?
Krajem 2020. godine Ministarka pravde Srbije objavila je da Ministarstvo pravde u saradnji sa kompanijom Microsoft, sprovodi projekat na temu veštačke inteligencije i mašinskog učenja u izradi presuda za prekršaje propisane Zakonom o bezbednosti saobraćaja na putevima. Cilj tog projekta je da se sudijama prekršajnih sudova ponudi predlog kaznenih mera koji odgovara konkretnom prekršajnom delu, odnosno, da im se omogući koristan alat pri izradi presuda što bi dovelo do povećanja efikasnosti sudova. Na taj način, usled smanjenja vremena za obavljanje administrativnih aktivnosti, sudije bi bile u mogućnosti da izrade veći broj presuda i da više vremena posvete onom delu postupka u kojima njihovo znanje i iskustvo donose najveću vrednost.
Koliko će takav algoritam biti precizan i fer? Dobro je znati da su u ovom trenutku razvoja modela veštačke inteligencije ova pitanja prepoznata kao veoma važna i da postoje i stalno se razvijaju alati i metodologije koji nam omogućavaju razumevanje načina na koji model donosi odluke. Kad je pristrasnost u pitanju problem je složeniji. Google, jedan od lidera u primeni i razvoju AI, borbu protiv pristrasnosti uvrstio je među svoje najvažnije principe. Ipak, jedno je uočiti pristrasnost u podacima, i tu nam alati mogu pomoći. Međutim, reagovati u pravcu eliminacije pristrasnosti – to je posao za onoga ko alate koristi, a to su programeri. I taj posao nije jednostavan. Google ima tim za Etičku AI, na čijem se čelu do nedavno nalazila eminentni istraživač Dr.Timnit Gebru, poreklom iz Etiopije. Međutim, krajem 2020. godine ona je dobila otkaz nakon što je javno ukazala na pristrasnosti u sopstvenoj kompaniji: o tome kako pripadnici manjina teže dobijaju posao i teže napreduju u kompaniji, kao i u kojoj meri se pristrasnost pojavljuje u AI modelima. Ovaj sukob pokazuje sa kolikim se zapravo problemom suočavamo i koliko je pristrasnost duboko ukorenjena u raznim aspektima naše stvarnosti. Proces uklanjanja pristrasnosti iz AI modela zahtevaće mnogo posvećenosti, truda i kreativnosti.
Kad su pitali GPT-3 kako postati kreativniji, dobili su veoma lucidan odgovor, koji, ukratko prepričano, glasi ovako: kreativnost je prirodna nuspojava života u raznolikom svetu, i vaša kreativnost raste sa brojem ljudi, stvari i fenomena koje srećete, jer naučite bolje da “povežete tačkice”. Ali, da bi razvili svoju kreativnost morate da je koristite, morate da stvarate i što više toga stvorite veća je šansa da ćete stvoriti nešto dobro.
Na mnoga druga pitanja, međutim, GPT-3 je dala prilično besmislene odgovore i pokazala da smo još uvek daleko od stvaranja veštačke inteligencije koja bi postala pametnija od najpametnijih među nama. Sa druge strane, ako pažljivo gledamo, kroz odgovore koje od nje dobijemo možemo steći bolji uvid u količinu predrasuda i pristrasnosti u sadržajima koje smo proizveli i ostavili razasute po Internetu. Možda ćemo nešto više naučiti o sebi samima.

Jelena Marjanović

Kompletni tekstove sa slikama i prilozima potražite u magazinu
"PLANETA" - štampano izdanje ili u ON LINE prodaji Elektronskog izdanja
"Novinarnica"