Osnova neuronskih mreža: Dešifriranje

Preuzeto sa: www.iso.org

Međunarodna organizacija za standardizaciju (ISO) je objavila vijest pod nazivom „The basis of neural networks: Cracking the code“. Objavljujemo prijevod ISO vijesti.

Potkategorija vještačke inteligencije, neuronske mreže modeli su vještačke inteligencije koji imaju veliki inovativni potencijal. Od omogućavanja rada internet pretraživača do prepoznavanja glasa na našim pametnim telefonima, pa do predviđanja bolesti na temelju medicinskog snimanja, neuronske mreže već su se pokazale kao nevjerojatno svestrane i moćne alatke, ali daleko od toga da su pokazale sav svoj potencijal.

Budući da modeli neuronskih mreža predstavljaju temelj svih razgovora koji se vode o vještačkoj inteligenciji, ova tema zaslužuje da se podrobnije zadržimo na njoj kako bismo razumjeli sve detalje. Dakle, što su zapravo neuronske mreže i kako funkcioniraju? Pojednostavljeno rečeno, to su algoritmi sposobni uočiti, razgraničiti i otkriti obrasce koji se naaze u podatcima i koji prate proces koji imitira funkcioniranje ljudskog mozga. Je li ovo činjenica ili samo fikcija? Ova inovativna tehnologija definitivno pomjera granice onoga što smo mislili da je moguće.

U ovome članku pokušat ćemo podignuti veo s temeljnih načela neuronskih mreža i usredotočit ćemo se na to kako one na revolucionaran način mijenjaju naš odnos s tehnologijom.

Kazalo

·         Što je neuronska mreža?

·         Za što se koriste neuronske mreže?

·         Kako funkcioniraju neuronske mreže?

·         Razumijevanje različitih tipova neuronskih mreža

·         Kako se obučavaju neuronske mreže?

·         Prednosti i nedostatci neuronskih mreža

·         Ka snažnim AI mrežama

·         Jesu li neuronske mreže budućnost vještačke inteligencije?

Što je neuronska mreža?

Neuronske mreže, koje se nazivaju i vještačke neuronske mreže ili simulirane neuronske mreže, jesu vrsta algoritma za strojno učenje inspirirana strukturom i funkcijom ljudskog mozga. Sastoje se od međusobno povezanih čvorova, koji se nazivaju neuroni. Ali što je neuron? Jednostavno rečeno, neuroni koji čine AI neuronsku mrežu matematičke su funkcije koje obrađuju primljene informacije (na rubu mreže, kao što su sinapse) i kao rezultat proizvode numeričku vrijednost (ovisno o tomu je li neuron aktiviran ili ne).

U AI neuroni su dijelovi softvera koji rade zajedno na procesuiranju i analizi složenih podataka. Svaki neuron prima informacije iz prethodnog sloja, primjenjuje matematičku funkciju na ove informacije i zatim prenosi rezultat sljedećem sloju. Izbor i podešavanje ovih matematičkih funkcija predstavlja glavnu poteškoću u projektiranju neuronske mreže, budući da njezin cjelokupni učinak ovisi o adekvatnosti podešavanja, odnosno postavki za dobijanje očekivanog rezultata. Ovo podešavanje omogućeno je automatskim procesom koji se zove obuka.

Za što se koriste neuronske mreže?

Iako su nekada bile samo koncept, neuronske su mreže danas tehnologija koja na revolucionaran način mijenja čitav niz industrija. Svestranost i moć koja ih karakterizira omogućavaju višestruke konkretne primjene koje već transformiraju način na koji koristimo tehnologiju i način na koji s njom komuniciramo. Primjerice, mogu analizirati velike količine financijskih podataka i predvidjeti trendove na berzi, solventnost ili čak otkrivanje prijevare. Ova sposobnost ima potencijal značajno unaprijediti investicijske strategije i upravljanje rizikom.

U zdravstvu se neuronske mreže koriste za dijagnozu bolesti, razvoj lijekova i personaliziranu medicinu. Zdravstveni djelatnici mogu koristiti vještačke neuronske mreže za analizu medicinskih snimaka, kartona pacijenata i genomskih podataka kako bi identificirali obrasce i dali daljnja predviđanja. Tako medicinske dijagnoze postaju preciznije, a protokoli liječenja personaliziraniji. Neuronske mreže također mogu pomoći da se ubrza razvoj lijekova omogućavanjem analize veoma velikih skupova podataka.

Autonomna vozila predstavljaju još jednu oblast primjene neuronskih mreža, posebice za detekciju objekata, navigaciju i donošenje odluka u realnom vremenu, ali i u području korisničkog iskustva.

U sektoru usluga, chatbotovi s vještačkom inteligencijom imaju velike koristi od neuronskih mreža koje omogućavaju prepoznavanje entiteta, obradu prirodnog jezika i analizu osjećanja. Sustavi preporuka, poput onih koje predlažu emisije koje bi nam se mogle svidjeti koje moramo pogledati, oslanjaju se na prepoznavanje obrazaca i mogućnosti predviđanja.

Kako funkcioniraju neuronske mreže?

Fascinantna stvar u vezi s neuronskim mrežama je da su inspirirane funkcioniranjem ljudskog mozga. Njihova se struktura temelji na nekoliko ključnih elemenata.

·         Prvo, neuroni, koji su osnovne jedinice simuliranih neuronskih mreža. Oni primaju ulazne signale, obrađuju ih koristeći funkcije aktivacije prije nego što proizvedu izlazne signale. Ovi vještački neuroni međusobno su povezani u slojevima da formiraju mrežu. Prvi sloj, nazvan ulazni sloj, prima početne podatke, dok posljednji sloj, nazvan izlazni sloj, daje konačni rezultat. Obradom ulaza iz prethodnog sloja i njihovim prijenosom na sljedeći sloj, svaki neuron omogućuje protok informacija kroz mrežu. Mreža također može uključivati jedan ili više skrivenih slojeva koji se koriste u procesu proračuna.

·         Težine čine vezu između neurona. One određuju jačinu signala koji se prenosi s jednog neurona na drugi. Težine se korigiraju tijekom faze obuke neuronske mreže, tako da model može naučiti i poboljšati svoje performanse.

·         Aktivacijske funkcije, koje omogućavaju nelinearnost u neuronskoj mreži, pomažu mreži modelirati složenije odnose u podatcima. Na temelju ulaznih podataka one određuju treba li se neuron aktivirati ili ne. Ove funkcije igraju ključnu ulogu u određivanju ponašanja i sposobnosti učenja neuronskih mreža.

Interakcije između ovih ključnih elemenata u samoj su suštini onoga što definira vještačku neuronsku mrežu.

Širenje naprijed, ili propagacija unaprijed, u suštini je osnova na kojoj neuronske mreže funkcioniraju, omogućavajući im da predviđaju i generiraju izlazne podatke. U suštini, širenje naprijed je jednostavan, ali veoma moćan proces. Sastoji se od prolaska ulaznih podataka kroz slojeve međusobno povezanih neurona, gdje svaki neuron kroz aktivacijsku funkciju primjenjuje ponderirani zbir ulaznih podataka.

Širenje unazad često je jednako važno. Ovo je proces kojim neuronska mreža korigira svoje težine kao odgovor na povratne informacije primljene tijekom faze obuke. Radi tako što širi, odnosno propagira pogrešku iz izlaznog sloja nazad kroz mrežu, tako da svaki neuron može ispraviti, odnosno korigirati svoju težinu sukladno tomu. Iterativna adaptacija težina utemeljena na povratnim informacijama omogućava mreži da postupno poboljšava točnost svojih predviđanja i očekivanih rezultata.

Razumijevanje različitih tipova neuronskih mreža

Postoje različite vrste neuronskih mreža, od kojih je svaka dizajnirana da postigne izvanredan uspjeh u obavljanju unaprijed definiranih zadataka, kao što su prepoznavanje slike, obrada prirodnog jezika ili analiza vremenskih serija. Glavne vrste vještačkih neuronskih mreža su:

·         Aciklična neuronska mreža (ili FNN – Feedforward neural network) je vrsta vještačke neuronske mreže u kojoj informacije teku u samo jednom smjeru, od ulaznog do izlaznog sloja. Ova se vrsta mreže obično koristi za obavljanje zadataka kao što su prepoznavanje obrazaca, klasifikacija i regresija.

·         Konvolucijska neuronska mreža (ili CNN – Convolutional neural network) je, u većini slučajeva, neuronska mreža širenja naprijed dizajnirana za obradu mrežastih podataka, kao što su slike ili videosnimci. Uporaba konvolucijske neuronske mreže u dubokom učenju oslanja se na primjenu filtera na lokalizirane regione ulaznih podataka, omogućujući joj da sistematski uči hijerarhijske strukture reprezentacije vizualnih značajki. CNN-ovi su postali neophodan alat u klasifikaciji slika, detekciji objekata i zadatcima računarskog vida.

·         Povratna neuronska mreža (ili RNN – Recurrent neural network), odnosno rekurentna neuronska mreža dizajnirana je za obradu sekvencijalnih podataka kroz povratne petlje. Ovaj mehanizam omogućava mreži da zadrži informacije iz prethodnih ulaza za predviđanja ili odluke. RNN se uvelike koristi za obavljanje zadataka kao što su modeliranje jezika, prepoznavanje govora i strojno prevođenje.

·         Rezidualna neuronska mreža (ili ResNet - Residual neural network) je posebna vrsta mreže širenja naprijed koja omogućava mreži da preskoči određene slojeve, posebice kada oni ne doprinose dobijanju boljeg rezultata. Ova vrsta mreže uvelike se koristi u izvršavanju zadataka semantičke segmentacije, primjerice. ResNets su zapravo jednostavna, ali učinkovita tehnika za obuku dubokih neuronskih mreža.

Pored ovih nekoliko primjera, postoji mnogo drugih modela neuronskih mreža koji imaju mnoštvo primjena, kao što su generiranje sintetičkih podataka, vizualizacija podataka i ekstrakcija i simulacija značajki. Radijalne neuronske mreže, primjerice, često se koriste za obavljanje zadataka aproksimacije funkcija i klasifikacije, posebice kada su odnosi između ulaza i izlaza složeni ili nelinearni. Postoje i grafske neuronske mreže koje se mogu koristiti za analizu podataka sadržanih u grafovima.

Kako se treniraju neuronske mreže?

Obuka, odnosno trening neuronske mreže širenja naprijed sastoji se od korekcije težina povezanih sa svakom vezom između neurona. Ovaj proces zahtijeva skupove podataka koji će služiti kao primjeri iz kojih mreža uči obrasce, korelacije i daje točna predviđanja. Kvaliteta i raznovrsnost podataka za obuku igra vitalnu ulogu u sposobnosti mreže da generalizira i daje dobre rezultate iz novih podataka.

Međutim, treba napomenuti da trening modela neuronske mreže uključuje određena unutarnja ograničenja:

·         Zahtjevi podataka: Obuka neuronske mreže zahtijeva velike količine označenih podataka, koji nisu uvijek lako dostupni.

·         Interpretabilnost: Neuronske mreže često se nazivaju „crnim kutijama“ zbog visoke dimenzionalnosti (složenosti podataka) na koje se primjenjuju proračuni, što otežava tumačenje razloga koji stoje iza donesenih odluka.

·         Računarski resursi: Treniranje AI neuronskih mreža može biti veoma kompjutorski intenzivno i stoga zahtijeva značajne računarske resurse i mnogo vremena. Drugi resursi tijekom faze uvođenja također su neophodni.

·         Pretreniranost i podtreniranost, odnosno prenaučenost i podnaučenost: Neuronske mreže mogu biti sklone pretreniranosti, kada postanu previše specifične za podatke o obuci i ne uspiju dobro generalizirati nove i nevidljive podatke. Suprotno tomu, kada model ne uspije uhvatiti značajne razlike i obrasce u podatcima i stoga daje loše rezultate čak i na podatcima o obuci, to se naziva „podtreniranost“.

Prednosti i nedostatci neuronskih mreža

Bez obzira na arhitekturu neuronskih mreža, ova tehnologija već je od presudne važnosti zbog svoje sposobnosti da uči obrasce, prilagođava se promjenama, izvršava više radnji istodobno i obrađuje velike količine neorganiziranih podataka. Glavne prednosti neuronskih mreža su:

·         Veća preciznost: Neuronske mreže mogu otkriti složene obrasce koji bi mogli promaknuti ljudskom oku ili sustavu utemeljenom na pravilima

·         Prilagodljivost: Neuronske mreže mogu se prilagoditi promjenljivim obrascima tako što će kontinuirano učiti iz novih podataka.

·         Skalabilnost: Neuronske mreže mogu učinkovito obraditi velike količine podataka, što ih čini idealnim za obradu u realnom vremenu.

Međutim, dok se neuronske mreže pokazuju kao neosporno moćni alati koji su transformirali mnoge industrijske sektore, kao i kod svake tehnologije, i ona dolazi uz određene poteškoće i ograničenja. Stoga je imperativ da se u potpunosti razumiju ove poteškoće kako bi se maksimalno iskoristio njihov puni potencijal.

Prvo, neuronske mreže zahtijevaju skupove podataka kako bi naučile i dale točna predviđanja. Kvaliteta i reprezentativnost ovih podataka su od suštinskog značaja za dobre performanse mreže. Međutim, stjecanje i priprema ovih skupova podataka može biti dugotrajan proces za koji su potrebni vrijeme i znatni resursi.

Drugo, dizajn i optimizacija neuronskih mreža zahtijevaju određenu stručnost i veliku računarsku snagu. Izbor odgovarajuće arhitekture, prilagođavanje hiperparametara i obuka modela može biti složen i iterativni proces. Zbog ove složenosti, čak i stručnjacima može biti teško učinkovito implementirati i primijeniti neuronske mreže.

Primjena neuronskih mreža također može naići na određena ograničenja, kao što je interpretabilnost. Zbog njihove složenosti, proces donošenja odluka u neuronskoj mreži može biti teško razumjeti i objasniti. Nedostatak interpretabilnosti može biti problem u kritičnim aplikacijama, kao što su zdravstvo i financije, gdje su transparentnost i odgovornost od suštinskog značaja.

Ka snažnim AI mrežama

Važno je procijeniti snagu neuronske mreže kako bi se osiguralo da sustavi vještačke inteligencije održavaju istu visoku razinu performansi u svim okolnostima. Sustavi neuronskih mreža predstavljaju posebne izazove zato što ih je teško objasniti i zato što su skloni neočekivanom ponašanju zbog svoje nelinearne prirode. Za prevazilaženje ovih ograničenja i poteškoća potrebno je primijeniti alternativne pristupe poput uporabe međunarodnih standarda.

Serija standarda ISO/IEC 24029 primjenjuje holistički pristup tako što rješava i etička pitanja i ograničenja u vezi s novim tehnologijama kako bi se omogućilo odgovorno usvajanje neuronskih mreža. Za sada se u tekstovima standarda daje opći pregled i metodologija za uporabu formalnih metoda kako bi se ocijenila svojstva robusnosti neuronskih mreža. Ova serija važnih standarda, koja je još u razvoju, može poslužiti kao temelj za jačanje povjerenja u sustave vještačke inteligencije diljem svijeta.

Tehnički izvještaj ISO/IEC TR 24029-1[1] Ocjenjivanje robusnosti neuronskih mreža – Dio 1: Pregled;

Standard ISO/IEC 24029-2 Ocjenjivanje robusnosti neuronskih mreža – Dio 2: Metodologija za korištenje formalnih metoda.

Jesu li neuronske mreže budućnost vještačke inteligencije?

Napredak u oblasti neuronskih mreža nudi beskrajne mogućnosti za kreativno rješavanje problema, ali razvoj ove tehnologije mora biti odgovoran, promišljen i osigurati zaštitne mjere. Kao i svaka tehnologija vještačke inteligencije, neuronske mreže moraju se razvijati sukladno načelima etike i odgovornosti kako bi podržale ljudski napredak s  minimalnim rizikom.

Međunarodni standardi mogu pomoći istraživačima, regulatornim tijelima, korisnicima i drugim zainteresiranim stranama da se dogovore o potrebama, načinu praćenja napretka i najboljim praksama. Iako su prednosti koje već vidimo jasne za, primjerice,  bolnice ili našu udobnost kod kuće, i dalje je od suštinskog značaja osigurati da su pitanja sigurnosti, privatnosti i transparentnosti u potpunosti integrirana u razvoj ove tehnologije. Dakle,  kroz zajednički jezik, zajednička mjerila i jedinstvenu viziju moći ćemo maksimalno iskoristiti potencijal neuronskih mreža u interesu svih nas.

 


[1] Institut za standardizaciju BiH je objavio tehnički izvještaj BAS ISO/IEC TR 24029-1.2022, Umjetna inteligencija (AI) - Procjena robusnosti neuronskih mreža - Dio 1: Pregled