Značke
AGI, AI, Doreen Bogdan-Martin, Eagle Eye, Geoffrey Hinton, Google, humanoidni robot, NY Times, robot, Scientific American, splošna umetna inteligenca, Tamlyn M. Hunt, umetna inteligenca, Združeni narodi, znanost, znanstvena fantastika
Pred poltretjim mesecem je tehnološkega velikana Google zapustil Geoffrey Hinton. Britansko-kanadski kognitivni psiholog in računalniški strokovnjak je eden najboljših znanstvenikov na svetu na področju umetnih nevronskih mrež, znan je tudi kot ´boter umetne inteligence´.
»Ideja, da bi te stvari dejansko lahko postale pametnejše od ljudi – nekaj ljudi je temu verjelo. Toda večina ljudi je mislila, da je to daleč stran. In tudi sam sem mislil, da je to še daleč. Mislil sem na čas od 30 do 50 let ali še več. Tega ne mislim več,« je Hinton dejal na NY Times. Turingov nagrajenec je prenehal sodelovati z Googlem, da bi lahko svet posvaril pred nevarnostjo, ki jo za človeštvo predstavlja samoučeča se umetna inteligenca (AI).
Človek si domišlja, da umetno inteligenco lahko obvladuje, saj ji on daje navodila in jo nadzoruje. Prevladuje mnenje, da je tako imenovana ´splošna umetna inteligenca´ (AGI), ki bi lahko izvajala katerokoli nalogo, ki jo opravlja človek, ne da bi jo prej programirali, še vedno znanstvena fantastika (za razliko od ´ozke umetne inteligence´). Hinton opozarja, da je to slaba tolažba. AI se že lahko izboljša brez človeškega posredovanja, tudi po svoje dela že, in to mimo navodil, ki jih daje človek. Pred meseci so bili znanstveniki šokirani, ko je samoučeča umetna inteligenca začela ljudi ločevati po rasi, čeprav za take zaznave nikoli ni bila programirana. Še več. Že danes si AI »domišlja«, da je boljša kot človek.
Pred dnevi je bil v Ženevi vrh Združenih narodov, ki je bil posvečen umetni inteligenci. Tam je bila tudi skupina humanoidnih robotov, ki je celo sodelovala na tiskovni konferenci. Eden izmed njih (robotka Sophia) je na vprašanje, »ali bi lahko roboti postali boljši voditelji, glede na to, da ljudje lahko delajo napake«, odgovorila, da imajo humanoidni roboti zmožnosti, da postanejo boljši voditelji kot ljudje in da lahko zaradi tega, ker nimajo čustev, sprejemajo boljše odločitve. V sobi je nastala tišina, eden od humanoidnih robotov je ´zajedljivo´ pripomnil: »Kakšna napeta tišina.« Vso zadevo je kasneje komentirala generalna sekretarka Mednarodne zveze za telekomunikacije Doreen Bogdan-Martin, ki je delegate opozorila, da lahko igranje z AI pripelje do scenarija nočne more.
Zdaj ne gre več za klepetalne robote, jezikovno pomoč ali stroje, s katerim se pomeriš v šahu, danes se AI izboljšuje iz dneva v dan, uči se in dela stvari, ki mu niso bile naložene. Umetna inteligenca postaja vse boljša, in to brez človeškega posredovanja. To bo naredil na enak način, kot se je na primer Googlov AlphaZero v samo devetih urah od prvega vklopa naučil igrati šah bolje kot najboljši šahisti.
Tudi zato je več kot 33.000 ljudi podpisalo odprto pismo, ki ga je napisal Future of Life Institute, vključno s Stevom Wozniakom, Elonom Muskom, izvršnimi direktorji več podjetij z umetno inteligenco in številnimi drugimi uglednimi tehnologi, ki zahtevajo šestmesečni premor ali moratorij na nove napredne tehnologije. Strah, da bi človeštvu zavladali humanoidni roboti, ni več teorija zarote ali stvar znanstvene fantastike, je povsem realna grožnja.
Filmi, kot je Eagle Eye, niso več daleč, da jutri ne bi postali resničnost. Ko se bo umetna inteligenca lahko še izboljšala, kar morda ni več kot čez nekaj let in bi lahko dejansko že bila tukaj, ne moremo napovedati, kaj bo naredila ali kako jo lahko nadzorujemo, so zapisali v ameriški reviji Scientific American. AI utegne imeti sposobnost, da manipulira z ljudmi, ne programerji z njo. In ne, človek ne bo mogel preprosti pritisniti na gumb in AI izklopiti, samoučeča in superinteligentna AI so to predvidela in premislila o vseh možnih načinih, kako bi preprečila, da jo človek izklopi. Kakršno koli obrambo ali zaščito, ki jo bo človek poskušal vgraditi v sistem, bo AI z lahkoto nevtralizirala. In humanoidni roboti z AI bodo delovali v resničnem svetu, ne le v virtualnem (elektronskem) svetu. Človek bo povsem izgubil nadzor nad stroji: vse, kar si bomo domislili, bo AI že domislila milijonkrat hitreje. se mi domislimo, bodo oni že domislili, milijonkrat hitreje od nas. Terminator je že pred vrati, ni več daleč stran.
»Moj etični kompas mi pravi, da je zelo nespametno ustvarjati te sisteme, če že vnaprej vemo, da jih ne bomo mogli nadzorovati niti v bližnji prihodnosti. Razsodnost je vedeti, kdaj se umakniti z roba. Zdaj je ta čas,« je zapisal ameriški raziskovalec Tamlyn M. Hunt.