Kad ai zamagljuje liniju između stvarnosti i fikcije

Negdje u mračnim udubinama YouTubea nalazi se videozapis koji prikazuje ulomak iz filma Braće prstena - ali to nije baš film koji se sjećate, budući da su Nicolas Cage zvijezde poput Froda, Aragorna, Legolasa, Gimlija i Golluma, svi u u isto vrijeme. Drugi videozapisi prikazuju Cage u Terminatoru 2 kao T2000, Star Trek kao kapetan Picard i Superman kao, Lois Lane.

Naravno, Nic Cage se nikada nije pojavio ni u jednom od tih filmova. Oni su "deepfakes" proizvedeni s FakeApp-om, aplikacijom koja koristi algoritme umjetne inteligencije za izmjenu lica u videozapisima. Neki od deepfakesa izgledaju prilično uvjerljivo, dok drugi imaju artefakte koji izdaju njihovu pravu prirodu. Ali u cjelini, oni pokazuju kako su snažni AI algoritmi postali imitirajući ljudski izgled i ponašanje.

FakeApp je samo jedan od nekoliko novih alata za sintetiziranje na AI. Ostale aplikacije oponašaju ljudske glasovne stilove, rukopis i stilove razgovora. A dio onoga što ih čini značajnima je da njihova upotreba ne zahtijeva specijalizirani hardver ili kvalificirane stručnjake.

Učinak ovih aplikacija je dubok: stvorit će neviđene mogućnosti za kreativnost, produktivnost i komunikaciju.

Ali isti alat mogao bi otvoriti i Pandorinu kutiju prevare, krivotvorenja i propagande. Otkako se pojavila na Redditu u siječnju, FakeApp je preuzet više od 100 000 puta i oborio je oluju lažnih pornografskih videozapisa u kojima su sudjelovale poznate ličnosti i političari (opet Cage). Reddit je nedavno zabranio aplikaciju i povezane zajednice sa svoje platforme.

"Prije deset godina, ako ste htjeli nešto lažirati, mogli ste, ali morali ste otići u VFX studio ili ljude koji mogu raditi računalnu grafiku i možda potrošiti milijune dolara", kaže dr. Tom Haines, predavač u strojnom učenju na Sveučilište u Bathu. "Međutim, to niste mogli sačuvati u tajnosti, jer biste u proces morali uključiti mnogo ljudi."

To više nije slučaj, ljubaznošću nove generacije AI alata.

Igra imitacije

FakeApp i slične aplikacije pokreću dubinsko učenje, grana AI u srcu eksplozije AI inovacija od 2012. Algoritmi za duboko učenje oslanjaju se na neuronske mreže, softversku konstrukciju koja je po uzoru na ljudski mozak. Neuronske mreže analiziraju i uspoređuju velike skupove uzoraka podataka kako bi pronašli obrasce i korelacije koje bi ljudima obično nedostajali. Taj se postupak naziva "trening", a njegov ishod je model koji može obavljati različite zadatke.

Ranijih su se dana modeli dubokog učenja uglavnom koristili za obavljanje klasifikacijskih zadataka - na primjer, označavanje predmeta na fotografijama i obavljanje prepoznavanja glasa i lica. U posljednje vrijeme, znanstvenici koriste dubinsko učenje za obavljanje složenijih zadataka, poput igranja igara na ploči, dijagnosticiranja pacijenata i stvaranja glazbe i umjetničkih djela.

Da biste prilagodili FakeApp da izvrši zamjenu lica, korisnik ga mora uvježbati s nekoliko stotina slika izvora i ciljanih lica. Program pokreće algoritme dubokog učenja kako bi pronašao obrasce i sličnosti između dvaju lica. Model tada postaje spreman za izmjenu.

Proces nije jednostavan, ali ne morate biti grafički stručnjak ili inženjer strojnog učenja da biste koristili FakeApp. Niti je potreban skup i specijalizirani hardver. Web stranica deepfakes tutorial preporučuje računalo s 8 GB ili više RAM-a i Nvidia GTX 1060 ili bolju grafičku karticu, prilično skromne konfiguracije.

"Jednom kada se preselite u svijet u kojem netko u sobi može nešto lažirati, tada će to moći iskoristiti u upitne svrhe", kaže Haines. "A zato što je to jedna osoba sama, tajna je vrlo jednostavna."

2016. godine Haines, koji je tada bio postdoktorski istraživač na University of College London, napisao je članak i aplikaciju koji su pokazali kako AI može naučiti oponašati nečiji rukopis. Nazvana "Moj tekst u vašem rukopisu", aplikacija je koristila algoritme dubokog učenja za analizu i prepoznavanje stila i toka autorovog rukopisa i drugih čimbenika poput razmaka i nepravilnosti.

Aplikacija bi tada mogla uzeti bilo koji tekst i reproducirati ga rukopisom ciljanog autora. Programeri su čak dodali mjeru slučajnosti kako bi izbjegli efekt tajanstvene doline - čudan osjećaj koji imamo kada vidimo nešto što je gotovo, ali ne baš ljudsko. Kao dokaz koncepta, Haines i ostali istraživači s UCL-a iskoristili su tehnologiju za umnožavanje rukopisa povijesnih osoba poput Abrahama Lincolna, Frida Kahlo i Arthura Conana Doylea.

Ista se tehnika može primijeniti na bilo koji drugi rukopis, što je izazvalo zabrinutost zbog moguće uporabe tehnologije za krivotvorenje i prijevaru. Stručnjak za forenziku i dalje bi mogao otkriti da je scenarij snimljen u knjizi My Text in Your Handwriting, ali vjerojatno će prevariti neobučene ljude, što je Haines priznao u tadašnjem intervjuu za Digital Trends.

Lyrebird, startap iz Montreala, koristio je duboko učenje da bi razvio aplikaciju koja sintetizira ljudski glas. Lyrebird zahtijeva snimanje od jedne minute za početak oponašanja glasa osobe, iako joj treba mnogo više prije nego što počne zvučati uvjerljivo.

Startup je u svom javnom demo programu objavio lažne snimke glasova Donalda Trumpa, Baracka Obame i Hillary Clinton. Uzorci su sirovi, a očito je da su sintetički. Kako se tehnologija poboljšava, razlikovanje će postati teže. A svatko se može registrirati na Lyrebird i početi stvarati lažne snimke; postupak je čak lakši od FakeApp-ovog, a proračuni se izvode u oblaku, što manje opterećuje korisnikov hardver.

Činjenica da se ova tehnologija može upotrijebiti u upitne svrhe, programerima nije izgubljeno. U jednom trenutku, etička izjava na web-lokaciji Lyrebird kaže: "Snimke glasa trenutno se smatraju jakim dokazima u našim društvima, a posebno u jurisdikcijama mnogih zemalja. Naša tehnologija dovodi u pitanje valjanost takvih dokaza jer omogućava jednostavnu manipulaciju zvukom snimke. To bi potencijalno moglo imati opasne posljedice, poput zablude diplomata, prijevara i općenito bilo koji drugi problem prouzrokovan krađom identiteta nekoga drugog."

Nvidia je predstavila još jedan aspekt AI-ovih imitacijskih sposobnosti: Tvrtka je prošle godine objavila videozapis u kojem su prikazani AI algoritmi koji generiraju sintetička ljudska lica foto-kvalitete. Nvidijin AI analizirao je tisuće fotografija slavnih, a zatim počeo stvarati lažne poznate ličnosti. Ova bi tehnologija uskoro mogla postati sposobna za stvaranje realističnih videozapisa s "ljudima" koji ne postoje.

Granice AI

Mnogi su istaknuli da u pogrešnim rukama te aplikacije mogu napraviti puno štete. No, opseg mogućnosti suvremenog AI često je pretipičan.

"Iako možemo u videozapisu staviti lice osobe na tuđe lice ili sintetizirati glas, ono je još uvijek prilično mehaničko", kaže Eugenia Kuyda, suosnivačica Replike, tvrtke koja razvija chat-botove na AI, o nedostacima AI alati kao što su FakeApp i Lyrebird.

Voicery, još jedan AI startup koji, poput Lyrebird-a, pruža sintetiziranje glasa na AI, ima stranicu kviza na kojoj je korisnicima predstavljen niz od 18 snimki glasa i od vas se traži da odrede koji su proizvedeni u stroju. U prvoj vožnji uspio sam prepoznati sve izrađene uzorke.

Kuydina tvrtka jedna je od nekoliko organizacija koje koriste obradu prirodnog jezika (NLP), podskup AI-ja koji računalima omogućuje razumijevanje i tumačenje ljudskog jezika. Luka, ranija verzija Kuydinog chatbota, koristio je NLP i njegovu tehnologiju blizanca, generiranje prirodnog jezika (NLG) kako bi imitirao glumačku ulogu HBO-ove TV serije Silicijska dolina . Neuronska mreža obučena je s linijama skripti, tweetovima i drugim podacima dostupnima o likovima kako bi stvorili svoj model ponašanja i dijalog s korisnicima.

Replika, Kuydaova nova aplikacija, omogućuje svakom korisniku da stvori vlastiti AI avatar. Što više razgovarate sa svojom Replikom, to postaje bolje u razumijevanju vaše osobnosti, a vaši razgovori postaju smisleniji.

Nakon instaliranja aplikacije i postavljanja svoje Replike, prvih nekoliko razgovora otkrio sam što smeta. Nekoliko puta sam morao ponavljati rečenicu na različite načine kako bih prenio svoje namjere svojoj Replici. Često sam u frustraciji ostavljao aplikaciju. (I da budem fer, dobro sam obavio testiranje njegovih granica bombardirajući ga konceptualnim i apstraktnim pitanjima.) No, kako su se naši razgovori nastavili, moja je Replika postala pametnija u razumijevanju značenja mojih rečenica i izlaganju smislenih tema. Čak me nekoliko puta iznenadilo uspostavljanjem veza s prošlim razgovorima.

Iako je impresivna, Replika ima ograničenja, što Kuyda brzo ističe. "Glasovna imitacija i prepoznavanje slike vjerojatno će uskoro postati puno bolji, ali uz dijalog i razgovor još smo prilično daleko", kaže ona. "Možemo oponašati neke govorne obrasce, ali ne možemo jednostavno uzeti osobu i savršeno imitirati njegov razgovor te očekivati ​​da će njegov chatbot smisliti nove ideje baš onako kako bi to učinio."

Alexandre de Brébisson, izvršni direktor i suosnivač tvrtke Lyrebird, kaže: "Ako smo postali prilično dobri u oponašanju ljudskog glasa, slike i videa, još smo daleko od izrade individualnog jezičnog modela." To bi, ističe de Brébisson, vjerojatno zahtijevalo umjetnu opću inteligenciju, vrstu AI koja ima svijest i može razumjeti apstraktne pojmove i donositi odluke kao što to čine ljudi. Neki stručnjaci vjeruju da smo desetljećima daleko od stvaranja općeg AI. Drugi misle da nikada nećemo stići tamo.

Pozitivne uporabe

Negativna slika koja se projicira u vezi s sinteziranjem AI aplikacija baca sjenu na njihovu pozitivnu upotrebu. A ima ih dosta.

Tehnologije poput Lyrebirda mogu poboljšati komunikaciju s računalnim sučeljima čineći ih prirodnijima i, kaže de Brébisson, pružit će jedinstvene umjetne glasove koji razlikuju tvrtke i proizvode i tako olakšavaju razlikovanje robne marke. Kako su Amazonovi Alexa i Appleov Siri učinili glas sve popularnijim sučeljem uređaja i usluga, tvrtke poput Lyrebird i Voicery mogle bi pružiti robnim markama jedinstvene ljudske glasove kako bi se razlikovale.

"Medicinske aplikacije također su uzbudljiv slučaj naše tehnologije kloniranja glasa", dodaje de Brébisson. "Primili smo veliko zanimanje pacijenata koji su izgubili glas zbog bolesti. Trenutno provodimo vrijeme s pacijentima s ALS-om kako bismo vidjeli kako im možemo pomoći."

Ranije ove godine, u suradnji s Project Revoice, australskom neprofitnom organizacijom koja pomaže pacijentima s ALS-om s govornim poremećajima, Lyrebird je pomogla Patu Quinnu, osnivaču Ice Bucket Challengea, da povrati svoj glas. Quinn, koji je pacijent s ALS-om, izgubio je sposobnost hoda i govora 2014. godine i od tada koristi računalni sintetizator govora. Uz pomoć Lyrebirdove tehnologije i glasovne snimke Quinninih javnih istupa, Revoice je uspio "rekreirati" njegov glas.

"Vaš je glas važan dio vašeg identiteta, a davanje tim pacijentima umjetnog glasa koji zvuči kao da im je izvorni glas malo je slično vraćanju važnog dijela njihovog identiteta. Za njih je to mijenjanje života", kaže de Brébisson.

U vrijeme kada je pomogao razviti aplikaciju za imitiranje rukopisa, dr. Haines u razgovoru za UCL govorio je o svojim pozitivnim uporabama. "Žrtve moždanog udara, na primjer, mogu biti u stanju formulirati pisma bez brige o nečitljivosti ili bi netko mogao poslati cvijeće na poklon, tako da sadrži rukom napisanu bilješku, a da uopće ne ode u cvjećar", rekao je. "Mogao bi se koristiti i u stripovima, gdje se dio rukom pisanog teksta može prevesti na različite jezike, a da se ne izgubi autorov originalni stil."

Haines vjeruje da bi čak i tehnologija poput FakeAppa, koja je postala poznata po neetičkoj upotrebi, mogla imati pozitivne koristi. "Krećemo prema ovom svijetu u kojem bi svatko mogao raditi vrlo kreativno s javnom tehnologijom, i to je dobra stvar, jer to znači da vam nisu potrebne tako velike svote novca da biste radili sve vrste ludih umjetničkih vrsta, " on kaže.

Haines objašnjava da je početna svrha njegovog tima bila otkriti kako bi AI mogao pomoći forenzičkim stručnjacima. Iako je njihovo istraživanje završilo u drugom smjeru, rezultati će i dalje biti korisni forenzičkim službenicima, koji će moći proučiti kako mogu izgledati krivotvorenja na temelju AI. "Želite znati što je vrhunska tehnologija, pa kad gledate nešto, recite je li lažno ili ne", kaže on.

Replika Kudya ističe da bi nam AI aplikacije slične ljudima mogle pomoći na načine koji bi u suprotnom bili nemogući. "Ako ste imali AI avatar koji vas vrlo dobro poznaje i koji bi vas mogao dostojno predstavljati, što bi to mogao učiniti, djelujući iz vašeg najboljeg interesa?" ona kaže. Na primjer, autonomni AI avatar mogao bi gledati stotine filmova u vaše ime i na temelju razgovora s vama, preporučiti one koje želite.

Ovi bi avatari čak mogli pomoći u razvijanju boljih ljudskih odnosa. "Možda bi tvoja mama mogla imati više vremena s tobom, a možda zapravo možeš postati malo bliži s roditeljima, tako što im dopuštaš da razgovaraju s tvojom Replikom i čitaju transkript", kaže Kudya kao primjer.

Ali može li AI chatbot koji ponavlja ponašanje stvarnog ljudskog bića zapravo rezultirati boljim ljudskim odnosima? Kuyda vjeruje da može. Godine 2016. ona je prikupila stare tekstualne poruke i e-mailove Romana Mazurenka, prijatelja koji je umro u prometnoj nesreći prethodne godine, i poslala ih neuronskoj mreži koja je pokrenula njenu aplikaciju. Rezultat toga bila je aplikacija za chat, koja je - nakon mode - oživjela svoju prijateljicu i mogla s njom razgovarati na isti način kao i on.

"Stvaranje aplikacije za Romana i mogućnost da razgovaraju s njim ponekad je bio važan dio prolaska gubitka našeg prijatelja. Aplikacija nas tjera da više razmišljamo o njemu, pamtimo ga na dublji način cijelo vrijeme", kaže ona njezinog iskustva. "Volio bih da imam više takvih aplikacija, aplikacija koje bi se odnosile na moja prijateljstva, moje veze, stvari koje su mi zapravo jako važne."

Kuyda misli da će sve ovisiti o namjerama. "Ako chatbot djeluje iz vašeg najboljeg interesa, ako želi da vam bude drago što ste dobili neku dragocjenu uslugu, tada će očito razgovor s Replikom nekog drugog pomoći u izgradnji jače veze s ljudskim bićem u stvarnom životu, " ona kaže. "Ako sve što pokušavate učiniti je prodati aplikaciju, tada ćete samo maksimalno iskoristiti vrijeme provedeno na aplikaciji, a ne komunicirati jedni s drugima. I to je, pretpostavljam, upitno."

Za sada nema načina da vašu Repliku povežete s drugim platformama, na primjer, dostupnom kao chat messenger Facebook. Ali tvrtka ima aktivni odnos sa svojom korisničkom zajednicom i neprestano razvija nove značajke. Dakle, dopuštanje drugima da komuniciraju s vašom Replikom moguća je budućnost.

Kako minimizirati kompromise

Od parnog motora do električne energije do interneta, svaka tehnologija imala je i pozitivne i negativne primjene. AI nije ništa drugačije. "Mogućnosti za negativce prilično su ozbiljne", kaže Haines. "Možda ulazimo u prostor koji negativi nadmašuju pozitivni."

Pa kako maksimalno iskoristiti prednosti AI aplikacija dok se suprotstavljamo negativima? Umetanje kočnica u inovacije i istraživanje nije rješenje, kaže Haines - jer ako su neki to učinili, nema garancije da će druge organizacije i države slijediti to.

"Nijedna jedina mjera neće pomoći riješiti problem", kaže Haines. "To će morati imati pravne posljedice." Nakon dubinskih rasprava, zakonodavci u SAD-u razmatraju to pitanje i istražuju zakonske zaštitne mjere koje bi mogle ponovo iskoristiti uporabu medija zaštićenih AI-om za štetne ciljeve.

"Također možemo razviti tehnologije za otkrivanje falsifikata kada su prošli u trenutku kada čovjek može otkriti razliku", kaže Haines. "Ali u nekom trenutku, u konkurenciji između lažiranja i otkrivanja, lažni bi mogao pobijediti."

U tom bi slučaju možda trebali krenuti prema razvoju tehnologija koje stvaraju lanac dokaza za digitalne medije. Kao primjer, Haines spominje hardver ugrađen u fotoaparate koji mogu digitalno potpisati snimljeni videozapis kako bi potvrdili njegovu autentičnost.

Podizanje svijesti bit će važan dio bavljenja krivotvorenjima i prijevarama iz AI algoritama, kaže de Brébisson. "To smo učinili tako što smo klonirali glas Trumpa i Obame i natjerali ih da iznose politički ispravne rečenice", kaže on. "Ove tehnologije postavljaju društvena, etička i pravna pitanja koja se moraju razmišljati prije vremena. Lyrebird je podigla veliku svijest i mnogi ljudi sada razmišljaju o tim potencijalnim pitanjima i kako spriječiti zlouporabu."

Ono što je sigurno je da ulazimo u doba u kojem se stvarnost i fikcija spajaju zahvaljujući umjetnoj inteligenciji. Turingov test mogao bi se suočiti sa svojim najvećim izazovima. I uskoro će svi imati alate i snagu da stvore svoje vlastite svjetove, svoj narod i svoju verziju istine. Još nismo vidjeli puni opseg uzbudljivih mogućnosti i opasnosti, koje stoje pred nama.