Sadržaj:
Video: Woziłem pasażerów Uber najnowszym BMW M4 po Warszawie! (Studeni 2024)
12. ožujka, MIT Technology Review pokrenuo je priču koja je započela ovako: "Godina je 2023., A automobili koji samostalno voze konačno kreću našim gradskim ulicama. Prvi put je jedan od njih udario i ubio pješaka, velika medijska pokrivenost. Vjerojatno je velika tužba, ali koji bi se zakoni trebali primijeniti?"
Iako se incident još uvijek istražuje, nemir koji je uslijedio pokazatelj je koliko smo daleko od uspješno integriranja umjetne inteligencije u naše kritične zadatke i odluke.
U mnogim slučajevima problem nije u AI, nego u našim očekivanjima i razumijevanju istog. Prema Wiredu , samo je u SAD-u prošle godine u prometnim incidentima umrlo skoro 40.000 ljudi - od kojih je 6.000 bilo pješaka. Ali vrlo je malo (ako uopšte ima) naslova radilo na način na koji je nastupio Uber incident.
Jedan od razloga što je pad Ubera izazvao toliku gužvu je taj što općenito imamo velika očekivanja od novih tehnologija, čak i kad su još uvijek u razvoju. Pod iluzijom da čista matematika pokreće AI algoritme, skloni smo vjerovati njihovim odlukama i šokirani smo kad pogriješe.
Čak su i sigurnosni vozači za volanom samo vozećih automobila iznevjerili svoju zaštitu. Snimke iz Uberovog incidenta pokazale su da je vozač rastresen, gledajući dolje nekoliko sekundi prije nego što se sudar dogodio.
2016. godine vozač modela Tesla S koji je upravljao automatskim pilotom umro je nakon što se vozilo srušilo u kamion. Istragom je utvrđeno da je vozač u trenutku sudara možda gledao film o Harryju Potteru.
Očekivanja od savršenstva su visoka, a razočaranja snažna. Kritičari su ubrzo doveli u pitanje cjelokupni Uberov projekt pokretanja automobila nakon incidenta; tvrtka je nakon toga privremeno obustavila testiranje automobila na sebi.
AI nije čovjek
Među kritikama koje su uslijedile nakon nesreće bila je i činjenica da bi ljudski vozač lako mogao izbjeći incident.
"nije iskakala iz grmlja. Jasno je napredovala u više prometnih traka, za koje je trebalo da ih pokupi sistem", rekao je jedan stručnjak za CNN.
U pravu je. Iskusni ljudski vozač vjerojatno bi je uočio. Ali AI algoritmi nisu ljudski.
Algoritmi za duboko učenje pronađeni u automobilima za samostalno upravljanje koriste brojne primjere da "nauče" pravila svoje domene. Dok provode vrijeme na putu, klasificiraju prikupljene informacije i uče se nositi s različitim situacijama. Ali to ne mora nužno značiti da koriste isti postupak odlučivanja kao i ljudski pokretači. Zbog toga će u nekim situacijama možda bolje proći od ljudi, a u onima koje čovjeku izgledaju trivijalno.
Savršen primjer je algoritam za razvrstavanje slika, koji uči prepoznati slike analizom milijuna označenih fotografija. Tijekom godina klasifikacija slika postala je super učinkovita i nadmašuje ljude u mnogim sredinama. To ne znači da algoritmi shvaćaju kontekst slika na isti način kao što to rade ljudi.
Na primjer, istraživanje stručnjaka s Microsofta i Sveučilišta Stanford otkrilo je da je algoritam dubokog učenja treniran sa slikama bijelih mačaka s velikim stupnjem uvjerenja da fotografija bijelog psa predstavlja mačku, a što je ljudsko dijete lako izbjeći. A u zloglasnom slučaju, Googleov algoritam za klasifikaciju slika pogrešno je klasificirao ljude tamne boje kože kao gorile.
To se naziva "rubnim slučajevima", situacijama s kojima algoritmi AI nisu obučeni za obradu, obično zbog nedostatka podataka. Nesreća u Uberu još je pod istragom, ali neki stručnjaci iz AI smatraju da bi to mogao biti još jedan rubni slučaj.
Duboko učenje ima mnogo izazova koje treba savladati prije nego što se ono može primijeniti u kritičnim situacijama. Ali njegovi neuspjesi ne bi nas trebali odvratiti. Moramo prilagoditi svoja opažanja i očekivanja i prihvatiti stvarnost koja svakoj velikoj tehnologiji zataji tijekom evolucije. AI nije ništa drugačije.
