Tehonomija: inovacija, ai i etika

Neki od mojih najdražih sastanaka na konferenciji Techonomy ranije ovog mjeseca bavili su se etikom, vrijednostima, inovacijama i načinom na koji je umjetna inteligencija ušla u ova područja.

Ljudske vrijednosti za tehnološko doba

Osnivač tehonomije David Kirkpatrick započeo je konferenciju razgovorom o fokusu na ljudske vrijednosti tehnologije. Prvi veliki razgovor bio je o "ljudskim vrijednostima" s Julie Hanna, izvršna predsjednica Kiva, koja je govorila o tehnologiji kao demokratizacijskoj sili, i primijetila da veliki dio svijeta živi s manje od 2 dolara dnevno. Ona je rekla da je "najveći oblik pravde pravičan pristup."

Vlč. Michael C. McFarland, blagajnik, američka provincija Sjeveroistočna Družba Isusova, rekao je da se moramo zapitati gdje je pravda, u smislu načina na koji se tehnologija koristi, i razmišljati o pretpostavkama ugrađenim u tehnologiju. Brine se što se tehnologija na radnom mjestu, koja može stvoriti veću učinkovitost i produktivnost, često primjenjuje bez razmišljanja o utjecaju na radnike, koji ponekad trpe razorne utjecaje. Pozvao je publiku da počne razmišljati o iskustvu radnika.

Erica Kochi, izvršni direktor za inovacije i suosnivač UNICEF-ove inovacije, primijetila je da prije sedam godina nije postojalo dobro tehnološko rješenje usmjereno na najsiromašnije, a jedini zajednički nazivnik bila je tekstualna poruka. Njena se skupina fokusirala na izgradnju vlastitih rješenja pomoću tekstualnih poruka te napomenula da je, iako postoje vrlo jeftini telefoni s Androidom, OS izgrađen za ljude s podatkovnim planom, a ne za one koji žive manje od 2 dolara dnevno. "Ako ćemo graditi proizvode i usluge za ljude koji nisu mi, o tome moramo razmišljati s njihove točke gledišta", rekla je.

Hanna je govorila o "lažnom izboru između svrhe i profita, između misije i proizvoda", i rekla da su kulture vođene misijom bolja mjesta za rad, veću vjernost i pomoć u izgradnji trajnih tvrtki. Kochi je rekao da možete učiniti oboje i rekao je da se model poslovanja mora uskladiti s društvenom odgovornošću, što ne bi trebalo biti nešto što se radi sa strane.

McFarland je govorio o tome da se usredotočio ne samo na dioničare, već i na sve dionike u tvrtki, i koristio se kao primjer tvrtke AT&T Bell Labs prije raspada tvrtke. Zabrinut je zbog neuspjeha ulaganja u dugoročno istraživanje i razvoj i rekao je "moramo promijeniti kulturu o tome kako razmišljamo o poslu i što znači biti uspješan."

Knjižnica

Dojmio me se u kasnijem razgovoru Tonyja Marxa, predsjednika Narodne knjižnice New Yorka, koji je rekao da je, suprotno pretpostavci da neke biblioteke odlaze, vidio novu tehnologiju kao najveću priliku u povijesti za knjižnice oduvijek su se zalagali za - pomoć ljudima u pristupu informacijama.

Napomenuo je da su se u prošlosti knjižnice zadržavale zbog fizičkih i financijskih ograničenja ulaska ljudi u zbirke, ali rekao je da se to mijenja.

Knjižnice mogu imati utjecaja na tri velika načina, rekao je. Prvo je samo povezivanjem ljudi, a napomenuo je da jedna trećina Amerikanaca nema internetsku povezanost, ali knjižnice mogu služiti i za obučavanje ljudi kako koristiti računala, kao i kako kodirati.

Kazao je da, iako su današnje tražilice "nevjerojatne", imaju ograničenja, i napomenuo kako još uvijek nema puno osnovnih informacija o kvalitetu proizvedenih tisućljećnim naporom. Rekao je da je njegova vizija ponuditi pokroviteljima knjižnice "svaku knjigu, svaku sliku, svaki dokument i svaku arhivu bilo gdje u svijetu besplatno."

Sve se to vraća na staromodni pojam biblioteke kao osnove, rekao je Marx i pozvao nas da zamislimo imaju li svi talenti na svijetu sposobnost učenja, stvaranja i inoviranja, bez obzira što su odabrali. "Imamo alate da ga zaustavimo nezaustavljivo", rekao je. "Učinimo to."

Bogovi u kutijama: svemoćni algoritmi i skrivene vrijednosti

Oren Boiman, suosnivač i izvršni direktor tvrtke Magisto, koja koristi AI za uređivanje videozapisa, rekao je da "računala postaju sve više crnih okvira", s algoritmima kreiranim od neuronskih mreža koji pobijaju najbolje algoritme koje su dizajnirali programeri. Iako ovi algoritmi mogu donositi odluke daleko bolje od ljudi, nitko ne shvaća kako to čine.

Vivienne Ming, suosnivačica i izvršna predsjednica Socosa, koja prodaje softver koji pomaže djeci da nauče slanjem jedne preporuke dnevno roditeljima, razgovarala je o stvaranju inteligentnih algoritama. Rekla je da puno rada s dubokim neuronskim mrežama ovisi o setovima treninga i govorila o algoritmu prepoznavanja lica koji ne prepoznaje crna lica zbog inherentne pristranosti u treningu. "Računala su baš poput ljudi", rekla je. "Ovisi kako ih odgajate."

Yahooov glavni znanstvenik Ron Brachman rekao je da, iako koristimo antropomorfizirane izraze za opisivanje strojeva, još uvijek postoji temeljna razlika između ljudi i računala. Ljudi donose odluke na temelju svojih potreba i želja, što je vrlo različito od načina na koji računski sustavi donose odluke ovih dana.

Boiman je objasnio kako je u većini ovih "crnih kutija" sve povezano, a male promjene unosa mogu stvoriti velike, a ponekad i kaotične razlike u rezultatima, primjerice kada videozapisi postanu virusni. Rekao je da to stvari čini nepredvidivima, a teško je pratiti stvari natrag na ono što se dogodilo u početku. Brachman je napomenuo kako nemamo način kontrolirati ono što djeca uče, isto vrijedi i za računske mehanizme.

Inteligentni poslovni strojevi

Rasprava o AI i etičkim pitanjima koja su se nastavila nastavila se na drugom panelu s čelnicima nekih više specijaliziranih softverskih tvrtki. Babak Hodjat, suosnivač i glavni znanstvenik tvrtke za strojno učenje Sentient Technologies, rekao je da je pitanje etike pomalo ometalo kada je u pitanju AI, a da etika također utječe na sve vrste drugih tehnologija, u rasponu od pametnih telefona do FICO rezultata, George John, predsjednik i osnivač programske reklamne tvrtke Rocket Fuel, primijetio je prednosti tehnologije i rekao: "Ako AI stvarno radi, ljudi bi trebali ranije doći kući." Govorio je o potrebi za novim upravljačkim vještinama, te upravljanju i ljudima i pametnim strojevima. Također je govorio o traženju aplikacija AI koje nisu samo prikladne velikim kompanijama, već bi mogle koristiti i pojedincima.

Jag Duggal, SVP za upravljanje proizvodima tvrtke za mjerenje publike Quantcast, rekao je da su to alati dizajnirani da nas učine produktivnijima, učinimo više stvari i povećaju naš kapacitet. Rekao je da iz toga može proizaći mnoštvo inovacija i produktivnosti te rekao da, iako postoje strahovi da će tehnologija postati previše dobra, mnogo više brine o ograničenjima tehnologije.

Posebno su ga brinuli poticaji i što se događa kad algoritmi strojnog učenja slijede na pogrešne poticaje. Primjerice, zabilježio je kako na mrežnom tržištu postavljanja oglasa dobavljači e-trgovine daju kredit posljednjem oglasu koji je osoba vidjela prije narudžbe. To rezultira time da se cilja više oglasa nakon što je osoba već posjetila mjesto za e-trgovinu, a često nakon što se netko odlučio kupiti; drugim riječima, kada se oglas može izgubiti. Quantcast pokušava dati bolje primjere, rekao je.

Jon Stein, osnivač i izvršni direktor AI-jeve investicijske tvrtke Betterment, razgovarao je o dobru koje tehnologija može učiniti i složio se da je važno postaviti jasne poticaje. Govorio je o slijeđenju fiducijarnih standarda, poput djelovanja u najboljem interesu kupca i rekao da transparentnost ima veliku ulogu, tako da ljudi mogu razumjeti gdje mogu doći do sukoba.

Stein je rekao da će zbog tehnologije biti teže biti zločinac s vremenom, ali Duggal je rekao da je skeptičniji, jer i lopovi imaju tehnologiju. Ipak, impresioniran je potencijalom tehnologije te je naveo primjer Googleovog projekta gdje AI može prepoznati karcinom kod mola na koži. Rekao je da je zabrinut zbog "pogrešnog uokvirivanja" problema s protivnicima tehnologije.