Godina etičke obračuna u ai industriji

Otkad su duboke neuronske mreže pobijedile na najvažnijem svjetskom natjecanju u prepoznavanju slika, svi su bili uzbuđeni zbog čega se umjetna inteligencija može osloboditi. No, u utrci za razvojem novih AI tehnika i aplikacija mogući su negativni utjecaji na stražnjem mjestu.

Sada primjećujemo pomak prema većoj svijesti o AI etici. U 2018. godini, programeri AI postali su svjesniji mogućih posljedica svojih kreacija. Mnogi su inženjeri, istraživači i programeri jasno stavili do znanja da neće graditi tehnologije koje štete ili nanose štetu životima nevinih ljudi, i držali su se svojih tvrtki.

Prepoznavanje lica u provođenju zakona

U prošlosti je stvaranje aplikacija za prepoznavanje lica bilo naporno, mnogo resursa i sklono pogreškama. Ali s napretkom računalnog vida - podskupinom AI koji računalima omogućava prepoznavanje sadržaja slika i video zapisa - stvaranje aplikacija za prepoznavanje lica postalo je mnogo lakše i nadohvat ruke svih.

Velike tehnološke tvrtke poput Microsofta, Amazona i IBM-a počele su pružati usluge temeljene na oblaku što je omogućilo bilo kojem programeru da integrira tehnologiju prepoznavanja lica u svoj softver. Time je otključano mnoštvo novih slučajeva upotrebe i aplikacija u različitim domenama, poput zaštite identiteta i provjere autentičnosti, sigurnosti pametnog doma i maloprodaje. No aktivisti za zaštitu privatnosti izrazili su zabrinutost zbog mogućnosti zlouporabe.

U svibnju 2018. Američka unija za građanske slobode otkrila je da Amazon marketingom zakona i vladinim agencijama prodaje Rekognaciju, tehnologiju video-analitike u stvarnom vremenu. Prema ACLU-u, policija u najmanje tri države koristila je Rekognizaciju za prepoznavanje lica na video feedovima.

"Pomoću Rekognacije vlada sada može izgraditi sustav za automatizaciju identifikacije i praćenja bilo koga. Ako su, primjerice, policijske kamere tijela bile opremljene prepoznavanjem lica, uređaji namijenjeni transparentnosti i odgovornosti službenika dalje bi se transformirali u strojeve za nadzor usmjerene na javnosti ", upozorio je ACLU. "Automatiziranjem masovnog nadzora, sustavi prepoznavanja lica poput Rekogneziranja ugrožavaju ovu slobodu, što predstavlja posebnu prijetnju zajednicama koje su već nepravedno ciljane u trenutnoj političkoj klimi. Jednom kada se snažni sustavi nadzora poput ovih izgrade i primijene, štetu će biti vrlo teško poništiti. „.

Zabrinutosti ACLU-a odjeknule su zaposlenike Amazona, koji su u lipnju napisali pismo Jeffu ​​Bezosu, izvršnom direktoru tvrtke, i zatražili da prestane prodavati Rekognance policijskim službama. "Naša tvrtka ne bi trebala biti u nadzornom poslu; ne bismo trebali biti u poslovima policije, ne bismo trebali podržavati one koji prate i tlače marginalizirano stanovništvo", navodi se u pismu.

U listopadu je anonimni zaposlenik Amazona otkrio da je najmanje 450 zaposlenika potpisalo još jedno pismo u kojem je Bezos i ostale rukovoditelje pozvao da prestanu prodavati Rekognance policiji. "Ne možemo profitirati od niza moćnih kupaca na štetu naših zajednica; ne možemo odvratiti pogled od ljudskih troškova našeg poslovanja. Nećemo tiho graditi tehnologiju za ugnjetavanje i ubijanje ljudi, bilo u našoj zemlji ili u drugima, "pisalo je.

Pad Googleovog vojnog AI projekta

Dok se Amazon nosio s tim internim zaleđem, Google je proživljavao slične borbe oko ugovora o razvoju AI za američku vojsku, nazvanog Project Maven.

Google je navodno pomagao Ministarstvu obrane razviti tehnologiju računalnog vida koja bi obradila bespilotne video snimke. Količina video snimki koje svakodnevno bilježe dronovi bila je prevelika za ljudske analitičare i Pentagon je želio automatizirati dio procesa.

Priznajući kontroverznu prirodu zadatka, glasnogovornik Googlea izjavio je da on pruža samo API-je za TensorFlow, njegovu platformu za strojno učenje, za otkrivanje objekata u video sažecima. Google je također naglasio da razvija politike i zaštitne mjere za rješavanje etičkih aspekata svoje tehnologije.

No, Project Maven nije dobro sjedio s Googleovim zaposlenicima - od kojih je 3.000, uključujući desetine inženjera, ubrzo potpisalo otvoreno pismo izvršnom direktoru Sundar Pichai-u kojim je tražio prekid programa.

"Vjerujemo da Google ne bi trebao biti u ratu", navodi se u pismu. Od tvrtke je zatraženo da "nacrta, objavi i primijeni jasnu politiku u kojoj se navodi da niti Google niti njegovi ugovornici nikada neće graditi ratnu tehnologiju".

Googleovi zaposlenici upozorili su i da njihov poslodavac ugrožava njegov ugled i sposobnost da se u budućnosti takmiči za talente. "Moralnu odgovornost naših tehnologija ne možemo prenijeti na treće strane", naglasili su Googlersi.

Ubrzo nakon toga, peticija koju je potpisalo 90 akademika i istraživača pozvala je vrhunske rukovoditelje Googlea da prekinu rad na vojnoj tehnologiji. Potpisnici su upozorili da će Googleov rad postaviti pozornicu za "automatizirano prepoznavanje ciljeva i autonomne sustave naoružanja". Upozorili su i da će se tehnologija razvijati "na korak od odobrenja autonomnih bespilotnih bespilotnih letelica da se ubijaju automatski, bez ljudskog nadzora ili smislenog ljudskog nadzora".

Kako su tenzije rasle, nekoliko Googleovih zaposlenika podnijelo je ostavku u znak protesta.

Kako su reagovali tehnički voditelji

Pod pritiskom Google je u lipnju izjavio da neće obnoviti ugovor s Ministarstvom obrane na Project Mavenu nakon njegovog isteka 2019. godine.

U postu na blogu, izvršni direktor Sundar Pichai (na slici dolje) proglasio je skup etičkih načela koja će upravljati razvojem i prodajom AI tehnologije u tvrtki. Prema Pichai-u, tvrtka će od sada razmatrati projekte koji su za dobro društva u cjelini i izbjeći razvoj AI koji bi ojačao postojeće nepoštene pristranosti ili potkopao javnu sigurnost.

Pichai je također izričito izjavio da njegova tvrtka neće raditi na tehnologijama koje krše norme ljudskih prava.

Amazonov Bezos bio je manje opčinjen bijesom zbog Rekognacije. "Nastavit ćemo podržavati DoD, a mislim da bismo trebali", rekao je Bezos na tehnološkoj konferenciji u San Franciscu u listopadu. "Jedan od poslova višeg rukovodstva je donošenje ispravne odluke, čak i kad je to nepopularno."

Bezos je također naglasio potrebu tehničke zajednice da podrži vojsku. "Ako će se velike tehnološke kompanije okrenuti leđima prema DoD-u, ova će država imati problema", rekao je.

Predsjednik Microsofta Brad Smith, čija se tvrtka suočila s kritikom zbog rada s ICE-om, u srpnju je objavio blog na kojem je pozvao na odmjereni pristup u prodaji osjetljive tehnologije vladinim agencijama. Iako Smith nije isključio prodaju usluga prepoznavanja lica policiji i vojsci, naglasio je potrebu za boljom regulacijom i transparentnošću u tehnološkom sektoru.

• MIT će potrošiti milijardu dolara na program za proučavanje AI etike MIT će potrošiti milijardu dolara na program za proučavanje atičke etike
• Govori li AI naš jezik? Govori li AI naš jezik?
• Rušenje Kine nezaustavljive AI tvornice Probijanje Kineske nezaustavljive AI tvornice

"Mi smo izabrali predstavnike u Kongresu na raspolaganju su alate potrebne za procjenu ove nove tehnologije sa svim njezinim posljedicama. Koristimo provjere i uravnoteženosti ustava koji su nas vidjeli od doba svijeća do ere umjetne inteligencije. Kao u toliko puta u prošlosti, moramo osigurati da novi izumi služe našim demokratskim slobodama u skladu s vladavinom zakona ", napisao je Smith.

U 2018. su daleke prijetnje robota ubojica i masovna nezaposlenost ustupile mjesto zabrinutosti zbog neposrednijeg etičkog i društvenog utjecaja AI. Na mnogo načina, ta kretanja ukazuju na to da industrija sazrijeva jer su AI algoritmi postali istaknutiji u kritičnim zadacima. Ali kako algoritmi i automatizacija postaju ukorijenjeniji u našem svakodnevnom životu, pojavit će se više rasprava.