Microsoft, led i problemi s time što je tehnologija "neutralna"

Kad tražite riječi za opisivanje IBM-a, mislite da su čvrsti i nepostojani, ali također i mrlje. Tijekom Drugog svjetskog rata, IBM je pod vodstvom svog predsjednika i izvršnog direktora Thomasa Watsona pomagao u upravljanju administrativnim radom Trećeg Reicha.

Njemačka podružnica tvrtke, uz suradnju i koordinaciju matične tvrtke, osnovala je koncentracijske logore s unajmljenim strojevima za razvrstavanje karata koje je ona održavala, prilagođavala aplikacije i osigurala ih papirom kako bi ih držala u bušilicama. Podaci koje su izbacili ti Hollerith-ovi strojevi igrali su ulogu u postavljanju Židova iza žičane ograde od koje milijuni neće uspjeti pobjeći.

Danas, tisuće djece imigranata i azilanata nalaze se u vlastitim kavezima u američkim zatočeničkim centrima, barkodima omotanim oko zapešća. Tvrtke koje stoje iza tehnologije koja ih prati - ili ne - ne žele se pohvaliti s tom činjenicom.

Microsoft je u siječnju razgovarao o svom partnerstvu s imigracijom i carinskim provođenjem (ICE), koji koristi cloud uslugu Redmond's Azure. Post se ponovo pojavio ovaj tjedan usred nemira zbog vladine politike razdvajanja djece na granici, i nakratko je bilo pomno s nje bilo kakvo spominjanje ICE-a. Izvori koji znaju o problemu rekli su PCMagu da ju je zaposlenik obrisao nakon što je vidio komentare na društvenim medijima; obnovljena je nedugo zatim.

Izvor je također rekao da ne vjeruju da se Azure ili Azure službe koriste za razdvajanje obitelji na južnoj granici, nešto što je izvršna direktorica Satya Nadella odjeknula u pismu kojim je osudila politiku administracije odvajanja obitelji. Rekao je da Azure Azure koristi samo za naslijeđene pošte, kalendar, razmjenu poruka i radno opterećenje za upravljanje dokumentima.

Ali doista, on ne može biti siguran kako tačno agencija koristi svoje usluge. Očito se neki Microsoftovi zaposlenici slažu; napisali su otvoreno pismo tražeći od kompanije da raskine ugovor s ICE-om. Programeri na GitHubu, koji je Microsoft nedavno kupio, učinili su isto.

Ovdje tehnološke tvrtke trebaju donositi odluke na moralnim osnovama; žele li poslovati s vladinim entitetima koji su angažirani na poslovima koje je Visoki povjerenik UN-a za ljudska prava nazvao nesavjesnim?

Kontroverza za prepoznavanje slike

Iako je imao niži profil, Vigilant Solutions je potpisao ugovor s ICE-om o njegovom programu prepoznavanja registarskih tablica (LPR), koji služi za pronalaženje i praćenje ljudi u stvarnom vremenu. "Naše LPR rješenje nije samo za pronalaženje ukradenih vozila. To je za to i puno više", stoji na web stranici tvrtke.

Vigilant Solutions nisu odgovorili na upit o svom radu s ICE. I nije jedina tvrtka koja je usko shvatila tehnologiju prepoznavanja slike koju koriste agencije za provođenje zakona i vladine agencije.

Amazonovo ponovno otkrivanje koristi duboko učenje za otkrivanje neživih predmeta, ljudi i aktivnosti. Na pitanje o zakonitim, ali možda i društveno upitnim uporabama ako ICE postane kupac, glasnogovornik Amazona prepoznao je potencijal za zlouporabu, ali rekao je da je ponovno uspostavljanje podložno pravilima Amazon Web Services prihvatljive uporabe.

Čitanje o politici pojavljuje se kratko na načine koji bi zaustavili neprimjereno ponašanje. Najrelevantniji dio zabranio bi "Sve nezakonite aktivnosti koje krše prava drugih ili koje mogu štetiti drugima, našem poslovanju ili ugledu."

ICE ne koristi ICE, ali ga koristi nekoliko policijskih uprava, što zabrinjava neke dioničare Amazona, koji su od tvrtke zatražili da prestane prodavati Rekogservation policijskim službama.

NBC News otkrio je niz tehnoloških tvrtki koje imaju ugovore s ICE-om, uključujući HP Enterprise, Dell i Motorolu. Jedna kompanija koja pomaže ICE-u ne treba iznenaditi: Palantir. Ima ugovor od 41 milijarde dolara za ICE-ov proizvod istražnog upravljanja slučajem, što je "kritično" za agenciju, prema dokumentima dobivenim od strane Intercepta.

Suosnivač Palantira i predsjedavajući Peter Thiel stalni je pristaša Donalda Trumpa od njegove kampanje. Sam Thiel nije govorio o situaciji na granici, ali je 2008. dao donaciju u iznosu od milijun dolara antiimigrantskoj skupini NumbersUSA koja je posvećena smanjenju i legalne i ilegalne imigracije. Thiel očito ne vidi ironiju u tome što je postao novozelandski državljanin zaobilazeći uobičajeni postupak.

Vladini su ugovori pouzdano unosni, ali profit od tako sličnih aktivnosti koje su dovele do nekih od najgorih zločina u povijesti dolazi s previsokom cijenom. Samo pitajte Google koji se suočava s prigovorima na njegov rad s Pentagonom na kontroverznom programu dronova. Društveni kapital Silicijska dolina stekao je tijekom godina, a njegove sposobnosti i vještine treba uložiti u iskorjenjivanje strahota naše prošlosti radi bolje budućnosti.