Sadržaj:
- Vlasništvo i privatnost podataka
- Pravo na zaborav
- Pravo na objašnjenje
- Iznajmljivanje AI
- Hoće li GDPR ometati AI inovaciju?
Video: GDPR и обогащение профиля. Инсайты от Legal IT Group (Studeni 2024)
U onome što se može opisati kao vrsta utrke u naoružanju, tehnološke tvrtke skupljaju velike količine korisničkih podataka kako bi otklonile algoritme umjetne inteligencije koji pokreću njihove aplikacije i platforme. Do sada su uglavnom mogli izbjeći odgovornost kada su ih prakse gurnule u zakonski i etički siva područja.
To bi moglo zvučati kao loše vijesti za tvrtke koje koriste AI algoritme, a koje su koristile lažne propise o prikupljanju podataka (i dugačke, dosadne i dvosmislene uvjete dokumenata o uslugama). Neki se boje da će stroža pravila spriječiti inovacije i primjenu umjetne inteligencije u mnogim aplikacijama i domenama. Drugi vjeruju da će nova direktiva stvoriti temelje gdje će AI aplikacije postati pouzdanije i pouzdanije.
Bez obzira na slučaj, industrija AI sprema se za velike promjene u GDPR eri.
Vlasništvo i privatnost podataka
"GDPR je velika vrijednost za AI, jer zahtijeva da drugačije razmišljamo o načinu na koji prikupljamo i koristimo podatke", kaže Tim Estes, osnivač i predsjednik Digital Reasoninga. "Dugo su tehnološke tvrtke inzistirale na tome da biste morali dobiti vrijednost svojih proizvoda i usluga."
Prije toga, od kompanija se tražilo da od korisnika dobivaju samo nejasan pristanak za prikupljanje svih vrsta podataka. "AI je pomogao da se preživotinja sa velikim podacima održi živima, što je još jedan razlog zašto bi tvrtke trebale prikupljati i minirati sve dostupne podatke", kaže Estes. "Mnoge su tvrtke počele primjenjivati AI kako bi analizirali svoje podatke samo zato što misle da bi trebali - bez razmišljanja o utjecaju na privatnost korisnika ili vlasništvo nad podacima."
Najosnovnija premisa GDPR-a je da podaci pripadaju korisnicima. U skladu sa GDPR-om, tvrtke će morati otkriti sveobuhvatne informacije koje prikupljaju, kao i kako ih koriste i kako će ih zaštititi i spriječiti neovlašteni pristup. Nova pravila će prisiliti kompanije AI da budu pažljivije u odnosu na podatke koje prikupljaju, umjesto da se bave bezobzirnim skladištenjem, obradom i dijeljenjem korisničkih podataka.
Pravo na zaborav
GDPR korisnicima omogućava da zahtijevaju da tvrtka obriše sve svoje podatke sa svojih poslužitelja. To neće biti dobro s AI tvrtkama koje imaju veliki interes zadržati što više korisničkih podataka za obavljanje zadataka poput predviđanja trendova i ponašanja korisnika.
"Na kraju dana, GDPR govori o tome kako prikupljate i upravljate podacima, a ne nužno i o tome koliko podataka imate", kaže Maryna Burushkina, izvršna direktorica GrowthChannela. "Glavna poteškoća s kojom će se većina tvrtki suočiti nije mnogo u dobivanju prijava, već više u upravljanju podacima, komuniciranju korištenja podataka s korisnicima i omogućavanju korisnicima da ih izbrišu."
AI tvrtke morat će poduzeti dodatne korake kako bi anonimizirale svoje podatke ako i dalje žele imati pristup tim uvidima. No, s drugim se izazovima suočavaju tvrtke koje već imaju velike prodavaonice korisničkih podataka.
"Pod GDPR-om, ako tvrtka želi izbrisati određeni PII, tada moraju osigurati da se svugdje briše", kaže Amnon Drori, izvršni direktor Octopaia. To može biti zastrašujući zadatak ručno izvođenje kad su vaši podaci raštrkani na različitim poslužiteljima i pohranjeni u različitim strukturiranim i nestrukturiranim formatima.
Na primjer, pri brisanju broja kreditne kartice korisnika (svakako osjetljiv podatak) tvrtke će morati pregledati svako izvješće, bazu podataka, objekt baze podataka i ETL gdje su podaci pohranjeni. "Ponekad vidimo različita imena metapodataka za istu stavku: na primjer, " broj kreditne kartice ", " broj računa ", broj c broja kreditne kartice", "broj kartice", "br. Kreditne kartice". Popis se nastavlja i dalje - kaže Drori. Često je nemoguće znati gdje treba potražiti i postupak može trajati tjednima ili čak mjesecima, a poput mnogih ručnih procesa, sklon je ljudskim pogreškama i netočnostima, kaže Drori.
GDPR će također povećati troškove ljudskih grešaka u rukovanju podacima. "Zbog toga danas toliko tvrtki traži automatizirano rješenje za precizno upravljanje metapodacima", kaže Drori. Možda ironično, sam AI može biti rješenje u tom pogledu. AI-ovi alati za upravljanje metapodacima mogu skenirati sve izvore podataka unutar organizacije i konsolidirati odnose između različitih alata i izvora podataka.
Pravo na objašnjenje
Jedan od najznačajnijih dijelova GDPR-a u vezi s AI-om je ono što je postalo poznato kao "pravo na objašnjenje". Direktiva kaže da tvrtke moraju obavijestiti korisnike o „postojanju automatiziranog odlučivanja“ i pružiti im „značajne informacije o uključenoj logici, važnosti i predviđenim posljedicama takve obrade za subjekta podataka“.
To u osnovi znači da korisnici moraju znati kada su izravno ili neizravno podložni AI algoritmima i trebali bi biti u mogućnosti osporiti odluke koje ovi algoritmi donose i zahtijevati dokaz o tome kako je zaključak izveden. Ovo će biti jedan od najvećih izazova s kojim će se AI industrija suočiti.
Duboke neuronske mreže, glavna tehnologija koja stoji iza suvremenih AI algoritama, složene su softverske strukture koje stvaraju vlastita pravila funkcionalnosti analizirajući velike skupove podataka i pronalazeći korelacije i obrasce. Kako se neuronske mreže postaju sve složenije, njihovo se ponašanje sve teže raspada. Čak ni inženjeri ne mogu objasniti razloge koji stoje iza odluka koje njihovi algoritmi AI donose.
Nazvani problemom "crne kutije", neobjašnjivost AI algoritama otežala ih je provedba u odlukama sudnica, zakona za provođenje zakona, zahtjeva za zajmove i kredite, zapošljavanja, zdravstva i drugih kritičnih domena. Ali bez ikakvog zakonskog utjecaja, AI tvrtke imale su malo poticaja da svoje AI algoritme učine transparentnijim, posebno kada su bile usko vezane za svoje poslovne tajne.
Sada će GDPR držati AI kompanije odgovorne za odluke koje njihovi algoritmi donose.
"Kao dio GDPR-a, organizacije su odgovorne da jasno opišu metodu obrade na ljudskom jeziku, tražeći od njih pristanak", kaže Pascal Geenens, sigurnosni istraživač iz Radwarea. "Kako se razvija duboko učenje, a znanstvenici s podacima ne mogu karakterizirati determinističku prirodu koja stoji iza rezonovanja neuronske mreže, ovaj bi opis mogao postati složeniji i teži za objašnjenje."
U osnovi, GDPR govori o tome da ljudi koji obrađuju podatke budu odgovorni, kaže Geenens. Ako koristite algoritme strojnog učenja za obradu, morate ih dizajnirati na način koji će vam omogućiti objašnjenje odluka koje donose u vaše ime.
Nekoliko organizacija pokušava razviti tehnologije kako bi AI bio transparentniji. Istaknuti među njima je DARPA-ov Objašnjivi AI (XAI), istraživački projekt koji ima za cilj da odluke na temelju AI-ja učini razumljivim.
Iznajmljivanje AI
GDPR će utjecati i na organizacije koje svoje podatke stavljaju na raspolaganje trećim stranama. Istaknuti primjer takve tvrtke je Facebook; u svom skandalu Cambridge Analytica, gigant društvenih medija nije uspio spriječiti tvrtku za rudarstvo podataka da prikupi i zloupotrijebi podatke 87 milijuna korisnika. No GDPR će imati i posljedice na tvrtke koje daju svoje AI funkcionalnosti i daju svoje podatke dostupnim dobavljačima AI.
"Iako mnogi pretpostavljaju da su pružatelji AI poput ostalih pružatelja usluga - jednostavno nudeći svoju tehnologiju u zamjenu za novčanu naknadu - istina je da pružatelji AI također ulaze u poslovna partnerstva kao način za nadogradnju i razvoj njihove tehnologije", kaže Estes, šef izvršni direktor Digital Digital Reasoning. To znači da će pružatelj AI možda željeti zadržati podatke klijenta radi daljnjeg osposobljavanja vlastitih algoritama i korištenja ih u drugim domenama.
Na primjer, pružatelj AI koji pomaže zdravstvenoj organizaciji da pronađe obrasce simptoma i poboljša dijagnozu možda će naići na skup podataka koji poboljšavaju njegove vlasničke algoritme. AI tvrtka bi tada mogla iskoristiti podatke za poboljšanje svojih algoritama za druge vrste skrbi o pacijentima, kako bi razvila svoje mogućnosti za pomoć drugim pružateljima zdravstvenih usluga. Prema GDPR-u, zdravstvena organizacija zadužena za podatke smatrat će se odgovornom za neetično korištenje pružatelja AI. Ključno je, vjeruje Estes, da tvrtke traže pružatelje AI koji vjeruju u posjedovanje algoritama, a ne podataka.
"GDPR će prisiliti tvrtke da pomnije paze kako i kada se njihovi podaci koriste, gdje se pohranjuju i što se s njim događa nakon dovršetka projekta", kaže Estes. "To znači raditi s pružateljima AI koji pomažu definirati linije vlasništva nad podacima i implementirati strategije koje štite korisničke informacije, a pritom ne ometaju načine na koje on može pomoći u razvoju uspjeha AI algoritama."
Hoće li GDPR ometati AI inovaciju?
Stručnjaci s kojima smo razgovarali vjeruju da će iako novi propisi izazvati trenutnu praksu i navike koje su AI tvrtke usvojile, također prisiliti ih da pronađu nove načine za uvođenje inovacija, kao i da zadrže poštovanje privatnosti i etičkih standarda.
"Kada GDPR regulacija stupi na snagu, sve velike softverske tvrtke poduzimaju potrebne mjere kako ne bi samo osigurale usklađenost, već i inovirale i razmislile kako bi pronašle nove mogućnosti na tržištu", kaže Burushkina iz GrowthChannela.
"Inovacije neće kočiti GDPR, već ih usmjeravati i motivirati, " kaže Drori iz Octopaia. U međuvremenu, GDPR će također stvoriti nova poduzeća i tehnologije koje će pomoći organizacijama u postizanju i održavanju usklađenosti s GDPR-om.
Standardi koje je GDPR postavio postaju, zapravo, mogli bi pomoći u prevladavanju jaz između povjerenja između pružatelja i korisnika usluga koje pokreću AI. Estes vjeruje da će GDPR učiniti pružatelje AI i one koji primjenjuju njihovu tehnologiju odgovornijima za to kako i gdje koriste podatkovne resurse i gurnuti ih da stave korisnike na dobit. "Na kraju dana, " kaže on, "davatelji AI trebaju samo posjedovati algoritme - ne podatke - da bi inovirali svoje mogućnosti i rješenja."