Kad se oblak preplavi, računanje ruba, pomoć u pomoć

Uz obalu australske države Novi Južni Wales (NSW) lebdi flota bespilotnih letjelica, pomažući u očuvanju voda. Ranije ove godine, bespilotne letjelice pomogle su spasilacima na državnoj udaljenosti na sjevernoj obali države spasivši dva tinejdžera koji su se borili u teškom surfanju.

Dronovi se pokreću algoritmima umjetne inteligencije (AI) i algoritmima strojnog vida koji neprestano analiziraju svoje video zapise i ističu stavke koje trebaju pozornost: recimo, morski psi ili zalutali plivači. To je ista vrsta tehnologije koja omogućuje Google Photosu sortiranje slika, kućnu sigurnosnu kameru za otkrivanje stranaca i pametni hladnjak koji će vas upozoriti kada su vam pokvarljive robe blizu roka trajanja.

No, iako te usluge i uređaji trebaju stalnu vezu s oblakom za svoje AI funkcije, dronovi NSW mogu obavljati svoje zadatke za otkrivanje slike sa ili bez čvrste internetske veze, zahvaljujući neuralnim računarskim čipovima koji im omogućuju lokalno obavljanje izračuna dubokog učenja,

Ti su čipovi dio rastućeg trena inovacija računalnih tehnologija koje omogućuju našim softverskim uređajima da izvršavaju barem neke kritične funkcije bez stalne veze s oblakom. Rast računalnih računala pomaže u rješavanju novih i starih problema i utire put sljedećoj generaciji pametnih uređaja.

Neopterećenje oblaka

U posljednja dva desetljeća oblak je postao defaktni način hostinga aplikacija, s dobrim razlogom.

"Ono što oblak čini toliko atraktivnim jest to što ima tendenciju da optereti troškove pokretanja bilo koje aktivnosti koju želite izvesti", kaže Rob High, središnji predstavnik IBM-a Watson. "Oblak… omogućuje ljudima da danas riješe stvarne probleme, a da ne moraju prolaziti kroz troškove izgradnje infrastrukture."

Uz sveprisutnu internetsku povezanost i gotovo bezbrojne oblačne aplikacije, usluge i razvojne platforme, prepreke za stvaranje i implementaciju aplikacija znatno su se smanjile. Ogromni resursi pružatelja usluga oblaka kao što su IBM, Google i Amazon potaknuli su razvoj ne samo trivijalnih poslovnih aplikacija, već i složenog softvera koji zahtijevaju ogromne količine računanja i pohrane - AI i algoritama strojnog učenja, kao i strujanja i AR-a (proširena stvarnost) aplikacije.

Ali ovi su pomaci stvorili i izazov: većina aplikacija koje koristimo ne može funkcionirati ako nisu povezane u oblak. To uključuje većinu aplikacija koje se pokreću na računalima i telefonima, kao i softver u frižiderima, termostatima, bravama na vratima, nadzornim kamerama, automobilima, dronovima, vremenskim senzorima i tako dalje.

S pojavom Interneta stvari (IoT), sve veći broj uređaja pokreće softver i generira podatke, a većina će trebati vezu do oblaka za pohranu i obradu tih podataka. Količina snage i širina pojasa potrebnih za slanje tih podataka u oblak je ogromna, a prostor potreban za pohranu podataka dovest će u pitanje resurse čak i najmoćnijih oblaka behemoths.

"Mnogo je podataka koje prikupljamo u ovim sustavima, bilo da je to na rubu, bilo IoT uređaja ili bilo kojeg drugog mjesta do kojeg bi se skoro moglo odlučiti ne zanimati", kaže High. Ali ako se svaka odluka mora odvijati u oblaku, svi ti podaci morat će se poslati preko mreže oblačnim poslužiteljima koji će se pročistiti i filtrirati.

Kao primjer, High imenuje moderne zrakoplove, koji sadrže stotine senzora koji prate mlazne motore i prikupljaju stotine gigabajta podataka o statusu i performansama tijekom svakog leta. "Koliko su ti podaci uistinu važni ako ih želite analizirati na skupu? Vjerojatno samo djelić njih", kaže High. "Zašto se jednostavno ne riješite toga na izvoru kad vam nije potrebno ništa drugo što radite?"

Raditi ono što High sugerira izvan oblaka i prije je bilo gotovo, ali nemoguće, ali napredak jeftinih, jeftinih procesora System-on-Chip (SoC) dao je rubnim uređajima veću računsku snagu i pustio im na sebe dio računarskog opterećenja ekosustava, poput provođenja analitike u stvarnom vremenu ili filtriranja podataka.

"Toliko podataka ima u rubnom okruženju, ima smisla unijeti neke mogućnosti računalstva u oblak u računalni kapacitet rubnog uređaja", kaže High.

Pitanja o privatnosti

Blagodati računalnog ruba nisu ograničene na oslobađanje resursa u oblaku.

Remi El-Ouazzane, New Technology Group i generalni direktor Movidiusa (Intel), navodi komercijalne sigurnosne kamere kao još jedan primjer kada rubno računanje može napraviti veliku razliku. Te kamere možete vidjeti na semaforima, u zračnim lukama i na ulazu zgrada kako svakodnevno snimaju i struju visokokvalitetne video zapise po mreži.

"Što manje podataka trebate za povratak u poslužitelj ili podatkovni centar, više čišćenja i finiranja možete učiniti lokalno, bolji će vam ukupni troškovi vlasništva biti iz perspektive pohrane i prijenosa", kaže El-Ouazzane.

To znači da ćete fotoaparatima omogućiti analizu vlastitih video feeda, odrediti na koje okvire ili duljine video zapisa treba obratiti pažnju i poslati samo te podatke poslužitelju.

Kad se te kamere instaliraju u vašem domu, uredu ili bilo kojoj privatnoj lokaciji, veza s oblakom također postaje potencijalna briga sigurnosti. Hakeri i sigurnosni istraživači uspjeli su ugroziti vezu između kućanskih uređaja i njihovih oblačnih poslužitelja kako bi presreli osjetljive video feedove. Analiza podataka lokalno onemogućuje potrebu za video provodom između vašeg doma, privatnog života i davatelja usluga.

Movidius, koji je Intel kupio 2016., jedan je od nekoliko startupa koji računalne čipove čine specijaliziranim za AI zadatke poput prepoznavanja govora i računalnog vida. Tvrtka proizvodi Vision Processing Unit (VPU) - procesore male snage koji pokreću neuronske mreže koji analiziraju i "razumiju" kontekst digitalnih slika bez potrebe da ih šalju natrag u oblak.

Movidius Myriad 2 je vizualni procesor koji se stalno prikazuje i izrađen je za okruženja s ograničenom snagom.

"Kad kamera shvati semantiku onoga što gleda, tada mogućnost nametanja pravila o tome što kamera može učiniti ili ne može postati vrlo lak zadatak", kaže El-Ouazzane. "Ne morate zapravo snimati svoju dnevnu sobu sljedećih 12 sati samo da biste znali da je, u određeno vrijeme, vaš pas prešao tepih ispred sofe."

Druge tvrtke istražuju korištenje specijaliziranih računalnih ručnih računalnih uređaja sa AI radi očuvanja privatnosti korisnika. Primjerice, Apple iPhone X pokreće A11 Bionic čip, koji može izvršavati AI zadatke lokalno, omogućujući mu izvršavanje kompliciranog prepoznavanja lica bez slanja korisničke slike u oblak.

Više AI obrade na rubu može otvoriti put za decentraliziranu umjetnu inteligenciju, gdje korisnici moraju dijeliti manje podataka s velikim tvrtkama za upotrebu AI aplikacija.

Smanjivanje kašnjenja

Drugi problem velikih pružatelja usluga oblaka je taj što se njihovi podatkovni centri nalaze izvan velikih gradova, udaljeni stotine i tisuće kilometara od ljudi i uređaja koji koriste njihove aplikacije.

U mnogim slučajevima, kašnjenje uzrokovano podacima koji putuju u oblak i iz oblaka mogu dati slabe rezultate ili, što je još gore, kobne rezultate. To može biti bespilotna letjelica koja pokušava izbjeći sudare ili slijetanje na neravnom terenu ili automobil koji se vozi samostalno pokušava odlučiti da li nailazi na prepreku ili pješak.

Movidiusova lagana implementacija dubokih neuronskih mreža i računalnog vida čini njegove čipove pogodnim za mobilne rubne uređaje poput dronova, za koje hardver koji troši energiju poput GPU-a nije izvediv. Dronovi su posebno zanimljiva studija, jer im treba pristup s niskim kašnjenjem za AI računanje i moraju nastaviti funkcionirati u izvanmrežnim postavkama.

Otkrivanje gesta kao još jedno područje u kojem računarstvo na rubovima pomaže poboljšati iskustvo drona. "Cilj je učiniti dronove dostupnim mnogim ljudima, a gesta se čini lijepim načinom na koji ih ljudi mogu koristiti. Latencija je važna kada gestikulirate drona kako bi obavio neki zadatak", kaže El-Ouazzane.

Za startapove poput Skylift Global-a, koji pruža teške bespilotne bespilotne letelice spasilačkim radnicima i osobama s prvim odgovorima, pristup sa AI i računskim sredstvima s malim kašnjenjem mogu uštedjeti novac i živote. "Znatno će smanjiti troškove gutanja podataka, smanjiti zastoj u mreži, povećati sigurnost i pomoći pretvoriti streaming podataka u odluke u stvarnom vremenu", kaže Amir Emadi, izvršni direktor i osnivač Skylifta.

Za isporuku zaliha prvim reaktorima potrebne su odluke koje dijele drugu sekundu. "Što više vremena prođe, primjerice u borbi s divljinom požara, skuplje postaje ispravljanje situacije. Kako naši dronovi postanu sposobni donositi odluke u stvarnom vremenu na rubu čak i kad izgube povezanost, moći ćemo uštedjeti više živote, novac i vrijeme ", kaže Emadi.

Ostale domene kojima je potrebno računanje u stvarnom vremenu su aplikacije proširene i virtualne stvarnosti te autonomna vozila. "Sve su to računalna računala zasnovana na iskustvu. Dogodit će se oko ljudi", kaže Zachary Smith, izvršni direktor Packeta, njujorškog startapa koji se fokusirao na omogućavanje programerima da pristupaju visoko distribuiranom hardveru.

AR ili VR aplikacija koja ne može pratiti kretanja korisnika izazvat će vrtoglavicu ili spriječiti da iskustvo postane uronjeno i stvarno. A kašnjenje će biti još veći problem kada automobili koji samostalno voze, koji se uvelike oslanjaju na algoritme računalnog vida i strojnog učenja, postanu glavni.

"Kašnjenje od 30 milisekundi neće biti važno za učitavanje vaše web stranice, ali zaista će biti važno da automobil odredi brzinom od 60 km / h treba li skrenuti lijevo ili desno kako ne bi došlo do sudara u djevojčicu", kaže Smith.

Upoznavanje izazova ruba

Unatoč potrebi da se računarstvo približi rubu, stavljanje specijaliziranog hardvera u svaki uređaj možda nije konačni odgovor, Smith priznaje. "Zašto jednostavno ne biste stavili sva računala u automobil? Mislim da to stvarno ima veze s razvojem brzine kako možete kontrolirati životni ciklus toga", kaže on.

"Kad stavite hardver u svijet, on obično ostaje tamo pet do 10 godina", kaže Smith, dok se tehnologije koje koriste ove slučajeve uporabe zasnovane na iskustvu razvijaju svakih šest do 12 mjeseci.

Čak se i vrlo velike tvrtke sa kompliciranim lancima opskrbe često bore s ažuriranjem hardvera. U 2015. godini Fiat Chrysler morao je povući 1, 4 milijuna vozila kako bi popravio sigurnosnu ranjivost koja je bila izložena pet godina ranije. I divovski proizvođač čipova Intel se još uvijek bori s nedostatkom dizajna koji hakeri izlaže stotine milijuna uređaja.

Movidijev El-Ouazzane priznaje ove izazove. "Znamo da ćemo svake godine morati mijenjati asortiman proizvoda, jer ćemo svake godine donijeti više inteligencije na rubu i tražit ćemo od naših kupaca da je nadograde", kaže on.

Kako bi izbjegao stalne pozive i kupcima omogućio dugotrajnu upotrebu svog rubnog hardvera, Movidius svoje procesore puni s dodatnim resursima i kapacitetima. "Potrebna nam je sposobnost da sljedećih nekoliko godina izvršimo nadogradnju na tim proizvodima", kaže El-Ouazzane.

Packet, Smithova tvrtka, koristi drugačiji pristup: Stvara mikro podatkovne centre koji se mogu rasporediti u gradovima, bližim korisnicima. Tvrtka tada može pružiti programerima računske resurse s vrlo malim kašnjenjem - što bliže korisnicima, bez stavljanja stvarnog hardvera na rub.

"Vjerujemo da će biti potreban mehanizam za dostavu infrastrukture za postavljanje hardvera kojem programeri mogu pristupiti u svakom gradu svijeta", kaže Smith. Tvrtka već posluje na 15 lokacija, a planira se s vremenom proširiti na stotine gradova.

Ali Packetove ambicije idu i dalje od stvaranja minijaturnih verzija prostirenih objekata kojima upravljaju Google i Amazon. Kako Smith objašnjava, korištenje i ažuriranje specijaliziranog hardvera nije izvedivo s javnim oblakom. U poslovnom modelu Packet-a, proizvođači i programeri raspoređuju specijalizirani hardver u rubnim podatkovnim centrima tvrtke, gdje ga mogu brzo ažurirati i osvježiti kad se ukaže potreba, a istovremeno osiguravaju da njihovi korisnici imaju brz pristup računarskim resursima.

Hatch, jedan od kupaca Packet-a, spin-off je od Rovio-a, tvrtke za mobilne igre koja je stvorila Angry Birds. Tvrtka pokreće Android na ručnim računarskim poslužiteljima radi pružanja usluga streaminga za igre za više igrača s niskim kašnjenjem za korisnike s nižim Android uređajima.

"trebaju prilično specijalizirani ARM poslužitelji na svim tim tržištima širom svijeta", kaže Smith. "Prilagodili su konfiguracije naše ponude poslužitelja i plasirali smo je na osam svjetskih tržišta diljem Europe. Uskoro će to biti 20 ili 25 tržišta. Njima je to Amazon, ali oni mogu pokrenuti prilagođeni hardver na svim tržištima u Europi „.

Teoretski, Hatch bi mogao istu stvar učiniti u javnom oblaku, ali troškovi bi ga učinili neučinkovitim poslovanjem. "Razlika je između stavljanja 100 korisnika po CPU-u u odnosu na 10.000 korisnika po CPU-u", kaže Smith.

Smith vjeruje da će se ovaj model svidjeti generaciji programera koja će potaknuti sljedeće softverske inovacije. "Ono na što smo fokusirani jest kako povezati generaciju softvera, ljude koji su odrasli u oblaku, sa specijaliziranim hardverskim primitivima", kaže Smith. "Govorimo o korisnicima koji čak ni MacBook ne mogu otvoriti da pogledaju unutra, a to je osoba koja će uvesti novine u sklop hardvera / softvera."

Hoće li se oblaci raspršiti?

Budući da rubni uređaji postaju sposobni za obavljanje složenih računskih zadataka, je li budućnost oblaka u opasnosti?

"Za mene je računalstvo na rubu prirodan i logičan sljedeći napredak računalstva u oblaku", kaže IBM Watson's High.

U stvari, IBM je 2016. godine uveo skup alata koji programerima omogućavaju neprimjetno raspodjelu zadataka između ruba i oblaka, posebno u IoT ekosustavima, gdje rubni uređaji već prikupljaju puno podataka o svom neposrednom okruženju. A krajem 2016. Amazon Web Services, još jedna velika platforma za razvoj oblaka, najavio je Greengrass, uslugu koja omogućava IoT programerima da pokreću dijelove svojih oblačnih aplikacija na svojim rubnim uređajima.

Ništa od toga ne znači da oblak odlazi. "Postoji samo mnogo stvari koje je bolje obaviti u oblaku, čak i kad se na rubu još uvijek radi mnogo", kaže High. To uključuje zadatke poput objedinjavanja podataka iz više različitih izvora i provođenja analitike velikih razmjera s ogromnim skupovima podataka.

"Ako trebamo stvoriti modele u AI algoritmima koje koristimo na tim rubnim uređajima, stvaranje i obuka ovih modela je i dalje vrlo masiran računski intenzivan problem i često zahtijeva računski kapacitet koji daleko premašuje ono što je dostupno na tim rubnim uređajima", Visoko kaže.

El-Ouzzane se slaže. "Mogućnost lokalnog treniranja AI modela vrlo je ograničena", kaže on. "S gledišta dubokog učenja, trening ima samo jedno mjesto za sjedenje i to u oblaku, gdje dobivate dovoljno resursa za računanje i dovoljno prostora za pohranu da biste mogli izaći na kraj s velikim skupovima podataka."

El-Ouazzane također odredbe koriste slučajeve gdje se rubnim uređajima dodjeljuju zadaci koji su kritični za vrijeme i vrijeme, dok oblak vodi računa o naprednijoj rastu koja ne ovisi o kašnjenju. "Živimo u svijetu kontinuiteta između oblaka i ruba."

"Postoji vrlo simbiozan i sinergistički odnos između rubnog i oblačkog računanja", kaže High.