Există o narațiune în tehnologie care presupune centralizarea: datele se mută în cloud, calculul are loc acolo, rezultatele se întorc. Pentru companiile de infrastructură cloud, această narațiune este convenabilă. Pentru companiile care construiesc efectiv sisteme AI care trebuie să funcționeze fiabil, rapid și în siguranță în medii din lumea reală, această narațiune devine din ce în ce mai limitativă.
Edge computing — transferul capacității de calcul mai aproape de locul în care sunt generate datele și unde trebuie luate deciziile — nu este nou. Ce este nou este urgența sa. Combinația dintre cerințele AI în timp real, reglementările privind confidențialitatea, limitările lățimii de bandă a rețelei și complexitatea emergentă a IoT și a sistemelor autonome face din calculul edge nu o alegere arhitecturală de nișă, ci o cerință centrală pentru categorii întregi de aplicații.
Am urmărit îndeaproape această schimbare prin NexaTech Ventures, deoarece reprezintă una dintre cele mai semnificative tranziții arhitecturale în infrastructura tehnologică de la trecerea la cloud computing însuși.
Unde arhitectura cloud se defectează
Cloud computing a fost construit pe o presupunere care s-a dovedit corectă pentru primele două decenii ale internetului: este mai ieftin să trimiți date către resurse de calcul centralizate decât să distribui calculul în rețea. Pentru majoritatea aplicațiilor web — căutare, rețele sociale, comerț electronic — acest lucru rămâne adevărat. Dar pentru un set în expansiune de aplicații, presupunerea se prăbușește.
Luați în considerare vehiculele autonome. O mașină cu conducere autonomă ia decizii critice de siguranță în milisecunde pe baza datelor de la senzori. Trimiterea datelor brute de la senzori către un serviciu cloud distant, așteptarea unui răspuns și primirea deciziei înapoi nu este doar ineficientă; este fundamental nefuncțională. Latența este inacceptabilă și cerința de fiabilitate nu poate fi îndeplinită. Calculul trebuie să aibă loc pe vehiculul însuși, în timp real, utilizând procesare locală.
Sau luați în considerare aplicațiile reglementate privind confidențialitatea în asistența medicală sau serviciile financiare. GDPR și reglementări similare cer din ce în ce mai mult ca datele personale sensibile să fie procesate în jurisdicții specifice și sub controale de securitate specifice. Transmiterea datelor medicale sau a detaliilor tranzacțiilor financiare către un serviciu cloud din altă țară, chiar și pentru analize legitime, creează complicații de conformitate care fac procesarea centralizată riscantă din punct de vedere legal și operațional.
Sau luați în considerare producția pe linia de fabricație. O facilitate de producție care generează terabytes de date de la senzori de pe echipamentele de producție nu poate, în mod realist, să transmită totul către un serviciu cloud pentru analiză. Costul lățimii de bandă este prohibitiv, latența pentru ajustările procesului în timp real este inacceptabilă, iar riscul rezilienței operaționale este prea mare. Calculul trebuie să aibă loc local.
Acestea nu sunt cazuri marginale. Acestea sunt categorii de bază de aplicații emergente. Și arhitectura cloud computing, prin design, este slab adaptată tuturor acestora.
Schimbarea tehnică necesară
Edge AI necesită o arhitectură tehnică diferită de AI bazat pe cloud. Modelele de învățare automată trebuie să fie mai mici, mai eficiente și optimizate pentru dispozitive cu resurse limitate. Pipeline-urile de inferență trebuie să fie robuste la conectivitatea intermitentă a rețelei. Modelul de securitate trebuie să funcționeze pentru sisteme distribuite, mai degrabă decât centre de date centralizate. Mecanismele de actualizare și versiune trebuie să împingă modificări către mii sau milioane de dispozitive edge în mod eficient și sigur.
Acestea sunt probleme dificile și necesită abordări diferite de dezvoltarea AI cloud. Companiile care le rezolvă nu sunt companii de cloud computing; sunt companii noi care construiesc infrastructură AI optimizată pentru edge.
Mai multe tendințe tehnice converg pentru a face posibilă această tranziție. Tehnicile de compresie și cuantizare a modelelor se îmbunătățesc rapid, permițând modelelor AI sofisticate să ruleze pe dispozitive edge cu resurse de calcul fracționale. Hardware-ul specializat — TPU-uri, NPU-uri și alți acceleratori AI — devine disponibil în dispozitive edge, oferind capacitatea de calcul necesară. Standardele deschise pentru implementarea edge apar, rupând dependența de platforme proprietare.
La NexaTech Ventures, sprijinim companii în trei categorii în cadrul infrastructurii edge AI. Primul, platforme de optimizare și implementare a modelelor care preiau modele AI mari și le comprimă pentru execuția edge. Al doilea, motoare de inferență edge optimizate pentru execuție distribuită cu latență redusă. Al treilea, sisteme de orchestrare edge care gestionează implementarea, actualizările și monitorizarea sarcinilor de lucru AI pe infrastructura edge distribuită.
Unde este poziționată Europa
Avantajul infrastructurii Europei în edge computing este subtil, dar real. Continentul a investit masiv în infrastructura de telecomunicații și implementarea 5G, care oferă capacitatea de rețea și conectivitatea cu latență redusă necesare pentru edge computing. Reglementarea europeană privind protecția datelor, departe de a fi un dezavantaj, stimulează cererea pentru soluții de edge computing care păstrează datele sensibile local.
Mai important, sectoarele europene de producție, automotive și industriale stimulează cererea reală pentru edge AI. Companiile auto germane au nevoie de edge AI pentru vehicule autonome. Producătorii italieni au nevoie de calcul edge pentru producție de precizie. Agricultura olandeză are nevoie de edge AI pentru sisteme de agricultură de precizie. Acest lucru creează un ciclu virtuos în care cererea stimulează investițiile în infrastructura edge AI, care atrage talent și capital, care îmbunătățește capacitatea tehnologiei, care stimulează o adoptare suplimentară.
Narațiunea americană privind edge computing este în prezent dominată de companii cloud care încearcă să-și extindă platformele la edge. AWS, Google Cloud și Azure oferă toate servicii edge. Dar acestea sunt fundamental arhitecturi centrate pe cloud cu edge adăugat. Arhitectura transformatoare edge AI este construită de companii care încep cu presupunerea că calculul are loc la edge și cloud-ul este excepția, nu regula.
Argumentul investiției
Edge computing și edge AI reprezintă o schimbare structurală în modul în care software-ul este implementat și rulat. Nu este o tendință temporară sau o piață de nișă. Este o tranziție arhitecturală fundamentală determinată de cerințe tehnice reale pe care cloud computing nu le poate satisface.
Oportunitatea de investiție se situează pe mai multe niveluri. La nivelul infrastructurii, companiile care construiesc platforme AI optimizate pentru edge și instrumente de implementare creează un avantaj competitiv durabil. La nivelul aplicațiilor, companiile care își rearhetectează software-ul pentru execuția edge — vehicule autonome, sisteme industriale, dispozitive medicale — vor obține avantaje de performanță și fiabilitate care vor fi greu de înlocuit.
La NexaTech Ventures, căutăm companii edge AI care înțeleg atât cerințele tehnice, cât și provocările operaționale. Cele mai bune companii nu doar optimizează algoritmi; construiesc sisteme complete pentru implementarea edge, inclusiv monitorizare, securitate, gestionarea actualizărilor și suport operațional.
Trecerea de la cloud centralizat la edge computing distribuit reprezintă cea mai semnificativă tranziție de infrastructură în tehnologie de la migrarea către cloud. Companiile care se poziționează devreme în această tranziție vor construi afaceri substanțiale și defensibile.
Scott Dylan este fondatorul NexaTech Ventures. El scrie despre infrastructura tehnologică, AI și investiții în tehnologie avansată. Citiți mai multe pe scottdylan.com.
