Oracle schaalt AI-infrastructuur met HPE-netwerken
Oracle gaat HPE Juniper Networking meerjarig wereldwijd inzetten om de AI-infrastructuur van Oracle Cloud Infrastructure (OCI) verder op te schalen. Dat meldt HPE vorige week in een persbericht over de uitbreiding van de samenwerking tussen beide bedrijven.
OCI bouwt steeds grotere AI-superclusters waarin grote aantallen GPU’s gezamenlijk AI-modellen trainen en uitvoeren. Die groei stelt volgens HPE hoge eisen aan de onderliggende netwerkinfrastructuur. Niet alleen bandbreedte is daarbij belangrijk, maar ook latency, congestiebeheer en beschikbaarheid.
HPE Juniper Networking wordt al gebruikt in het datacenter- en edge-netwerk van OCI. Oracle wil de technologie nu breder inzetten in datacenters over de hele wereld. Het gaat daarbij om verschillende routing- en switchingplatforms die zowel regionale datacenters als de verbindingen tussen AI-clusters ondersteunen.
De netwerkcapaciteit wordt belangrijker naarmate GPU-clusters groter worden. GPU’s moeten tijdens het trainen en uitvoeren van AI-modellen grote hoeveelheden data onderling uitwisselen. Een netwerkvertraging of storing kan daardoor rechtstreeks gevolgen hebben voor het gebruik van de beschikbare rekenkracht.
AI-backbone
Oracle gebruikt onder meer QFX-switches voor AI-backbonenetwerken op basis van RoCEv2. Deze technologie maakt het mogelijk om data met weinig tussenstappen via Ethernet tussen systemen uit te wisselen.
Volgens HPE ondersteunen de switches daarnaast dynamische loadbalancing en geavanceerd congestiebeheer. Daarmee moet netwerkverkeer over grote AI-clusters beter worden verdeeld en moeten knelpunten worden beperkt.
De samenwerking omvat ook de verdere ontwikkeling van telemetrie. Oracle en HPE willen daarmee gedetailleerder kunnen volgen hoe netwerkapparatuur en de netwerkfabric zich gedragen.
Problemen voorspellen
De telemetrie moet onder meer oplopende wachtrijen, pakketverlies, ongelijke verkeersverdeling en verslechtering van componenten eerder zichtbaar maken. OCI kan daardoor volgens de bedrijven sneller ingrijpen voordat netwerkproblemen grote gevolgen hebben voor AI-workloads.
Dat is vooral relevant bij grootschalige AI-infrastructuur, waar ongebruikte GPU-capaciteit door netwerkproblemen kostbaar kan zijn. Oracle wil daarom niet alleen de rekencapaciteit uitbreiden, maar ook de infrastructuur rondom die GPU’s verder optimaliseren.
De uitbreiding bouwt voort op een samenwerking tussen Oracle en Juniper Networks die al meer dan tien jaar bestaat. Sinds de overname van Juniper Networks door HPE valt de netwerktechnologie binnen het HPE-portfolio.
Bron: HPE
