Google kondigt open source ML compilerproject OpenXLA aan

Tijdens Next '22 evenement heeft Google Cloud de lancering aangekondigd van een open source machine learning compiler ecosysteem, OpenXLA. OpenXLA is een door de gemeenschap geleid en open source ecosysteem van ML-compiler- en infrastructuurprojecten die mede zijn ontwikkeld door Google en andere AI/ML-ontwikkelaars, waaronder AMD, Arm, Meta, NVIDIA, AWS, Intel en Apple.

Incompatibiliteit tussen frameworks en hardware kan de ontwikkeling van ML belemmeren, en OpenXLA wil dit aanpakken door ontwikkelaars flexibiliteit te bieden als het gaat om de frameworks en hardware die ze kiezen voor ML-projecten. Volgens het OpenXLA projecthandvest is het doel van het project het efficiënt verlagen, optimaliseren en implementeren van ML-modellen van de meeste grote frameworks, zoals PyTorch en TensorFlow, naar elke hardware backend (met name CPU's, GPU's en ML ASIC's) mogelijk te maken door samenwerking met grote ML-frameworks en hardwareleveranciers.

In een blogbericht legt Sachin Gupta, Google VP en GM van infrastructuur, uit dat het eerste doel van het nieuwe communityproject een gezamenlijke evolutie zal zijn van de XLA-compiler, een compiler die werd ontwikkeld om het modelleren in TensorFlow te stroomlijnen door het trainingsproces te versnellen en het totale geheugenverbruik te verminderen. De compiler wordt nu losgekoppeld van TensorFlow en OpenXLA zal werken aan het bouwen van StableHLO, een draagbare ML compute operation set die fungeert als een overdraagbaarheidslaag tussen machine-learning frameworks en compilers.

Doelstellingen van OpenXLA zijn:
• Industriële samenwerking rond XLA versnellen en een levendige OSS-gemeenschap opbouwen.
• Delen en ontvangen van feedback over de technische richting voor OpenXLA en ervoor zorgen dat het voldoet aan de behoeften van de belangrijkste gebruikers en bijdragers.
• Een nieuwe XLA repository of organisatie opzetten met onafhankelijke build/test, met infra om gemakkelijker PR's te aanvaarden, en die onafhankelijk is van hardware en framework.
• Ervoor zorgen dat de extractie van XLA uit TensorFlow de bestaande gebruikers en medewerkers zo min mogelijk verstoort.
• Een productidentiteit creëren met een eigen merk, website, documenten en communicatiekanalen.
• De oprichting van een bestuur buiten TensorFlow bespreken.

Het lidmaatschap van OpenXLA staat open voor iedereen die betrokken is bij de ontwikkeling van of integratie met XLA, inclusief vertegenwoordigers van ML-frameworks, hardwareplatforms, gebruikers en integratoren. Om deel te nemen kunnen leden een uitnodiging aanvragen voor de GitHub organisatie en SIG Discord, die op een later tijdstip worden aangekondigd.