06-11-2019

Netflix biedt data science notebook Polynote als open source

Deel dit bericht


Data scientists die in Scala werken kunnen nu aan de slag met een door Netflix opgezet eigen data science-notebook. Onder de naam Polynote is het vrijgegeven als open source.

Polynote is een polyglot product en ondersteunt als zodanig meerdere talen, waaronder Scala, Python en SQL. Ontwikkelaars kunnen code in elk van deze talen schrijven en Polynote zal deze getrouw in alle cellen uitvoeren. Netflix-ontwikkelaars Jeremy Smith, Jonathan Indig en Faisal Siddiqi hebben Polynote opgezet na de tekortkomingen die ze zagen in bestaande notebooktools, vooral met betrekking tot ondersteuning van Scala.

Netflix bouwde Polynote om meer te werken als een volwaardige geïntegreerde ontwikkelomgeving (IDE) dan typische data science-notebooks. Daartoe bouwde het bedrijf Polynote's code-interpretatie helemaal opnieuw op in plaats van te vertrouwen op een read-evalu-print-loop (REPL) zoals een traditionele notebook. De rich text-editor van de notebook biedt andere IDE-achtige functies, waaronder syntax error markering, auto-complete en parameterhints. Het biedt ook integratie met Apache Spark, wat zou moeten helpen een aantal van de afhankelijkheidsproblemen te verminderen die vaak door Spark-ontwikkelaars worden ervaren.

"Met Spark werken ontwikkelaars in een clustercomputeromgeving waar het absoluut noodzakelijk is dat hun gedistribueerde code in een consistente omgeving wordt uitgevoerd, ongeacht welk knooppunt wordt gebruikt", schrijft Netflix. "Tenslotte hebben we geconstateerd dat onze gebruikers ook gefrustreerd waren met de code editing mogelijkheden in notebooks, vooral als ze gewend waren IntelliJ IDEA of Eclipse te gebruiken."

Polynote sluit aan op visualisatiebibliotheken van matplotlib, wat vrij standaard is bij notebooks. Het ondersteunt ook data exploration mogelijkheden dankzij een data schema view, table inspector, plot constructor en ondersteuning voor Vega.

Netflix is biedt Polynote onder een Apache 2-licentie. Het project wordt onderhouden op GitHub
Meer informatie: polynote.org

Partners