De Apache Software Foundation heeft aangekondigd dat Apache Paimon van incubatieproject tot Top-Level Project is gepromoveerd. Paimon is een data lake formaat dat real-time lakehouse architecturen mogelijk maakt, gebouwd met Apache Flink en Apache Spark voor streaming en batch operaties. Paimon combineert op innovatieve wijze lake format en log-structured merge-tree (LSM) om real-time streaming updates in het data lake te brengen.
Paimon, voorheen bekend als Flink Table Store, werd voor het eerst ontwikkeld door de Flink-gemeenschap. Paimon wordt wereldwijd gebruikt in productieomgevingen door bedrijven als Alibaba, Ant Group, Bytedance, China Unicom en Tongcheng. Feng Wang, hoofd Open Data Platform bij Alibaba Cloud, is blij dat Paimon nu een ASF-project van topniveau is geworden. "Paimon stelt Alibaba nu in staat om real-time updates en analyses uit te voeren op Lakehouse-architectuur, en we zullen Paimon in de toekomst ook inzetten voor AI-activiteiten."
Als streaming data lake platform stelt Paimon gebruikers in staat om gegevens te verwerken in zowel batch als streaming modi. De belangrijkste kenmerken en voordelen zijn
• Snelle gegevensverwerking: Paimon's append tabel (geen primaire sleutel) biedt grootschalige batch- en streamingverwerkingsmogelijkheden;
• Flexibele updates: Paimon geeft gebruikers de flexibiliteit om te kiezen bij het updaten van records, inclusief deduplicatie om de laatste rij te behouden; gedeeltelijke updates; aggregatierecords; updates van de eerste rij;
• Snelle real-time analyse: Door gebruik te maken van Flink Streaming ondersteunt Paimon's primaire sleuteltabel real-time streaming updates van grote hoeveelheden gegevens. Paimon voert real-time query's uit binnen een minuut;
• Vereenvoudigde Changelog productie: Paimon vereenvoudigt de streaming analytics van gebruikers door nauwkeurige en volledige changelog updates te produceren voor merge engines; en
• Data Query's met lage latentie: Paimon ondersteunt gegevensverdichting met z-order sortering om de bestandsindeling te optimaliseren. Door indexen zoals minmax te gebruiken, maakt Paimon ook snelle query's mogelijk op basis van data die wordt overgeslagen.
14 en 15 mei 2025 Organisaties hebben behoefte aan data science, selfservice BI, embedded BI, edge analytics en klantgedreven BI. Vaak is het dan ook tijd voor een nieuwe, toekomstbestendige data-architectuur. Dit tweedaagse seminar geeft antwoord op...
19 t/m 21 mei 2025Praktische driedaagse workshop met internationaal gerenommeerde trainer Lawrence Corr over het modelleren Datawarehouse / BI systemen op basis van dimensioneel modelleren. De workshop wordt ondersteund met vele oefeningen en praktij...
20 en 21 mei 2025 Deze 2-daagse cursus is ontworpen om dataprofessionals te voorzien van de kennis en praktische vaardigheden die nodig zijn om Knowledge Graphs en Large Language Models (LLM's) te integreren in hun workflows voor datamodelleri...
22 mei 2025 Workshop met BPM-specialist Christian Gijsels over AI-Gedreven Business Analyse met ChatGPT. Kunstmatige Intelligentie, ongetwijfeld een van de meest baanbrekende technologieën tot nu toe, opent nieuwe deuren voor analisten met innovatie...
17 t/m 19 november 2025 De DAMA DMBoK2 beschrijft 11 disciplines van Data Management, waarbij Data Governance centraal staat. De Certified Data Management Professional (CDMP) certificatie biedt een traject voor het inleidende niveau (Associate) tot...
Alleen als In-house beschikbaar Het Logical Data Warehouse, een door Gartner geïntroduceerde architectuur, is gebaseerd op een ontkoppeling van rapportage en analyse enerzijds en gegevensbronnen anderzijds. Een flexibelere architectuur waarbij snell...
Deel dit bericht