Van generieke naar specialistische databaseservers

De interesse voor big data heeft geleid tot een explosie van nieuwe producten voor gegevensopslag en -verwerking. Maar buiten het feit dat er veel nieuwe producten bijgekomen zijn, is er nog iets anders veranderd, iets dat sommigen misschien ontgaan is. Veel van de nieuwe databaseservers zijn specialistische en geen generieke producten. Dit heeft effect op hoe en waar ze in, bijvoorbeeld, BI- of operationele systemen ingezet kunnen worden.

Maar laten we bij het begin beginnen. Het zal niemand ontgaan zijn dat er de laatste jaren veel databaseservers bijgekomen zijn. Werd tien jaar geleden de markt nog gedomineerd door bekende SQL-producten van IBM, Microsoft en Oracle, tegenwoordig bestaan er NoSQL-databaseservers, Hadoop-gebaseerde platformen, streaming databaseservers, graph databaseservers en databaseservers die maximaal gebruik maken van GPU’s. De bekende SQL-databaseservers zijn generieke databaseservers. Ze zijn inzetbaar voor een breed scala aan toepassingen. Ze kunnen ingezet worden in, bijvoorbeeld, transactionele systemen, BI-systemen waar de nadruk ligt op rapporten en analyses en in websites. Ze zijn generiek. Dit betekent dat ze voor veel toepassingen geschikt zijn, maar nergens echt in uitblinken.

De meeste nieuwe databaseservers daarentegen zijn specialistische producten. Ze zijn ontwikkeld om een of twee toepassingen zeer goed te ondersteunen. Bijvoorbeeld, graph databaseservers, zoals AllegroGraph en Neo4j zijn speciaal ontwikkeld voor graph analytics en zijn daar dus ook erg sterk in. Producten als Apache HBase en MongoDB zijn geoptimaliseerd voor transactionele systemen waar de noodzaak voor dynamische databasestructuren groot is en waar gewerkt kan worden met eventual consistency voor transactiebeheer. Maar voor het analyseren van data zijn dit soort producten ronduit zwak. Dit geldt trouwens voor veel vergelijkbare NoSQL-producten: zeer sterk in transacties en zwak in analyses. Daarnaast bestaan er producten als MarkLogic en InterSystems Caché die elk weer hun eigen toepassingsgebieden hebben. Tenslotte, GPU-databases als MapD en Kinetica zijn speciaal ontwikkeld voor zware complexe analyses van gestructureerde big data.
Kortom, de markt van databaseservers is drastisch veranderd: van generieke naar specialistische producten. Dit betekent dat organisaties in detail moeten weten wat de karakteristieken van hun toepassingen zijn plus moeten zij weten wat de eigenschappen zijn van die producten zijn en dan de beste match zien te vinden. Dit vereist veel diepgaande kennis van de producten en van de toepassingen.

Helaas moet geconstateerd worden dat dit al diverse malen fout gegaan is. Organisaties hebben producten aangeschaft die geheel niet bij hun toepassingen pasten met als consequentie dat systemen opnieuw gebouwd moesten worden.
Bij het opzetten van BI-systemen moet dus ook aandachtig bestudeerd worden welke van deze nieuwe producten waar gebruikt kunnen worden? Waar kunnen bijvoorbeeld oplossingen zoals Kafka en streaming databases goed ingezet worden en wanneer is Spark nuttig? En hoe voorkomen we dat al deze nieuwe technologieën geïsoleerde oplossingen worden die weinig tot niet geïntegreerd zijn met het huidige BI-systeem? Het algemene advies is, bestudeer in detail wat de mogelijkheden en het primaire toepassingsgebied van een product zijn en bepaal dan waar en hoe deze ingezet kan worden in een BI-systeem.

Opmerking: Dit onderwerp zal uitgebreid besproken worden tijdens de DW&BI Summit 2018.