Versicherungen

RealTime DWH

Online-Synchronisation von Daten zwischen dem Versicherungskernsystem SIRAEL und dem DWH mittels Apache Kafka für die Generali Česká Poisťovňa SK (GČP).

Gegenstand der Lieferung war:

Durchführung eines PoC für die Online-Synchronisation der Daten einer ausgewählten Teilmenge von Tabellen, in dessen Rahmen 

  • ein Log-basierter CDC-Source-Connector für die IBM-Informix-Datenbank geliefert wurde, der die Erfassung der in der Quelldatenbank SIRAEL vorgenommenen Änderungen sicherstellt,
  • ein JDBC-Sink-Connector für das Schreiben von Daten in die MS-SQL-Datenbank des DWH konfiguriert wurde,
  • ein Mechanismus zur initialen Befüllung der synchronisierten Tabellen unter Verwendung von IBM Informix External Tables und T-SQL Bulk Insert erstellt wurde,
  • ein Mechanismus vorbereitet wurde, der die Verarbeitung der erfassten Transaktionen (Commit, Rollback) auf Seiten der MS-SQL-Datenbank sicherstellt,
  • ein Verfahren zur Historisierung von Änderungen in den synchronisierten Tabellen in MS SQL konzipiert wurde.

Umsetzung der gesamten Lösung für die Online-Synchronisation der Daten, in deren Rahmen

  • die Lösung auf die gesamte Menge der synchronisierten Daten (mehr als 300 Tabellen) erweitert wurde, wobei die Menge der synchronisierten Tabellen durch Metadaten gesteuert wird, die in Konfigurationstabellen in MS SQL gespeichert sind,
  • die Betriebsprozesse definiert und feinjustiert wurden,
  • ein produktiver Apache-Kafka-Cluster installiert und konfiguriert wurde,
  • Tools für das Monitoring der Lösung (Prometheus, Grafana) installiert und eingerichtet wurden,
  • die erstmalige Initialisierung der DWH-Datenbank auf MS SQL durchgeführt wurde.

Im Rahmen des Projekts gelang es,

  • eine Plattform für die Online-Synchronisation von Daten mittels Apache Kafka aufzubauen,
  • das DWH direkt an die Produktivdatenbank des Kernsystems SIRAEL anzubinden, ohne dass eine tägliche Kopie der Quelldatenbank auf IBM Informix erstellt werden muss,
  • die Erstellung von Online-Reports auf Seiten des DWH zu ermöglichen und damit das Kernsystem im Betrieb zu entlasten,
  • eine vertrauenswürdige Datenquelle bereitzustellen, die Informationen über alle im Kernsystem SIRAEL vorgenommenen Änderungen enthält, und damit die Implementierung optimierter Datenpumpen zu ermöglichen, die bei zeitkritischen Verarbeitungen nur geänderte Daten verarbeiten.