Anzeige
Anzeige
Beitrag drucken

Plattform für den Data Lake

Navigieren auf dem Datensee

Eine Methode zur Verwaltung großer Datenmengen ist das Anlegen eines Data Lakes. Dort liegen Rohdaten in ihrem ursprünglichen Format ab, statt sich auf verschiedene Silos im Unternehmen zu verteilen. Mit speziellen Plattformen für das Datenmanagement lassen sich diese Informationspools analysieren und der Umgang mit ihnen automatisieren. Viele Aufgaben der IT-Sicherheit und Compliance gehen so leichter von der Hand.

Plattform für den Data Lake - Navigieren auf dem Datensee

Bild: © NicoElNino / Fotolia.com

Immer mehr Unternehmen gehen dazu über, ihre stetig wachsenden Datenvolumen in großen Data Lakes abzulegen. Darin werden Rohdaten in ihrem Ausgangsformat gespeichert und erst abgerufen sowie in ein anderes Format umgewandelt, wenn sie tatsächlich benötigt werden. Dabei verfügt jedes Datenelement über ein einzigartiges Merkmal und ist durch einen Satz von Metadaten gekennzeichnet. Dieses Speicherkonzept bietet u.a. den Vorteil, dass es sich um eine flache Architektur handelt. In einem Data Warehouse, in dem Daten hierarchisch in Files und Folders abgespeichert werden, handelt es sich beim Data Lake um eine flache Architektur. Dadurch kann dieser eine nahezu unbegrenzte Menge an Informationen aufnehmen. Zudem lassen sich logische Zusammenhänge zwischen den Daten untereinander schneller erkennen und nutzen. Dies beschleunigt die Analyse großer Datenmengen deutlich.

Günstige Lagerkosten

Darüber hinaus ist im Data Lake die Aufbewahrung der Daten verglichen mit einem Data Warehouse kostengünstiger. Zudem können Data Lakes dazu beitragen, Informationssilos in Unternehmen aufzubrechen und über alle Abteilungen hinweg einen großen, einheitlichen Daten-Pool zur Verfügung zu stellen. So lassen sich Aufgaben auf dem Feld Business Analytics und Data Mining leichter umsetzen.

Automatisiert und orchestriert

Die daraus gewonnenen Erkenntnise sollen helfen, das Unternehmen strategisch auszurichten, Betriebskosten zu senken, den Kundenservice zu verbessern und Risiken zu minimieren – so erwarten es Datenexperten. Doch gerade im Hinblick auf neue Compliance-Vorschriften wie die europäische Datenschutzgrundverordnung (DSGVO) steigen die Anforderungen an den Umgang mit Data Lakes, der tendenziell zunehmend automatisiert und effizient orchestriert werden soll. Erschwert wird das, wenn die gespeicherten Informationen in einer heterogenen Infrastruktur bestehend aus On-premises-Systemen und öffentlichen sowie privaten Cloud-Instanzen verflochten sind.

Plattform für den Data Lake - Navigieren auf dem Datensee | Die anfallenden Daten aus den verschiedenen System sind erst dann nützlich, wenn sie den Weg zu den richtigen Geschäftsentscheidungen weisen.

Bild: © Raw pixel / Unsplash.com

Management-Plattform

Auf dem Markt verfügbare spezielle Datenmanagement-Plattformen helfen Anwender dabei, anfallende Daten – insbesondere auch unstrukturierte Daten – über Unternehmensbereiche hinweg zu analysieren, zu kennzeichnen und zu indexieren. In Bezug auf die DSGVO können Firmen mit solchen Plattformen zum Beispiel Kundennamen, E-Mail-Adressen, Anschriften, Telefonnummern oder Statuskommentare schnell und automatisiert auffinden sowie bereitstellen. Das funktioniert unabhängig vom Speicherort, also in lokalen On-premises-Systemen und angebundener Cloud-Infrastrukturen. Auf diese Weise können Informationen selbst in flachen Data-Lake-Architekturen lokalisiert werden.

Single-Source-of-Truth

Die Plattformen können auch für die Übertragung von Daten aus Rechenzentren in die Cloud und zurück sowie zwischen verschiedenen Cloud-Plattformen sorgen. Auch lassen sich Datenmanagement-Prozesse wie Backup, Recovery und Archivierung vergleichsweise einfach abwickeln und automatisieren. Im Sinne einer Single-Source-of-Truth stehen so die Daten eines Unternehmens einheitlich für Auswertungen zur Verfügung. Zudem lassen sich die Daten auf Applikationsebene vor Hacker-Angriffen durch Ransomware und andere Malware schützen. Ist ein Angreifer dennoch durchgekommen, helfen die Plattformen beim Disaster Recovery.

Fazit

Mit dem Einrichten eines Data Lakes lässt sich die im Rahmen der Digitalisierung anfallende Datenflut besser bewältigen. Unternehmen können damit eine Silo-basierte Datenhaltung auflösen. Datenmanagement-Lösungen helfen dabei, selbst große Datensammlungen zu analysieren. Solche Lösungen bieten Funktionen rund um Backup, Recovery und Archivierung, zuweilen auch mit Automatisierungswerkzeugen. Mit einem nach dem Single-Source-of-Truth-Prinzip vorgehaltenen Datenpool lassen sich zudem unterschiedliche Datenschutzbestimmungen wie die DSGVO einfacher einhalten.


Commvault-Plattform zum Datenmanagement setzt auf KI

Das IT-Unternehmen Commvault sieht als Anbieter einer Datenverwaltungsplattform großes Potenzial in den Bereichen künstliche Intelligenz, Machine Learning, maschinelle Sprachverarbeitung und mitdenkenden Suchfunktionen. Mit Lucidworks zusammen entwickelt das Unternehmen aktuell neue Lösungen auf Basis dieser Technologien. Ziel dabei ist es, KI-basierte Verfahren für bessere Datensicherungsprozesse zu nutzen. Unternehmen sollen so schneller nützliche Informationen aus ihren Datenbeständen extrahieren können. Und durch die Integration des Java-basierten Frameworks Apache Hadoop in die Commvault-Plattform können Firmen ihre Daten in entsprechenden Big-Data-Umgebungen effizient verwalten.


Das könnte Sie auch interessieren:

PerfectPattern hat die kostenlose Basisversion von Insights App vorgestellt. Mit der Software können Prozessingenieure, Produktionsexperten und Datenwissenschaftler die von PerfectPattern entwickelte KI-Technologie Aivis nutzen, um Einblicke in Produktionsprozesse zu erhalten.‣ weiterlesen

Die Buss-Unternehmensgruppe ist in vielen unterschiedlichen Geschäftsfeldern tätig. Eine Herausforderung, stand doch ein Wechsel des ERP-Systems ins Haus - mit mehr als 80 Unternehmen innerhalb der Gruppe. Gemeinsam mit dem IT-Dienstleister Sven Mahn IT gelang es, das Projekt innerhalb von 14 Wochen umzusetzen.‣ weiterlesen

Werden neue Technologien wie beispielsweise künstliche Intelligenz Teil des Arbeistalltages wünscht sich ein Großteil der unter 31-Jährigen, darüber informiert zu werden. Dies geht aus einer Studie des IT-Security-Anbieters Kaspersky hervor. Auch ein menschliches Antlitz könnte laut Studie für mehr Akzeptanz sorgen.‣ weiterlesen

Schlechtere Stimmung als noch im Juni. Geschäftsklima-Index des Ifo Instituts hat in der aktuellen Erhebung im Vergleich zum Vormonat nachgegeben.‣ weiterlesen

Die Sprints zu Covid19-Impfstoffen zeigen den Leistungsdruck, unter dem die Technologieentwicklung steht. In kürzester Zeit sollen Forscher und Ingenieure Lösungen für die kritischen Probleme unserer Zeit finden. Der Accelerated-Discovery-Ansatz soll helfen, Forschungs- und Entwicklungsprozesse mit KI, Hybrid Cloud und schließlich Quantencomputern um das zehn- bis hundertfache des heute Möglichen zu beschleunigen.‣ weiterlesen

Trebing + Himstedt hat die Partnerschaft mit Celonis bekanntgegeben. Die Unternehmen wollen zukünftig beim Thema Process Mining zusammenarbeiten.‣ weiterlesen

Im Rahmen einer Partnerschaft wollen Crate.io und Zühlke zukünftig gemeinsam an Smart Factory- und Industrie 4.0-Lösungen arbeiten.‣ weiterlesen

Die Dualis GmbH IT Solution hat für Lean-Manufacturing-Aufgabenstellungen ein Add-on zur 3D-Simulationsplattform Visual Components entwickelt. Basierend auf Process Modelling können damit automatisch branchengängige Standardized Work Sheets generiert werden.‣ weiterlesen

Um verschiedene Daten aufzubereiten und den Mitarbeitern nutzenbringend bereitzustellen, ist nicht immer ein großes IT-Projekt nötig. Wer schnell Daten für die Beschäftigten visualisieren möchte, sollte sich einmal näher mit Dashboards befassen.‣ weiterlesen

Die Simulation am digitalen Zwilling macht die Inbetriebnahme von Anlagen und Maschinen mit automatisierten Bewegungen sicherer. Fehler fallen früher auf und können behoben werden, bevor die Anlage aufgebaut ist. So lassen sich Schäden und Verzögerungen vermeiden. Auch als Schulungstool für Bediener und Programmierer ist die digitale Maschine hilfreich.‣ weiterlesen

ISPE, APV, Concept Heidelberg und die VDI/VDE Gesellschaft Mess- und Automatisierungstechnik richten am 30. November bis zum 1. Dezember 2021 im Dorint Kongresshotel in Mannheim die 14. Offizielle GAMP 5 Konferenz aus.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige