Data & AI im Jahr 2024 - ein Rückblick
In diesem Jahr haben unsere Kolleginnen und Kollegen auf unterschiedlichen Veranstaltungen Vorträge rund um Data & AI gehalten.
Damit lag der Schwerpunkt dieses Jahr ganz klar auf dem Thema Generative AI in Verbindung mit Good Practices und dem richtigen Rahmen durch Data Security. Neben dem Thema AI, das es regelmäßig bis in die Vorstandsebenen schafft, treiben unsere Kunden die Generierung von Wertschöpfung durch die richtige Architektur und die optimierte Auswahl und Bewertung von Datenprodukten an.
Im Folgenden haben wir einen Auszug aus unseren diesjährigen Vorträgen für Sie zusammengefasst.
Inhalt
- RAG-Architektur und Ausblick in LLMOps in Google Cloud
- Data Fabric - zwischen Vision und Pragmatismus
- Data Security - Auswirkungen von GenAI auf die Data & Analytics Strategie
- Wertexploration von Datenprodukten – Ein Praxisleitfaden
- DINfomotion - Wie man mit ChatGPT und LLMs wirklich Mehrwert im Unternehmen generieren kann
RAG-Architektur und Ausblick in LLMOps in Google Cloud
Ein Beitrag von An Dang und Usame Suud
Die dargestellte Retrival Augmented Generation-Architektur ermöglicht es, die Nutzung intelligenter Chatbots mit internem Wissen zu verbinden. In diesem Fall nutzt eine Versicherung diese Architektur, inklusive eines dazu passenden Prompt Engineering, um User über relevante Fragestellungen zu informieren.
Neben dem Aufbau einer solchen Architektur muss zusätzlich auch an den Betrieb (LLMOps) und die kontinuierliche Weiterentwicklung der Technologien gedacht werden. Wir haben in unseren Projekten gute Erfahrungen mit Google Cloud gemacht und nutzen die Plattform, um solche Prozesse sicher und kosteneffizient aufzusetzen.
Data Fabric - zwischen Vision und Pragmatismus
Ein Beitrag von Peter Baumann
Datenarchitekturen und technologische Fähigkeiten (Capabilities), die Daten nutzbar machen, zielen letztlich darauf ab, Wettbewerbsvorteile für Unternehmen zu generieren. Dies kann sich u. a. am Umsatzwachstum, an einer höheren Marge durch verbesserte Kosten- und Prozesseffizienz oder einer verbesserten Kundenzufriedenheit bemerkbar machen.
Der Aufbau einer Datenarchitektur für Data Fabric erfordert die Bereitstellung spezifischer Fähigkeiten, welche i. d. R. nicht durch einzelne Technologien oder Lösungen erbracht werden können.
Die Data & Analytics Capabilities müssen sich an den notwendigen organisatorischen Fähigkeiten ausrichten und diese optimal unterstützen. Der Data Fabric-Ansatz beschleunigt die Entwicklung von Datenprodukten und unterstützt die Umsetzung komplexer Data Use Cases.
Data Security - Auswirkungen von GenAI auf die Data & Analytics Strategie
Ein Beitrag von Johannes Wenzel
Den Einsatz von GenAI begreifen viele Branchenkenner als Chance. Gleichzeitig steigt jedoch auch die Wahrnehmung für damit verbundene Risiken. Initiativen wie der aktuell in Umsetzung befindliche EU AI Act rücken dies zusätzlich ins Bewusstsein der Unternehmen.
Die Integration in die Data & Analytics Strategie, sowie ein frühes Einbeziehen der Verantwortlichen für Informationssicherheit hilft, Enttäuschungen zu vermeiden und mit Hilfe von Prozessen und Governance einen unterstützenden Rahmen für interne GenAI-Initiativen zu schaffen.
Wertexploration von Datenprodukten – Ein Praxisleitfaden
Ein Beitrag von Laura Weber und Alexander Bauer
Viele Datenvorhaben scheitern, weil bestimmte Voraussetzungen fehlen:
- eine ausreichende Datenkultur
- die notwendige Flexibilität
- eine klare Wertorientierung
Erfolgskriterien können für jedes Unternehmen individuell sein. Bei der Bewertung von Datenprodukten darf die Komplexität nicht durch eine hohe Anzahl an Erfolgskriterien getrieben werden. Die Kriterien sollten praxisnah und effizient gewählt werden. Ebenso sollte darauf geachtet werden, dass keine starke Korrelation zwischen diesen Kriterien besteht.
Mit dem “Most Wanted”-Ansatz werden Datenprodukte auf den Wertbeitrag für strategische Ziele ausgerichtet. Dies schafft Transparenz, Nachvollziehbarkeit und einen hohen strategischen Fit.
DINfomotion - Wie man mit ChatGPT und LLMs wirklich Mehrwert im Unternehmen generieren kann
Ein Beitrag von An Dang
In dem vorgestellten Kundenszenario wurden verschiedene Ansätze ausprobiert, um den passenden Aufsatz für die jeweilige Zielgruppe und Anwendungsgebiete zu finden. Das Arbeiten mit LLMs ermöglicht verschiedene Wege, den individuellen Unternehmenskontext nutzbar zu machen. Dabei müssen Themen wie Datenschutz und Kosten beachtet werden.
Der beste Ansatz macht die Applikation noch nicht zum Selbstläufer. Beispielsweise kommt es nach wie vor darauf an, wie gut die Fragen aufgebaut sind. Oftmals gibt es zudem keine oder nur eine eingeschränkte Historie. Die sinnvolle Nutzung der Modelle bleibt ein Lernprozess auf beiden Seiten.
Ein Beitrag von:
Peter Baumann
INFOMOTION
Die Data-Performance-Welt dreht sich schnell: Mit unserem Newsletter bleiben Sie immer up to data!