INFOMOTION @ TDWI Konferenz 2024 (German)
Aktuelle Trends und Themen in Data & Analytics von INFOMOTION auf der TDWI
Meine Kollegen und ich haben dieses Jahr auf der TDWI-Konferenz in München einige Vorträge gehalten und freuen uns immer mit der Community darüber in Kontakt zu kommen und uns über die Themen auszutauschen.
Im Folgenden die Themen unserer Vorträge auf der TDWI Konferenz 2024 in München.
DINfomotion - Wie man mit ChatGPT und LLMs wirklich Mehrwert im Unternehmen generieren kann von An Dang
RAG-Architektur und Ausblick in LLMOps in Google Cloud von An Dang und Usame Suud
Stichwort Data Fabric - Zwischen Vision und Pragmatismus von Peter Baumann
Data Security – Auswirkungen von GenAI auf die Data & Analytics Strategie von Johannes Wenzel
Wertexploration von Datenprodukten – Ein Praxisleitfaden von Laura Weber und Alexander Bauer
Damit lagen die Schwerpunkte diese Jahr ganz klar auf dem Thema Generative AI, in Verbindung mit Good Practices und dem richtigen Rahmen durch Data Security, was viele unserer Kunden antreibt und das Thema AI wieder bis in die Vorstandsebenen gehoben hat, sowie die Generierung eines Wertbeitrags von Daten durch die richtige Architektur und die optimierte Auswahl und Bewertung von Datenprodukten.
RAG-Architektur und Ausblick in LLMOps in Google Cloud
Die dargestellte Retrival Augmented Generation (RAG)-Architektur ermöglicht es, intelligente ChatBots mit internem Wissen zu verbinden. Im dargestellten Fall nutzt bspw. eine Versicherung diese Architektur, und ein dazu passendes Prompt Engineering, um User zu informieren und dabei deren persönlichen Kontext zu berücksichtigen.
Abb. 1: Prozessdiagramm für Retrival Augmented Generation (RAG)
Neben dem Aufbau einer solchen Architektur, wie im Vortrag mit Google Cloud Platform (GCP) dargestellt, muss im Weiteren auch an den Betrieb (LLMOps) und die momentan kontinuierliche Weiterentwicklung der Technologien gedacht werden. Als INFOMOTION haben wir hier mit Google Cloud gute Erfahrungen gemacht, solche Prozesse bis hin zum Betrieb sicher und kosteneffizient aufzusetzen.
Stichwort Data Fabric - Zwischen Vision und Pragmatismus
Datenarchitekturen und technologische Fähigkeiten (Capabilities) zur Nutzbarmachung von Daten zielen letztendlich darauf ab, für das Unternehmen Wettbewerbsvorteile zu erzielen. Dies kann sich u. a. in Umsatzwachstum, einer verbesserten Marge durch erhöhte Kosten- und Prozesseffizenz oder eine verbesserte Kundenzufriedenheit bemerkbar machen.
Abb. 2: Der Wirkmechanismus von Datenarchitektur am Beispiel einer Data Fabric
Der Aufbau einer Datenarchitektur für Data Fabric erfordert die Bereitstellung spezifischer Fähigkeiten (Capabilities), welche i. d. R. nicht durch einzelne Technologien oder Lösungen bereitgestellt werden können.
Die Data & Analytics Capabilities müssen sich an den notwendigen organisatorischen Fähigkeiten ausrichten und diese optimal unterstützen. Als Folge können mit dem Data Fabric-Ansatz, komplexe Data Use Cases umgesetzt und eine Beschleunigung der Entwicklung von Datenprodukten erreicht werden.
Data Security – Auswirkungen von GenAI auf die Data & Analytics Strategie
Den Einsatz von GenAI begreifen viele aktuell als Chance. Zunehmend steigt jedoch auch die Wahrnehmung für damit verbundene Risiken. Initiativen wie der aktuell in Umsetzung befindliche EU AI Act rücken dies zusätzlich ins Bewußtsein der Unternehmen.
Abb. 3: Spezifische Risiken für Generative AI nach dem Open Worldwide Application Security Project (OWASP)
Die Integration in die Data & Analytics Strategie, sowie ein frühes Einbeziehen der Verantwortlichen für Informationssicherheit hilft, Enttäuschungen zu vermeiden und mit Hilfe von Prozessen und Governance einen unterstützenden Rahmen für die eigenen GenAI-Initiativen zu schaffen.
Wertexploration von Datenprodukten – Ein Praxisleitfaden
Viele Datenvorhaben scheitern, weil die Voraussetzung, wie eine ausreichende Datenkultur, die notwendige Flexibilität auf Basis neuer Erkenntnisse zu handeln oder eine klare Wertorientierung zu wenig ausgeprägt sind.
Abb. 4: Übersicht zur Wertexploration von Datenprodukten
Erfolgskritieren können für jedes Unternehmen individuell sein. Bei der Bewertung von Datenprodukten darf die Komplexität nicht durch eine hohe Anzahl an Erfolgskriterien getrieben werden. Die Kriterien müssen praxisnah und effizient gewählt werden. Ebenso muss darauf geachtet werden, dass keine starke Korrelation zwischen diesen Kriterien besteht.
Mit einem “Most Wanted”-Ansatz werden Datenprodukte auf den Wertbeitrag für strategische Ziele ausgerichtet. Dies schafft Transparenz, Nachvollziehbarkeit und einen hohen strategischen Fit.
DINfomotion - Wie man mit ChatGPT und LLMs wirklich Mehrwert im Unternehmen generieren kann
In dem vorgestellten Kundenszenario wurden verschiedene Ansätze evaluiert, um den passenden Aufsatz für die jeweilige Zielgruppe und Anwendungsgebiete zu finden. Das Arbeiten mit Large Language Models (LLM) ermöglicht verschiedene Wege, den individuellen Unternehmenskontext nutzbar zu machen. Dabei müssen Themen wie Datenschutz und Kosten beachtet werden.
Abb. 5: Customer Case - LLM bei der DIN
Der beste Ansatz macht die Applikation noch nicht zum Selbstläufer. Beispielsweise müssen Nutzer trotzdem noch gute Fragen formulieren oder eine Historisierung des Dialogs ist nur beschränkt möglich. Die Nutzbarmachung muss daher als Lernkurve auf allen Seiten betrachtet werden.
Bei Interesse für einen weiteren Austausch zu den Themen freuen wir uns über den Kontakt auf LinkedIn oder gerne auch allgemein per Mail an info@infomotion.de oder über unsere Webseite https://www.infomotion.de/