3 Erkenntnisse aus dieser Folge
- 01
Eigene LLMs machen für Banken mehr Sinn als für andere Branchen. Regulierung verlangt Datenhoheit, spezialisierte Sprache verlangt Fein-Tuning.
- 02
DKB setzt nicht auf 'eigenes GPT-4' — sondern auf kleinere, spezialisierte Modelle für konkrete Cases. Das ist realistisch.
- 03
Die Infrastruktur-Kosten für LLM-Training sind hoch — aber für Banken oft gerechtfertigt durch Compliance-Vorteile.
Worum es in dieser Folge geht
Torsten leitet AI bei DKB — einer der größten deutschen Direktbanken. Wir sprechen über den Aufbau eigener Large Language Models im Bankenkontext.
Die Storyline
Warum Banken eigene LLMs brauchen
Wir können Kundendaten nicht durch OpenAI-APIs schicken. Das ist regulatorisch nicht verhandelbar. Also brauchen wir Alternativen — eigene Modelle, oder On-Premise-Deployment.
Das ist der regulatorische Druck. Banking-Daten unterliegen strengen Auflagen — Standard-LLM-Nutzung ist oft unmöglich.
Der pragmatische Weg
Torsten ist klar: Niemand baut in einer Bank ein eigenes Grundlagen-Modell. Aber: - Fein-Tuning vorhandener Open-Source-Modelle. - Spezialisierte Modelle für konkrete Use Cases. - Hybrid-Setups: Allgemeines über Anbieter, Sensibles eigenes.
Banking-LLM-Use-Cases
- Interne Wissens-Assistenz: Für Mitarbeiter:innen.
- Regulatorische Dokumenten-Prüfung.
- Kundenservice-Vorschläge (mit menschlicher Kontrolle).
- Betrugs-Erkennung in Textdaten.
Was andere Industrien mitnehmen
- Eigene LLMs nicht reflexhaft ablehnen. Manchmal sinnvoll.
- Pragmatisch starten. Kleinere Modelle, konkrete Cases.
- Open-Source nutzen. Nicht von null bauen.
Warum mich das besonders umtreibt
LLMs in Banken sind 2023 Neuland — aber wichtig. Torstens Folge zeigt einen pragmatischen Weg. Für CDOs in regulierten Branchen: wertvolle Referenz.
Jetzt reinhören
Jetzt reinhören
Diese Folgen könnten dich auch interessieren
Folge 323
Solo gegen alle: Wie 15 Jahre Datenhandwerk eine D2C-Brand allein tragen
Carlos Yniguez · 60Kollektiv
Folge 322
KI in NRW: Warum 90 % des Mittelstands noch nicht wirklich anfängt
Christian Temat · KI.NRW (Fraunhofer IAIS)
Folge 319
Warum Data Mesh ohne Data Citizens scheitert
Jonas Kell · Siemens Energy