KI-Kollegen brauchen klare Grenzen

Wie Banken sicher von generativer KI profitieren können

Abonnieren Sie den kostenlosen Bank Blog Newsletter

Alle wollen generative KI – auch Banken und Versicherungen. Der Wille allein wird aber noch nicht den erhofften Return on Investment bringen. Finanzdienstleister brauchen einen Plan für ihren neuen KI-Kollegen und müssen ihm klare Grenzen setzen.

Einsatz von generativer Künstlicher Intelligenz in Banken

Banken benötigen einen Plan für den Einsatz von generativer Künstlicher Intelligenz.

Partner des Bank Blogs

YouGov ist Partner des Bank Blogs

Würden Sie in Ihrem Unternehmen jemanden einstellen, ohne eine rechte Ahnung zu haben, was die Person eigentlich machen soll, ob sie vertrauenswürdig ist und wozu sie überhaupt fähig ist?

Nein, ich auch nicht. Und doch hört man von immer mehr Unternehmen, dass sie unbedingt generative KI nutzen möchten. Die Technologie sei die Zukunft und man dürfe den Anschluss nicht verpassen, heißt es dann gelegentlich aus dem Management. Ganz unrecht haben die Stimmen natürlich nicht: KI birgt gewaltiges Potenzial – auch für Finanzdienstleister. Allein der Wille, diesen neuen Mitarbeitenden einzustellen, bringt aber noch nicht den von jedem Unternehmen angestrebten Return on Investment: KI ist eben kein Selbstläufer.

Konkrete Pläne sind oft Fehlanzeige

Untersuchungen zum Themenkomplex Künstliche Intelligenz wie eine Bitkom-Studie zeigen zwar, dass Unternehmen durchaus eine grobe Vorstellung haben, wo generative KI ihre Stärken ausspielt. Ihr zufolge traut eine überragende Mehrheit der befragten Firmen KI großes oder sehr großes Potenzial für Textanalyse und Textverständnis zu und würde sie auch einsetzen, um Berichte, Übersetzungen oder sonstige Texte zu erstellen.

Was ihnen jedoch vielerorts schlicht und ergreifend fehlt, ist ein konkreter Plan. Unternehmen müssen sich im Klaren darüber sein, welches Problem die KI tatsächlich lösen und welche Prozesse sie verbessern soll – und zwar bevor sie deren Einführung planen. Andernfalls droht die generative KI ein teures und sinnfreies Vergnügen zu werden, das zwar keinen Mehrwert generiert, dafür aber Verwirrung stiftet.

Generative KI ist nicht nur ChatGPT

Über den konkreten Verwendungszweck hinaus gibt es weiteren Klärungsbedarf, bevor diese Technologie in Unternehmen Einzug halten kann. Zunächst einmal ist der Begriff generative KI nicht mit ChatGPT gleichzusetzen. Ja, dieser „conversational Bot“ ist durch den Hype rund um das ihm zugrundeliegende Large Language Model GPT (Generative Pretrained Transformer) seit mehr als einem Jahr in aller Munde. Es gibt aber auch Alternativen, einige davon sogar als Open-Source-Variante.

Augen auf beim Datenschutz

Außerdem müssen sich die Stakeholder unbedingt mit dem Thema Datenschutz auseinandersetzen. Gerade die Finanzwirtschaft, die besonders sensible Daten vorhält und verarbeitet, sollte ihre Tools nach DSGVO-Konformität auswählen. Nur so vermeiden sie, sich irgendwann mit Bußgeldern konfrontiert zu sehen oder Opfer von Datenpannen zu werden, die ihren Ruf nachhaltig beschädigen. Am besten sie wählen KI-Helfer, die sie on-premises, also innerhalb der eigenen IT-Infrastruktur, einsetzen können.

Die Hoheit über die eigenen Daten sicherzustellen, zu behalten und nicht blind KI-Cloud-Service-Anbietern zu vertrauen, ist ein wichtiger Baustein im Gesamtkonzept.

Halluzinationen vorbeugen

Neben den Fähigkeiten von generativer KI müssen sich Finanzdienstleister auch über das Risiko der Halluzination im Klaren sein. Immer wieder werden Fälle bekannt, in denen Systeme wie ChatGPT vermeintliche Fakten einfach erfinden. Da die ausgegebenen Texte formal völlig einwandfrei und wohl formuliert sind, können die Nutzer es aber kaum erkennen, wenn sie falsche Informationen enthalten.

Dieses Risiko können Unternehmen beherrschen, indem sie generativer KI einen sicheren Rahmen geben. Das ist beispielsweise durch die Einbettung in eine unternehmensweite Suchmaschine möglich. Enterprise Search integriert alle relevanten Datenquellen und macht diesen konsolidierten Informationsschatz für generative KI sinnvoll nutzbar. Sie agiert nicht losgelöst, sondern verarbeitet nur Informationen aus organisationseigenen Daten, die faktisch korrekt sind. Das Large-Language-Modell wird sozusagen nur für das Umformulieren aus den rechtegeprüften Fakten der eigenen Organisation verwendet – und generiert die Antwort nicht aus sich selbst heraus. Halluzinieren wird dadurch auf ein Mindestmaß reduziert. Und um das Restrisiko weiter zu minimieren, liefern intelligente Systeme auch die Quellenbezüge der erzeugten Antworten oder Zusammenfassungen gleich mit, um Nachvollziehbarkeit zu gewährleisten.

Das Protokoll fasst die KI zusammen

An welcher Stelle macht nun der Einsatz von KI Sinn? Da generative KI in Sachen Textverständnis und Texterstellung glänzt, liegen hier auch die nützlichsten Use Cases für Banken und Co. Intern können ihre Mitarbeiter die Technologie etwa dafür nutzen, sich umfangreiche Berichte, Präsentationen oder Dossiers präzise zusammenfassen zu lassen. Zusätzlich können Finanzinstitute Chats implementieren, mit denen ihre Mitarbeiter relevante interne Informationen, zum Beispiel aus dem Intranet, erhalten, indem sie Fragen stellen und Antworten erhalten. Der Helpdesk kann so massiv entlastet werden, noch bevor ein Helpdesk-Ticket eröffnet wird.

Generative KI für organisationsinterne Daten sicher nutzen

Enterprise Search integriert alle relevanten Datenquellen und macht diese konsolidierten Informationen für generative KI sinnvoll und sicher nutzbar.

In der Interaktion mit Kunden können sie smarte Chatbots für den Customer Support implementieren oder die Technologie in ihren Vertriebsprozessen dafür einsetzen, um etwa Protokolle von Verkaufs- und Beratungsgesprächen für die Berater und Kunden zusammenzufassen. Alle diese Use Cases haben eines gemeinsam: Sie entlasten die Mitarbeiter von Verwaltungsaufgaben und manuellen Tätigkeiten und schaffen dadurch Freiraum für echte Mehrwertarbeit.

Heikles Thema Zugriffsrechte

Um diese Aufgaben auch durchführen zu können, müssen Unternehmen die künstliche Intelligenz gegebenenfalls auch entsprechend trainieren und ihr Zugriff auf sämtliche Unternehmensdaten gewähren. Ein heikles Thema, insbesondere im Hinblick auf die Zugangsrechte: Wer nicht aufpasst, macht vertrauliche Informationen so möglicherweise Unbefugten zugänglich.

Um nicht in diese Falle zu tappen, sollten Unternehmen die KI in Verbindung mit einer Enterprise-Search-Lösung einsetzen, die eine rechte- und rollenbasierte Zugriffskontrolle auf alle Informationen ermöglicht. Diese unternehmensweite Suchmaschine bildet die Basis für rechtegeprüfte Informations-Integration, um darauf eine generative KI aufzusetzen. Die KI gibt dann nur solche Antworten aus dem Unternehmenswissen, die der Fragesteller auch sehen darf.

So können dem neuen, digitalen Kollegen klare Grenzen gesetzt werden, ohne dessen Kompetenzen und Fähigkeiten zu untergraben und er damit sein Potential voll ausspielen kann. Somit ist klar: Wer künstliche Intelligenz in einen vertrauenswürdigen Rahmen einbettet, kann guten Gewissens von ihr profitieren.


Mehr Informationen finden Sie hierErfahren Sie mehr über unsere Lösung für Banken und Versicherungen

Über den Autor

Franz Kögl

Franz Kögl ist Vorstand und Mitgründer der IntraFind Software AG, einem etablierten deutschen Softwarehersteller für Enterprise Search und AI-basierte Anwendungen. Der Elektrotechnik- und Wirtschaftsingenieur hält regelmäßig Vorträge und verfasst Fachartikel zu Themen wie Künstlicher Intelligenz, Machine Learning oder Cognitive Search.

Vielen Dank fürs Teilen und Weiterempfehlen


Mit dem kostenlosen Bank Blog Newsletter immer informiert bleiben:

Anzeige

Get Abstract: Zusammenfassungen interessanter Businessbücher

Kommentare sind geschlossen

Bank Blog Newsletter abonnieren

Bank Blog Newsletter abonnieren