Risikoblindheit bei ChatGPT?

Der Hype um generative Künstliche Intelligenz

Abonnieren Sie den kostenlosen Bank Blog Newsletter

ChatGPT ist noch kein Jahr auf dem Markt, da überschlagen sich die Meldungen über die Wunder, die generative Künstliche Intelligenz für Unternehmen, Gesellschaft und Verbraucher zu leisten imstande ist. Die Risiken scheint kaum jemand wahrzunehmen.

Cartoon: Mit ChatGPT sind noch viele Unsicherheiten verbunden

Mit ChatGPT sind noch viele Unsicherheiten verbunden.
© Tom Fishburne

Partner des Bank Blogs

PWC ist Partner des Bank Blogs

Die digitale Transformation ist Teil dessen, was wir gemeinhin „Fortschritt“ nennen. Sie ist nicht aufzuhalten und schreitet unaufhaltsam weiter voran. Immer wieder werden wir dabei mit neuen technologischen Möglichkeiten konfrontiert. Ihnen gemeinsam ist die hohe Erwartung, Effektivität und Effizienz zu verbessern – mal mehr, mal weniger.

Dass damit auch Risiken verbunden sein können, wird gelegentlich verdrängt, vor allem dann, wenn der Hype um die Versprechungen eine breite Mehrheit erfasst hat.

Generative Künstliche Intelligenz auf dem Vormarsch

Ein typisches Beispiel hierfür ist generative Künstliche Intelligenz (GenAI). Trotz der Schlagzeilen, die davor warnen, dass Künstliche Intelligenz ein großes Risiko für die Gesellschaft darstellen könnte, sind Unternehmen und Arbeitnehmer neugierig, optimistisch und zuversichtlich, was den Einzug von GenAI in die Unternehmen angeht. So sollen sich 90 Prozent der deutschen Unternehmen bereits mit den Möglichkeiten von ChatGPT & Co befassen und 71 Prozent bewerten die Leistungsfähigkeit der Systeme als „gut“ oder „sehr gut“.

Erst kürzlich hat eine McKinsey.Studie über das enorme wirtschaftliche Potential von GenAI den Weg in die Fernsehnachrichten gefunden. Salesforce hat in einer Studie herausgefunden, dass 67 Prozent der leitenden IT-Führungskräfte darauf drängen, generative KI in den nächsten 18 Monaten in ihrem Unternehmen einzuführen, wobei ein Drittel dies als ihre oberste Priorität bezeichnet.

In der Finanzbranche sehen 80 Prozent ein hohes disruptives Potential für generative KI. 42 Prozent erwarten, dass KI de Banken in den nächsten fünf Jahren nachhaltig verändern wird.

Einer kürzlich vorgestellten Studie des TÜV-Verbandes zufolge haben schon 83 Prozent der Bundesbürger von ChatPT gehört und 23 Prozent bereits genutzt. Einer weiteren Studie zufolge haben 18 Prozent der Deutschen ChatGPT bereits für berufliche Zwecke genutzt, ein Teil davon heimlich und ohne Wissen des Unternehmens, da es nicht erlaubt oder akzeptiert ist.

Risiken und Bedenken gegenüber Künstlicher Intelligenz

Gleichzeitig hat eine Mehrheit dieser leitenden IT-Führungskräfte Bedenken, was passieren könnte. Neben anderen Vorbehalten ergab die Salesforce-Befragung, dass 59  Prozent glauben, dass generative KI-Ergebnisse ungenau sind und 73 Prozent haben Sicherheitsbedenken.

Selbst der Gründer von Open AI und damit quasi Erfinder von ChatGPT Sam Altman fordert eine Regulierung von Künstlicher Intelligenz. Staatliche Eingriffe seien entscheidend, um Risiken zu mindern. Wie diese Regulierung allerdings genau aussehen soll ist umstritten. Den technologischen Fortschritt will schließlich niemand behindern. Aufzuhalten ist er ohnehin nicht.

Dass es handfeste Risiken gibt, zeigt das Beispiel einer gemeinnützigen Organisation für Essstörungen namens NEDA. Sie hat kürzlich ein sechsköpfiges Beratungsteam und 20 Freiwillige durch einen Chatbot namens Tessa. ersetzt. Eine Woche später musste NEDA Tessa deaktivieren, als erkannt wurde, dass der Chatbot falsche Ratschläge gab, die Essstörungen verschlimmern statt beseitigen könnten.

Konsequenzen für Unternehmen

Bei der Einführung von generativer KI drücken Unternehmen auf das Gaspedal während gleichzeitig noch an der Technologie selbst gearbeitet wird. Zudem stehen viele Unklarheiten und Risiken im Raum, deren Wirkung und Umfang aktuell nicht absehbar ist. Diese Dringlichkeit ohne Klarheit ist ein Rezept für strategische Fehler.

Die unternehmerische Kunst besteht darin, in Zeiten des digitalen Wandels ein Gleichgewicht zwischen Dringlichkeit und Sicherheit zu finden. Dazu gehört auch, sich frühzeitig mit neuen Technologien zu befassen ohne einem Hype blind hinterher zu rennen und sie gründlich zu testen, bevor man sie im normalen Geschäftsbetrieb einsetzt.

Über den Autor

Dr. Hansjörg Leichsenring

Dr. Hansjörg Leichsenring ist Herausgeber des Bank Blogs und der Finanzbranche seit über 30 Jahren beruflich verbunden. Nach Banklehre und Studium arbeitete er in verschiedenen Positionen, u.a. als Direktor bei der Deutschen Bank, als Vorstand einer Sparkasse und als Geschäftsführer eines Online Brokers. Als Experte für Strategien in den Bereichen Digitalisierung, Innovation und Vertrieb ist er gefragter Referent und Moderator bei internen und externen Veranstaltungen im In- und Ausland.

Vielen Dank fürs Teilen und Weiterempfehlen


Mit dem kostenlosen Bank Blog Newsletter immer informiert bleiben:

Anzeige

Get Abstract: Zusammenfassungen interessanter Businessbücher

Kommentare sind geschlossen

Bank Blog Newsletter abonnieren

Bank Blog Newsletter abonnieren