Die Grenzen der Kontrolle von Künstlicher Intelligenz

Fortschritt und Regulierung in Einklang bringen

Abonnieren Sie den kostenlosen Bank Blog Newsletter

Die rasche Verbreitung Künstlicher Intelligenz bringt Fortschritt aber auch Risiken mit sich. Sie ist damit nicht nur eine Herausforderung für Unternehmen, sondern auch für Politik und Gesellschaft. Der Ruf nach Regulierung wird immer lauter.

Cartoon: Wenn KI die KI überwacht

Wenn KI die KI überwacht.
© Iyad Rahwan, Evil AI Cartoons

Partner des Bank Blogs

PWC ist Partner des Bank Blogs

In dem Ausmaß, in dem sich die Verbreitung und Anwendung von Künstlicher Intelligenz beschleunigt, nimmt auch die Diskussion um die dahinter liegenden Gefahren zu. Selbst der Gründer des ChatGPT-Unternehmens Open AI sagt, dass KI nicht ohne Regulierung auskommen wird. Doch wie kann dies gelingen ohne zugleich den Fortschritt einzudämmen?

4 Kräfte zur Regulierung digitaler Technologien

Lawrence Lessig ist Jurist und Professor an der Harvard University. Er befasst sich u.a. mit der Regulierung des Internets. Für die Regulierung von digitalen Technologien, wie Künstlicher Intelligenz beschreibt er in seinem Buch „Code: And Other Laws of Cyberspace“ vier Kräfte:

  • Gesetze: Ausdrückliche Vorschriften, die von der Regierung durchgesetzt werden können.
  • Normen: Soziale und gesellschaftliche Konventionen, an die man sich gebunden fühlt.
  • Code/Architektur: Die physischen oder technischen Beschränkungen von Aktivitäten (z. B. Schlösser an Türen oder Firewalls im Internet).
  • Markt: Wirtschaftliche Kräfte und Sachzwänge.

Künstliche Intelligenz als fünfte Kraft

Der Einsatz von menschlichen Beobachtern zur Überwachung von KI stößt an praktische und ökonomische Grenzen. Im Zuge des technologischen Fortschritts steht uns allerdings eine fünfte Kraft zur Verfügung: Die KI selbst. Der im vergangenen Jahr verstorbene Soziologe Amitai Etzioni und sein Sohn, der Informatiker Oren Etzioni, stellten dazu eine neue Klasse von Algorithmen vor, die sogenannten Überwachungsprogramme. Diese Programme sollen operative KI-Programme überwachen, prüfen und zur Rechenschaft ziehen.

Drei Vorteile der Überwachung von KI durch KI

Der Einsatz einer KI zur Überwachung anderer KIs bietet drei große Vorteile.

  1. Die Fähigkeiten und Kapazitäten zur Überwachung von KI-Systemen kann mit KI erheblich ausgebaut werden. Menschen können sich dann auf neuartiges, heimtückisches Fehlverhalten von Maschinen konzentrieren.
  2. Ein Überwachungsprogramm kann KI-Algorithmen mit viel höherer Geschwindigkeit überwachen als Menschen. Dies kann für bestimmte Bereiche, wie den algorithmischen Hochfrequenzhandel, notwendig sein.
  3. Überwachungsprogrammen können KI-Algorithmen unter Wahrung der Privatsphäre der Betroffenen überprüfen, z.B. bei der Überprüfung, ob Algorithmen für Online-Werbung sensible Nutzerdaten verwenden oder ob eine KI persönliche Inhalte und Anhänge privater Kommunikationsflüsse scannt.

Grenzen der Überwachung von KI durch KI

Der Einsatz von Überwachungsprogrammen stößt jedoch an Grenzen. Wenn wir ein KI-Überwachungsprogramm zur Überprüfung einer anderen KI einsetzen, müssen wir Vertrauen in das Überwachungsprogramm haben.

Um dieses Vertrauen zu gewinnen, können wir eine dritte KI einsetzen, um das Überwachungsprogramm selbst zu überprüfen. Aber das Problem setzt sich unendlich fort. Irgendwann geht uns die Rechenleistung aus.

Letztlich können wir im Prinzip nicht nachprüfen, ob eine Superintelligenz sicher ist. Irgendwann ist es nur noch eine Frage des Glaubens. Umso wichtiger erscheint es, dass am Ende der Entscheidungskette Menschen sitzen.

Über den Autor

Dr. Hansjörg Leichsenring

Dr. Hansjörg Leichsenring ist Herausgeber des Bank Blogs und der Finanzbranche seit über 30 Jahren beruflich verbunden. Nach Banklehre und Studium arbeitete er in verschiedenen Positionen, u.a. als Direktor bei der Deutschen Bank, als Vorstand einer Sparkasse und als Geschäftsführer eines Online Brokers. Als Experte für Strategien in den Bereichen Digitalisierung, Innovation und Vertrieb ist er gefragter Referent und Moderator bei internen und externen Veranstaltungen im In- und Ausland.

Vielen Dank fürs Teilen und Weiterempfehlen


Mit dem kostenlosen Bank Blog Newsletter immer informiert bleiben:

Anzeige

Get Abstract: Zusammenfassungen interessanter Businessbücher

Kommentare sind geschlossen

Bank Blog Newsletter abonnieren

Bank Blog Newsletter abonnieren