KI beim Arbeiten verstehen, einsetzen und kontrollieren

Künstliche Intelligenz kann Mitarbeiter entlasten, die Arbeitsqualität verbessern und die Produktivität erhöhen. Ein Whitepaper fasst ein Forschungsprojekt zur Umsetzung der europäischen KI-Verordnung in der Praxis zusammen.

Wie Mitarbeiter Künstliche Intelligenz am Arbeitsplatz souverän einsetzen, verstehen und kontrollieren können.

Partner des Bank Blogs

Künstliche Intelligenz (KI) bietet enormes Potenzial, die Arbeitsqualität zu verbessern, die Produktivität zu steigern und Mitarbeiter zu entlasten. Voraussetzung dafür ist ein menschenzentrierter Ansatz bei der Entwicklung, Gestaltung und Implementierung dieser Technologie. Die Bedürfnisse und Fähigkeiten der Beschäftigten müssen dabei im Mittelpunkt stehen.

Ein entscheidender Aspekt ist, dass Mitarbeiter KI-Systeme verstehen, überwachen und steuern können. KI entfaltet nur dann ihren vollen Nutzen, wenn die Entscheidungsgewalt über ihren Einsatz und die Kontrolle der Ergebnisse beim Menschen bleiben.

Transparenz und Kontrolle als Schlüssel zur Akzeptanz

Ein Forschungsprojekt hat untersucht, wie Beschäftigte die Entscheidungen von KI-Systemen besser nachvollziehen können, um fundierte Eingriffe in maschinelle Abläufe zu ermöglichen. Ziel ist es, gesellschaftliche Risiken wie Verzerrungen und Diskriminierungen zu minimieren und gleichzeitig die Akzeptanz von KI in der Arbeitswelt zu erhöhen. Dazu wurde ein Vorgehensmodell entwickelt, das Unternehmen bei der AI-Act-konformen Einführung von KI-Systemen unterstützt.

Im Mittelpunkt der stand die Frage, wie Transparenz und menschliche Kontrolle in der betrieblichen Praxis gewährleistet werden können. Welche Informationen benötigen Beschäftigte in welcher Form, um ein KI-System effektiv zu überwachen? Wie kann menschliche Kontrolle effizient umgesetzt werden – etwa durch verschiedene Autonomiestufen oder „Stopp“-Tasten? Aus diesen Erkenntnissen lassen sich allgemeine Regeln für die Gestaltung von KI sowie für die Einbindung der Beschäftigten in den Einführungsprozess ableiten.

EU-Vorgaben und der „Human in Command“-Ansatz

Die europäische KI-Verordnung stellt klare Anforderungen an den Einsatz von Hochrisiko-KI-Systemen. Insbesondere muss eine menschliche Aufsicht durch qualifizierte Operatoren sichergestellt sein. Das Whitepaper fasst zentrale Erkenntnisse des Projekts zusammen und zeigt, wie die Vorgaben der EU-Verordnung in der betrieblichen Praxis umgesetzt werden können.

Im Fokus steht der „Human in Command“-Ansatz, der eine aktive Integration des Menschen in die Überwachung und Steuerung von KI-Systemen ermöglicht. Dadurch werden Risiken minimiert und die Akzeptanz von KI gestärkt. Eine technische Lösung aus dem Projekt gewährleistet Transparenz, Fairness und Kontrollmöglichkeiten durch Performance-Monitoring, Testfälle und kontextspezifische Autonomiestufen. So können Effizienzpotenziale der Technologie genutzt werden, ohne dass Mitarbeiter die Kontrolle oder Verantwortung abgeben müssen.

Zudem zeigt das Whitepaper, wie Standardisierungsprozesse und politische Maßnahmen – etwa der AI Pact2 und spezielle Förderprogramme – die Einführung menschenzentrierter KI-Anwendungen unterstützen können. Dies trägt nicht nur zu einem ethischen und verantwortungsvollen Umgang mit KI-Technologien bei, sondern fördert auch die Nutzung hybrider Intelligenz in verschiedenen Branchen.

Premium Abonnenten des Bank Blogs haben direkten kostenfreien Zugriff auf die Bezugsinformationen zu Studien und Whitepapern.