Die letzte Instanz
Die KI-gestützte Arbeitswelt erfordert ein grundsätzliches Umdenken. Angestrebt werden Arbeitsumgebungen, in denen sich menschliches Urteilsvermögen und KI-Systeme produktiv ergänzen. Das letzte Wort behält indes der Mensch.
Sarah hatte Mut gefasst und alle Unterlagen beisammen, um einen Kredit für die Gründung eines kleinen Unternehmens zu beantragen. Ihr Lebenstraum sollte endlich in Erfüllung gehen. Der Weg dorthin war nicht leicht. Als alleinerziehende Mutter hatte sie in den vergangenen Jahren viel dafür getan, eine solide Bonität aufzubauen. Ein geringfügiges rechtliches Vergehen aus dem vergangenen Jahrzehnt war an sich längst vergessen. Das dachte sie zumindest. Voller Zuversicht beantragte sie einen Kredit bei einer Kreditgenossenschaft und vertraute bei dem Termin darauf, dass ihr einwandfreies Verhalten in den zurückliegenden Jahren für sich sprechen würde.
Keine 48 Stunden später kam die Absage. Getroffen hatte die Entscheidung jedoch kein Mensch, sondern ein Algorithmus, der in Sarahs Akte ein potenzielles Kreditrisiko erkannt hatte. Ein Sachbearbeiter hätte die Lage wohl differenzierter beurteilt: Die kleineren Makel aus der Vergangenheit hätte er vermutlich weniger schwer gewichtet als ein Algorithmus.
Experten für maschinelles Lernen bewerten Sarahs Erfahrung als einen Grenzfall, als ein Szenario jenseits der Standardverfahren, bei dem KI-Systeme häufig versagen. Doch genau dieser menschliche Blick auf derartige Fälle wird zunehmend seltener: Unternehmen erkennen, dass KI-Systeme Bewertungen schneller, günstiger und in vielerlei Hinsicht konsistenter vornehmen können als menschliche Kreditsachbearbeiter.
Mit der KI-Revolution ist die Arbeitswelt unwiderruflich in Bewegung geraten. In der Anfangsphase dominierte die Sorge, Künstliche Intelligenz könnte Millionen Arbeitsplätze gefährden. Unternehmen investierten massiv in Systeme, die menschliche Entscheidungen aus Prozessen herauslösen sollten. Schneller, günstiger, ohne menschliche Fehler: So lautete das verführerische Versprechen. Doch auf dem Weg in die automatisierte Zukunft geschah etwas Unerwartetes: Je mächtiger die KI wurde, umso wichtiger wurde menschliches Urteilsvermögen. Führungskräfte erkennen inzwischen, dass der Abbau von Arbeitsplätzen nicht die größte Herausforderung im KI-Zeitalter ist, sondern die Zusammenarbeit von Mensch und Maschine.
Besonders bei personenbezogenen Daten bleibt menschliches Urteilsvermögen unersetzlich, um die Grenzen von KI-Prognosen und -Entscheidungen realistisch einzuschätzen. 83 % der Befragten einer internationalen Umfrage sind davon überzeugt, dass der wachsende Einsatz von KI menschlichen Fähigkeiten wie ethischem Urteilsvermögen, sozialen Beziehungen und Kreativität zu mehr Gewicht verhilft. Offen ist bis heute, ob diese Einsicht ebenso schnell in die Praxis vordringt wie die Technologie selbst. Matt Garman, CEO von Amazon Web Services, ist überzeugt, dass Kommunikation und kritisches Denken auf absehbare Zeit mindestens ebenso gefragt sein werden wie heute.
Mohammad Jarrahi, Professor an der University of North Carolina at Chapel Hill, erforscht die Folgen von KI für die Arbeitswelt. Er unterscheidet zwei Lager: Die einen halten KI für überschätzt, die anderen glauben, dass Artificial General Intelligence (AGI), also KI mit allgemeinen kognitiven Fähigkeiten, Menschen bald ersetzen wird. Jarrahi hält beides für übertrieben. Vieles, was Menschen wissen, stammt aus jahrelanger Erfahrung und praktischem Tun - ein Wissen, das sich kaum in Trainingsdaten packen lässt. Vollständig ersetzen wird KI den Menschen deshalb wohl nie.
An dieser Stelle setzt das Konzept der Mensch-KI-Symbiose an. KI kann Routineaufgaben übernehmen, doch in vielen Bereichen bleibt menschliche Kontrolle erforderlich, auch wenn die Maschine den Großteil der Vorarbeit leistet. KI sollte man aus dieser Perspektive als digitalen Kollegen betrachten. „Das Problem steckt im Bindestrich der Mensch-KI-Symbiose“, erklärt Jarrahi. Unternehmen, die Menschen und KI am besten verzahnen, schöpfen das größte Potenzial aus und sichern sich einen Vorsprung im Wettbewerb. Manche Experten warnen jedoch, dass die Technologie schneller in Firmen Einzug hält, als sich Schutzvorkehrungen aufbauen lassen. Fragen des Datenschutzes und der Transparenz drohen dabei zu kurz zu kommen. Man könnte von einem Kontrollparadoxon sprechen: Unternehmen haben KI-Systeme eingeführt, um weniger auf menschliches Urteilsvermögen angewiesen zu sein. Verschwunden ist der Bedarf nach Urteilsvermögen dadurch jedoch nicht. Es wird nur an anderer Stelle gebraucht, etwa dort, wo schwierige Entscheidungen getroffen werden.
Corporate leaders are having to determine in real time what this new AI-augmented world will look like. But some worry that the technology is being embedded at such lightning speed that it’s become impossible to erect the necessary safeguards to ensure issues related to privacy, biases and transparency are deeply considered. Call it the oversight paradox: Organizations built AI systems to reduce the need for human judgment. Instead, they’ve redistributed it. And the human touch is still required for those thornier decisions.
„Das Problem steckt im Bindestrich der Mensch-KI-Symbiose. Wer Menschen und KI am besten verzahnt, schöpft das größte Potenzial aus.“
WAS DER Algorithmus ÜBERSIEHT
Ein Algorithmus kann in Sekunden sortieren, markieren und ablehnen. Was er nicht immer erkennt, ist, welcher Fall einen zweiten Blick verdient — jene Einschätzung, die nach wie vor eine menschliche Hand und ein geschultes Auge braucht.
Die Regulierung von KI hält mit der technologischen Entwicklung bislang nicht Schritt. Unternehmen setzen vorerst auf Selbstkontrolle und eigene Richtlinien. Michael Impink, Assistenzprofessor an der HEC Paris mit Schwerpunkt technologischer Wandel und Innovation, erwartet, dass die Welt dem europäischen Beispiel folgen wird, ähnlich wie bei der Datenschutz-Grundverordnung (DSGVO): „Beim europäischen Gesetz über Künstliche Intelligenz (AI Act) dürfte es vergleichbar laufen: ein Brüssel-Effekt, bei dem Europa die weltweite Entwicklung von KI prägt“, sagt er. Ein bewährter Ansatz ist das „Human-in-the-Loop“-Prinzip, das etwa im Finanzwesen und bei der Gesundheitsversorgung zum Einsatz kommt. Dabei bleiben Menschen eng in die Arbeit der KI-Systeme eingebunden, sie greifen ein und passen Ergebnisse schrittweise an. Besonders heikel ist das bei sensiblen Anwendungen: Wird ein Kredit abgelehnt oder ein Tumor erkannt, muss sich die Entscheidung nachvollziehen lassen. Black-Box-Modelle generativer KI erschweren das jedoch. „Manche Entscheidungen lassen sich kaum nachprüfen“, sagt Jarrahi.
Umso wichtiger ist es, Menschen fest in diese Prozesse einzubinden. Denn je stärker Fachkräfte KI-Systeme nicht nur nutzen, sondern ihre Ergebnisse auch kritisch prüfen müssen, desto stärker verändert sich der Arbeitsmarkt.
Gefragt sind deshalb Kompetenzen, die lange Zeit unterschätzt wurden: ein sicherer Umgang mit Unsicherheit und die Fähigkeit, automatisierten Systemen nicht blind zu vertrauen. Laut dem AI at Work Report des Indeed Hiring Lab aus dem Jahr 2025 betrifft dieser hybride Wandel 46 % der in typischen US-Stellenanzeigen geforderten Fähigkeiten. Generative KI kann einen großen Teil der damit verbundenen Aufgaben übernehmen, doch menschliche Kontrolle bleibt unerlässlich. Unternehmen könnten deshalb gezielt sogenannte KI-Übersetzer einstellen: Fachkräfte, die KI-Analysen für Entscheidungsträger einordnen und daraus konkrete Maßnahmen ableiten. So überbrücken sie die Lücke zwischen algorithmischen Ergebnissen und den oft widersprüchlichen Anforderungen der Praxis.
„Soft Skills wie kritisches Denken und die Pflege von Beziehungen werden in Zukunft sehr gefragt sein“, sagt Ifeoma Ajunwa, Autorin von The Quantified Worker, Gründungsdirektorin des AI and Future of Work Program und Professorin an der Emory Law School.
Gefragt seien Mitarbeiter, die „zuverlässig zwischen KI-Schrott und belastbaren Ergebnissen unterscheiden“ können. So könnte ausgerechnet die vielleicht fortschrittlichste Technologie der Geschichte menschliche Fähigkeiten wieder stärker in den Mittelpunkt rücken. Vor dem KI-Zeitalter galt Mehrdeutigkeit in der Arbeitswelt meist als Problem, das sich mit standardisierten Prozessen, klaren Anforderungen und festen Regeln beherrschen ließ. KI-Systeme jedoch brauchen eindeutige Kategorien und Parameter. Wo die Realität nicht in dieses Raster passt, müssen Menschen entscheiden. „Eine zentrale Aufgabe des Menschen im KI-Zeitalter ist das Management von Ausnahmen“, sagt Jarrahi. Das gilt zum Beispiel auch für Grenzfälle wie die eingangs geschilderte Kreditanfrage.
Consider ambiguity tolerance. In the pre-AI workplace, ambiguity was often seen as a problem to be solved; standardize the process, clarify the requirements, eliminate the uncertainty. But AI systems struggle with genuine ambiguity. They need clean categories and clear parameters. When reality doesn’t fit those constraints, humans will have to step in. “One of the roles of humans in the era of AI is exception handling,” says Jarrahi: stepping in to make a call on a borderline case, like Sarah.
„Soft Skills wie kritisches Denken und die Pflege von Beziehungen werden in Zukunft sehr gefragt sein.“
Nicht jedes Ergebnis ist es wert, behalten zu werden
Da KI einen wachsenden Teil dessen erzeugt, was wir sehen und worauf wir Entscheidungen stützen, liegt der eigentliche Wert darin, zu wissen, was man verwerfen sollte. Dieses Urteilsvermögen — echte Erkenntnis von überzeugendem Rauschen zu unterscheiden — wird zu einer der wertvollsten Fähigkeiten am Arbeitsplatz.
Hinzu kommt ethisches Urteilsvermögen. KI-Systeme optimieren in Bezug auf vorgegebene Ziele, ohne moralische Überlegungen einzubeziehen. Lautet das Ziel etwa, den Quartalsgewinn zu maximieren, verfolgt die KI auch Wege, die Menschen sofort als unethisch oder kurzsichtig ausschließen würden. Konkret zeigen könnte sich das etwa im Einstellungsprozess: Statt nur nach Erfahrungen mit Software zu fragen, würden Personalverantwortliche Bewerber mit mehrdeutigen Szenarien konfrontieren und beobachten, wie kritisch sie einen Algorithmus hinterfragen.
Mehr Nachfrage nach KI-Übersetzern erwartet auch Impink. Doch zugleich könnte es an geeigneten Fachkräften mangeln: Unternehmen, die die besten Leute gewinnen wollen, müssen selbst mit gutem Beispiel vorangehen. „Gute Mitarbeiter werden nur für bestimmte Unternehmen arbeiten wollen“, sagt der Forscher. „Wer die besten Köpfe will, muss ethische Praktiken beherzigen.“ Das bedeutet auch, dass Unternehmen, die KI verantwortungsvoll einsetzen, im Wettbewerb um kompetente Arbeitskräfte die Nase vorn haben.
Manche Unternehmen schlagen bereits einen anderen Kurs ein. Sie entwickeln gezielt neue Stellen für Berufseinsteiger. IBM kündigte an, seine Einstellungen in diesem Segment zu verdreifachen und Jobs bereichsübergreifend stärker auf KI-Kompetenz auszurichten. Gesucht sind Kandidaten, die souverän und eigenständig mit KI-Systemen umgehen — nicht bloß als Anwender, sondern als kritische Begleiter der Technologie.
Die KI-Forscherin Ajunwa stimmt optimistisch, dass Unternehmen zunehmend KI-Ethiker einstellen und Beiräte einrichten, die die Systeme kritisch überprüfen, bevor sie im Alltag in der Breite eingesetzt werden. Sie wertet das als erste Anzeichen dafür, dass die Debatte über verantwortungsvolle KI-Anwendungen aus der Theorie in die Praxis der Unternehmen wandert. Zugleich warnt Ajunwa, dass Firmen ohne solche Kontrollinstanzen leicht auf den KI-Hype und überzogene Versprechen hereinfallen. Damit wüchse das Risiko schwerer Fehler bei der Einführung solcher Systeme.
Erfolg in einer KI-gestützten Arbeitswelt erfordert ein grundlegendes Umdenken. Urteilsvermögen ist die neue Kernkompetenz, womöglich die entscheidende Fähigkeit in einer Arbeitswelt, die zunehmend von Künstlicher Intelligenz geprägt sein wird. Der Mensch stellt die Fragen, die ein Algorithmus nicht stellen kann, und der Algorithmus verarbeitet Informationen in einer Größenordnung, die der Mensch nicht oder nicht so schnell und genau bewältigen kann. Denn was menschliches Urteilsvermögen unbequem macht, ist das, was es zugleich unverzichtbar macht: Zahlen allein erzählen nie die ganze Geschichte.
-
KI ist nur ein Partner: Die Technologie erfordert menschliches Urteilsvermögen, um Ergebnisse zu bewerten, mit Unsicherheit umzugehen und Entscheidungen zu treffen. -
Was nur Menschen können: Ethisches Urteilsvermögen, Kommunikation und kritisches Denken werden wichtiger, weil Beschäftigte KI-Ergebnisse einordnen müssen.
-
Verantwortung statt Hype: Technischen Fortschritt mit wirksamer Kontrolle und klarer Verantwortung zu verbinden, schafft Vertrauen und hilft, kostspielige Fehler zu vermeiden.
Immer einen Schritt voraus!
Melden Sie sich für unseren Newsletter an und lassen Sie sich von Think:Act auf den neuesten Stand bringen – mit dem, was heute wichtig ist, und mit Orientierung für das, was als Nächstes kommt.
.svg)