Warum KI-Integrität zählt
Bleibt im Wettlauf um KI die Ethik auf der Strecke? Hamilton Mann warnt: Wer die Moral dem Tempo opfert, gewinnt am Ende womöglich nicht. Schlimmer noch: Er verschiebt teure Folgekosten lediglich in die Zukunft.
Bleibt noch Platz für ethische Fragen in einer rasant wachsenden KI-Wirtschaft? Für Hamilton Mann ist die Antwort klar: Ethik ist keine Option, sondern eine Führungsaufgabe. In seinem Buch entwickelt er das Konzept einer „künstlichen Integrität“. Demnach sollen KI-Systeme nicht nur auf Leistung getrimmt, sondern auch konsequent an menschlichen Werten ausgerichtet werden. Für Mann ist dies kein Innovationshemmnis, sondern die Voraussetzung dafür, dass Unternehmen KI dauerhaft vertrauenswürdig einsetzen können. Im Interview erläutert er, wie KI den Menschen ergänzt statt ersetzt und warum Integrität langfristig zum Wettbewerbsvorteil wird.
Sie fordern, KI-Systeme durch „künstliche Integrität“ zu Partnern für uns Menschen weiterzuentwickeln, die wertebasiert handeln. Doch wessen Werte sollen gelten? Und was passiert bei Konflikten zwischen individuellen, unternehmerischen und gesellschaftlichen Normen?
Künstliche Integrität basiert nicht auf einem einheitlichen Wertekanon, sondern setzt die Existenz unterschiedlicher Werte voraus. Genau deshalb braucht man ein nachvollziehbares Verfahren, um zwischen ihnen zu entscheiden. Maßgeblich ist immer der Kontext und die Legitimation der Entscheidungsträger. Ich unterscheide dabei drei Ebenen:
Die erste Ebene ist die nicht verhandelbare Grundlinie. Sie umfasst Gesetze und Menschenrechte. Hier haben gesellschaftliche Werte Vorrang vor Unternehmensinteressen oder individuellen Präferenzen. KI-Systeme dürfen niemals fundamentale Rechte, Sicherheit oder Diskriminierungsverbote verletzen. Das ist die rote Linie.
Die Unternehmenswerte bilden die zweite Ebene: Auftrag, Sorgfaltspflichten, Firmenzweck und ethische Haltung. Sie definieren, was aus Sicht des Unternehmens zählt. Auch diese Linie ist nicht verhandelbar. Sie hält fest, wer wir sind und was uns wichtiger ist als Gewinn. Dieser gemeinsame Nenner verpflichtet die Mitarbeiter zu gemeinsamem Handeln. Diese Ebene nenne ich die violette Linie.
Erst auf der dritten Ebene kommen individuelle Werte ins Spiel. Hier sollten KI-Systeme anpassungsfähig sein: Sie sollten Interaktionen personalisieren und Antworten so gestalten, dass sie individuellen Interessen entsprechen. Persönliche Werte dürfen die Nutzererfahrung prägen, jedoch niemals die rote oder violette Linie überschreiten.
Treffen diese Ebenen aufeinander, muss der Algorithmus einer praktikablen Konfliktlogik folgen. Zwei Fragen sind entscheidend: Wie hoch ist das Risiko? Und ist die Entscheidung reversibel? Bei geringem Risiko und voller Umkehrbarkeit können individuelle Werte Vorrang haben. Bei mittlerem Risiko, das die rote oder violette Linie berührt, sind Schutzmechanismen nötig. Bei hohem Risiko und irreversiblen Folgen müssen das unternehmerische und gesellschaftliche Gemeininteresse Vorrang haben. Das bleibt ein dynamischer Prozess: Werte verändern sich mit der Gesellschaft, es gibt keinen statischen Endzustand.
MEHRERE WERTE, EIN SYSTEM
Hamilton Mann, Autor von Artificial Integrity, argumentiert, dass KI mehrere Wertebenen gleichzeitig berücksichtigen muss – gesellschaftliche, organisatorische und individuelle – ohne dabei die Orientierung zu verlieren.
„Internationale Rahmenwerke werden erst real, wenn Menschen innerhalb dieser Institutionen jeden Tag Entscheidungen treffen.“
Sie schreiben: „Fragen wir nicht, was KI für uns tun kann, sondern was wir tun können, damit KI der Menschheit dient.“ Gilt das auf individueller, unternehmerischer oder internationaler Ebene?
Die kurze Antwort: Individuelles Handeln ist nötig, reicht aber nicht aus. KI-Systeme sind zu mächtig, zu vernetzt und wirtschaftlich zu bedeutsam, um sie allein durch guten Willen steuern zu wollen. Internationale Abstimmung ist unerlässlich: bei Sicherheitsstandards, Regeln für Rechenleistung, länderübergreifender Verantwortung und dem Schutz von Grundrechten.
Ein Blick auf die Atomkraft weist den Weg: Staaten behandeln nukleare Sicherheit nicht nur als nationale Angelegenheit, sondern stützen sich auf internationale Konventionen und die Internationale Atomenergiebehörde. Ähnlich verhält es sich in der Zivilluftfahrt, der Pharmaindustrie, im Bankwesen und in der Autoindustrie. Jede global genutzte Schlüsseltechnologie braucht gemeinsame Leitplanken.
Doch der Umkehrschluss wäre falsch: Die individuelle Ebene ist keineswegs irrelevant. Internationale Rahmenwerke werden erst real, wenn Menschen innerhalb dieser Institutionen jeden Tag Entscheidungen treffen und Verantwortung übernehmen. Internationale Koordination funktioniert nicht, wenn alle auf den perfekten globalen Rahmen warten und niemand im eigenen Umfeld handelt. Jede Norm beginnt im Kleinen, in konkreten Entscheidungen, die Standards setzen.
Sie nennen vier Kriterien für künstliche Integrität: ökologische Nachhaltigkeit, langfristige Lösungen, ethische Abwägung und Innovationsförderung. Doch die USA setzen derzeit sehr auf Tempo und Deregulierung, während Europa Gerechtigkeit und Nachhaltigkeit betont. Hat künstliche Integrität überhaupt eine Chance, wenn der mächtigste KI-Akteur der Welt eine andere Richtung einschlägt?
Die USA setzen auf Tempo, Infrastrukturausbau und Deregulierung, gepaart mit ihrem geopolitischen Führungsanspruch. Der Zielkonflikt ist also real. Doch das bedeutet nicht, dass künstliche Integrität chancenlos wäre. Es heißt nur, dass sie nicht primär aus dem Idealismus einer Regierung entstehen wird. Man braucht Druck von mehreren Seiten: regionale Regulierung, technische Standards, private und gemeinnützige Innovation, branchenspezifische Regeln und unternehmerisches Risikomanagement. Die USA sind zwar sehr einflussreich, bestimmen aber nicht allein die weltweiten Regeln. Oft ist die stärkste Kraft nicht Washington, sondern der Markt.
Wer in regulierten Märkten etwas verkaufen will, hält sich an die dortigen Vorgaben. Die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union ist ein gutes Beispiel. Auch der AI Act der EU überträgt Anforderungen faktisch über den Marktzugang in andere Weltregionen. Globale Anbieter passen sich häufig an, weil das günstiger ist, als zwei getrennten Regelwerken zu genügen. Der eigentliche Wettbewerb spielt sich nicht zwischen KI mit oder ohne Integrität ab. Es geht um verschiedene Entwicklungsansätze: Manche setzen vor allem auf Markterfolg, manche nutzen Daten, Aufmerksamkeit oder Abhängigkeiten aus, andere handeln verantwortungsvoller. Aber alle versuchen, Innovation mit Regeln zu verbinden, die den Erwartungen der Gesellschaft entsprechen. Erfolgreich werden diejenigen sein, die das schaffen. Künstliche Integrität ist damit Voraussetzung für dauerhafte Innovation und langfristige Akzeptanz.
OpenAI hat Anthropic beim Pentagon-Geschäft ausgestochen. Entsteht da nicht der Eindruck, Unternehmen mit laxeren ethischen Leitlinien kämen schneller voran? Warum also Tempo herausnehmen, um Ethik stärker zu berücksichtigen?
Weil Tempo und dauerhafter Wettbewerbsvorteil nicht dasselbe sind. Firmen mit laxeren ethischen Grenzen mögen einzelne Aufträge schneller gewinnen. Unternehmen mit strengeren Maßstäben wirken dagegen oft langsamer. Doch das ist nur eine Logik für die Kurzstrecke. Die wichtigere Frage lautet: Wie bleibe ich dauerhaft vertrauenswürdig und berechenbar?
Bei jeder folgenreichen Technologie lässt sich Tempo gewinnen, indem man Risiken auf andere abwälzt. Irgendwann kommt jedoch die Rechnung: durch Pannen, öffentlichen Gegenwind, Haftungsfragen, Beschaffungsverbote, Reputationsschäden oder politische Eingriffe. Anthropic ist ein gutes Beispiel. Die sogenannte Responsible Scaling Policy, also die Leitlinie des Unternehmens für verantwortungsvolles Skalieren, soll inakzeptable Risiken begrenzen. Sie entspricht dem, was ich als Anthropics violette Linie bezeichnen würde. Das kann bei manchen Geschäften Reibung erzeugen. Zugleich signalisiert sie aber professionelles Risikomanagement. Genau danach werden immer mehr öffentliche und private Akteure suchen.
OpenAI mag den Pentagon-Auftrag bekommen haben. Anthropic aber gewann Sichtbarkeit und öffentliches Vertrauen. Das zeigte sich auch am Markt: Die Claude-App kletterte unmittelbar nach der Pentagon-Geschichte auf Platz eins im App Store. ChatGPT bekam dagegen Gegenwind und wurde von vielen Nutzern deinstalliert.
Das erinnert an die These, wonach bestimmte Fähigkeiten künftig wichtiger werden könnten. Stärken „New-Collar-Jobs“, also technische Tätigkeiten, die auf digitalen Kompetenzen statt auf Studienabschlüssen basieren, den menschlichen Beitrag? Oder droht eine gespaltene Belegschaft?
Die Idee der New-Collar-Jobs ist deshalb so attraktiv, weil sie die alte Annahme infrage stellt, wonach Kompetenzen immer über klassische akademische Abschlüsse nachgewiesen werden müssen. New-Collar-Jobs können Zugänge erweitern. Sie werten praktische Intelligenz, Lernfähigkeit und angewandte Kompetenzen auf.
Doch die Idee hat zwei Seiten: Wenn Unternehmen sie ernsthaft anwenden, kann sie Chancen eröffnen. Wenn sie sie opportunistisch nutzen, kann sie eine Belegschaft zweiter Klasse schaffen. Die Gefahr ist, dass Menschen, die allein für einen kurzfristigen technischen Nutzen ausgebildet werden, weniger Aufstiegsmöglichkeiten, Anerkennung und Verhandlungsmacht erlangen. Hier zeigt sich, warum Integrität nötig ist: Sie muss verhindern, dass diese neuen Rollen zu einer Falle werden. Die Frage ist nicht, ob New-Collar-Jobs gut oder schlecht sind. Entscheidend ist, ob sie menschliche Fähigkeiten erweitern oder alte Strukturen nur mit einem neuen Label versehen.
Besteht nicht die Gefahr, dass Integrität geopfert wird, sobald sie Wachstum im Weg steht?
Künstliche Integrität wird dann unverzichtbar, wenn KI ökonomisch sichtbar wird. Ihre Leistung zeigt sich erst in der Interaktion mit Menschen. Die Frage ist also, wann ein Unternehmen zahlen will: vorher, durch gutes Design und klare Regeln, oder später durch Fehlschläge. Denn alles, was am Anfang nicht sauber geklärt ist, wird am Ende teurer.
Wenn KI unsere Entscheidungen prägt, arbeiten wir dann mit ihr zusammen oder ordnen wir uns unter?
Beides ist möglich. Wenn KI Entscheidungen beeinflusst, ohne unsere Fähigkeit zu schwächen, sie zu hinterfragen, zu korrigieren und Verantwortung zu übernehmen, dann ist das Zusammenarbeit, und das ist in Ordnung. Wenn KI uns hingegen passiv macht, gibt es Probleme. Künstliche Integrität heißt im Kern, Systeme so zu gestalten, dass wir auf dem ersten Pfad bleiben.
„Viele Unternehmen behandeln Integrität noch immer als nachträgliche Ergänzung, statt sie von Anfang an mitzudenken.“
Könnten menschliche Fähigkeiten verkümmern?
Ja. KI bringt enorme Erleichterungen, hat aber auch Nebenwirkungen. Kognitive, soziale und moralische Fähigkeiten könnten verkümmern. Wenn wir zu viel Urteilsvermögen an Maschinen delegieren, verlernen wir womöglich, selbst zu prüfen, abzuwägen und Verantwortung zu übernehmen. KI nimmt uns Umwege, Unsicherheit und mühsame Denkarbeit ab. Aber gerade an Widerständen lernen Menschen.
Wie steht es aktuell um die künstliche Integrität? Und was kann jeder Einzelne tun, um sie zu stärken?
Künstliche Integrität ist bisher eher Anspruch als Wirklichkeit. Wir stehen noch am Anfang. Der Druck zur Beschleunigung wirkt strukturell stärker als der Druck zur Integrität. Die unbequeme Wahrheit lautet, dass viele Unternehmen erst handeln, wenn Probleme sichtbar werden. Sie behandeln Integrität noch immer als nachträgliche Ergänzung, anstatt sie von Anfang an mitzudenken.
Ein gutes Beispiel ist OpenAI: Nachdem das Unternehmen wegen der Sicherheit Jugendlicher öffentlich unter Druck geraten war, kündigte man eine Altersschätzung an. Sie soll Nutzer unter 18 Jahren erkennen und automatische Schutzmaßnahmen aktivieren. Das zeigt, wie künstliche Integrität heute oft eingesetzt wird – nicht vorausschauend, sondern erst als Reaktion auf Schadensfälle und Reputationsrisiken. Für mich beschreibt genau das, wo wir heute stehen.
-
Wertebasiert entscheiden: Gesellschaftliche, unternehmerische und individuelle Bedürfnisse sollte man mit klaren Regeln praxisnah ausgestalten. -
Verantwortung teilen: Fortschritt braucht globale Koordination und individuelle Verantwortung. Institutionen funktionieren nur, wenn Menschen sie aktiv stützen.
-
Menschen im Mittelpunkt: KI soll menschliche Urteile stärken. Kritisches Denken und Austausch schützen vor Abhängigkeiten.
Immer einen Schritt voraus!
Melden Sie sich für unseren Newsletter an und lassen Sie sich von Think:Act auf den neuesten Stand bringen – mit dem, was heute wichtig ist, und mit Orientierung für das, was als Nächstes kommt.
.svg)