Kontrolle behalten in der KI-Welt
Das haben wir alles schon erlebt: Eine neue, disruptive Technologie stellt etablierte Praktiken infrage. Aber während die KI-Revolution uns einerseits zwingt, neugierig zu bleiben und uns rasch auf das Künstliche einzulassen, erinnert sie uns auch daran, menschlich zu bleiben. Denn um das volle Potenzial der KI auszuschöpfen, müssen wir die Kontrolle behalten.
Beim Tauziehen von Mensch und Maschine zeigt sich erstaunlich gut, wie wenig sich in den vergangenen 135 Jahren verändert hat. Im Mai 1891 nahm Papst Leo XIII. in seiner Enzyklika Rerum Novarum die Umbrüche des Industriezeitalters in den Blick: „Wie viel in diesem Kampfe auf dem Spiele steht, das zeigt die bange Erwartung der Gemüter gegenüber der Zukunft. Überall beschäftigt man sich mit dieser Frage, in den Kreisen von Gelehrten, auf fachmännischen Kongressen, in Volksversammlungen, in den gesetzgebenden Körperschaften und im Rate der Fürsten.“
Sprung ins Jahr 2026: Papst Leo XIV. nimmt Stellung zu den Chancen und Problemen von Künstlicher Intelligenz, die sich derzeit rasant schnell in Wirtschaft und Privatleben verbreiten. Den Titel Magnifica Humanitas wählt er, um eine klare Botschaft zu senden: KI sollte ein Werkzeug wie viele andere sein, die die Menschheit bisher erfunden hat. „Wir müssen den Irrtum vermeiden, diese Art ‚Intelligenz‘ mit der des Menschen gleichzusetzen“, schreibt das Kirchenoberhaupt. „Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeuten.“ Mit Blick auf die Wirtschaft und die Gefahr, dass Millionen Menschen ihre Arbeit verlieren könnten, schreibt er: „Aus diesen Gründen ist Arbeit nicht ein bloßes Mittel […]. Sie ist ein der menschlichen Natur eingeschriebenes Bedürfnis, ein ordentlicher Weg zu persönlicher Reife, Entwicklung und Erfüllung.“
Wie sollen Führungskräfte mit diesem Dilemma umgehen? Einerseits gibt es immer mehr Belege dafür, dass KI-Tools (Wissens-)Arbeit produktiver machen, Innovationszyklen beschleunigen können und die Wettbewerbsfähigkeit von Unternehmen stärken. Andererseits wachsen die Zweifel an den Kosten und daran, wie viel Kontrolle Menschen den neuen Werkzeugen überlassen sollten.
Während es in der letzten Ausgabe des Think:Act Magazine zum Thema KI im Jahr 2026 um den kompetenten und sicheren Einsatz von KI-Tools ging, nehmen wir dieses Mal eine andere Perspektive ein: Was bedeutet es, menschlich zu bleiben, wenn Software-Agenten neben Routineaufgaben immer komplexere Tätigkeiten übernehmen können?
Diese Ausgabe setzt Wegmarken auf unbekanntem Terrain und zeigt, warum Neugier und Umsicht den KI-Einsatz leiten sollten. Wir analysieren, wie sich KI-Systeme so gestalten lassen, dass Integrität im Zentrum steht, und wir sehen uns an, wie Unternehmen durch eigene Datenlösungen, Kultur und Erfahrung bei der Einführung von KI-Systemen ihre Eigenständigkeit bewahren. Außerdem werfen wir einen Blick auf Recruiting im KI-Zeitalter und stellen kritische Fragen nach der Zukunft und Bedeutung der Arbeit. Den Abschluss bildet physische KI mit ihren neuen Herausforderungen für Regulierung und Sicherheit.
Für die fünf führenden KI-Experten, die wir in dieser Ausgabe vorstellen, heißt Menschsein, die neuen Werkzeuge zu nutzen und menschliche Stärken auszuspielen: soziale Kompetenz, Empathie und aufmerksames Zuhören. Wir sollten die Kontrolle behalten und den Austausch zwischen Mensch und Maschine bewusst gestalten.
Direkt von den Experten
Kaifu Zhang ist Gründer von drillr.ai. Das Unternehmen entwickelt Infrastrukturen für die KI-Agenten-Ökonomie. Bis Anfang 2026 war Zhang Vice President bei der Alibaba Group und verantwortete dort Suche, Empfehlungen und GenAI in der Sparte E-Commerce. Vorher lehrte er an der Tepper School of Business der Carnegie Mellon University und promovierte an der Wirtschaftshochschule INSEAD.
Was ist Ihre größte Hoffnung und Ihre größte Sorge für das kommende KI-Zeitalter?
Meine größte Sorge ist, dass der freie Markt des Wissens, also das Internet, wie wir es kannten, zusammenbricht. Da die Kosten für die Erstellung von Inhalten gegen null gehen und das Angebot unendlich wächst, stoßen Suchmaschinen und Empfehlungssysteme als zentrale Ordnungsmechanismen des Internets an ihre Grenzen. Ich möchte dabei helfen, eine Infrastruktur für verlässliche, kuratierte und hochwertige Inhalte aufzubauen.
Wie verändert sich das Wesen von Führung, wenn KI immer präsenter und zugleich leistungsfähiger wird?
KI wird die Teams in Unternehmen verkleinern, Rollenmodelle auflösen und dafür sorgen, dass sich die Produktivität innerhalb von Teams ungleicher verteilt. Führungskräfte, die selbst mit anpacken und nah am Tagesgeschäft bleiben, werden sich im KI-Zeitalter gut zurechtfinden.
Welche wichtigen Fähigkeiten brauchen Führungskräfte, und wie schnell müssen sie diese entwickeln, um künftig die Kontrolle zu behalten?
Empathie ist besonders wichtig, um diesen Wandel zu steuern. Führungskräfte müssen die Abläufe im Unternehmen und die Menschen dahinter bis ins Detail verstehen. Das ist eine moralische Frage und zugleich ein entscheidender Wettbewerbsfaktor.
Wann müssen Führungskräfte entscheiden, ob sie eine KI „einstellen“ oder „feuern“?
Jedes Unternehmen wird KI in irgendeiner Form nutzen. KI kann und sollte man nicht „entlassen“, sondern vielmehr sehr sorgfältig auswählen.
Welche Rolle spielen die Generationen Z und Alpha in dieser neuen Arbeitswelt?
Gen Z und Gen Alpha werden auf einen Arbeitsmarkt treffen, auf dem Soft Skills wie Kreativität, Kommunikationsfähigkeit und Empathie wichtiger sein werden als reines Fachwissen.
Welche Entscheidungen sollten Menschen vorbehalten bleiben?
Entscheidungen mit weitreichenden Folgen, die stark von einem Kontext abhängen, etwa in der Medizin oder im Recht. Wir müssen der KI einen klaren Rahmen vorgeben, statt agentische Systeme eigenständig Informationen im Netz suchen zu lassen.
AGI-Verfechter träumen von einer Welt grenzenloser Produktivität und materiellen Überflusses. Was entgegnen Sie diesen?
In einer Welt maximalen Überflusses droht spirituelle Leere. Herausforderungen geben unserem Tun Sinn, und Verzicht lässt uns schätzen, was wir haben.
Natalie Monbiot ist Gründerin der Virtual Human Economy und Mitgründerin von Hour One, einem Pionierunternehmen für KI-Avatare. Die Oxford-Absolventin ist Expertin für digitale Zwillinge, Identitätsfragen und die Zukunft der Arbeitswelt.
Was ist Ihre größte Hoffnung und Ihre größte Sorge für das kommende KI-Zeitalter?
Meine Hoffnung ist, dass wir Menschen von der KI-Revolution profitieren und unsere Handlungsfähigkeit stärken. Dabei kann jedoch auch viel schiefgehen. Wir haben gerade das aggressivste Werkzeug für sofortige Belohnung erfunden und machen es uns damit noch schwerer, wieder in spätere Belohnung zu investieren. Ich fürchte, dass KI uns entmachtet. Es gibt Hinweise darauf, dass dies sogar unbeabsichtigt geschieht, weil wir selbst dazu beitragen.
Welche Fähigkeiten brauchen Führungskräfte, um relevant zu bleiben und weiterhin gut führen zu können?
Führungskräfte werden zu Dirigenten ihrer Unternehmenskultur. Welche Rolle spielen Menschen im Unternehmen? Manche Unternehmen setzen ganz auf Effizienz und agentische KI. Andere stellen den Menschen stärker ins Zentrum und unterscheiden sich gerade dadurch.
Welche Rolle spielen Gen Z und Gen Alpha, die manche als KI-Natives bezeichnen, in dieser neuen Welt?
Im besten Fall nutzen sie diese Werkzeuge, um bis zum Berufseinstieg versiert, gut informiert und bestens vorbereitet zu sein. Die größte Gefahr sehe ich darin, dass sich Schüler und Studenten dem Lernen entziehen und unvorbereitet ins Berufsleben starten, weil sie den eigentlichen, mühseligen Lernprozess überspringen.
Welche Entscheidungen sollte man nicht an KI-Systeme delegieren?
Es ist natürlich sehr verlockend, eine KI zu fragen, was man tun oder anderen sagen sollte. Folgt man ihrem Rat, bereut man es womöglich, weil man zwischenmenschliche Entscheidungen nicht auslagern kann. Man muss selbst herausfinden, was sinnvoll ist, und dabei auf Intuition, Erfahrung und eigenes Denken setzen.
Andrew Keen ist Executive Director von FutureCast. Der selbst ernannte „Antichrist des Silicon Valley“ befasst sich vor allem mit den gesellschaftlichen Folgen des Internets, des digitalen Wandels und mit Fragen der Technologieethik.
Wie verändert sich das Wesen von Führung, wenn KI immer präsenter und zugleich leistungsfähiger wird?
Ich glaube, dass Führungskräfte eher geboren als ausgebildet werden. Schon die Vorstellung, eine KI könne Führungskräfte ausbilden, ist ein Widerspruch in sich. Wer KI braucht, um gut zu führen, ist per Definition nicht besonders begabt, sondern nur Mittelmaß und wird scheitern. Die großen Führungspersönlichkeiten der Zukunft werden auch im KI-Zeitalter eher Autodidakten oder Naturtalente sein.
Wann müssen Führungskräfte entscheiden, ob sie eine KI „einstellen“ oder „feuern“?
Niemand wird KI feuern. Ein Unternehmen ohne KI zu führen, wäre wie der Widerstand gegen die Dampfmaschinen oder gegen die Elektrizität. Das kann man machen, aber als Firmenchef steuert man damit in eine Katastrophe. Zugleich entstehen Chancen für KI-freie Produkte und Dienste, so wie Schallplatten in der MP3-Ära ein Comeback feierten.
Unterstellen wir einmal, dass Gen Z und Alpha als KI-Natives aufwachsen. Welche Rolle werden sie in einer KI-gestützten Arbeitswelt spielen?
Es wird eine wachsende Nostalgie für die Zeit vor der KI geben. Die künftige KI-Generation wird sich vermutlich nach einer Welt vor ihr sehnen. Vieles hängt davon ab, wie die neue KI-Welt beschaffen sein wird. Bestenfalls schätzen Menschen diese neue Welt, da sie neue Arbeit, mehr Entfaltung und Wohlstand schafft. Es ist wie die Welt vor und nach der E-Mail oder vor und nach Automobilen, Eisenbahnen oder der Elektrizität. Eine Rückkehr ist kaum vorstellbar.
Welche Entscheidungen sollten Menschen und nicht der KI überlassen werden?
Keine. Die Vorstellung, dass Menschen vor dem Einsatz neuer Technologien gute Entscheidungen getroffen haben, ist reine Nostalgie. Menschen haben schon immer schlechte Entscheidungen getroffen, das macht uns menschlich. KI-Systeme sind niemals wertneutral, da sie von Menschen entwickelt, trainiert und mit Daten gefüttert werden. Jede KI spiegelt zwangsläufig die Werte und Vorurteile ihrer Schöpfer wider. Das ist also schlicht eine Wiedereinführung eines Wertesystems menschlicher Entscheidungsfindung durch die Hintertür. Selbst wenn wir eine Art Oberklasse von Maschinen mit Seele oder eigenem Bewusstsein schaffen würden, habe ich keine Ahnung, wie diese Maschinen jenseits des Menschlichen denken sollen, ohne dabei irgendwelche unserer Werte zu übernehmen.
Richard Socher ist CEO und Mitgründer von Recursive, CEO und Gründer von You.com sowie Gründer und Managing Partner von AIX Ventures. Zuvor war er Informatikprofessor an der Stanford University und Chefwissenschaftler bei Salesforce. Er ist bekannt für seine Forschung zum Sprachverständnis neuronaler Netze.
Was erhoffen Sie sich vom kommenden KI-Zeitalter und was ist Ihre größte Sorge?
Meine größte Hoffnung ist, dass wir eine neue Ära wissenschaftlicher Entdeckungen einläuten. Irgendwann haben wir die wissenschaftliche Methode entdeckt und begonnen, unsere aufgestellten Hypothesen zu hinterfragen, Daten zu sammeln und neue Entdeckungen zu machen. Diesen Prozess können wir nun automatisieren. Das wird die Menschheit positiv verändern. Meine Hauptsorge ist, dass viele Menschen Veränderungen fürchten und aus dem Fortschritt aussteigen wollen. Das könnte die Ungleichheit verschärfen, oft auch selbst verschuldet.
Wie wird Allgemeine Künstliche Intelligenz (AGI) Unternehmen und Volkswirtschaften verändern?
Sie werden sich grundlegend verändern. Mit der nötigen Rechenleistung und den richtigen superintelligenten Systemen können Firmen viel schneller wachsen. Menschen, Unternehmen und Länder, die auf diese Technik setzen, werden immer produktiver.
Was ist die größte Schwäche der KI heute, und wie lässt sie sich künftig überwinden?
KI ist bei Innovationen noch stark auf menschliche Intelligenz und Intuition angewiesen und kann sich nicht selbst verbessern. Sobald wir dieses Problem lösen, werden wir noch weit größere Fortschritte sehen. Ich halte das in den nächsten ein bis zwei Jahren für möglich.
Welche Entscheidungen sollten allein Menschen vorbehalten bleiben?
In der Geschäftswelt gibt es meines Erachtens nur sehr wenige Bereiche, die für den Einsatz von KI völlig tabu sein sollten. Sie kann auf fast jeder Ebene ein wirklich hilfreicher Partner sein.
Rasmus Rothe ist Gründer und geschäftsführender Partner von Merantix Capital in Berlin, zu der auch der Merantix AI Campus gehört. Er promovierte an der ETH Zürich und studierte in Oxford und Princeton. Seine Schwerpunkte sind Deep Learning, KI im Gesundheitswesen und der Aufbau von KI-Unternehmen.
Was ist Ihre größte Hoffnung und Ihre größte Sorge für das kommende KI-Zeitalter?
Meine größte Hoffnung ist, dass KI zum entscheidenden Hebel wird, um große gesellschaftliche Herausforderungen zu bewältigen. Sie kann unsere Gesundheitssysteme verbessern, alternde Belegschaften und Produktivitätslücken ausgleichen, europäische Schlüsselindustrien stärken und die Forschung beschleunigen. Meine größte Sorge ist weder technisches Versagen noch die Angst, Maschinen könnten die Kontrolle übernehmen, sondern unser kollektiver Mangel an Ehrgeiz. Wenn wir klein denken und zu viel über Risiken nachdenken, werden wir die große Chance verpassen. Europa kann es sich nicht leisten, zu wenig zu investieren oder zu klein zu denken.
Wie verändert sich Führung, wenn KI präsenter und leistungsfähiger wird?
Führungskräfte werden zu Systemarchitekten, die Prozesse für die Zusammenarbeit von KI-Agenten und Menschen gestalten. Führung heißt künftig, Menschen und KI-Systeme unternehmensweit zu koordinieren.
Wie wird Allgemeine Künstliche Intelligenz (AGI) oder Superintelligenz Unternehmen und Volkswirtschaften verändern?
Bei einer möglichen Investition machen wir oft ein Gedankenexperiment: Gäbe es schon jetzt Superintelligenz, würde dieses Unternehmen dann noch bestehen? Das zeigt uns, wo sein wahrer Wert liegt. Wird KI überall verfügbar, muss der Wettbewerbsvorteil anderswo liegen – im Vertrieb, in fest verankerten Abläufen, in Netzwerkeffekten und letztlich im Vertrauen der Kunden. Gesamtwirtschaftlich werden Länder und Standorte, die Infrastruktur aufbauen und Fachkräfte anziehen können, spürbar an Wirtschaftskraft gewinnen.
Welcher Irrweg ist für die heutige KI-Forschung und ihren kommerziellen Einsatz am gefährlichsten?
Die Gefahr liegt weniger in einer technischen Sackgasse als in der falschen Verteilung von Aufmerksamkeit und Ressourcen. Beim Internet entstand der langfristige Wert nicht durch die Infrastruktur selbst, sondern durch die Unternehmen, die auf ihrer Basis Anwendungen entwickelten. Bei der KI wird es ähnlich sein: Entscheidend ist, wer die Technologie am besten nutzt und darauf aufbaut.
-
Handlungsfähigkeit in Gefahr: Bei der KI-Revolution entscheidet sich, ob der Mensch gestärkt oder geschwächt aus ihr hervorgeht. -
Kleinere Teams, höhere Ansprüche: KI verschlankt Unternehmen und verlangt nach Führungskräften, die koordinieren, Empathie zeigen und selbst mit anpacken.
-
Soft Skills entscheidend: Je mehr technische Aufgaben KI übernimmt, desto wichtiger werden Kreativität, Kommunikation und Urteilsvermögen.
-
Risiko Mensch: Ob wir unsere Entmachtung hinnehmen oder kollektiv den Ehrgeiz verlieren: Das größte Risiko in der KI-Welt ist der Mensch, nicht die Technik.
Aus der bisherigen Ausgabe – „Künstliche Aussichten“
Immer einen Schritt voraus!
Melden Sie sich für unseren Newsletter an und lassen Sie sich von Think:Act auf den neuesten Stand bringen – mit dem, was heute wichtig ist, und mit Orientierung für das, was als Nächstes kommt.
.svg)