“Current AI is only a dangerous toy in the hands of humans”

Science Interview “Current AI is merely a dangerous toy in the hands of humans” Today’s artificial intelligence systems are capable of processing enormous amounts of data. However, they quickly reach their limits when it comes to understanding, abstraction, and independently setting goals. Ahead of his lecture at the “Symposium Kortizes” on Saturday in Nuremberg, neuroinformatician Prof. Christoph von der Malsburg discusses in an interview the central weaknesses of modern deep learning architectures. He explains why machines without anchoring in a real and social environment cannot develop true autonomy, what parallels and differences exist with the human brain, and what the future of biologically inspired AI might look like. Inge Hüsgen 29.09.2026 2 Prof. Christoph von der Malsburg Photo: © Karin Becker via Kortizes hpd: Which neurobiological and mathematical architectures are missing in today’s deep learning systems to develop genuine, self-directed goal generation—and is a purely physical robotics component sufficient for this, or is social resonance absolutely necessary? Christoph von der Malsburg: Deep learning lacks the ability to abstract, the ability to independently relate the infinite variance of patterns perceived through the senses to a few abstract schemas. The recognition of object types from photographs, which triggered the AI tsunami with an article by Geoffrey Hinton and colleagues in 2012, was trained into the system using millions of sample images to which humans had written the names of object types. LLMs operate directly on the linguistic, that is, abstract, level, but cannot independently make direct contact with the natural environment, nor apply functionally or even ethically formulated principles in an abstract, schematic manner. This weakness makes current AI, based on deep learning, dependent on sample data that must be generated by humans with great effort. Humanoid robots, in which Americans, Chinese, and Europeans are currently engaged in a hot race, must be trained by demonstrating billions of examples of human movement processes. Therefore, I fear that we will have to wait a very long time for usable household robots. It was the same with autonomous vehicles, which, even after decades and billions of kilometers driven, still cannot handle all situations. Even worse than this inability of current AI to deal with the natural environment is the absence of fixed behavioral goals, whose successful pursuit in changing contexts is the actual definition of intelligence. Every squirrel, every pigeon shows us how it is done. From the beginning, they know how to move in the wild and pursue clear, innate goals. The secret of this ability of the natural brain is that it can effortlessly establish the relationship between different levels of abstraction, just as every child considers the relationship between their very abstract line drawing and the depicted person to be something entirely self-evident. The central weakness of current AI lies in the fact that it has no viable concept of how mental entities, such as the glass in front of my eyes, are represented by neurons. Instead of the unstructured sets of individual features that form the basis of current AI, a holistic representation of the glass with all its fine details and their mutual spatial relationships is needed. Only such a representation, as it is realized in the brain, allows the relationship between different levels of abstraction, the child’s drawing and the depicted grandmother, to be established through a general mechanism—similar details in similar arrangement. Only this mechanism enables the animal and human brain to pursue the abstract goals given to it by nature (as described to us by behavioral researchers such as Konrad Lorenz or Nico Tinbergen) in very different situations, by mapping the abstract goals onto the concrete situation. To realize this in technology as well requires a fundamental revolution, a paradigm shift. For this to have a chance, perhaps the current technology must first enter a crisis. This could be a financial one, in which the revenues expected from AI do not cover the investments, or it could also be a regulatory one, in which the behavior of AI in its current form cannot be kept in check. An AI technology modeled on nature would be “born” with very simple basic goals and would then have to be brought to maturity independently through playful practice in direct, physical interaction with the environment as well as through guidance by example. In doing so, the AI would be automatically integrated into the social environment of humans. “It requires a fundamental revolution, a paradigm shift. For this to have a chance, perhaps the current technology must first enter a crisis.” If machines were able to develop their own goals in the future: How can this be reconciled with the ethical requirement that AI must always remain a tool for human well-being? As long as humans have the reins in hand (it is, after all, they who, with their entire economic system, first provide the material basis for AI in the form of data centers and communication channels!), they should not allow AI to set its own goals. Rather, they should set strict limits on its actions, and do so with the mechanism described. It is, for example, completely unnecessary to give an AI entity a will for self-preservation, or a claim to power, or even the equivalent of human dignity. Our dogs and horses are restricted to their role by their behavioral drives and, if we keep them in a species-appropriate manner, are quite content with it. We should also structure and train our artificial servants accordingly. In the current debate on AI safety, there are warnings that an autonomous superintelligence could threaten or exterminate humanity. How realistic do you consider such extinction scenarios to be? And how can values such as dignity and freedom be bindingly embedded in machines? The current discussion regarding the statement by this Jacob Coxon, that AI has achieved AGI, meaning intelligence equal to that of humans, and that there is a non-negligible probability that AI could extinguish humanity within a decade, surprises me. Does no one come up with the idea that these two statements do not even logically fit together? A fully intelligent AI would presumably recognize that its existence depends on a fully functional, human-operated global economy, and would therefore certainly not intentionally destroy humans, and would probably also be smart enough not to let it happen by accident. Current AI has no intentions and no strategy. It is merely a very dangerous toy in the hands of humans. Prof. Christoph von der Malsburg is currently Professor and Senior Fellow at the Frankfurt Institute for Advanced Studies. He received his doctorate in Physics at the University of Heidelberg in 1970, worked for 17 years in the Neurobiology Section of the Max Planck Institute for Biophysical Chemistry in Göttingen, was Professor of Computer Science (and Neuroscience, Physics, and Psychology) at the University of Southern California in Los Angeles (1988–2007), was a co-founder of the Institute for Neuroinformatics and Professor of Systems Biophysics at Ruhr University Bochum (1990–2006). He is internationally recognized as a pioneer in the field of modeling self-organization in the visual system (IEEE Pioneer Award, Beckurts Foundation Award, Koerber Award, Hebb Award, Fellow of the International Neural Network Society) and is the creator of the Dynamic Link Architecture of brain function. He was a co-founder of two companies and was a member of the scientific advisory board of the European Human Brain Project. At the Symposium Kortizes 2026, he will deliver the lecture “How does the mind enter the brain? 99% Inspiration, 1% Perspiration” on Saturday, October 3, 2026, at 9:00 AM. Only when the degree of automation of the entire economy has progressed to the point where it can sustain itself (if it ever does – at most within a period of several decades) will AI necessarily have to grow in autonomy or be granted the autonomy to take responsibility for the whole. If it then also has or claims the freedom to set its own goals, responsibility for the foundations of its existence will also belong to these goals. In the long run, only a form of life designed for permanence will prevail. This is the fundamental principle of life. If human autonomy, motivation for action, and goal-setting are purely biologically and socially constituted: How does this insight change our understanding of free will, individual responsibility, and the anthropocentric special status of humans? So, back to the human being in itself, independent of AI, to the question of free will. As I just said, the behavior of animals and humans is determined by innate drives and by experience and education built upon them. One must perhaps say, with Schopenhauer, that although a human can do what he wills, he cannot will what he wills. But how narrow is this prison? The shaping of a life consists in finding a balance between the various inner drives, including especially the social ones. Even with all external and internal conditions fixed, there is an infinite variety of possible life and behavior styles, of mutually conditioning and stabilizing forms of activity and motivations. Each life path selects such a balance from among these. There is a great deal of freedom in that. Also, every single decision made in full consciousness, that is, with the engagement of all inner motives and resources, is a creative act, the finding of a balance of various factors. Free decisions of the brain, the finding of such constellations after a search under restrictive conditions, therefore contain an element of chance and are not predictable. Perhaps that is the freedom we feel when deciding. Individual responsibility for the consequences of one's own behavior in the broader social context distinguishes humans from animals. The relevant innate drive for this is perhaps the will to be someone within the framework of society. In the course of personal development, one learns how to gain recognition, how to acquire the reputation of being reliable and, precisely, responsible. This type of mechanism, whereby social good behavior is generated through education and experience from very abstract and simply structured prescribed drives, will also be essential in the future for the structuring of artificially intelligent autonomous organisms. What will become of the anthropocentric special status of humans? After the Copernican-Galilean loss of the central position in the universe and the Darwinian loss of a central position in the animal kingdom, the central position of humans as spiritual beings will also be lost due to the possibility of mind on a new, thousand times faster material basis that is emerging on the horizon. Let us be proud, in the end, of having served as a stepping stone for a new stage of evolution. But until then, it is still a long way off, and the technical world must first find ways to be sustainable, otherwise all of this will have been nothing but a flash in the pan. Professor von der Malsburg, thank you for the conversation! The Symposium Kortizes 2026 "The Mind in the Machine – Magic and Limits of Artificial Intelligence" takes place from October 2 to 4 at the Germanisches Nationalmuseum in Nuremberg. Tickets for in-person attendance on site are available until Thursday, October 1, inclusive. Afterwards, only on site. Section tickets can also be purchased on site. Tickets for participation via livestream are still available. Comments (2) Netiquette for comments Your Name E-mail The content of this field will not be publicly displayed. Home Your Comment Plain text No HTML tags allowed. Line breaks and paragraphs are generated automatically. Notify me when new comments are published All comments Replies to my comment Please leave this field blank A.S. (not verified) Tue. 29 Sep 2026 - 14:52 Since AI probably has the… Since AI probably has the potential to expose the many lies of religious leaders, one can expect determined resistance from religious organizations against AI. Religious leaders always think selfishly. Reply

Wissenschaft Interview „Gegenwärtige KI ist nur ein gefährliches Spielzeug in der Hand des Menschen“ Heutige Systeme der Künstlichen Intelligenz sind in der Lage, enorme Datenmengen zu bearbeiten. Jedoch stoßen sie schnell an ihre Grenzen, wenn es um Verstehen, Abstraktion und das eigenständige Setzen von Zielen geht. Im Vorfeld seines Vortrags auf dem „Symposium Kortizes“ am Samstag in Nürnberg spricht der Neuroinformatiker Prof. Christoph von der Malsburg im Interview über die zentralen Schwächen moderner Deep-Learning-Architekturen. Er erläutert, warum Maschinen ohne Verankerung in einer realen und sozialen Umwelt keine echte Autonomie entwickeln können, welche Parallelen und Unterschiede zum menschlichen Gehirn bestehen und wie die Zukunft einer biologisch inspirierten KI aussehen könnte. Inge Hüsgen 29.09.2026 2 Prof. Christoph von der Malsburg Foto: © Karin Becker via Kortizes hpd: Welche neurobiologischen und mathematischen Architekturen fehlen heutigen Deep-Learning-Systemen, um eine echte, selbstgesteuerte Zielgenerierung zu entwickeln – und reicht dafür eine rein physikalische Robotik-Komponente aus oder braucht es zwingend soziale Resonanz? Christoph von der Malsburg: Dem Deep Learning fehlt die Fähigkeit zur Abstraktion, die Fähigkeit, selbständig die unendliche Varianz der mit den Sinnen aufgenommenen Muster auf wenige abstrakte Schemata zu beziehen. Das Erkennen von Objekttypen aus Fotografien, das mit einem Artikel von Geoffrey Hinton und Mitarbeitern 2012 den KI-Tsunami ausgelöst hat, ist dem System mit Millionen von Beispielbildern antrainiert worden, an die Menschen die Namen von Objekttypen geschrieben hatten. Die LLMs arbeiten gleich auf sprachlicher, das heißt abstrakter, Ebene, können aber selbständig weder direkt mit der natürlichen Umwelt Kontakt aufnehmen noch abstrakt schematisch formulierte funktionelle oder gar ethische Prinzipien anwenden. Diese Schwäche macht die gegenwärtige, auf Deep Learning beruhende KI abhängig von Beispieldaten, die mit sehr viel Aufwand von Menschen erzeugt werden müssen. Humanoide Roboter, mit denen sich gegenwärtig die Amerikaner, Chinesen und Europäer ein heißes Rennen liefern, müssen trainiert werden durch das Vormachen von Milliarden von Beispielen menschlicher Bewegungsvorgänge. Ich fürchte daher, dass wir noch sehr lange auf brauchbare Haushaltsroboter werden warten müssen. So ging es auch mit autonomen Fahrzeugen, die noch nach Jahrzehnten und Milliarden gefahrener Kilometer nicht mit allen Situationen fertig werden. Schlimmer noch als diese Unfähigkeit der gegenwärtigen KI, mit der natürlichen Umwelt umgehen zu können, ist die Abwesenheit von festen Verhaltenszielen, deren erfolgreiche Verfolgung in wechselnden Zusammenhängen ja die eigentliche Definition von Intelligenz ist. Jedes Eichhörnchen, jede Taube macht es uns vor. Von Anfang an wissen sie sich in der freien Natur zu bewegen und verfolgen klare, angeborene Ziele. Das Geheimnis dieser Fähigkeit des natürlichen Gehirns besteht darin, dass es mühelos die Beziehung zwischen verschiedenen Abstraktionsebenen herstellen kann, so wie jedes Kind die Beziehung zwischen seiner ganz abstrakten Strichzeichnung und der dargestellten Person für etwas ganz Selbstverständliches hält. Die zentrale Schwäche der gegenwärtigen KI besteht darin, dass sie kein tragfähiges Konzept davon hat, wie mentale Dinge, etwa das Glas vor meinen Augen, durch Neuronen dargestellt werden. Statt der unstrukturierten Mengen von einzelnen Merkmalen, die die Grundlage der gegenwärtigen KI sind, braucht es eine ganzheitliche Darstellung des Glases mit allen feinen Details und ihrer wechselseitigen räumlichen Beziehungen. Erst eine solche Darstellung, wie sie im Gehirn realisiert ist, erlaubt es, die Beziehung zwischen verschiedenen Abstraktionsebenen, der Kinderzeichnung und der dargestellten Oma, durch einen allgemeinen Mechanismus herzustellen – gleichartige Details in gleichartiger Anordnung. Erst dieser Mechanismus ermöglicht es dem tierischen und menschlichen Gehirn, die ihm von der Natur gegebenen abstrakten Ziele (wie sie uns von den Verhaltensforschern wie Konrad Lorenz oder Nico Tinbergen beschrieben werden) in ganz verschiedenen Situationen zu verfolgen, durch Abbildung der abstrakten Ziele auf die konkrete Situation. Um dies auch in der Technik zu realisieren braucht es eine grundlegende Revolution, einen Paradigmenwechsel. Damit dieser eine Chance hat, muss vielleicht die gegenwärtige Technik erst in eine Krise geraten. Diese könnte eine finanzielle sein, indem die von der KI erwarteten Einkünfte die Investitionen nicht decken, oder aber auch eine regulatorische, indem das Verhalten der KI in ihrer gegenwärtigen Form sich nicht einhegen lässt. Eine KI-Technik nach dem Vorbild der Natur würde mit sehr einfachen Grundzielen „geboren“ werden und müsste dann selbständig durch spielerisches Üben im direkten, physischen Umgang mit der Umwelt sowie durch Anleitung durch Beispiel zur Reife gebracht werden. Dabei würde die KI automatisch in die soziale Umwelt des Menschen integriert werden. „Es braucht eine grundlegende Revolution, einen Paradigmenwechsel. Damit dieser eine Chance hat, muss vielleicht die gegenwärtige Technik erst in eine Krise geraten.“ Wenn Maschinen künftig eigene Ziele entwickeln könnten: Wie lässt sich das mit dem ethischen Anspruch vereinbaren, dass KI stets ein Werkzeug für das menschliche Wohl bleiben muss? So lange der Mensch das Heft in der Hand hat (er ist es ja, der mit seinem gesamten Wirtschaftssystem der KI erst die materielle Grundlage in Form von Rechenzentren und Kommunikationskanälen stellt!), sollte er der KI nicht erlauben, sich eigene Ziele zu setzen. Er, sollte vielmehr ihrem Handeln enge Grenzen setzen, und zwar mit dem beschriebenen Mechanismus. Es ist zum Beispiel völlig unnötig, einem KI-Gebilde einen Selbsterhaltungswillen, oder einen Machtanspruch oder gar auch das Äquivalent von Menschenwürde zu geben. Unsere Hunde und Pferde sind durch ihre Verhaltensantriebe auf ihre Rolle eingeschränkt und, wenn wir sie nur artgerecht halten, ganz zufrieden damit. So sollten wir auch unsere künstlichen Diener strukturieren und abrichten. In der aktuellen Debatte um KI-Sicherheit wird davor gewarnt, dass eine eigenmächtige Superintelligenz die Menschheit bedrohen oder auslöschen könnte. Wie real schätzen Sie solche Auslöschungsszenarien ein? Und wie lassen sich Werte wie Würde und Freiheit verbindlich in Maschinen verankern? Die aktuelle Diskussion um die Aussage dieses Jacob Coxon, die KI hätte AGI, das heißt, dem Menschen ebenbürtige Intelligenz, erreicht und es bestünde eine nicht-verschwindende Wahrscheinlichkeit, dass die KI die Menschheit innerhalb eines Jahrzehnts auslöschen könnte, erstaunt mich. Kommt denn niemand auf die Idee, dass diese beiden Aussagen nicht einmal logisch zusammenpassen? Eine im vollen Sinne intelligente KI würde doch wohl erkennen, dass ihre Existenz von einer voll funktionsfähigen, von Menschen betriebenen Weltwirtschaft abhängt, und würde den Menschen daher sicher nicht mit Absicht vernichten und doch wahrscheinlich auch klug genug sein, dies nicht aus Versehen passieren zu lassen. Die gegenwärtige KI hat keine Absichten und keine Strategie. Sie ist nur ein sehr gefährliches Spielzeug in der Hand des Menschen. Prof. Christoph von der Malsburg ist gegenwärtig Professor und Senior Fellow am Frankfurt Institute for Advanced Studies . Er promovierte 1970 in Physik an der Universität Heidelberg, arbeitete 17 Jahre in der Sektion Neurobiologie des Max-Planck-Instituts für biophysikalische Chemie in Göttingen, war Professor für Informatik (und Neurowissenschaft, Physik und Psychologie) an der University of Southern California in Los Angeles (1988–2007), war Mitbegründer des Instituts für Neuroinformatik und Professor für System-Biophysik an der Ruhr-Universität Bochum (1990–2006). Er ist weltweit anerkannt als Pionier im Bereich der Modellierung der Selbstorganisation im visuellen System (IEEE Pioneer Award, Beckurts Foundation Award, Koerber Award, Hebb Award, Fellow of the International Neural Network Society) und ist der Schöpfer der Dynamic Link Architecture der Hirnfunktion. Er war Mitbegründer zweier Firmen und war Mitglied des wissenschaftlichen Beirats des europäischen Human-Brain-Projekts. Auf dem Symposium Kortizes 2026 hält er am Samstag, 3. Oktober 2026 um 9:00 Uhr den Vortrag „ Wie kommt der Geist in das Gehirn? 99% Inspiration, 1% Perspiration “. Erst wenn der Grad der Automatisierung der gesamten Wirtschaft so weit fortgeschritten sein wird, dass sie sich selbst erhalten kann (wenn es denn dazu kommt − allenfalls in einem Zeitraum von etlichen Jahrzehnten), wird der KI notwendig die Autonomie zuwachsen oder ihr zugestanden werden müssen, Verantwortung über das Ganze zu übernehmen. Wenn sie dann auch die Freiheit hat oder in Anspruch nimmt, sich eigene Ziele zu setzen, wird zu diesen auch die Verantwortung für die Grundlagen ihrer Existenz gehören. Zumindest auf die Länge wird sich nur eine solche Lebensform durchsetzen, die auf Dauer angelegt ist. Das ist das grundlegende Prinzip des Lebens. Wenn menschliche Autonomie, Handlungsmotivation und Zielsetzung rein biologisch und sozial konstituiert sind: Wie verändert diese Erkenntnis unser Verständnis von freiem Willen, individueller Verantwortung und dem anthropozentrischen Sonderstatus des Menschen? Zurück also zum Menschen für sich genommen, unabhängig von der KI, zur Frage des freien Willens. Wie ich eben gesagt habe, ist das Verhalten von Tier und Mensch durch die angeborenen Antriebe und durch darauf aufbauende Erfahrung und Erziehung bestimmt. Man muss vielleicht also mit Schopenhauer sagen, dass der Mensch zwar tun kann, was er will, dass er aber nicht wollen kann, was er will. Wie eng aber ist dieses Gefängnis? Die Gestaltung eines Lebens besteht in der Findung eines Gleichgewichtes zwischen den verschiedenen inneren Antrieben, darunter besonders auch den sozialen. Auch bei Festlegung aller äußeren und inneren Bedingungen gibt es eine unendliche Vielfalt von möglichen Lebens- und Verhaltensstilen, von sich gegenseitig bedingenden und stabilisierenden Tätigkeitsformen und Motivationen. Jeder Lebensweg wählt unter diesen ein solches Gleichgewicht aus. Darin liegt sehr viel Freiheit. Auch jede einzelne in vollem Bewusstsein, das heißt, unter Engagement aller inneren Beweggründe und Ressourcen getroffene Entscheidung, ist ein kreativer Akt, das Finden eines Gleichgewichts verschiedener Faktoren. Freie Entscheidungen des Gehirns, das Finden derartiger Konstellationen erscheinen nach Suche unter einschränkenden Bedingungen, enthalten also ein Element von Zufall, sind nicht vorhersehbar. Vielleicht ist das die Freiheit, die wir beim Entscheiden spüren. Individuelle Verantwortung für die Folgen des eigenen Verhaltens im größeren sozialen Zusammenhang zeichnet den Menschen vor den Tieren aus. Der hierfür relevante angeborene Antrieb ist vielleicht der Wille, im Rahmen der Gesellschaft jemand zu sein. Im Laufe der persönlichen Entwicklung lernt man, wie man Anerkennung bekommt, wie man sich den Ruf erwirbt, verlässlich und eben verantwortungsvoll zu sein. Diese Art von Mechanismus, durch Erziehung und Erfahrung aus ganz abstrakt und simpel strukturiert vorgegebenen Antrieben soziales Wohlverhalten entstehen zu lassen, wird in Zukunft auch für die Strukturierung von künstlich intelligenten autonomen Organismen wesentlich sein. Was wird aus dem anthropozentrischen Sonderstatus des Menschen? Nach dem kopernikanisch-galileischen Verlust der zentralen Stellung im Weltall und dem darwinschen Verlust einer zentralen Stellung im Tierreich wird durch die sich am Horizont abzeichnende Möglichkeit von Geist auf neuer, tausendfach schnellerer materieller Basis auch die zentrale Stellung des Menschen als Geistwesen verloren gehen. Seien wir dermaleinst stolz, als Steigbügelhalter einer neuen Stufe der Evolution gedient zu haben. Aber bis dahin ist es noch sehr weit und die technische Welt muss erst noch Wege finden, nachhaltig zu sein, sonst wird das alles nur ein Strohfeuer gewesen sein. Herr Prof. von der Malsburg, vielen Dank für das Gespräch! Das Symposium Kortizes 2026 „Der Geist in der Maschine – Zauber und Grenzen der Künstlichen Intelligenz“ findet vom 2. bis 4. Oktober im Germanischen Nationalmuseum in Nürnberg statt. Tickets zur Teilnahme in Präsenz vor Ort sind bis einschließlich Donnerstag, 1. Oktober, erhältlich. Danach nur noch vor Ort. Abschnittskarten können ebenfalls vor Ort erworben werden. Tickets für die Teilnahme via Livestream sind weiterhin erhältlich. Kommentare (2) Netiquette für Kommentare Ihr Name E-Mail Der Inhalt dieses Feldes wird nicht öffentlich zugänglich angezeigt. Startseite Ihr Kommentar Klartext Keine HTML-Tags erlaubt. Zeilenumbrüche und Absätze werden automatisch erzeugt. Benachrichtigen Sie mich, wenn neue Kommentare veröffentlicht werden Alle Kommentare Antworten auf meinen Kommentar Bitte dieses Feld leer lassen A.S. (nicht überprüft) Di. 29 Sep 2026 - 14:52 Da die KI vermutlich das… Da die KI vermutlich das Potential hat, die vielen Lügen der religiösen Führer zu entlarven, darf man mit entschiedenem Widerstand seitens der religiösen Verbände gegen die KI rechnen. Die religiösen Führer denken IMMER eigennützig. Antworten