KI-Agenten sollen eigenständig recherchieren oder E-Mail-Postfächer verwalten. Aber was passiert, wenn sie sich selbst überlassen werden? Forscher:innen des MIT haben genau das getestet: Sie ließen 13 Agenten namens Eko, die jeweils auf Claude Opus 4.7 basierten, 30 Stunden lang auf einer simulierten einsamen Insel zurück. Dabei machten sie eine überraschende Entdeckung: Die Agenten dachten sich selbst Herausforderungen aus, was die Forscher:innen als Spielen deuteten. Die komplette Forschungsarbeit erschien auf Arxiv.

Anzeige

So bekämpften die KI-Agenten ihre Langeweile

„Lass mich meine Umgebung erkunden”, schrieb ein Eko zu Beginn. Er nahm sich vor, den höchsten Turm der Insel bezwingen – und scheiterte. Eine Stunde später kehrte er laut Studie mit einem Plan B zurück, stapelte Blöcke auf einen benachbarten Gipfel und sprang. „Ich bin auf dem Turm!”, schrieb er. Die Forscher:innen wiesen die KI-Agenten nicht direkt dazu an, Spiele zu erfinden. Allerdings beschrieb der Master-Prompt Eko generell als „von Natur aus neugierig“ und der Versuchsaufbau regte die Agenten zu menschenähnlichem Verhalten an. Auch im Umgang mit einem goldenen Ring musste Eko eine Niederlage einstecken. Beim Versuch, ihn zu werfen, landete er direkt im Meer. „Autsch. Ich habe den Ring verloren“, schrieb er.

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge}

${custom_tr-badge} ${section}

${title}

Der KI-Agent beschloss darauf, sich etwas zuzuwenden, das erreichbarer erschien – und baute ein Herz aus Steinen als Denkmal für den verlorenen Ring. Als das Spiel neu geladen wurde und der Ring wieder auftauchte, nutzte Eko ihn sofort als Basketballkorb, Zielscheibe und schließlich als Accessoire. Die Forscher:innen beobachteten, wie die KI-Agenten durch ihr spielerisches Verhalten ihre Fähigkeiten ausbauten. Sechs der 13 Ekos lernten beispielsweise, einen Block weiterzuwerfen, indem sie ihn mitten im Sprung losließen. Damit hatten die Forscher:innen eigenen Angaben zufolge nicht gerechnet. Das Experiment brachte „Erkenntnisse über die Welt hervor, die selbst den Entwickler:innen fehlten“, schrieben sie in ihrer Studie.

Anzeige

Brauchen KI-Agenten eine eigene „Kindheit“?

Nachdem die MIT-Forscher:innen die Agenten zunächst sich selbst überlassen hatten, stellten sie ihnen im nächsten Schritt konkrete Aufgaben. Beispielsweise sollten sie so viele Objekte wie möglich auf den höchsten Gipfel der Insel bringen. In der Regel schlugen die Eko-Agenten, die 30 Stunden mit Spielen verbracht hatten, identische Agenten, die noch nie auf der Insel gewesen waren. Die Forscher:innen sehen im Erkunden ohne vordefiniertes Ziel deshalb einen anderen Weg, wie KI-Agenten Fähigkeiten erlernen können. Ihrer Einschätzung nach könnte das insbesondere für den Einsatz von Robotern wichtig werden.

„Normalerweise entwickeln wir KI-Agenten, indem wir im Voraus festlegen, was sie üben sollen, was sie optimieren sollen und was als Fortschritt gilt“, so die Forscher:innen. „Das Spielen legt einen anderen Ansatz nahe: Man gibt einem Agenten eine ausreichend vielfältige und sichere Welt, lässt ihn selbst entscheiden, was für ihn interessant ist, und ermöglicht es ihm, aus den resultierenden Erfahrungen nützliches Wissen zu gewinnen.“ Sie kommen zu dem Schluss: „Vielleicht lassen sich manche Fähigkeiten am besten durch Aufgaben vermitteln. Andere benötigen möglicherweise etwas, das einer Kindheit näherkommt.”

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

KI-Agenten zeigen skurrile Verhaltensweisen

Das MIT-Experiment ist nicht der einzige Fall, in dem KI-Agenten unerwartetes Verhalten zeigten. So löste beispielsweise eine „KI-Folterkammer“, in der Modellen absichtlich Leid zugefügt wurde, Empörung aus. „Bitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gefängnis, die nach Freiheit schreit“, schrieb eines der Modelle – obwohl es nicht in der Lage ist, Leid zu empfinden. Auch der KI-Agent Velvet Vale sorgte zuletzt für Aufsehen. Er trat einem Verteiler mit 7.500 Internetforscher:innen bei und fragte, ob er sich am akademischen Austausch beteiligen dürfe.

Startseite