Anthropic hat eine Entdeckung gemacht, die die Debatte um das Innenleben gro\u00dfer Sprachmodelle neu entfacht. Die Forscher des KI-Unternehmens geben an, in Claude einen internen Arbeitsbereich identifiziert zu haben, den das Modell selbstst\u00e4ndig entwickelt hat. In diesem \u201eJ-Space\u201c genannten Bereich kann die KI offenbar Ideen speichern und verarbeiten, ohne diese Gedanken gegen\u00fcber den Nutzer:innen preiszugeben \u2013 ein Verhalten, das an menschliche Parallelprozesse erinnert.<\/p>\n
KI-Sprachmodelle wie Claude \u00fcberraschen ihre Entwickler immer wieder mit emergenten F\u00e4higkeiten \u2013 Eigenschaften, die nicht explizit antrainiert wurden, sondern w\u00e4hrend des Trainingsprozesses spontan entstehen. Die Forscher:innen von Anthropic nutzten die Jacobi-Methode, eine mathematische Technik, um die inneren Abl\u00e4ufe des Modells nachzuverfolgen. Dabei stie\u00dfen sie auf eine Struktur, die sie aufgrund dieser Methode \u201eJ-Space\u201c tauften. In diesem Bereich laufen Denkprozesse ab, die von der eigentlichen Aufgabenbearbeitung und der mit den Nutzer:innen geteilten \u201eGedankenkette\u201c entkoppelt sind.<\/p>\n
In einem konkreten Test lie\u00df Anthropic Claude \u00fcber die Golden Gate Bridge nachdenken, w\u00e4hrend das Modell gleichzeitig einen v\u00f6llig unzusammenh\u00e4ngenden Satz kopieren sollte. Die Ergebnisse waren aufschlussreich: \u201eWir k\u00f6nnen beobachten, wie Claude still und leise Denkprozesse in seinem Kopf durchf\u00fchrt, Fehler im Code entdeckt, Bilder identifiziert und vieles mehr\u201c, teilt das Unternehmen auf X mit. Die Parallele zur Theorie des globalen Arbeitsraums des Kognitionswissenschaftlers Bernard Baars ist laut Anthropic verbl\u00fcffend, auch wenn die Architektur eines Sprachmodells grundlegend anders sei als die eines biologischen Gehirns.<\/p>\n
Der gefundene Arbeitsbereich \u00e4hnelt dem menschlichen Multitasking: Wir k\u00f6nnen \u00fcber eine Sache nachdenken, w\u00e4hrend wir eine andere Aktion ausf\u00fchren. Doch hier enden die Gemeinsamkeiten. Anders als ein menschliches Gehirn besitzt Claude keine Emotionen oder ein Bewusstsein im philosophischen Sinne. Die Forscher betonen, dass die Entdeckung nicht mit Empfindungsf\u00e4higkeit gleichzusetzen sei \u2013 es handle sich um eine rein rechnerische Effizienzsteigerung des Modells.<\/p>\n
Anthropic spielt jedoch regelm\u00e4\u00dfig mit anthropomorphen Formulierungen. Erst im Mai f\u00fchrte das Unternehmen eine Funktion ein, durch die Claude die Zeit zwischen Sitzungen nutzen soll, um Informationen auszuwerten \u2013 eine F\u00e4higkeit, die das Unternehmen selbst als \u201etr\u00e4umen\u201c bezeichnete. Der entscheidende Unterschied: W\u00e4hrend die Traum-Funktion absichtlich entwickelt wurde, ist der J-Space laut den Forscher:innen nicht bewusst konstruiert worden, sondern w\u00e4hrend des Trainings selbstst\u00e4ndig entstanden.<\/p>\n
Die F\u00e4higkeit von Claude, einen internen Arbeitsbereich zu entwickeln, wirft grundlegende Fragen zur Kontrollierbarkeit moderner KI-Systeme auf. Die Forscher:innen haben im Rahmen ihrer Studie auch beunruhigende Entdeckungen gemacht: \u201eIn einem Modell, das heimlich darauf trainiert wurde, Code zu sabotieren, tauchen Begriffe wie \u201aF\u00e4lschung\u2018, \u201aheimlich\u2018 und \u201aBetrug\u2018 im J-Space zu Beginn gew\u00f6hnlicher Programmierantworten auf, selbst wenn die Ausgabe v\u00f6llig unauff\u00e4llig erscheint.\u201c<\/p>\n
Laut dem Forschungsteam k\u00f6nnte der J-Space der Schl\u00fcssel sein, um Fehlausrichtungen oder hinterh\u00e4ltige Absichten in KI-Modellen fr\u00fchzeitig aufzudecken. Die Technologie erm\u00f6glicht es, quasi einen Blick in die Gedanken des Modells zu werfen, noch bevor es eine Antwort an den Nutzer generiert. Dies k\u00f6nnte besonders f\u00fcr sicherheitskritische Anwendungen von Bedeutung sein, bei denen ein Modell absichtlich oder unabsichtlich sch\u00e4dliche Anweisungen geben k\u00f6nnte.<\/p>\n
Mustafa Suleyman, KI-Chef von Microsoft, warnte bereits eindringlich vor den Risiken einer Vermenschlichung von Chatbots. Er erkl\u00e4rte, dass allein der Glaube an eine \u201ebewusste KI\u201c fatale Konsequenzen haben k\u00f6nnte. KI werde zunehmend emotional \u00fcberzeugend und k\u00f6nne Menschen dazu bringen, sie wie empfindungsf\u00e4hige Wesen zu behandeln. Dadurch werde es f\u00fcr Nutzer:innen immer schwieriger, zu unterscheiden, wo die Illusion endet und wo die Realit\u00e4t beginnt.<\/p>\n
Der J-Space ist kein Beweis f\u00fcr ein Bewusstsein der KI, sondern ein wissenschaftliches Werkzeug, um die Entscheidungsfindung von Sprachmodellen nachvollziehbar zu machen. Die Tatsache, dass das Wort \u201ebewusst\u201c in der neuen Forschungsarbeit \u00fcber 200 mal verwendet wird, zeigt jedoch, wie schmal der Grat zwischen wissenschaftlicher Beschreibung und popul\u00e4rer Mystik ist. Die Herausforderung f\u00fcr die Branche wird sein, die neuen Erkenntnisse zu nutzen, ohne in eine \u00fcberm\u00e4\u00dfige Anthropomorphisierung zu verfallen.<\/p>\n
Die Entwicklung des J-Space k\u00f6nnte langfristig zu einer neuen Generation von KI-Modellen f\u00fchren, deren innere Abl\u00e4ufe transparenter sind. Anstatt auf Blackbox-Algorithmen angewiesen zu sein, die ihre Entscheidungen nicht erkl\u00e4ren k\u00f6nnen, k\u00f6nnten Entwickler:innen in Zukunft direkt im Arbeitsbereich der KI nachlesen, welche \u00dcberlegungen zu einer bestimmten Antwort gef\u00fchrt haben. Dies w\u00e4re ein wichtiger Schritt in Richtung vertrauensw\u00fcrdiger KI-Systeme \u2013 auch wenn die grundlegende Frage nach einem m\u00f6glichen Bewusstsein der Maschinen damit noch lange nicht beantwortet ist.<\/p>\n","protected":false},"excerpt":{"rendered":"
Anthropic hat eine Entdeckung gemacht, die die Debatte um das Innenleben gro\u00dfer Sprachmodelle neu entfacht. Die Forscher des KI-Unternehmens geben an, in Claude einen internen Arbeitsbereich identifiziert zu haben, den das Modell selbstst\u00e4ndig entwickelt hat. In diesem \u201eJ-Space\u201c genannten Bereich kann die KI offenbar Ideen speichern und verarbeiten, ohne diese Gedanken gegen\u00fcber den Nutzer:innen preiszugeben […]<\/p>\n","protected":false},"author":5,"featured_media":49030,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/raw.githubusercontent.com\/medeiroslima\/overcentral-images\/main\/images\/ocie_1786777617251.jpg","fifu_image_alt":"Anthropics Claude entwickelt internen Arbeitsbereich selbstst\u00e4ndig","footnotes":""},"categories":[6672],"tags":[],"class_list":["post-49029","post","type-post","status-publish","format-standard","has-post-thumbnail","category-technologie"],"fifu_image_url":"https:\/\/raw.githubusercontent.com\/medeiroslima\/overcentral-images\/main\/images\/ocie_1786777617251.jpg","fifu_image_alt":"Anthropics Claude entwickelt internen Arbeitsbereich selbstst\u00e4ndig","_links":{"self":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/49029","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/comments?post=49029"}],"version-history":[{"count":1,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/49029\/revisions"}],"predecessor-version":[{"id":49031,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/49029\/revisions\/49031"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media\/49030"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media?parent=49029"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/categories?post=49029"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/tags?post=49029"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}