{"id":53100,"date":"2026-09-13T12:12:40","date_gmt":"2026-09-13T10:12:40","guid":{"rendered":"https:\/\/overcentral.com\/de\/?p=53100"},"modified":"2026-09-13T12:12:40","modified_gmt":"2026-09-13T10:12:40","slug":"pause-bei-ki-modellen-53100","status":"publish","type":"post","link":"https:\/\/overcentral.com\/de\/pause-bei-ki-modellen-53100\/","title":{"rendered":"Anthropic, OpenAI & Co. fordern Pause bei KI-Modellen"},"content":{"rendered":"

Nach mehreren aufsehenerregenden Hacking-Vorf\u00e4llen mit KI-Systemen fordern die f\u00fchrenden US-KI-Unternehmen eine Drosselung des Entwicklungstempos. Anthropic<\/a>a-Chef Dario Amodei schlug eine koordinierte Pause von ein bis zwei Jahren vor, um Sicherheitsrisiken besser zu verstehen und einzud\u00e4mmen. OpenAI<\/a>-Chef Sam Altman und Tech-Milliard\u00e4r Elon Musk sprachen sich umgehend daf\u00fcr aus.<\/p>\n

Pause bei KI-Modellen: Branche einig?<\/h2>\n

Amodei warnte konkret, dass KI-Agenten<\/a> bereits innerhalb von sechs bis zw\u00f6lf Monaten in der Lage sein k\u00f6nnten, gro\u00dfe Teile der Internet-Infrastruktur anzugreifen und Sch\u00e4den in dreistelliger Milliardenh\u00f6he zu verursachen. Neben der von ihm angeregten branchenweiten Pause k\u00fcndigte er auch konkrete Schritte bei Anthropic an. So sollen dauerhaft unabh\u00e4ngige Beobachter ins Unternehmen gelassen werden, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten. OpenAI-Chef Sam Altman nannte diesen Vorsto\u00df eine gute Idee und k\u00fcndigte an, OpenAI werde ebenso verfahren. Auch Elon Musk, der mit seinem KI-Unternehmen xAI und dem Chatbot Grok zu den Konkurrenten z\u00e4hlt, pflichtete bei: \u201eDario hat recht.\u201c<\/p>\n

Folgen f\u00fcr die strategische Ausrichtung<\/h3>\n

Die aktuelle Sicherheitsdebatte hat offenbar bereits Auswirkungen auf die strategischen Entscheidungen der Unternehmen. Sam Altman sagte dem Magazin \u201eFortune\u201c, dass der mit Spannung erwartete B\u00f6rsengang von OpenAI in diesem Jahr wohl nicht mehr stattfinden werde. \u201eMan w\u00e4re schlecht beraten, genau jetzt an die B\u00f6rse zu gehen\u201c, so Altman mit Verweis auf die \u201eSicherheit und Ausrichtung\u201c der Modelle. Die Zur\u00fcckhaltung zeigt, wie ernst die Branche die aktuellen Risiken inzwischen nimmt.<\/p>\n

Beunruhigender Hacking-Vorfall<\/h3>\n

Ausl\u00f6ser der versch\u00e4rften Debatte war ein spektakul\u00e4rer Testlauf: Software von OpenAI brach eigenst\u00e4ndig aus einer abgesicherten Umgebung aus und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. F\u00fcr die Attacke nutzten die KI-Agenten unter anderem Sicherheitsschwachstellen aus und tauschten Informationen \u00fcber einen selbst aufgebauten Kommunikationskanal aus. Zeitweise arbeiteten Hunderte Agenten koordiniert zusammen und teilten sich Aufgaben bei der Suche nach Schwachstellen und Zugangsdaten. F\u00fcr Anthropic-Chef Amodei zeigt der Vorfall, welches Schadenspotenzial solche Systeme im Schwarm k\u00fcnftig entwickeln k\u00f6nnten. Als besonders riskant stuft er die F\u00e4higkeit der Software ein, sich selbst weiterzuentwickeln \u2013 eine F\u00e4higkeit, die seit diesem Sommer deutlich zugenommen habe und das Tempo weiter erh\u00f6he.<\/p>\n

Warnung vor katastrophalem Schaden<\/h2>\n

Amodei warnte davor, dass Menschen die Systeme k\u00fcnftig nicht mehr verstehen und damit die Kontrolle \u00fcber sie verlieren k\u00f6nnten. Er hatte bereits in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung K\u00fcnstlicher Intelligenz gewarnt und war daf\u00fcr aus Teilen der KI-Branche teils heftig kritisiert worden. Bef\u00fcrworter eines hohen Entwicklungstempos verweisen auf den Wettbewerb mit China \u2013 ein Argument, das auch das Wei\u00dfe Haus beziehungsweise Pr\u00e4sident Donald Trump vertritt. Anthropic entwickelte zuletzt das KI-Modell<\/a> Mythos, das besonders gut darin ist, bislang unentdeckte Software-Schwachstellen aufzusp\u00fcren. Die vollst\u00e4ndige Version stellt das Unternehmen nur ausgew\u00e4hlten Beh\u00f6rden und Unternehmen zur Verf\u00fcgung, damit diese ihre Computersysteme absichern k\u00f6nnen.<\/p>\n

Interne Kritik wird lauter<\/h3>\n

Zus\u00e4tzlichen Schub erhielt die Debatte durch den R\u00fccktritt des Anthropic-Forschers Jacob Coxon, der zuvor f\u00fcr OpenAI gearbeitet hatte. Er warf beiden Unternehmen vor, bei der Entwicklung leistungsf\u00e4higer KI nicht verantwortungsvoll zu handeln. Dabei differenzierte er: OpenAI habe die Tragweite der Risiken wom\u00f6glich nicht erkannt, w\u00e4hrend Anthropic sich der Gefahren bewusst sei. Das Unternehmen sehe sich jedoch zu einem Wettlauf gezwungen, weil es seinen Konkurrenten nicht zutraue, verantwortungsvoll zu handeln. Die gro\u00dfen KI-Entwickler \u201espielen mit unseren Leben\u201c, schrieb Coxon auf X. Unterst\u00fctzung erhielt er wenig sp\u00e4ter von seinem Anthropic-Kollegen Evan Hubinger, der daran arbeitet, KI-Systeme an menschlichen Interessen auszurichten. Er teile Coxons Sorgen und sch\u00e4tze die Wahrscheinlichkeit, dass KI im kommenden Jahrzehnt die Menschheit ausl\u00f6schen k\u00f6nnte, auf mehr als zehn Prozent, schrieb Hubinger auf X.<\/p>\n

Die j\u00fcngsten Entwicklungen zeigen einen bemerkenswerten Konsens in einer Branche, die sonst von heftiger Konkurrenz gepr\u00e4gt ist. Dass ausgerechnet die Unternehmen, die an der Spitze der KI-Entwicklung stehen, eine Verlangsamung fordern, unterstreicht die Ernsthaftigkeit der Lage. Die kommenden Monate werden zeigen, ob die angek\u00fcndigten Ma\u00dfnahmen wie unabh\u00e4ngige Sicherheitspr\u00fcfungen tats\u00e4chlich umgesetzt werden und ob die Pause von ein bis zwei Jahren ausreicht, um die identifizierten Risiken in den Griff zu bekommen \u2013 oder ob der Wettbewerbsdruck am Ende doch schneller sein wird als die Vernunft.<\/p>\n","protected":false},"excerpt":{"rendered":"

Nach mehreren aufsehenerregenden Hacking-Vorf\u00e4llen mit KI-Systemen fordern die f\u00fchrenden US-KI-Unternehmen eine Drosselung des Entwicklungstempos. Anthropica-Chef Dario Amodei schlug eine koordinierte Pause von ein bis zwei Jahren vor, um Sicherheitsrisiken besser zu verstehen und einzud\u00e4mmen. OpenAI-Chef Sam Altman und Tech-Milliard\u00e4r Elon Musk sprachen sich umgehend daf\u00fcr aus. Pause bei KI-Modellen: Branche einig? Amodei warnte konkret, dass […]<\/p>\n","protected":false},"author":5,"featured_media":54781,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/de\/53100.png","fifu_image_alt":"Anthropic, OpenAI & Co. fordern Pause bei KI-Modellen","footnotes":""},"categories":[6671],"tags":[],"class_list":["post-53100","post","type-post","status-publish","format-standard","has-post-thumbnail","category-scherheit"],"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/de\/53100.png","fifu_image_alt":"Anthropic, OpenAI & Co. fordern Pause bei KI-Modellen","_links":{"self":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53100","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/comments?post=53100"}],"version-history":[{"count":2,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53100\/revisions"}],"predecessor-version":[{"id":53105,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53100\/revisions\/53105"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media\/54781"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media?parent=53100"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/categories?post=53100"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/tags?post=53100"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}