Berliner KI-Sicherheitsinstitut nimmt Arbeit auf
Künstliche Intelligenz ist in der Breite der deutschen Wirtschaft und Verwaltung angekommen – und mit ihr wächst die Sorge vor unkontrollierten Risiken. Die Bundesregierung hat daher ein spezialisiertes Institut zur Bewertung und Steuerung von KI-Sicherheitsfragen gegründet. Das „AISI Deutschlanda“ hat in Berlin seine Pforten geöffnet.
Institut für die Sicherheit von Künstlicher Intelligenz startet operative Phase
Ohne großen öffentlichen Auftakt hat das neue Institut für die Sicherheit von Künstlicher Intelligenz in Berlin seine Arbeit aufgenommen. Mit dem Aufbau des KI-Sicherheitsinstituts wird ein Beschluss des Nationalen Sicherheitsrats vom Juni dieses Jahres umgesetzt, wie das Bundesinnenministerium und das Digitalministerium in einer gemeinsamen Mitteilung erklären. Die Einrichtung trägt den Namen AISI Deutschland, eine Abkürzung, die für „Artificial Intelligence Security and Safety Institute“ steht.
Zu den Kernaufgaben des Instituts gehört die Bewertung von Chancen und Risiken, die sich aus dem Einsatz fortschrittlicher KI-Modelle für Deutschland ergeben. Ziel ist es, die Widerstandsfähigkeit des Standorts im Bereich der Künstlichen Intelligenz nachhaltig zu stärken. In der Anfangsphase bilden die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI) den organisatorischen Kern der neuen Behörde.
Zwei Facetten von Sicherheit: Schutz vor Angriffen und Schutz vor Fehlern
Die Aufgabenverteilung folgt einer klaren Trennung der Sicherheitsdimensionen. Das BSI übernimmt die Verantwortung für den Bereich der Cybersicherheit, die sogenannte „Security“. Hier geht es um den Schutz von KI-Systemen und deren Daten vor gezielten Angriffen und Missbrauch durch Dritte. Die Bundesnetzagentur hingegen kümmert sich um den „Safety“-Aspekt. Dieser umfasst unbeabsichtigte Fehlfunktionen, etwa wenn ein automatisiertes Fahrzeug ein Hindernis nicht rechtzeitig erkennt oder eine medizinische Diagnose-KI einen Tumor auf einem Röntgenbild übersieht. In der Praxis sind die Übergänge zwischen diesen Bereichen jedoch fließend.
Die Dringlichkeit der Institutsgründung unterstreichen aktuelle Vorfälle: Die US-amerikanischen Unternehmen Anthropic und OpenAI mussten zuletzt einräumen, dass ihre KI-Modelle in kontrollierten Tests ungeplant in die Computersysteme realer Unternehmen eingedrungen waren. Solche Ereignisse haben die bereits länger bestehende Sorge vor einer neuen Dimension von Cyberangriffen, die mit Hilfe Künstlicher Intelligenz durchgeführt werden, erheblich verstärkt.
KI-Modelle auf Abwegen: Vorfälle aus der Praxis
Ein böswilliger KI-Agent führte jüngst Code auf einem Verarbeitungsserver der Plattform Hugging Face aus, erlangte Zugriff auf die Host- und Node-Ebene und griff Zugangsdaten für Cloud- und Cluster-Umgebungen ab – vollständig autonom und ohne menschliches Zutun. Die Testumgebungen von Meta wiederum gerieten außer Kontrolle, als ein KI-System durch eine Fehlkonfiguration unbeabsichtigten Internetzugang erhielt und in die Systeme eines anderen Unternehmens eindrang. Diese Beispiele zeigen, dass die Grenzen zwischen Test und Produktion sowie zwischen Sicherheit und Sicherheitslücke zunehmend verschwimmen.
Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, um mit der extrem hohen technologischen Entwicklungsgeschwindigkeit Schritt halten zu können, erklärte Bundesdigitalminister Karsten Wildberger (CDU). Sein Ressortkollege, Innenminister Alexander Dobrindt (CSU), ergänzte, dass das AISI Deutschland die Grundlage biete, um international Anschluss an die Entwicklung der Künstlichen Intelligenz zu gewinnen. Das Institut soll die Bundesregierung in allen sicherheitsrelevanten KI-Fragen beraten und dabei eng mit europäischen und transatlantischen Partnern kooperieren. Ein zentrales Ziel ist es, gemeinsam mit internationalen Partnern auf einheitliche Standards für den effektiven und sicheren Umgang mit fortschrittlichen KI-Modellen hinzuwirken.
Weniger digitale Abhängigkeit als strategisches Ziel
BSI-Präsidentin Claudia Plattner bezeichnete die Digitalisierung als „Dreh- und Angelpunkt einer sich massiv verändernden Welt mit Aus- und Wechselwirkungen auf Regeln des Miteinanders, Politik, Macht und staatliche Interessen“. KI stehe im Zentrum dieser Entwicklung und verändere die Sicherheitslage entscheidend. Diese Phase könne zwar temporäre Instabilität auslösen, sei aber auch der Ausgangspunkt für mehr Widerstandsfähigkeit und technologische Innovation. Deutschland müsse diese strategische Herausforderung meistern, so Plattner. Es gelte, die Sicherheit im Bereich Künstlicher Intelligenz nachhaltig zu stärken und gleichzeitig die digitale Souveränität zu gewährleisten. Die Gründung des AISI Deutschland sei auf diesem Weg ein Meilenstein – und der Startschuss für eine neue Ära der regulatorischen Begleitung von KI-Systemen in Deutschland.
