Die jahrelange Rivalität zwischen Apple und Meta scheint zumindest in einer technologischen Hinsicht zu einer überraschenden Zusammenarbeit geführt zu haben. Während Tim Cooks Datenschutzänderungen von 2021 Meta schätzungsweise zehn Milliarden US-Dollar an jährlichen Werbeeinnahmen kosteten und Mark Zuckerberg noch im Januar Apples Innovationskraft öffentlich anzweifelte, haben beide Unternehmen nun ein gemeinsames Projekt vorgestellt: Das neue offene KI-Modell Muse Spark Open von Meta soll direkt auf Apples M5 Ultra Mac Studios laufen. Metas Chief AI Officer Alexandr Wang kommentierte die unerwartete Allianz mit den Worten, man freue sich auf die neue Harmonie zwischen den beiden Tech-Giganten.
Muse Spark Open: Ein Modell mit außergewöhnlicher Architektur
Bei Muse Spark Open handelt es sich um ein Mixture-of-Experts-Modell mit 816 Milliarden Parametern, von denen jeweils 42 Milliarden gleichzeitig aktiv sind. Der Kontextfenster umfasst eine Million Tokens. Meta bezeichnet das Modell als das leistungsfähigste offene Gewichtsmodell aus US-amerikanischer Entwicklung. Die Veröffentlichung erfolgt unter Metas eigener Lizenz, die eine eingeschränkte kommerzielle Nutzung erlaubt. Entwickler können die Gewichte direkt von Hugging Face herunterladen, wobei Apple Silicon ohne zusätzliche Konfiguration unterstützt wird. Meta hat das Modell zudem speziell für eine schnellere Ausführung auf Apple-Hardware optimiert.
Die schiere Größe des Modells stellt hohe Anforderungen an die Hardware. Die komprimierten Gewichte allein belegen rund 493 Gigabyte, bevor der Verarbeitungs-Overhead hinzukommt. Kein einzelner Mac ist in der Lage, das Modell komplett zu hosten. Die minimale Konfiguration besteht aus zwei M5 Ultra Mac Studios mit jeweils 256 Gigabyte Unified Memory. Wer die Standardkonfiguration mit 256 Gigabyte verwendet, benötigt sogar vier Maschinen.
Verteilte Inferenz über Thunderbolt 5
Apples MLX-Framework übernimmt die Verteilung der Arbeitslast auf die verbundenen Mac Studios. Über Thunderbolt 5 und Remote Direct Memory Access agieren die einzelnen Rechner als ein gemeinsames System. In Apples eigenen Benchmarks erzeugten vier M5 Ultra Mac Studios bei einem Kontext von 8192 Tokens über 36 Tokens pro Sekunde. Die Kosten für eine solche Einrichtung sind beträchtlich: Ein einzelnes M5 Ultra Mac Studio startet bei 5499 US-Dollar, die Version mit 256 Gigabyte Speicher kostet mindestens 10.799 US-Dollar. Das 512-Gigabyte-Modell ist noch nicht verfügbar. Die Plattform richtet sich damit klar an Entwickler und Forschungseinrichtungen, nicht an Heimanwender.
Praktische Demonstrationen auf lokaler Hardware
Meta demonstrierte die Fähigkeiten des Modells anhand konkreter Arbeitsabläufe, die vollständig auf lokaler Hardware ausgeführt wurden. Mit Muse Code konnten Fehler in einem iOS-Mastodon-Client behoben und neue Funktionen hinzugefügt werden. Eine weitere Vorführung zeigte die Steuerung von DaVinci Resolve, um Videomaterial zu sichten und vertikale Clips zu schneiden. Die Beispiele unterstreichen das Potenzial für anspruchsvolle Workflows in der Softwareentwicklung und Medienproduktion, die bislang oft auf Cloud-Dienste angewiesen waren.
Fragen und Antworten zur neuen Zusammenarbeit
Wie verteilt MLX die Inferenz von Muse Spark Open auf mehrere M5 Ultra Mac Studios?
Apple MLX verteilt die Inferenzarbeitslast über Thunderbolt 5 und Remote Direct Memory Access. Die verbundenen Macs agieren als ein einheitliches System. Die genaue Aufteilung des Modells oder der einzelnen Inferenzaufgaben wurde nicht spezifiziert.
Welche Software und Verbindung sind für den Betrieb auf mehreren Mac Studios nötig?
Die Gewichte werden von Hugging Face geladen. Apple Silicon benötigt keine zusätzliche Konfiguration. MLX übernimmt die Verteilung der Arbeitslast. Mehrere Rechner sind zwingend erforderlich, da das Modell nicht auf eine einzelne Maschine passt.
Kann die Mindestkonfiguration aus zwei Mac Studios das volle Kontextfenster von einer Million Tokens verarbeiten?
Diese Frage ließ Meta in den bisherigen Details offen. Die demonstrierten Benchmarks bezogen sich auf kleinere Kontexte.
Wie verändert sich die Inferenzgeschwindigkeit mit wachsendem Kontextfenster?
Hierzu liegen keine spezifischen Angaben von Apple oder Meta vor. Größere Kontexte stellen in der Regel höhere Anforderungen an den Speicherdurchsatz.
Vertreter beider Unternehmen vermieden es, die Zusammenarbeit als Auftakt für eine umfassendere Partnerschaft zu bezeichnen. Angesichts der langen Geschichte gegenseitiger Kritik und der grundverschiedenen Geschäftsmodelle im Bereich Daten und Privatsphäre scheint die Kooperation zunächst auf dieses konkrete Projekt begrenzt zu sein. Für Entwickler und Unternehmen, die leistungsfähige KI-Modelle lokal betreiben möchten, eröffnet die Allianz jedoch neue Perspektiven abseits der Abhängigkeit von Cloud-Infrastrukturen.
