Apple hat einen neuen Weg gefunden, um ein 20-Milliarden-Parameter-KI-Modell direkt auf dem iPhone laufen zu lassen – trotz begrenztem RAM. Die Lösung heißt AFM Core Advanced und nutzt den Flash-Speicher, um das gesamte Modell dort zu speichern, während nur benötigte Teile temporär in den schnellen Arbeitsspeicher geladen werden. Dieser Ansatz bricht mit der gängigen Praxis, bei der das gesamte Modell im RAM liegen muss.

Der Schlüssel ist die sogenannte Instruction-Following Pruning-Methode: Die Anfrage wird erst vollständig analysiert, bevor einmalig der passende Teil des Modells aktiviert wird. Das reduziert den ständigen Datentransfer zwischen Speicher und RAM – und schont so Akku und Leistung. Das Modell ist zudem multimodal und versteht Text, Bilder und Audio, was Funktionen wie die verbesserte Siri-Stimme oder Diktierfunktion lokal ohne Cloud-Anbindung ermöglicht.

Allerdings ist die Technologie auf leistungsstarke Geräte beschränkt: iPhone 17 Pro, iPhone Air sowie ausgewählte Macs und iPads. Ältere Modelle, auch das iPhone 15 Pro, erhalten weiterhin nur das kleinere, 3-Milliarden-Parameter-Modell. Apple schafft damit eine zweiteilige KI-Klasse in seiner Produktlinie – ein möglicher Treiber für Hardware-Upgrades. Für Entwickler stellt Apple Cloud-Modelle unter bestimmten Bedingungen kostenlos zur Verfügung.