Tether startet KI, die auf deinem Smartphone läuft

Tether macht einen bemerkenswerten Schritt über den traditionellen Kryptomarkt hinaus und richtet seinen Fokus nun verstärkt auf künstliche Intelligenz. Mit der Einführung eines neuen KI-Frameworks ermöglicht das Unternehmen, leistungsstarke Sprachmodelle direkt auf gewöhnlichen Geräten wie Smartphones und Laptops auszuführen. Damit verschiebt sich der Fokus von großen Rechenzentren hin zu lokaler, persönlicher KI.

KI-Modelle laufen künftig direkt auf deinem Smartphone

Die neue Technologie, QVAC Fabric, kombiniert BitNet und LoRA. Dieser Ansatz sorgt dafür, dass KI-Modelle extrem effizient werden. Anstelle komplexer Berechnungen mit großen Zahlen verwendet BitNet ein vereinfachtes System mit nur drei Werten: -1, 0 und 1. Dadurch wird der Speicherverbrauch drastisch reduziert.

Laut Tether können Modelle so bis zu 90 % weniger Speicher benötigen. Gleichzeitig steigt die Verarbeitungsgeschwindigkeit deutlich. Auf modernen Smartphones liegt die Geschwindigkeit von KI-Berechnungen über die GPU zwischen dem 2- und 11-Fachen im Vergleich zur CPU.

Auf X ansehen

Durchbruch beim Training von KI auf Consumer-Hardware

Besonders bemerkenswert ist, dass nicht nur die Nutzung von KI-Modellen auf lokalen Geräten möglich wird, sondern auch deren Training. Mit dieser Technologie können Modelle mit Milliarden von Parametern direkt auf Smartphones angepasst werden.

So lässt sich ein Modell mit 1 Milliarde Parametern in etwas mehr als einer Stunde auf einem Samsung S25 feinjustieren. Auf einem iPhone 16 gehen die Möglichkeiten noch weiter: Dort können sogar Modelle mit bis zu 13 Milliarden Parametern ausgeführt werden – etwas, das bisher nur mit teuren GPU-Servern möglich war.

Die Lösung funktioniert zudem auf verschiedenen Hardware-Plattformen, darunter Chips von Apple, AMD und Intel. Dadurch ist das System breit einsetzbar und nicht von einem einzelnen Hersteller abhängig.

Schritt in Richtung private und offene KI

Die Auswirkungen dieser Entwicklung gehen über reine Leistungssteigerungen hinaus. Da KI lokal ausgeführt wird, verbleiben Daten auf dem Gerät des Nutzers. Das eröffnet neue Möglichkeiten für mehr Datenschutz und eine geringere Abhängigkeit von großen Technologieplattformen.

Laut Tether ist dies erst der Anfang. Das Unternehmen plant, in den kommenden Jahren weiter in Open-Source-KI zu investieren, die direkt auf Endgeräten läuft. Dadurch entsteht ein neues Modell, in dem KI nicht zentral gesteuert wird, sondern dezentral und persönlich funktioniert. Diese Entwicklung fällt in eine Zeit, in der auch breitere technologische Fortschritte sichtbar sind, wie in diesem Artikel über die Beschleunigung von KI-Entwicklungen durch neue Innovationen beschrieben.

Weitere Details zur Technologie sind über Hugging Face sowie die offizielle Ankündigung von Tether verfügbar.