Forschung
Das physikalische Maximum. Lokal.
Lokale KI ist die richtige Antwort auf die Datenfrage: Ihre Dokumente, Ihre Anfragen und Ihr Modell bleiben im Haus. Aber lokale KI muss effizient sein. Große Cloud-Anbieter gleichen ineffiziente Modelle mit massenhafter Rechenleistung aus. Ein Unternehmen mit einem Server im Schrank kann das nicht.
Wir schneiden KI-Architekturen auf Kunden zu und arbeiten zugleich daran, sie grundlegend effizienter zu machen: Trainings- und Inferenzverfahren, die KI sparsamer und nachhaltiger machen, ohne Leistung aufzugeben. Unser Ziel ist, Ihnen langfristig das physikalische Maximum anzubieten: die beste Antwortqualität, die sich aus jedem Watt und jedem Byte Speicherbandbreite herausholen lässt.
16Bit
BF16 · Industriestandard
Der übliche Weg: hohe Präzision, hoher Speicher- und Energiebedarf.
4Bit
NVFP4 · Heute in Produktion
Unsere Kundenmodelle: direkt in 4 Bit trainiert, lauffähig auf Ihrer Hardware.
1Bit
1 Bit · Unsere Forschung
Unser Labor: trainierbare 1-Bit-Architekturen für Standardhardware.
01
Wo wir heute stehen
Kundenmodelle trainieren wir bereits von Grund auf in 4-Bit-Präzision (NVFP4), statt sie nachträglich zu komprimieren. Das fertige Modell läuft auf Ihrer Hardware in derselben Präzision, in der es gelernt hat. Diese Erfahrung aus der Produktion ist die Basis unserer Forschung.
02
Was das für Sie bedeutet
Mehr Modell pro Gerät: Dieselbe Hardware trägt ein größeres Modell oder antwortet schneller. Auf längere Sicht werden kleinere, günstigere und sparsamere Geräte möglich, und der Energieverbrauch pro Antwort sinkt.
1-Bit-Architekturen
Unser aktueller Schwerpunkt sind extrem niedrig quantisierte Modellarchitekturen, bis hinunter zu einem Bit pro Gewicht. Solche Modelle brauchen nur einen Bruchteil des Speichers und der Rechenleistung heutiger Modelle und laufen dadurch auch auf Standardhardware schnell, ganz ohne Spezialbeschleuniger oder Rechenzentrum.
Die Herausforderung liegt im Training solcher Modelle, weniger im Ausführen. Dafür haben wir eigene Architekturen und Trainingsverfahren entwickelt; deren Details veröffentlichen wir bewusst nicht.
In unseren Experimenten erreichen wir damit erhebliche Beschleunigungen auf Standardhardware, ohne nennenswert an Antwortqualität zu verlieren.
Sie forschen selbst an effizienter KI?
Wir tauschen uns gern aus: zu Kooperationen, gemeinsamen Experimenten oder unseren Verfahren.
Kontakt aufnehmen