Windows
Einrichtung auf diesem Rechner oder auf einem separaten GPU-Server per SSH.
Diese Fassung ist noch nicht veröffentlicht.
Wir stellen sie hier bereit, sobald sie fertig ist. Bei Fragen erreichen Sie uns unter info@ionkon.de.
Einrichtungsprogramm
Modell auf Ihrer eigenen Hardware einrichten
Mit diesem Programm richten Sie Ihr fertiges Modell auf Ihrer eigenen Hardware ein. Es ist für alle Kunden gleich und enthält keine Kundendaten; Ihr Modell laden Sie darin mit dem Aktivierungscode, den Sie nach Fertigstellung per E-Mail erhalten.
Hinweis für macOS
Das Modell braucht eine NVIDIA-Grafikkarte, die Mac-Rechner nicht haben. Die macOS-Fassung richtet deshalb kein Modell auf dem Mac selbst ein, sondern steuert ausschließlich einen separaten Windows- oder Linux-Server mit passender GPU per SSH.
Linux
Einrichtung auf diesem Rechner oder auf einem separaten GPU-Server per SSH.
Diese Fassung ist noch nicht veröffentlicht.
Wir stellen sie hier bereit, sobald sie fertig ist. Bei Fragen erreichen Sie uns unter info@ionkon.de.
macOS
Nur Steuerung eines separaten GPU-Servers per SSH; lokal auf dem Mac läuft kein Modell.
Diese Fassung ist noch nicht veröffentlicht.
Wir stellen sie hier bereit, sobald sie fertig ist. Bei Fragen erreichen Sie uns unter info@ionkon.de.
Was Sie vor der Einrichtung brauchen
Einen Server oder Rechner mit unterstützter NVIDIA-GPU, bei Windows und Linux wahlweise dieser Rechner selbst oder ein separates Ziel per SSH, bei macOS ausschließlich ein separates Ziel. GPUs der Blackwell-Generation nutzen den schnelleren FP4-Betrieb, alle anderen unterstützten GPUs laufen automatisch im BF16-Betrieb.
Einen aktuellen NVIDIA-Treiber sowie Docker mit Compose v2 und dem NVIDIA Container Toolkit auf dem Zielsystem; fehlt Docker, bietet das Programm eine Ein-Knopf-Installation an.
Ihr IonKon-Konto (E-Mail und Passwort) sowie den Aktivierungscode aus der E-Mail, die Sie nach Fertigstellung Ihres Modells erhalten.
Internetzugang für Anmeldung, Aktivierung und den einmaligen Modell-Download; danach läuft der Betrieb offline. Die ausführliche Anleitung liegt Ihrem Modell bei.
Zum Konto
Noch kein Konto? Konto erstellen