ASUS Ascent GX10 Desktop AI Supercomputer kann ab sofort vorbestellt werden.

ASUS Ascent GX10 Desktop AI Supercomputer kann ab sofort vorbestellt werden.

Wenn Firmen wie wir mit KI arbeiten, dann haben wir das meistens mit NVIDIA Grafikkarten gemacht. Im Preis Leistung ist noch immer die alte 3060ti ein absolutes Schnäppchen wenn man die entsprechenden Boards hat. Häufig ist nämlich nicht die Prozessorgeschwindigkeit das Problem, sondern der Speichern.

Und dank spezieller Software kann man 2 3060ti mit je 16GB RAM zu einer Einheit mit 32GB RAM verpacken.

So kann man größere und bessere Modelle laufen lassen, die bessere Ergebnisse liefern. Kleine Modelle sind häufig nicht in der Lage Bilder zu analysieren. Möchte man wie wir – eine Rechnungsanalyse als Rechnungsprüfung automatisieren so braucht es also ein KI Modell das auch Bilder analysieren kann und so Daten wir Rechnungsdatum / Summe und Lieferanten vollautomatisch erfasst. Diese Modelle brauchen mehr Speicher und je mehr Sie bekommen, desto mehr können Sie verarbeiten und desto genauer sind diese.

Auf der einen Seite ist es also eine ausreichend hohe Genauigkeit die man erreichen möchte, auf der anderen Seite nicht Millionen investieren und erst recht nicht das deutsche Stromnetz leer ziehen.

Und genau hier hat der Marktführer NVIDIA angesetzt und ein neues System herausgebracht – den NVIDIA Spark der unter anderem von ASUS als Ascent GX10 gefertigt wird und wir nun endlich die ersten Modelle bald an Lager haben werden.

Was ist der ASUS Ascent GX10 im Detail?

Beschleunigt durch den NVIDIA® GB10 Grace Blackwell Superchip und den NVIDIA AI Software-Stack bringt der ASUS Ascent GX10 Petaflop-Performance direkt auf den Desktop. is zu 1 Petaflop KI-Leistung mit 128 GB LPDDR5x Unified System Memory

Mit 128GB Speicher kann man schon so einige größere Modelle laufen lassen und das bei passablen Stromkosten.

Und wenn das nicht genug ist, der schaltet einfach 2 Einheiten zusammen mit NVIDIA® NVLink™-C2C  eine ultraschnelle CPU-GPU-Kommunikation dank ConnectX-7 Networking für den Betrieb im Dual-Setup

Neben diesen ganzen Vorteilen hat es noch mehr – nämlich die mitgelieferte Software:

NVIDIA® AI Software Stack ist ideal für die Entwicklung, Ideal für KI-Prototyping, Tuning und Inferenz

 – maßgeschneidert für Entwickler:innen, Forscher:innen und Data Scientists. Im Entwicklermodus ist die ganze Software auch kostenlos dabei. Möchte man es in den Betrieb nehmen braucht es eine Lizenz.

Es wird 4 Modelle geben.:

  • Für KI-Einsteiger
    • Die 1TB-Version des Ascent GX10 eignet sich für einzelne oder kleine KI-Modelle und ist perfekt für einfache Projekte sowie Testprojekte.
  • Für Multitasking
    • Die 2TB-Version des Ascent GX10 hingegen kommt bei komplexen KI-Aufgaben zum Einsatz, wie z.B. beim gleichzeitigen Betrieb von LLMs, Diffusion oder ASR-Modellen bei kreativen Projekten oder der Forschung.
  • Für Projekte mit hohen Speicheranforderungen
    • Die 4TB-Version des Ascent GX10 ist prädestiniert für Großprojekte, oder wenn viele Modelle und Datensätze gespeichert werden müsen

Verbinde zwei ASUS Ascent GX10, um sofort die doppelte KI-Leistung von 2000 TOPS nutzen zu können. (Verbindung durch QSFP-Kabel)

Wir sind sehr gespannt, denn eine lokale KI hat einfach Vorteile:

  • Kein Verstoß gegen DSVGO
  • Keine Daten gelangen nach außen
  • Nicht abhängig von den Kapazitäten Anderer

Was macht die Karley alles mit KI?

Wie viele wissen programmieren wir schon seit Jahren unser eigenes ERP – die WK5. Diese hilft uns Abläufe nachvollziehbar zu gestalten und flexibel zu sein. Jetzt müssen wir lernen noch schneller zu sein und werden. Wir haben einige Funktionen bereits programmiert und gehen über lokale Grafikkarten, erhoffen uns aber eine höhere Genauigkeit von externen Systemem wie den GX10 mit mehr Speicher und größeren Modellen.

Share this post