Ein Kunde kauft sich einen starken Computer für KI-Inhalte. Der Rechner hat mehr Videospeicher (VRAM) als Arbeitsspeicher und das hat einen guten Grund. Denn für KI spielen CPU und Arbeitsspeicher eine untergeordnete Rolle, während Grafikkarte und dessen VRAM viel wichtiger sind.
Ein Nutzer berichtet auf Reddit, dass ein Freund von ihm bei einer PC-Firma arbeitet, die PC-Systeme für Käufer professionell zusammenbaut. Ein Kunde soll jetzt ein besonderes PC-System bestellt haben: Einen Rechner mit gleich 4 RTX-4090-Grafikkarten und 64 GB Arbeitsspeicher.
Das Besondere an dem System: Allein die 4 Grafikkarten haben zusammen mehr Videospeicher als der gesamte Computer Arbeitsspeicher hat. Auf einer RTX 4090 sind standardmäßig 24 GB VRAM verbaut, zusammengerechnet sind das 96 GB Videospeicher.
Was hat das System gekostet? Der Nutzer erklärt, der Kunde habe etwa 16.000 US-Dollar für den PC bezahlt, inklusive Montage, Versand und Garantie. Umgerechnet sind das etwa 14.000 Euro.
Was ist nicht bekannt? Es ist nicht bekannt, welche CPU, welches Mainboard, wie viel Systemspeicher und was für ein Gehäuse verbaut sind. Bei dem Gehäuse soll es sich laut einem anderen Kommentar auf Reddit um ein spezifisches Custom-Modell eines chinesischen Herstellers handeln. Das Mainboard bietet 8 Slots für Arbeitsspeicher an, daher dürfte es sich vermutlich um ein spezifisches Mainboard handeln.
Generative KI setzt auf schnelle Grafikkarten und breit verfügbaren Videospeicher
Und wofür braucht es die teure Hardware? Der Kunde will laut Aussage des Nutzers das System dazu verwenden, KI-Modelle lokal einzusetzen. Das erklärt zumindest den Bedarf an den Grafikkarten.
Warum ist VRAM wichtiger als Arbeitsspeicher? Der Computer soll vor allem für generative KI genutzt werden. Eine Menge Arbeitsspeicher bringt bei generativer KI keine großen Vorteile. RAM wird erst dann wichtig, erklärt etwa ein Nutzer auf Reddit, wenn man Zwischenschritte, sogenannte Checkpoints, speichern möchte.
Videospeicher hingegen hat den Vorteil, dass man in diesem Speicher bereits das gesamte KI-Modell unterbringen kann. Die wichtigen und großen Modelle liegen dann bei 20 GB und mehr. Prozessor und Arbeitsspeicher spielen hier dann nur eine sehr untergeordnete Rolle, weil VRAM um ein Vielfaches schneller ist als normaler RAM und viel direkter an die Grafikkarte und dessen Grafikprozessor angebunden ist.
Neuronale Netze benötigen beispielsweise viele parallele Berechnungen gleichzeitig, worin vor allem Grafikkarten gut sind. Je mehr Videospeicher vorhanden ist, desto schneller und einfacher geht es. Diese Berechnungen auf einer CPU ablaufen zu lassen, die dann auf den normalen RAM zugreift, wären deutlich langsamer.
Community hält den Computer für ein faires Angebot, wenn man die hohen Preise beobachtet
Warum ist das ein gutes Angebot? Etliche Nutzer erklären, dass 14.000 Euro für so ein System schon ziemlich fair sei, wenn man sich die aktuelle Marktlage ansehe. Insbesondere mit Blick auf die steigenden Preise bei Hardware. Denn bisher ist noch nicht abzusehen, wann die Preise aufhören zu steigen.
Allein die vier Grafikkarten und die 64 GB Arbeitsspeicher dürften in ein paar Monaten noch einmal deutlich teurer sein als zum aktuellen Zeitpunkt. So schreibt ein Nutzer, dass das Angebot besser sei, als er dachte. Ein anderer fügt hinzu: „Mit den 5k-Karten, die bald kommen, klingt das fast wie ein gutes Geschäft.“
Ein Nutzer kaufte 1 TB RAM für rund 1.400 US-Dollar. Wenige Monate später ist die Hardware zu seiner Überraschung 10.000 US-Dollar wert. Dabei hatte er die Sachen viel früher verkaufen wollen, doch die Sachen einfach vergessen: Ein Nutzer kaufte vor ein paar Monaten 1 TB RAM und 20 TB Speicher für 1.200 Euro: Heute ist die Hardware mehr als 8.500 Euro wert
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
Der gesamte Text besteht aus lauter solchen, ‘hat wohl’, ‘soll’, ‘dürfte’, und ‘ist nicht bekannt” Formulierungen, also eigentlich ist er im Ganzen nichts Wert, weil, nichts Genaues weiss man nicht…
Wenn überhaupt etwas wahr ist an dieser Story, dann klingt es eher so, als schreibe jemand über sich selbst. Eine Beschreibung ohne genaues Was, Wie, Warum und Womit, sondern alles reine Vermutung, könnte sein, Vielleicht…
Da hat einer was gebaut, und traut sich jetzt selbst nicht über den Weg, und geht an die Öffentlichkeit um Kommentare einzufangen ob das sinnvoll ist, aber ohne exakte Fakten und Spezifikationen ist alles reine Glaskugelleserei.