📺
YouTube · Digitale Profis
Digitale Profis Artikel: https://digitaleprofis.de/open-source-ki-lokal-nutzen/
Welche Hardware braucht ihr wirklich für lokale KI – und müsst ihr überhaupt einen neuen Rechner kaufen?
Dieses Video zeigt, wie ihr euer vorhandenes Gerät zunächst kostenlos testet und anschließend zwischen Desktop-PC, gebrauchter RTX 3090, Mac mini und Spezialhardware sinnvoll entscheidet.
Bei lokalen KI-Modellen ist nicht nur die Rechenleistung entscheidend. Häufig bestimmt vor allem der verfügbare Speicher, welche Modelle überhaupt geladen werden können. Deshalb kann eine ältere Grafikkarte mit mehr VRAM für lokale KI interessanter sein als ein schnelleres neues Modell.
Im Video:
- wie sich RAM, VRAM und der gemeinsame Speicher aktueller Macs unterscheiden
- wie ihr lokale KI mit Ollama und einem kleinen Qwen-Modell kostenlos ausprobiert
- warum wir für einen neuen Desktop-PC mindestens 16 GB Grafikspeicher empfehlen
- welche Vor- und Nachteile eine gebrauchte RTX 3090 mit 24 GB VRAM hat
- für wen ein Mac mini mit M4 Pro und 48 oder 64 GB Speicher interessant ist
- wann Mac Studio oder NVIDIA DGX Spark sinnvoll sind – und wann sie vollkommen überdimensioniert wären
Unser Fazit: Testet zuerst eine echte Aufgabe auf dem Rechner, den ihr bereits besitzt. Wenn eine Aufrüstung nötig ist, bietet die RTX 5060 Ti mit 16 GB einen vernünftigen Einstieg. Eine getestete RTX 3090 schafft mehr Platz für größere Modelle, während der Mac mini vor allem als leiser und sparsamer Alltagsrechner interessant ist.
Werde Kanalmitglied und unterstütze damit unsere Arbeit:
https://www.youtube.com/channel/UCv90NdTyTp7ZPPRvvSZaS5w/join
Videoinhalt:
00:00 Warum eine ältere Grafikkarte mehr KI schaffen kann
00:41 Drei Gründe für lokale KI
01:14 Cloud oder lokal: Wo läuft das KI-Modell?
01:40 RAM, VRAM und gemeinsamer Speicher erklärt
02:21 Erst kostenlos auf dem vorhandenen Rechner testen
02:48 Werbung: Das AI Model Cheat Sheet Bundle von HubSpot
03:35 Lokale KI mit Ollama ausprobieren
04:36 Installationsanleitungen und Modellvorschläge
04:58 Desktop-PC für lokale KI sinnvoll planen
06:12 Laptops sowie AMD- und Intel-Grafikkarten
06:43 Gebraucht-Tipp: NVIDIA RTX 3090
07:49 Apple Mac mini für lokale KI
08:53 Spezialklasse: Mac Studio und NVIDIA DGX Spark
09:30 Fazit: Welches Setup passt zu euch?
Videovorschläge, Feedback und Kritik kannst Du uns jederzeit in den Kommentaren mitteilen!
Vollständiger Original-Bericht
Ausführliche Details, Code-Beispiele & Hersteller-Stellungnahme auf youtube.com.