Der Hauptgrund, einen Jetson zu kaufen: LLMs ohne Cloud betreiben. Hier meine Messwerte, keine Marketingzahlen. Ollama installieren curl -fsSL https://ollama.com/install.sh | sh ollama pull llama3.2:3b # kleines Modell für den Einstieg Was realistisch läuft Am besten laufen quantisierte Modelle (Q4/Q8 GGUF). Wichtigste Regel aus der Praxis: GPU-Takt > TOPS-Zahl — ein Modell mit hohem Takt … Weiterlesen
Der Jetson Orin Nano Super ist seit Ende 2024 der Einstiegs-Jetson: 67 TOPS (INT8) für 249 USD. NVIDIA hat die Taktraten erhöht und den Preis halbiert — für lokale KI-Projekte der beste Einstieg. Was du brauchst Jetson Orin Nano Super Developer Kit MicroSD-Karte (64 GB empfohlen, A2-Klasse) oder NVMe-SSD USB-C-Netzteil (mindestens 45 W — schwächere … Weiterlesen
Willkommen! Auf diesem Blog geht es um NVIDIA Jetson — die kleinen KI-Computer von NVIDIA: Einrichtung, Tutorials, Benchmarks und der Betrieb von lokalen KI-Modellen. Mein Ansatz: Messen statt glauben. Alle Anleitungen stammen aus realen Setups — kein Kopieren von Herstellerangaben, sondern echte Werte: Watt, Token/s, Temperaturen. Was dich erwartet Jetson Orin — Einrichtung mit JetPack, … Weiterlesen