Team IT Security (TSEC) Nachrichtenportal Logo

🔧 GGUF & Modelfile: The Power User's Guide to Local LLMs


Nachrichtenbereich: 🔧 Programmierung
🔗 Quelle: dev.to

GGUF & Modelfile: The Power User's Guide to Local LLMs



Beyond ollama pull — download any model from Hugging Face, quantize it, customize it, and import it into Ollama.





What's... [Weiterlesen]

Sharing is caring on Social Media

Reddit
Telegram
LinkedIn
Xing
Twitter
Whatsapp
Facebook
Flipboard

🔧 ~21 tok/s Gemma 4 on a Ryzen mini PC: llama.cpp, Vulkan, and the messy truth about local chat


📈 1616.68 Punkte
🔧 Programmierung

🔧 How to Install and Configure LTX-2 GGUF Models in ComfyUI: Complete 2026 Guide


📈 918.1 Punkte
🔧 Programmierung

🔧 GGUF & Modelfile: The Power User's Guide to Local LLMs


📈 545.98 Punkte
🔧 Programmierung

🔧 How to Use Qwen-Image-Layered GGUF in ComfyUI: Complete Installation and Usage Guide


📈 522.17 Punkte
🔧 Programmierung

🔧 LLM Model Names Decoded: A Developer's Guide to Parameters, Quantization & Formats


📈 454.4 Punkte
🔧 Programmierung

💾 OpenClaw 2026.4.29-beta.2


📈 390.07 Punkte
💾 Downloads

💾 openclaw 2026.4.29-beta.3


📈 388.09 Punkte
💾 Downloads

💾 OpenClaw 2026.4.29-beta.1


📈 380.15 Punkte
💾 Downloads

💾 openclaw 2026.4.25-beta.2


📈 361.18 Punkte
💾 Downloads

💾 openclaw 2026.4.25-beta.4


📈 361.18 Punkte
💾 Downloads

💾 openclaw 2026.4.25-beta.1


📈 360.19 Punkte
💾 Downloads

🔧 Z-Image GGUF Practical Guide: Unlock Top-Tier AI Art with Consumer GPUs (Beginner Version)


📈 349.81 Punkte
🔧 Programmierung

🔧 Gemma 4 VLA chạy cục bộ trên Jetson Orin Nano 8GB


📈 348.81 Punkte
🔧 Programmierung

💾 openclaw 2026.5.2-beta.2


📈 348.28 Punkte
💾 Downloads

💾 openclaw 2026.5.2-beta.3


📈 348.28 Punkte
💾 Downloads

🔧 Local LLM Hosting: Complete 2025 Guide - Ollama, vLLM, LocalAI, Jan, LM Studio & More


📈 333.81 Punkte
🔧 Programmierung

💾 Hermes Agent v0.16.0 (2026.6.5) — The Surface Release


📈 328.41 Punkte
💾 Downloads

🔧 I Ran Hermes Agent Locally on CPU-Only Hardware With llamafile — No GPU, No Server, No Cloud API


📈 326.72 Punkte
🔧 Programmierung

💾 openclaw 2026.5.2


📈 320.5 Punkte
💾 Downloads

🔧 GitHub Copilot: Assistant for my current Python workflow


📈 303.63 Punkte
🔧 Programmierung

💾 openclaw 2026.4.27


📈 301.62 Punkte
💾 Downloads

🔧 How to Install & Run Gemma-3-270m, GGUF & Instruct Locally?


📈 300.7 Punkte
🔧 Programmierung

🔧 llama.cpp Quickstart with CLI and Server


📈 288.67 Punkte
🔧 Programmierung

🔧 Computer Use Agents Go Local: A Deep Technical Dive into On-Device GUI Automation, Quantized Inference & Holo3.1


📈 288.67 Punkte
🔧 Programmierung

🔧 【2026年04月20日】Ollama 的 5 个隐藏用法 🔥


📈 286.01 Punkte
🔧 Programmierung

💾 openclaw 2026.5.24-beta.2


📈 276.84 Punkte
💾 Downloads

🔧 How to Install & Run GPT-OSS 20b and 120b GGUF Locally?


📈 276.65 Punkte
🔧 Programmierung

💾 Hermes Agent v0.11.0 (2026.4.23)


📈 273.86 Punkte
💾 Downloads

💾 Hermes Agent v0.13.0 (2026.5.7) — The Tenacity Release


📈 271.88 Punkte
💾 Downloads

💾 Hermes Agent v0.15.0 (2026.5.28) — The Velocity Release


📈 265.92 Punkte
💾 Downloads

🔧 Quantization formats compared: GGUF vs GPTQ vs AWQ vs NF4


📈 264.62 Punkte
🔧 Programmierung

💾 OpenClaw 2026.4.26


📈 262.51 Punkte
💾 Downloads

💾 0.128.0


📈 254.02 Punkte
💾 Downloads

💾 Hermes Agent v0.14.0 (2026.5.16)


📈 251.04 Punkte
💾 Downloads

💾 Hermes Agent v0.12.0 (2026.4.30)


📈 249.05 Punkte
💾 Downloads