🔧 AI Nachrichten 🕛 vor 1 Tag 1 Min Lesezeit
0

I got Qwen running on the XDNA1 NPU in my Ryzen 7 250 on Linux

↗ Quelle (Linux, GNU/Linux, free software...)
🗣️ Stimme:

I've been messing around with the XDNA1 NPU in my Ryzen 7 250 because having a 16 TOPS NPU sitting mostly unused under Linux was bothering me. So I ended up building a small LLM inference runtime around it. Right now I have Qwen2.5 0.5B running with AIE2 kernels on the NPU. The runtime currently has NPU paths for Q/K/V and output projections,...

Vollständiger Original-Bericht
Ausführliche Details, Code-Beispiele & Hersteller-Stellungnahme auf reddit.com.
↗ Original-Artikel auf reddit.com lesen
Wie bewertest du diesen Beitrag?
1 Klick Feedback
Teilen mit Netzwerk & Team:

Community-Analysen & Experten-Meinungen 0

Verfasse deine eigene Analyse, teile Workarounds oder diskutiere diesen Vorfall im Blog.
Noch keine Community-Analyse verfasst. Markiere einen Textabschnitt oder klicke oben auf Eigene Analyse verfassen“!
Community Pulse: Relevanz-Einschätzung
1 Klick Experten-Votum
🔴 Akute Relevanz 0%
🟡 In Evaluierung 0%
🟢 Keine Auswirkung 0%
Spannende Innovation 0%
Verwandte Story-Cluster & Quellen (Vektor-KI)
Port 8095 Engine
1 Quelle
The Gemini desktop app is now available for Windows
1 Quelle
Burn Out, Or Fade Away
1 Quelle
Windows 11 just dropped the tool ransomware abused, Microsoft says don’t restore WMIC