Llama-Cpp on accordingly https://accordingly.dev/tags/llama-cpp/ Recent content in Llama-Cpp on accordingly Hugo it-it Sun, 27 Sep 2026 09:00:00 +0200 190 token al secondo: un modello da 35 miliardi di parametri su un portatile https://accordingly.dev/posts/190-token-al-secondo-qwen36-35b-a3b-rtx5080/ Sun, 27 Sep 2026 09:00:00 +0200 https://accordingly.dev/posts/190-token-al-secondo-qwen36-35b-a3b-rtx5080/ Qwen3.6-35B-A3B quantizzato a 14 GB genera 190 token/s su una RTX 5080 Laptop da 16 GB. MTP, KV cache q8_0 e i numeri completi della campagna di test. Monitorare il GX10: dashboard Prometheus + Grafana e i numeri della settimana https://accordingly.dev/posts/monitorare-il-gx10-con-prometheus-e-grafana/ Sun, 20 Sep 2026 11:30:00 +0200 https://accordingly.dev/posts/monitorare-il-gx10-con-prometheus-e-grafana/ Come ho montato Prometheus + Grafana sul GX10 per monitorare CPU, RAM unificata e inferenza llama.cpp — e cosa dicono davvero i dati della prima settimana. Qwen3.8 Flash Next sul mio GX10: installazione, systemd e addio Qwen3.6 https://accordingly.dev/posts/qwen38-flash-next-su-gx10/ Thu, 17 Sep 2026 15:20:00 +0200 https://accordingly.dev/posts/qwen38-flash-next-su-gx10/ Come ho installato Qwen3.8 Flash Next con llama.cpp sull'AsUS Ascent GX10, esposto il servizio con systemd+linger e sostituito Qwen3.6.