Archives de catégorie : Linux

Hermes Agent IA : Test sur Ubuntu 22

Publié le par
Répondre

Voici mon installation :

- Hermes : Hermes Agent v0.18.0 (2026.7.1) · upstream 179ca25a · local 2c5762f5 (+1 carried commit)
- OS : 22.04.5 LTS (Jammy Jellyfish)
- llama.cpp : 9687 (b4024af6c)
    - /models/Qwen3.6-35B-A3B-UD-Q4_K_M.gguf 
    - /models/mmproj-F32.gguf
    - ctx-size 200000
    - temp 1.0 
    - top-p 0.95 
    - top-k 20 
    - min-p 0.00 
- NVIDIA-SMI 595.71.05
- Driver Version: 595.71.05
- CUDA Version: 13.2
- PC : Laptop Tuxedo :
    - 11th Gen Intel Core i7-11800H
    - NVIDIA GeForce RTX 3060

J’ai fait une demande pour avoir un extrait de toutes les randonnées du site https://wwww.cyber-neurones.org/. Après 40 minutes j’ai eu le résultat que je voulais.

Les valeurs D- sont maintenant correctes. Le fichier est sauvegardé à /home/XXXX/randonnees.md.
Voici le récapitulatif :

– 105 articles candidats trouvés via l’index OKF (contenant « Randonnée » ou « Randonnées », sans
VTT/Forerunner/Retrospective)
– 94 randonnées avec données GPX exploitables
– 11 articles ignorés car sans données GPX

Tableau complet (94 lignes) sauvegardé dans /home/XXXX/randonnees.md avec les colonnes : Date,
Temps, Distance, Nom de l’article, Lien, Nombre GPX, Nombre d’images, D+, D-, Alt. min, Alt. max.
Les données de plusieurs GPX sur le même article sont correctement additionnées (ex: Roche Faurio
avec 2 GPX = 10h38 total, 16.53 km, D+ 1767m).

╰────────────────────────────────────────────────
⚠ Auxiliary title generation failed: Request timed out.
⚕ llama.cpp │ 68.2K/131.1K │ [█████░░░░░] 52% │ 40m │ ⏲ 37m 41s │ ✓ 2m

A suite …

Llama.cpp : Tuxedo 17 (en Ubuntu 24) + GIGABYTE AORUS RTX 5060 Ti AI Box .

Publié le par
Répondre

Sur le Tuxedo 17 ( https://www.tuxedocomputers.com/ ) j’ai ajouté via le Thunderbold un « GIGABYTE AORUS RTX 5060 Ti AI Box ».
Mon installation :
– Ubuntu : 24.04
– CUDA : 13.3
– NVIDIA : 610.43.03

# lsb_release -a
No LSB modules are available.
Distributor ID: Tuxedo
Description:    TUXEDO OS
Release:        24.04
Codename:       noble
# nvidia-smi 
Thu Jul 16 17:29:22 2026       
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 610.43.03              KMD Version: 610.43.03     CUDA UMD Version: 13.3     |
+-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 3060 ...    Off |   00000000:01:00.0 Off |                  N/A |
| N/A   46C    P8             11W /  115W |       1MiB /   6144MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
|   1  NVIDIA GeForce RTX 5060 Ti     Off |   00000000:05:00.0 Off |                  N/A |
|  0%   34C    P0             15W /  180W |       2MiB /  16311MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

Ma version de Thunderbold est 4 :

# lspci | grep -i thunderbolt
00:07.0 PCI bridge: Intel Corporation Tiger Lake-H Thunderbolt 4 PCI Express Root Port #0 (rev 05)
00:0d.0 USB controller: Intel Corporation Tiger Lake-H Thunderbolt 4 USB Controller (rev 05)
00:0d.2 USB controller: Intel Corporation Tiger Lake-H Thunderbolt 4 NHI #0 (rev 05)

A noter que pour le build de llama.cpp j’ai ajouté une directive de compilation : CMAKE_CUDA_ARCHITECTURES qui a pour valeur par défaut 75 donc 7.5.

# nvidia-smi --query-gpu=compute_cap --format=csv
compute_cap
8.6
12.0
...
# cmake -B build -DGGML_CUDA=ON  -DCMAKE_CUDA_COMPILER=`which nvcc` -DLLAMA_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=86
...

J’ai d’abord essayé le soft de Gigabyte : https://www.gigabyte.com/Support/Utility/Graphics-Card . Mais il n’est pas fonctionnel.

Puis j’ai essayé une utilisation normale, et j’avais des crash sans arrêts.Avec des erreurs du type :

... nvidia-modeset: ERROR: GPU:1: Error while waiting for GPU progress: ...

Ensuite je suis tombé sur ce site : https://github.com/mmhorda/ai-box-rtx-5060ti-egpu-guide , et j’ai compris qu’il y avait un problème de débit.

En fait il y a un bug ouvert sur le sujet : https://github.com/NVIDIA/open-gpu-kernel-modules/issues/979#issuecomment-4172636691 : « RTX 5080 via Thunderbolt 5 eGPU: Hard lock on CUDA operations (nvidia-smi works at idle) « .

J’ai finalement trouvé un projet avec un fix pour Ubuntu : https://github.com/lokmantsui/aorus-5090-egpu/tree/nvidia-610.43.02-ubuntu-5060ti

# git clone https://github.com/lokmantsui/aorus-5090-egpu.git -b nvidia-610.43.02-ubuntu-5060ti

J’ai du faire des modifications car il détectait pas la bonne carte NVIDIA. Et finalement c’est tombé en marche.

Pour mon installation la commande grup ressemble à ceci :

GRUB_CMDLINE_LINUX="iommu.passthrough=1 thunderbolt.host_reset=false pcie_aspm.policy=performance thunderbolt.clx=0 pcie_port_pm=off pci=resource_alignment=35@0000:00:05.0"

J’ai donc fait mes premiers tests avec gemma-3-1b-it-q4_k_m.gguf :

# llama-bench --list-devices 
ggml_cuda_init: found 2 CUDA devices (Total VRAM: 21692 MiB):
  Device 0: NVIDIA GeForce RTX 5060 Ti, compute capability 12.0, VMM: yes, VRAM: 15888 MiB
  Device 1: NVIDIA GeForce RTX 3060 Laptop GPU, compute capability 8.6, VMM: yes, VRAM: 5803 MiB
Available devices:
  CUDA0: NVIDIA GeForce RTX 5060 Ti (15888 MiB, 15752 MiB free)
  CUDA1: NVIDIA GeForce RTX 3060 Laptop GPU (5803 MiB, 5685 MiB free)

# llama-bench -m /models/gemma-3-1b-it-q4_k_m.gguf -dev CUDA0,CUDA1
ggml_cuda_init: found 2 CUDA devices (Total VRAM: 21692 MiB):
  Device 0: NVIDIA GeForce RTX 5060 Ti, compute capability 12.0, VMM: yes, VRAM: 15888 MiB
  Device 1: NVIDIA GeForce RTX 3060 Laptop GPU, compute capability 8.6, VMM: yes, VRAM: 5803 MiB
| model                          |       size |     params | backend    | ngl | dev          |            test |                  t/s |
| ------------------------------ | ---------: | ---------: | ---------- | --: | ------------ | --------------: | -------------------: |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 | CUDA0        |           pp512 |   19994.19 ± 1751.94 |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 | CUDA0        |           tg128 |        268.49 ± 0.38 |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 | CUDA1        |           pp512 |    11158.41 ± 527.54 |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 | CUDA1        |           tg128 |        229.10 ± 0.37 |

build: c3d47e696 (10030)
# llama-bench -m /models/gemma-3-1b-it-q4_k_m.gguf 
ggml_cuda_init: found 2 CUDA devices (Total VRAM: 21692 MiB):
  Device 0: NVIDIA GeForce RTX 5060 Ti, compute capability 12.0, VMM: yes, VRAM: 15888 MiB
  Device 1: NVIDIA GeForce RTX 3060 Laptop GPU, compute capability 8.6, VMM: yes, VRAM: 5803 MiB
| model                          |       size |     params | backend    | ngl |            test |                  t/s |
| ------------------------------ | ---------: | ---------: | ---------- | --: | --------------: | -------------------: |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 |           pp512 |   16582.32 ± 1005.41 |
| gemma3 1B Q4_K - Medium        | 762.49 MiB |   999.89 M | CUDA       |  -1 |           tg128 |        261.64 ± 1.81 |

build: c3d47e696 (10030)

Et donc il est préférable d’utiliser la carte la plus puissante et non pas les deux cartes en même temps.

J’ai refais un test avec un modèle plus gros : Qwen3.6-27B-Q3_K_M.gguf

# llama-bench -m /models/Qwen3.6-27B-Q3_K_M.gguf 
ggml_cuda_init: found 2 CUDA devices (Total VRAM: 21692 MiB):
  Device 0: NVIDIA GeForce RTX 5060 Ti, compute capability 12.0, VMM: yes, VRAM: 15888 MiB
  Device 1: NVIDIA GeForce RTX 3060 Laptop GPU, compute capability 8.6, VMM: yes, VRAM: 5803 MiB
| model                          |       size |     params | backend    | ngl |            test |                  t/s |
| ------------------------------ | ---------: | ---------: | ---------- | --: | --------------: | -------------------: |
| qwen35 27B Q3_K - Medium       |  12.64 GiB |    26.90 B | CUDA       |  -1 |           pp512 |        707.38 ± 5.11 |
| qwen35 27B Q3_K - Medium       |  12.64 GiB |    26.90 B | CUDA       |  -1 |           tg128 |         18.31 ± 0.01 |

build: c3d47e696 (10030)

# llama-bench -m /models/Qwen3.6-27B-Q3_K_M.gguf -dev CUDA0
ggml_cuda_init: found 2 CUDA devices (Total VRAM: 21692 MiB):
  Device 0: NVIDIA GeForce RTX 5060 Ti, compute capability 12.0, VMM: yes, VRAM: 15888 MiB
  Device 1: NVIDIA GeForce RTX 3060 Laptop GPU, compute capability 8.6, VMM: yes, VRAM: 5803 MiB
| model                          |       size |     params | backend    | ngl | dev          |            test |                  t/s |
| ------------------------------ | ---------: | ---------: | ---------- | --: | ------------ | --------------: | -------------------: |
| qwen35 27B Q3_K - Medium       |  12.64 GiB |    26.90 B | CUDA       |  -1 | CUDA0        |           pp512 |        841.06 ± 9.58 |
| qwen35 27B Q3_K - Medium       |  12.64 GiB |    26.90 B | CUDA       |  -1 | CUDA0        |           tg128 |         20.50 ± 0.02 |

build: c3d47e696 (10030)

Prochaine étape, l’ajout d’Hermes Agent IA.

Equivalent nvidia-smi pour installation Vulkan : KO

Publié le par
Répondre

J’ai trouvé : https://github.com/TwinkleByte/nouveau-smi  

Installation :


# apt install golang-go
# git clone https://github.com/TwinkleByte/nouveau-smi.git
# cd nouveau-smi
# go build -o nouveau-smi ./cmd/nouveau-smi/main.go
# sudo install -m 755 nouveau-smi /usr/local/bin/
# nouveau-smi 
 Error: could not find hwmon directory for nouveau driver
# apt install psensor
# nouveau-smi 
 Error: could not find hwmon directory for nouveau driver

Visiblement il cherche /sys/class/hwmon .

J’ai essayé la commande :

# sensors 
No sensors found!
Make sure you loaded all the kernel drivers you need.
Try sensors-detect to find out which these are.

# sudo sensors-detect

Sans succès … surement car c’est une VM sous Proxmox .

# inxi -F
System:
  Host: llamacpp Kernel: 6.8.0-124-generic arch: x86_64 bits: 64
  Console: pty pts/1 Distro: Ubuntu 24.04.4 LTS (Noble Numbat)
Machine:
  Type: Kvm System: QEMU product: Standard PC (i440FX + PIIX, 1996) v: pc-i440fx-10.1 serial: N/A
  Mobo: N/A model: N/A serial: N/A BIOS: SeaBIOS v: rel-1.17.0-0-gb52ca86e094d-prebuilt.qemu.org
    date: 04/01/2014
CPU:
  Info: 4x 8-core model: Intel Xeon E5-2450 v2 bits: 64 type: MCP SMP cache:
    L2: 4x 32 MiB (128 MiB)
  Speed (MHz): avg: 2500 min/max: N/A cores: 1: 2500 2: 2500 3: 2500 4: 2500 5: 2500 6: 2500
    7: 2500 8: 2500 9: 2500 10: 2500 11: 2500 12: 2500 13: 2500 14: 2500 15: 2500 16: 2500 17: 2500
    18: 2500 19: 2500 20: 2500 21: 2500 22: 2500 23: 2500 24: 2500 25: 2500 26: 2500 27: 2500
    28: 2500 29: 2500 30: 2500 31: 2500 32: 2500
Graphics:
  Device-1: driver: N/A
  Device-2: NVIDIA GM204GL [Quadro M5000] driver: nvidia v: 535.309.01
  Device-3: NVIDIA GM204GL [Quadro M4000] driver: nvidia v: 535.309.01
  Display: server: X.org v: 1.21.1.11 driver: N/A tty: 213x55
  API: EGL Message: No EGL data available.
  API: OpenGL Message: GL data unavailable in console for root.
  API: Vulkan v: 1.4.313 drivers: N/A surfaces: N/A
Audio:
  Message: No device data found.
Network:
  Device-1: Intel 82371AB/EB/MB PIIX4 ACPI type: network bridge driver: N/A
  Device-2: Red Hat Virtio network driver: virtio-pci
  IF: ens18 state: up speed: -1 duplex: unknown mac: bc:24:11:b5:30:62
Drives:
  Local Storage: total: 20.51 TiB used: 13.04 TiB (63.6%)
  ID-1: /dev/sda vendor: QEMU model: HARDDISK size: 400 GiB
Partition:
  ID-1: / size: 391.18 GiB used: 290.57 GiB (74.3%) fs: ext4 dev: /dev/dm-0
  ID-2: /boot size: 1.9 GiB used: 177.4 MiB (9.1%) fs: ext4 dev: /dev/sda2
Swap:
  ID-1: swap-1 type: file size: 4 GiB used: 111 MiB (2.7%) file: /swap.img
Sensors:
  Src: lm-sensors+/sys Message: No sensor data found using /sys/class/hwmon or lm-sensors.
Info:
  Memory: total: 78.19 GiB available: 18.14 GiB used: 5.39 GiB (29.7%)
  Processes: 404 Uptime: 21d 22h 56m Init: systemd target: graphical (5) Shell: Bash
    inxi: 3.3.34

Conversion d’un GPX Wanderer pour Garmin Connect

Publié le par
Répondre

Voici la commande magique :

# xmllint --format  MandrialeOlmeta.gpx | grep -v "trkseg>" | sed 's/<\/trk>/<\/trkseg><\/trk>/g' | sed 's///g'  | xmllint --compress --noblanks - > MandrialeOlmeta_Garmin.gpx

Il faut être sous linux et avoir :
– xmllint
– grep
– sed

A suivre.

Mon Wanderer : https://aventures.cyber-neurones.org/