Proxmox / Ollama / Open WebUI : Migration OS de la VM

Je suis passé en version « Ubuntu 24.04.2 LTS » (le kernel est 6.8.0-60-generic)

Migration :

  • Ubuntu 22.04.5 LTS ( kernel : 5.15.0-140-generic ) => Ubuntu 24.04.2 LTS (kernel est 6.8.0-60-generic)
  • CUDA : 12.8.93 => 12.9
  • Python : 3.11 => 3.12

Les cartes NVIDIA sont toujours visibles :

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 575.51.03              Driver Version: 575.51.03      CUDA Version: 12.9     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  Quadro M5000                   Off |   00000000:00:10.0 Off |                  Off |
| 39%   44C    P8             14W /  150W |       5MiB /   8192MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
|   1  Quadro M4000                   Off |   00000000:00:11.0 Off |                  N/A |
| 49%   48C    P8             14W /  120W |       5MiB /   8192MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

J’ai refait un benchmark :

 llm_benchmark run
-------Linux----------
{'id': '0', 'name': 'Quadro M5000', 'driver': '575.51.03', 
'gpu_memory_total': '8192.0 MB', 'gpu_memory_free': '8110.0 MB', 
'gpu_memory_used': '5.0 MB', 'gpu_load': '0.0%', 'gpu_temperature': '44.0°C'}
{'id': '1', 'name': 'Quadro M4000', 'driver': '575.51.03', 
'gpu_memory_total': '8192.0 MB', 'gpu_memory_free': '8110.0 MB', 
'gpu_memory_used': '5.0 MB', 'gpu_load': '0.0%', 'gpu_temperature': '48.0°C'}
At least two GPU cards
Total memory size : 119.03 GB
cpu_info: Intel(R) Xeon(R) CPU E5-2450 v2 @ 2.50GHz
gpu_info: Quadro M5000
Quadro M4000
os_version: Ubuntu 24.04.2 LTS
ollama_version: 0.9.0
----------
...
At least two GPU cards
{
    "phi4:14b": "6.75",
    "deepseek-r1:14b": "6.19",
    "deepseek-r1:32b": "0.43",
    "uuid": "2a3d3de2-5e53-5b28-a909-62559c5a817c",
    "ollama_version": "0.9.0"
}
-------

Maintenant les grands modèles (deepseek-r1:32b) ne font plus planter le test …. qui dure 4 heures.

Misère.

Tuxedo : Migration vers Ubuntu 24.04.2 LTS et galère …

En passant

J’ai pas la liste complete des actions que j’ai du faire.

Mais j’ai du supprimer « douane » :

dkms remove douane/0.8.2 --all

Sinon j’avais une erreur :

make -j8 KERNELRELEASE=6.8.0-53-generic -C /lib/modules/6.8.0-53-generic/build M=/var/lib/dkms/douane/0.8.2/build...(bad exit status: 2)
ERROR (dkms apport): binary package for douane: 0.8.2 not found
Error! Bad return status for module build on kernel: 6.8.0-53-generic (x86_64)
Consult /var/lib/dkms/douane/0.8.2/build/make.log for more information.
dkms autoinstall on 6.8.0-53-generic/x86_64 succeeded for tuxedo-keyboard virtualbox
dkms autoinstall on 6.8.0-53-generic/x86_64 failed for douane(10)
Error! One or more modules failed to install during autoinstall.

J’ai du supprimer aussi « tuxedo-cc-wmi », pareil sinon j’avais une erreur :

apt-get remove tuxedo-cc-wmi

L’erreur :

make -j8 KERNELRELEASE=6.8.0-53-generic -C . KDIR=/lib/modules/6.8.0-53-generic/build...(bad exit status: 2)
ERROR: Cannot create report: [Errno 17] File exists: '/var/crash/tuxedo-cc-wmi.0.crash'
Error! Bad return status for module build on kernel: 6.8.0-53-generic (x86_64)
Consult /var/lib/dkms/tuxedo-cc-wmi/0.1.7/build/make.log for more information.

Pour l’instant je suis stable avec le kernel :

# uname -a
Linux CYBERNEURONES 5.15.0-130-generic #140-Ubuntu SMP Wed Dec 18 17:59:53 UTC 2024 x86_64 x86_64 x86_64 GNU/Linux
# lsb_release -a
No LSB modules are available.
Distributor ID: Ubuntu
Description:    Ubuntu 24.04.2 LTS
Release:    24.04
Codename:   noble

Mais pas possible de lancer le kernel : « 6.8.0-53-generic ».

Avant ceci j’ai eu beaucoup de problème avec Xorg :

sudo apt-add-repository universe 
sudo apt-get update
sudo apt-get install i965-va-driver intel-media-va-driver

sudo adduser $USER video

Misère …

Microsoft/Crowdstrike : le mieux est encore d’utiliser Linux !

Je conseille vivement la version Ubuntu qui permet de faire l’équivalent de Microsoft (voir plus). Sinon Linux Mint est très bien aussi : https://linuxmint.com/ .

Un très bon article sur le sujet : https://next.ink/144344/panne-et-paralysie-mondiale-une-mise-a-jour-crowdstrike-provoque-des-bugs-en-cascade/

Une gigantesque panne affecte actuellement de nombreuses structures, y compris de grosses entreprises, des aéroports et des hôpitaux. En cause apparemment, une mise à jour des logiciels de cybersécurité de CrowdStrike. Elle provoque des écrans bleus sur les machines équipées de Windows, ainsi que des redémarrages en boucle.

A suivre.

Ubuntu : ERROR (dkms apport): binary package for evdi: 1.10.1 not found

Dans syslog j’ai l’erreur suivante :

make -j16 KERNELRELEASE=6.5.0-10006-tuxedo all INCLUDEDIR=/lib/modules/6.5.0-10006-tuxedo/build/include KVERSION=6.5.0-10006-tuxedo DKMS_BUILD=1...(bad exit status: 2)
ERROR (dkms apport): binary package for evdi: 1.10.1 not found
Error! Bad return status for module build on kernel: 6.5.0-10006-tuxedo (x86_64)
Consult /var/lib/dkms/evdi/1.10.1/build/make.log for more information.

Quand je regarde le fichier /var/lib/dkms/evdi/1.10.1/build/make.log :

DKMS make.log for evdi-1.10.1 for kernel 6.5.0-10006-tuxedo (x86_64)
mar. 07 nov. 2023 14:00:31 CET
make KBUILD_VERBOSE=1 M=/var/lib/dkms/evdi/1.10.1/build SUBDIRS=/var/lib/dkms/evdi/1.10.1/build SRCROOT=/var/lib/dkms/evdi/1.10.1/build CONFIG_MODULE_SIG= -C /lib/modules/6.5.0-10006-tuxedo/build modules
make[1]: Entering directory '/usr/src/linux-headers-6.5.0-10006-tuxedo'
make --no-print-directory -C /usr/src/linux-headers-6.5.0-10006-tuxedo \
-f /usr/src/linux-headers-6.5.0-10006-tuxedo/Makefile modules
warning: the compiler differs from the one used to build the kernel
  The kernel was built by: x86_64-linux-gnu-gcc-11 (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0
  You are using:           gcc-11 (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0
make -f ./scripts/Makefile.build obj=/var/lib/dkms/evdi/1.10.1/build need-builtin=1 need-modorder=1
# cmd_mod /var/lib/dkms/evdi/1.10.1/build/evdi.mod

Pour l’instant j’ai pas réussi à fixer le problème.

A suivre.