Aller directement au contenu
  • Catégories
  • Récent
  • Mots-clés
  • Populaire
  • Web
  • Utilisateurs
  • Groupes
Habillages
  • Clair
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Sombre
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • Défaut (Darkly)
  • Aucun habillage
Réduire

NodeBB

  1. Accueil
  2. General Discussion
  3. Linux
  4. Informations générales

Informations générales

Planifié Épinglé Verrouillé Déplacé Linux
llama.cpp
4 Messages 1 Publieurs 17 Vues
  • Du plus ancien au plus récent
  • Du plus récent au plus ancien
  • Les plus votés
Répondre
  • Répondre à l'aide d'un nouveau sujet
Se connecter pour répondre
Ce sujet a été supprimé. Seuls les utilisateurs avec les droits d'administration peuvent le voir.
  • Tuxedo17T Hors-ligne
    Tuxedo17T Hors-ligne
    Tuxedo17
    écrit dernière édition par Tuxedo17
    #1

    Distribution linux

    • Ubuntu : pour les devs & IA. ( https://ubuntu.com/ )
    • Kali : pour la sécurité. ( https://www.kali.org/ )
    • Bazzite : pour les jeux ( https://bazzite.gg/ )

    Local IA

    • Ollama : pour débuter ( https://ollama.com/ ) sous Ubuntu 22 ou 24.
    • llama.cpp : ensuite ( https://llama-cpp.com/ )

    Interface à Ollama / …

    • Open WebUI : https://openwebui.com/

    Pour le chargement des modèles :

    • Hugging Face : https://huggingface.co/

    Meilleur modèle pour carte 16 Go :

    • GPT-OSS-20B ? ( https://huggingface.co/openai/gpt-oss-20b )
    ollama pull gpt-oss:20b
    ollama run gpt-oss:20b
    
    • Qwen3-30B MOEs(Q4) ? ( https://huggingface.co/Qwen/Qwen3-30B-A3B )
    
    

    Comparaison

    • Asus Radeon RX 9060 XT 16 Go vs NVIDIA 4060 TI 16 Go :

    Elles sont similaires :

    58eef493-c718-4c09-b0bb-940546595862-image.png

    1 réponse Dernière réponse
    0
    • Tuxedo17T Hors-ligne
      Tuxedo17T Hors-ligne
      Tuxedo17
      écrit dernière édition par
      #2

      Mes modèles avant la mise à jours.

      # ollama list
      NAME             ID              SIZE      MODIFIED      
      llava:13b        0d0eb4d7f485    8.0 GB    16 months ago    
      llava:7b         8dd30f6b0cb1    4.7 GB    16 months ago    
      llama3.1:8b      46e0c10c039e    4.9 GB    16 months ago    
      mistral:7b       f974a74358d6    4.1 GB    16 months ago    
      gemma2:9b        ff02c3702f32    5.4 GB    16 months ago    
      qwen2:7b         dd314f039b9d    4.4 GB    16 months ago    
      phi4:14b         ac896e5b8b34    9.1 GB    16 months ago    
      llama2:latest    78e26419b446    3.8 GB    17 months ago  
      
      1 réponse Dernière réponse
      0
      • Tuxedo17T Hors-ligne
        Tuxedo17T Hors-ligne
        Tuxedo17
        écrit dernière édition par
        #3

        Ma carte graphique sur le portable, seulement 6 Gb sur une RTX 3060.

        # nvidia-smi
        Wed Jun 17 15:28:48 2026       
        +-----------------------------------------------------------------------------------------+
        | NVIDIA-SMI 560.35.03              Driver Version: 560.35.03      CUDA Version: 12.6     |
        |-----------------------------------------+------------------------+----------------------+
        | GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
        | Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
        |                                         |                        |               MIG M. |
        |=========================================+========================+======================|
        |   0  NVIDIA GeForce RTX 3060 ...    Off |   00000000:01:00.0 Off |                  N/A |
        | N/A   47C    P8             13W /  115W |     510MiB /   6144MiB |      0%      Default |
        |                                         |                        |                  N/A |
        +-----------------------------------------+------------------------+----------------------+
                                                                                                 
        +-----------------------------------------------------------------------------------------+
        | Processes:                                                                              |
        |  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
        |        ID   ID                                                               Usage      |
        |=========================================================================================|
        |    0   N/A  N/A    387806      G   /usr/lib/xorg/Xorg                            125MiB |
        |    0   N/A  N/A    388171      G   budgie-wm                                      64MiB |
        |    0   N/A  N/A    388407      G   ...usr/lib/thunderbird/thunderbird-bin        111MiB |
        |    0   N/A  N/A    388771      G   ...AAAAAAAACAAAAAAAAAA= --shared-files          2MiB |
        |    0   N/A  N/A    389316      G   ...irefox/8462/usr/lib/firefox/firefox        159MiB |
        +-----------------------------------------------------------------------------------------+
        
        
        1 réponse Dernière réponse
        0
        • Tuxedo17T Hors-ligne
          Tuxedo17T Hors-ligne
          Tuxedo17
          écrit dernière édition par
          #4

          Après la mise à jours des modèles :

          # ollama list
          NAME               ID              SIZE      MODIFIED           
          gpt-oss:20b        17052f91a42e    13 GB     About a minute ago    
          llama2:latest      78e26419b446    3.8 GB    18 minutes ago        
          phi4:latest        ac896e5b8b34    9.1 GB    18 minutes ago        
          qwen2:latest       dd314f039b9d    4.4 GB    18 minutes ago        
          gemma2:latest      ff02c3702f32    5.4 GB    18 minutes ago        
          mistral:latest     6577803aa9a0    4.4 GB    18 minutes ago        
          llama3.1:latest    46e0c10c039e    4.9 GB    22 minutes ago        
          llava:latest       8dd30f6b0cb1    4.7 GB    22 minutes ago        
          llava:13b          0d0eb4d7f485    8.0 GB    16 months ago         
          llava:7b           8dd30f6b0cb1    4.7 GB    16 months ago         
          llama3.1:8b        46e0c10c039e    4.9 GB    16 months ago         
          mistral:7b         f974a74358d6    4.1 GB    16 months ago         
          gemma2:9b          ff02c3702f32    5.4 GB    16 months ago         
          qwen2:7b           dd314f039b9d    4.4 GB    16 months ago         
          phi4:14b           ac896e5b8b34    9.1 GB    16 months ago   
          
          1 réponse Dernière réponse
          0

          Bonjour ! Vous semblez intéressé par cette conversation, mais vous n’avez pas encore de compte.

          Marre de refaire défiler les mêmes messages ? Créez un compte pour retrouver votre position, recevoir des notifications des nouvelles réponses, sauvegarder vos favoris et voter pour les messages que vous appréciez.

          Grâce à votre participation, ce message peut devenir encore meilleur 💗

          S'inscrire Se connecter
          Répondre
          • Répondre à l'aide d'un nouveau sujet
          Se connecter pour répondre
          • Du plus ancien au plus récent
          • Du plus récent au plus ancien
          • Les plus votés


          • Se connecter

          • Vous n'avez pas de compte ? S'inscrire

          • Connectez-vous ou inscrivez-vous pour faire une recherche.
          Powered by NodeBB Contributors
          • Premier message
            Dernier message
          0
          • Catégories
          • Récent
          • Mots-clés
          • Populaire
          • Web
          • Utilisateurs
          • Groupes