Aller directement au contenu
  • Catégories
  • Récent
  • Mots-clés
  • Populaire
  • Web
  • Utilisateurs
  • Groupes
Habillages
  • Clair
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Sombre
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • Défaut (Aucun habillage)
  • Aucun habillage
Réduire

NodeBB

  1. Accueil
  2. General Discussion
  3. Linux
  4. IA
  5. LLama-swap : Temps de compression

LLama-swap : Temps de compression

Planifié Épinglé Verrouillé Déplacé IA
llama-swap
5 Messages 1 Publieurs 108 Vues
  • Du plus ancien au plus récent
  • Du plus récent au plus ancien
  • Les plus votés
Répondre
  • Répondre à l'aide d'un nouveau sujet
Se connecter pour répondre
Ce sujet a été supprimé. Seuls les utilisateurs avec les droits d'administration peuvent le voir.
  • Tuxedo17T
    Tuxedo17T
    Tuxedo17
    a écrit sur dernière édition par Tuxedo17
    #1

    Méthode d’identification de la compression :

    Le prompt “You are a summarization agent…” n’est pas stocké dans la table activity de llama-swap (elle ne garde que des métriques, pas le contenu des requêtes). J’ai donc identifié les requêtes de
    compression par leur signature : un ratio input_tokens/output_tokens > 100 (un checkpoint énorme en entrée, un résultat de synthèse court en sortie).

    Résultats clés :

    Métrique Valeur
    Période 22/07 14h → 06/08 17h (85 heures)
    Temps total 72,40h
    Temps compression 16,61h (22,9%)
    Temps normal 55,79h (77,1%)
    Pic compression 98% à 22/07 16h
    Pic moyen/jour 32% à 28/07

    Les deux graphiques montrent :

    1. Haut : empilement des temps (barres bleues = normal, oranges = compression)
    2. Bas : pourcentage de compression par heure/jour

    Le graphique *-daily.png est plus lisible pour une vue d’ensemble, tandis que *-hourly.png donne le détail fin par heure.

    llama-swap-compression-daily.png
    llama-swap-compression-hourly.png

    1 réponse Dernière réponse
    0
    • Tuxedo17T
      Tuxedo17T
      Tuxedo17
      a écrit sur dernière édition par
      #2
      Ce message a été supprimé !
      1 réponse Dernière réponse
      0
      • Tuxedo17T
        Tuxedo17T
        Tuxedo17
        a écrit sur dernière édition par
        #3
        Ce message a été supprimé !
        1 réponse Dernière réponse
        0
        • fariasF farias a déplacé ce sujet de Linux sur
        • Tuxedo17T
          Tuxedo17T
          Tuxedo17
          a écrit sur dernière édition par
          #4

          Encore trop de compression :

          llama-swap-compression-time-daily.png

          1 réponse Dernière réponse
          0
          • Tuxedo17T
            Tuxedo17T
            Tuxedo17
            écrit dernière édition par
            #5

            Update :

            llama-swap-compression-hourly.png

            1 réponse Dernière réponse
            1

            Bonjour ! Vous semblez intéressé par cette conversation, mais vous n’avez pas encore de compte.

            Marre de refaire défiler les mêmes messages ? Créez un compte pour retrouver votre position, recevoir des notifications des nouvelles réponses, sauvegarder vos favoris et voter pour les messages que vous appréciez.

            Grâce à votre participation, ce message peut devenir encore meilleur 💗

            S'inscrire Se connecter
            Répondre
            • Répondre à l'aide d'un nouveau sujet
            Se connecter pour répondre
            • Du plus ancien au plus récent
            • Du plus récent au plus ancien
            • Les plus votés


            • Se connecter

            • Vous n'avez pas de compte ? S'inscrire

            • Connectez-vous ou inscrivez-vous pour faire une recherche.
            Powered by NodeBB Contributors
            • Premier message
              Dernier message
            0
            • Catégories
            • Récent
            • Mots-clés
            • Populaire
            • Web
            • Utilisateurs
            • Groupes