Démantiser et transmettre : le transfert de compétences inter-tâches dans les agents à grands modèles de langage
Cet article examine systématiquement la façon dont les agents à grands modèles de langage acquièrent des compétences à partir de tâches accomplies et les réutilisent dans les tâches suivantes pour améliorer continuellement leurs performances, en se concentrant sur une question centrale : comment de telles compétences peuvent-elles être transférées de manière fiable d'une tâche à l'autre. Grâce à des expériences contrôlées, les auteurs comparent deux dimensions clés influençant le transfert de compétences : l'induction de compétences au niveau des tâches versus au niveau des sous-tâches, et le format texte versus le format code. Les résultats montrent que les compétences de niveau tâche tendent à faire tomber les performances des agents sous la ligne de base sans mémoire, tandis que les compétences de niveau sous-tâche les relèvent au-dessus de la ligne de base en moyenne, et que les compétences au format texte se transfèrent mieux que celles au format code. Pour expliquer ces constats, les auteurs introduisent deux attributs complémentaires : la spécificité, qui mesure dans quelle mesure une compétence s'adapte aux tâches réelles, et l'abstraction, qui capture la dispersion de la pertinence d'une compétence d'une tâche à l'autre. Ni l'un ni l'autre seuls ne prédisent le succès ou l'échec d'une tâche, mais ensemble ils le peuvent, ce qui mène à la proposition d'un score d'utilité des compétences. Ce score peut être calculé à partir des seules descriptions de la compétence et de la tâche, sans aucune exécution de tâche, offrant ainsi un outil de diagnostic pratique pour une banque de compétences avant de lancer de nouvelles tâches.
Contexte
Les agents à grands modèles de langage renforcent leurs capacités en induisant des compétences réutilisables depuis des tâches accomplies et en les réutilisant ensuite. Pourtant, un problème pratique persistant reste sous-étudié : ces compétences que l'agent apprend pour lui-même se transfèrent de manière peu fiable d'une tâche à l'autre, et peuvent même nuire à l'agent qui les récupère. Cet article reformule la question ouverte, passant de la capacité des agents à apprendre des compétences à la dimension sous-estimée de leur induction, puis y répond par des expériences systématiques et contrôlées.
La contribution centrale repose sur un déplacement de l'attention, de l'acquisition vers l'induction des compétences et ses effets sur le transfert inter-tâches. Plutôt que de proposer un nouveau modèle, les auteurs offrent un cadre d'évaluation explicable et calculable, transformant des observations intuitives en un outil de diagnostic quantifiable. Cette démarche repositionne la mémoire des compétences comme une resource exigeant une sélection active plutôt qu'un stockage passif, offrant aux recherches futures un système de coordonnées clair.
Analyse approfondie
Le dispositif expérimental fait varier deux dimensions indépendantes. La première est la granularité de l'induction : l'induction de niveau tâche empaquette une tâche entière dans une seule compétence, tandis que l'induction de niveau sous-tâche décompose la tâche en étapes plus fines et induit les compétences séparément. La seconde est le format d'expression : les compétences au texte décrivent les capacités en langage naturel, celles au code les présentent comme des programmes structurés et lisibles par une machine. Les autres variables sont maintenues fixes afin de mesurer l'effet isolé de chaque axe sur le transfert.
Pour expliquer les résultats, les auteurs introduisent deux attributs complémentaires. La spécificité mesure la cohésion d'une compétence avec les tâches réelles, tandis que l'abstraction capture la dispersion de sa pertinence d'une tâche à l'autre. Aucun attribut seul ne prédit le succès, mais leur effet conjoint le permet, ce qui motive le score d'utilité des compétences intégrant les deux dans un metric unique et calculable.
Les comparaisons contrôlées révèlent plusieurs constats stables et contre-intuitifs. Les compétences de niveau tâche font tomber en moyenne la performance sous la ligne de base sans mémoire, signifiant que la réutilisation aveugle des tâches entières est activement nocive. Les compétences de sous-tâche, à l'inverse, la relèvent au-dessus de la ligne de base, indiquant qu'une décomposition plus fine favorise le transfert. Sur l'axe du format, les compétences au texte se transfèrent mieux que celles au code, le langage naturel se généralisant plus robustement.
Impact sur l'industrie
Pour les systèmes de mémoire à long terme, l'étude fournit des orientations d'opération concrètes : une banque de compétences ne doit pas être un lieu où l'expérience s'accumule sans distinction, mais une collection curatoriale où l'utilisabilité de chaque compétence est évaluée. L'avantage saillant du score d'utilité est qu'il ne requiert que les descriptions de la compétence et de la tâche, sans exécution de tâche pour être calculé, en faisant un diagnostic à faible coût et anticipé pouvant cribler une banque avant le lancement d'une nouvelle tâche.
Pour la communauté open source, cela permet des mécanismes de filtrage plus intelligents. Pour le déploiement industriel, il réduit le risque de régression de performance lié à la réutilisation indiscriminée de l'expérience. Pour les recherches futures, il trace un chemin de l'induction vers l'évaluation de l'expérience, faisant évoluer la question classique de l'apprentissage vers celle, plus réaliste, de l'évaluation et de la sélection.
Perspectives
Le score d'utilité corrèle de manière stable avec le succès des tâches lors du transfert, les compétences de sous-tâche et au texte marquant constamment plus haut, renforçant l'idée que la valeur d'une compétence ne dépend pas de sa complétude d'induction mais de sa capacité à la fois à coller aux tâches réelles et à éviter la dispersion dans des contextes non pertinents. Un travail futur pourrait opérationnaliser ce score comme une couche automatisée de filtrage dans les pipelines de mémoire, décidant quelles compétences retenir, élaguer ou induire à nouveau. À mesure que les agents accumulent des dépôts d'expérience plus vastes, de tels diagnostics avant déploiement pourraient devenir essentiels pour prévenir la dégradation de performance documentée ici.