Apple améliore le transfert multilingue avec LINK

Apple publie une méthode Le 25 août 2026, Apple présente LINK dans un article consacré au transfert de connaissances multilingue sous contrainte de données. La méthode intervient au niveau des données pendant le préentraînement des modèles. Elle remplace certains mots d’un corpus anglais par leurs traductions mot à mot. Les substitutions utilisent des vocabulaires bilingues. L’article est signé par Anastasiia Sedova, Natalie Schluter, Skyler Seto et Maartje ter Hoeve. Les auteurs évaluent LINK sur huit langues et cinq tailles de modèles. Ils rapportent des améliorations sur plusieurs tâches dans la langue cible. Ces tâches couvrent le raisonnement scientifique, l’inférence de bon sens et les connaissances générales. Lire l’article d’Apple.

Les données cibles manquent Les auteurs partent d’un problème lié aux langues disposant de peu de données d’entraînement. Pour ces langues, une partie des connaissances nécessaires doit venir d’une langue richement dotée. L’article cite notamment les tâches de raisonnement scientifique, d’inférence de bon sens et de connaissances générales. Les méthodes existantes demandent souvent de grandes quantités de données parallèles. Elles peuvent aussi nécessiter des systèmes de traduction, des modèles auxiliaires ou des étapes supplémentaires d’entraînement. Selon l’article, ces ressources restent largement indisponibles pour de nombreuses langues. LINK vise donc le préentraînement, plutôt qu’une phase additionnelle après celui-ci. Voir la publication sur arXiv.

LINK modifie le corpus anglais

Les substitutions restent ciblées LINK sélectionne aléatoirement des mots dans une portion du corpus d’entraînement anglais. Chaque mot retenu est remplacé par une traduction au niveau lexical. Le procédé dépend d’un ratio de remplacement défini pour l’expérience. Il ne demande aucun entraînement supplémentaire du modèle. Il nécessite seulement un vocabulaire bilingue. Les auteurs indiquent que ce vocabulaire peut être obtenu à un coût presque nul pour pratiquement toutes les langues. La méthode agit donc sur le contenu présenté pendant le préentraînement. L’article ne décrit pas LINK comme un nouveau modèle. Il le présente comme une intervention au niveau des données destinée à faciliter le transfert entre langues.

Les tests couvrent cinq tailles Les évaluations portent sur huit langues et cinq tailles de modèles. Elles mesurent les performances sur des tâches réalisées dans la langue cible. Les auteurs rapportent des améliorations notables après l’intervention lexicale. Ils indiquent aussi jusqu’à deux fois plus de vitesse pour atteindre une performance équivalente. Ce chiffre décrit la vitesse d’entraînement observée dans leur évaluation. Il ne constitue pas une durée universelle pour tous les modèles. La page de recherche classe le travail dans le traitement automatique du langage et la parole. Elle date sa publication d’août 2026. Les quatre auteurs mentionnés sur la page comprennent trois contributeurs signalés comme participants à parts égales.

Les résultats restent liés aux tests

Le transfert vise plusieurs capacités LINK cible le transfert de connaissances depuis l’anglais vers une langue disposant de moins de données. Les tâches évaluées incluent le raisonnement scientifique, l’inférence de bon sens et les connaissances générales. Ces catégories correspondent aux besoins décrits par les auteurs pour les modèles multilingues. Le résultat rapporté combine deux éléments distincts. D’une part, les auteurs observent des améliorations sur les tâches en langue cible. D’autre part, ils mesurent jusqu’à deux fois plus de vitesse pour atteindre une performance équivalente. L’article fournit ces résultats pour huit langues et cinq tailles de modèles. Il ne présente pas ces observations comme une garantie pour chaque langue ou architecture.