L'adaptation de domaine est un problème ancien et frustrant pour les systèmes de traduction automatique. L'approche la plus courante et la plus efficace en matière d'adaptation supervisée consiste à peaufiner un système de base à l'aide de données parallèles dans le domaine. Un réglage fin standard modifie cependant tous les paramètres du réseau, ce qui rend cette approche coûteuse en calcul et sujette au surajustement. Une approche récente et légère permet d'ajouter au modèle de base des couches d'adaptateur supplémentaires (petites), le reste du mode restant inchangé. Cela présente l'avantage supplémentaire de laisser le modèle de base intact et adaptable à plusieurs domaines. Dans cet article, nous effectuons une analyse approfondie du modèle d'adaptateur dans le contexte d'une tâche de traduction automatique multidomaine.

Nous comparons plusieurs implémentations de cette idée sur deux paires de langues.

Nos principales conclusions sont que les adaptateurs résiduels fournissent une méthode rapide et bon marché pour l'adaptation multi-domaines supervisée ; nos deux variantes s'avèrent aussi efficaces que le modèle d'adaptateur d'origine, et une perspective ouverte pour rendre les modèles adaptés plus robustes pour étiqueter les erreurs de domaine.

MinhQuang Pham, Josep Maria Crego, François Yvon, Jean Senellart

Compte rendu de la cinquième Conférence sur la traduction automatique, novembre 2020

En savoir plus