L’apprentissage par le service (SL) est devenu une méthodologie d’apprentissage très efficace ces dernières années, comblant le fossé entre la théorie et la pratique tout en contextualisant l’apprentissage dans des scénarios du monde réel. Il a été mis en œuvre avec succès à tous les niveaux de l’enseignement supérieur, ce qui a permis d’améliorer sensiblement les compétences des étudiants universitaires. Cependant, en tant que méthodologie transformatrice, la traduction automatique en est encore aux premiers stades de développement en termes de méthodes d’évaluation. Par conséquent, il est urgent de concevoir et de valider des instruments de mesure fiables et, surtout, valides, car l’application de la SL à des contextes réels est sa valeur principale. Cet article démontre comment concevoir et valider de manière optimale des instruments de traduction automatique universitaire pour évaluer la qualité des expériences de traduction technique au niveau universitaire du point de vue des professeurs d’université, guidés par le principe de parcimonie. La méthode Delphi modifiée en ligne, l’analyse factorielle exploratoire des moindres carrés non pondérés robuste et l’analyse factorielle confirmatoire ont été appliquées pour créer un nouvel instrument, le QaSLu-27, validé par un échantillon de 16 experts utilisant la méthode Delphi modifiée en ligne et 118 enseignants d’université qui mettent en œuvre des projets SL. Les résultats montrent des conditions psychométriques optimales pour le nouvel instrument (W = 0,11 ; α = 0,92 ; CMIN/DF = 1,027 ; CFI = 0,979 ; WRMR= 0,0985 ; RMSEA = 0,046), ce qui a conduit à l’élaboration de nouvelles échelles de notation qui permettent de comparer les futurs utilisateurs de cette méthodologie, en tenant compte de leurs caractéristiques attributaires et démographiques. La conception de nouveaux instruments validés, capables d’être utilisés dans le monde réel et permettant la création d’échelles, sera très utile pour mesurer la mise en œuvre de nouvelles expériences en SL, pour évaluer leurs progrès, leurs participants, leurs gestionnaires et leurs moniteurs, contribuant ainsi à l’établissement de ce champ d’étude dans le cadre académique actuel et à la génération de nouvelles connaissances scientifiques.