Cet article propose une nouvelle approche, peu coûteuse, qui exploite les modèles linguistiques à grande échelle (MLH) pour améliorer les jugements de pertinence dans les affaires juridiques. Les jugements de pertinence juridiques existants sont chronophages, nécessitent des connaissances spécialisées et souffrent d'un manque d'interprétabilité des données existantes. Cette étude présente une approche en plusieurs étapes qui permet aux LH de générer des jugements de pertinence interprétables, comparables à ceux des experts. Cette approche imite le flux de travail des experts humains, en intégrant de manière flexible le raisonnement expert et en garantissant un étiquetage interprétable des données. Les résultats expérimentaux démontrent que l'approche proposée génère des évaluations de pertinence fiables et valides, permet aux LH d'acquérir une expertise en analyse de cas avec une supervision minimale des experts et permet le transfert vers des modèles plus petits grâce à la distillation des connaissances.