Didier Schwab

(Université Grenoble Alpes)

invited by Eugen Pircalabelu

will give a presentation on :

De FlauBERT à Pantagruel : Recherches et Questions sur les Modèles de Langue Écrits, Oraux, Pictographiques et Multimodaux en Français, leur Évaluation et leurs Biais

Abstract :

Depuis l’apparition des modèles de langues contextuels tels que ELMO (Peters et al., 2018) ou BERT (Devlin et al., 2019), les représentations informatisées de textes sont devenues notablement plus précises et permettent ainsi de mieux réaliser différentes tâches typiques du traitement automatique du langage. Cette révolution s’est poursuivie avec l’apparition des larges modèles de langues, associés à la génération du langage (tels que GPT, Llama, Gemini, etc.).

Cette présentation vise à faire le point sur les différentes recherches menées depuis 2019 sur les grands modèles de langue en français. Nous y aborderons les modèles écrits, oraux, multimodaux, ainsi que ceux appliqués à des domaines spécifiques (juridique, biomédical). Nous examinerons les modèles de langue masqués (de type BERT, pour la représentation du sens) et les modèles de langue causaux (type GPT, pour la génération de texte), leurs différences, ainsi que leurs complémentarités.

 Didier Schwab