Où en est-on avec les modèles de langue ? (ChatGPT et les autres), par Thierry Poibeau

Thème de la séance :

Les modèles de langue (Bert, GPT, Llama, etc.) et les applications qui en sont dérivées (ChatGPT, etc.) ont profondément changé le traitement automatique des langues ces dernières années. Ils ont permis d’atteindre des niveaux de performances inégalés jusque-là, sur de nombreuses tâches et dans de nombreuses langues. Dans le même temps, leur fonctionnement reste encore assez opaque, et fait l’objet de recherches intenses (on parlait naguère de « Bertology »). Aussi ces modèles posent-ils de multiples questions. Peut-on dire que ces modèles « comprennent » la langue ? Et si oui, en quoi ? Jusqu’à quel point ? Quel intérêt pour la recherche en dehors du  traitement automatique du langage naturel ? Pour la création ? Sur le plan pratique, comment peut-on leur faire face et/ou les intégrer dans nos recherches, vu la puissance de calcul nécessaire à leur entraînement ? Est-on devenu dépendant des grands acteurs privés du domaine ? Quelles sont les limites de ces modèles et leurs dangers potentiels ? Nous n’aurons sans doute pas toutes les réponses à ces questions, mais cette présentation sera l’occasion d’une réflexion sur ces modèles qui commencent à changer notre environnement et suscite l’interrogation du grand public.

L’orateur :

Thierry Poibeau est directeur de recherche au CNRS ; il travaille à l’École normale supérieure, à Paris. Il est également titulaire d’une chaire au sein de l’Institut 3IA Prairie (Paris Artificial Intelligence Research Institute). Ses thèmes de recherche sont le traitement automatique du langage naturel, les humanités numériques et l’impact de l’IA sur la société.

Inscription :

Lien obligatoire pour annoncer votre PRESENCE le 6 Juin (effectuer une inscription pour chaque participant) :

 https://www.eventbrite.fr/e/billets-institut-bull-ia-les-modeles-de-langage-chatgpt-et-les-autres-637326610047

Lien obligatoire pour suivre la séance en ZOOM :

https://us02web.zoom.us/meeting/register/tZ0kcOioqDspGtzTisdyyCUZjmlrXyHZta56