Nous lançons un programme d’expérimentation d’outils de traitement automatique du langage (TAL) utilisant les technologies de machine-learning.
Les développements récents des modèles de langage, notamment les “Large Language Models” de type GPT et BERT, ont apporté non seulement une amélioration très significative des performances mais également une meilleure accessibilité des librairies, jeux de données et modèles pré-entraînés. De nombreux outils Open Source sont disponibles, bien documentés et il devient très facile de réaliser certaines opérations comme la reconnaissance d’entités nommées (NER) et la classification de textes.
Grâce au soutien de l’université de Saint-Étienne (UJM), nous bénéficions d’une machine dédiée sur le cloud (Lyse Cloud), ce qui nous permettra d’implémenter des modèles de langage et de les entraîner à des tâches correspondant à nos corpus. Nous souhaitons également contribuer à la création d’un espace d’échange interdisciplinaire entre les chercheur·e·s travaillant sur des corpus, les spécialistes du TAL et du machine-learning, ainsi que les ingénieur·e·s des laboratoires.
Notre premier objectif sera d’implémenter une chaîne de traitement permettant d’importer des corpus textuels (presse, éditions numériques, etc) afin de tester les performances des modèles open source et de faciliter les opérations d’indexation fine et de fouille de texte. Cette chaîne inclura un outil d’annotation, qui facilitera l’analyse et la correction des résultats obtenus par les outils d’extraction, mais aussi la préparation d’échantillons pour le ré-entraînement des modèles.
Détection d’entités nommées sur un échantillon du Dictionnaire de Port-Royal (1), réalisée avec Spacy (2) et importée dans Doccano (3).
Nous proposerons au printemps une journée d’atelier pour présenter les résultats des tests et la chaîne de traitement, et ouvrir la discussion autour de tables rondes réunissant les actrices et acteurs des différentes disciplines.
(1) https://www.sudoc.fr/081347561
(2) https://spacy.io
(3) https://github.com/doccano/doccano
OpenEdition vous propose de citer ce billet de la manière suivante :
vincentventresque (18 octobre 2023). GANESHs IA | Mise en place d’un espace d’expérimentation IA pour les SHS. . Consulté le 8 octobre 2024 à l’adresse https://ganeshs.hypotheses.org/258