Plan du cours

Introduction au réglage fin de la PNL

  • Qu'est-ce que le réglage fin ?
  • Avantages du réglage fin des modèles linguistiques pré-entraînés
  • Aperçu des modèles pré-entraînés les plus populaires (GPT, BERT, T5)

Comprendre les tâches du TAL

  • Analyse des sentiments
  • Résumé de texte
  • Traduction automatique
  • Reconnaissance d'entités nommées (NER)

Mise en place de l'environnement

  • Installation et configuration de Python et des bibliothèques
  • Utiliser les transformateurs Hugging Face pour les tâches de TAL
  • Chargement et exploration de modèles pré-entraînés

Techniques de mise au point

  • Préparation des ensembles de données pour les tâches de TAL
  • Tokenisation et formatage des entrées
  • Mise au point pour les tâches de classification, de génération et de traduction

Optimisation des performances des modèles

  • Comprendre les taux d'apprentissage et la taille des lots
  • Utiliser des techniques de régularisation
  • Évaluer les performances du modèle à l'aide de métriques

Travaux pratiques

  • Ajustement de BERT pour l'analyse des sentiments
  • Ajustement de T5 pour le résumé de texte
  • Ajustement fin de GPT pour la traduction automatique

Déployer des modèles affinés

  • Exporter et sauvegarder les modèles
  • Intégration des modèles dans les applications
  • Principes de base du déploiement de modèles sur des plates-formes en nuage

Défis et bonnes pratiques

  • Éviter le surajustement lors de l'ajustement fin
  • Gérer les ensembles de données déséquilibrés
  • Garantir la reproductibilité des expériences

Tendances futures en matière de réglage fin du NLP

  • Nouveaux modèles pré-entraînés
  • Progrès dans l'apprentissage par transfert pour le NLP
  • Explorer les applications multimodales du PNA

Résumé et prochaines étapes

Pré requis

  • Compréhension de base des concepts de la PNL
  • Expérience de la programmation Python.
  • Familiarité avec les cadres d'apprentissage profond tels que TensorFlow ou PyTorch

Public

  • Scientifiques des données
  • Ingénieurs NLP
 21 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires