🟣 Génération de texte pour du MFA avec GPT3

Bonjour

Pour une fois, j'ouvre un sujet sans poser de questions
J’aimerais vous partager mon expérience avec la génération automatique de texte grâce à GPT3.

Objectif de l’expérience :

Voir si un site de type MFA peut se positionner avec du contenu entièrement générer avec GPT3. Pas simplement avec le modèle Davinci mais avec un entrainement custom (Fine Tunning).

Les étapes :

Étape 1 : Scrap de textes sur des MFA

Pour commencer, j’ai repris un script que j’avais déjà fait pour récupérer les données textuelles de plusieurs MFA.

C’est un scraper custom pour récupérer les bloques qui m’intéresse :
- Introduction
- Comment choisir (avec les critères)
- Les FAQ
- La conclusion

Étape 2 : Nettoyage des données

Je me retrouve donc avec environ 4000+ Intro, critères, FAQ et seulement 100 conclusions (pas bcp de MFA avec des conclusions)

Je nettoie toutes les données avec des regex pour enlever le nom du site ou la marque dans les textes ainsi que des phrases du type les 5 meilleurs (je ne vais pas forcément mettre 5 produits).

Étape 3 : Préparation des Datasets pour OpenAI
Pour entrainer son propre modèle avec OpenAI c’est relativement simple, il faut utiliser Fine Tuning (doc ici : https://beta.openai.com/docs/guides/fine-tuning)

Le dataset doit ressemble à ça :

Étape 4 : L’entrainement avec OpenAI

À ce stade, j’ai 4 datasets, intro, critère, FAQ et conclusion. J’utilise donc l’api de OpenAI pour entrainer 4 modèles différents.

J’ai entrainé sur le modèle “curie” avec 4000 introductions, critères, FAQ et 100 conclusions.

J'ai également fait un entrainement sur “davinci” avec 1000 introductions, critères, FAQ et 100 conclusions.

Pourquoi seulement 1000 sur davinci ? Car l’entrainement est 10 fois plus cher .
Pour vous donner une idée cela représente environ 50-80 $ pour les 4 modèles avec Davinci.

Étape 5 : Tests des modèles

Globalement, curie sur 4000 data semble plus régulier que davinci sur 1000. Néanmoins, Davinci a tendance à produire des textes de “bonne qualité” assez régulièrement.

Évidement Davinci aurait était meilleur que curie sur le même nombre de données, mais c’est une question de rapport qualité-prix.

Voici un exemple d’intro avec Curie (entrainement sur 4000 intro de MFA) :

Demande
    >introduction sur les aspirateurs:

Texte généré :
    L’aspirateur est un appareil qui aspire l’air, les liquides, et spécialement les poussières. Il est très utile pour nettoyer les sols et les murs. Il existe différents types     d’aspirateurs, selon le type de surface à nettoyer. L’aspirateur à main est le plus souvent utilisé. Il est très pratique et peut être utilisé par tous les utilisateurs. Il existe de nombreux modèles d’aspirateurs sur le marché. Il est important de choisir un modèle de qualité, qui convient à vos besoins et qui convient à votre budget. Ce guide d’achat est justement là pour vous aider à choisir le meilleur aspirateur.

Voici un exemple d’intro avec Davinci (entrainement sur 1000 intro de MFA) :

Demande
    >introduction sur les aspirateurs:

Texte généré :
    Si vous voulez vous débarrasser des particules et des saletés qui s'accumulent sur votre sol et vos meubles, vous avez besoin d'un aspirateur. Mais difficile de choisir entre tous les modèles vendus sur le marché. Pour mieux vous orienter, lisez notre guide des meilleurs aspirateurs du moment.

Étape 6 : Sélection des sujets / KW

Pour l’expérience, j'ai pris uniquement des kw peu concurrentiel, c'est-à-dire des kw avec une SERP qui ne demande pas de BL pour être sur la première page.

Étape 7 : Générations des textes

Maintenant que j’ai 8 modèles en tout (2 x 4 pour curie et davinci), je prépare les inputs pour générer les articles.

Pour faire simple, je prépare un JSON avec des données de base du type :
- nom du produit (ex: aspirateur)
- critère 1 (ex: La puissance)
- critère 2
- FAQ 1 (ex: Quelles différences entre aspirateur truc et aspirateur machin ?)
- FAQ 2

Ensuite, j’utilise le modèle approprié pour chaque section, par exemple pour générer le texte d’un critère :

>critère - La taille - aspirateur:

Étape Bonus : Correction de la compréhension du produit

En repassant sur quelques articles générés, je me suis rendu compte que parfois GPT3 comprend mal le produit.

Par exemple si je demande une intro sur les chandelles de voiture, il génère une intro qui parle de phare et de lumière… (voir chandelle sur Wikipédia).

Pour éviter ce problème, j’ajoute une petite description du produit avant d’envoyer ma demande à OpenAI. Par exemple :

La chandelle de voiture est un équipement qui permet de maintenir un véhicule en hauteur.
>introduction chandelle de voiture:

La chandelle de voiture est un équipement qui permet de maintenir un véhicule en hauteur.
>critère - Le prix - chandelle de voiture:
…

Conclusion

Pour tester tout ça j’ai pris 2 NDD vierge (sans historique web archive ni aucun BL) et j’ai généré environ 30 articles pour chacun des 2 sites.

Le premier site possède que les articles générés avec les modèles basés sur Curie et l’autre ceux basé sur Davinci. Les sujets/kws sont exactement les mêmes pour les 2 sites avec également les mêmes H1, H2… Seuls les textes sont différents.

J’ai également forcé l’indexation d’une dizaine de pages sur les 2 sites. Pour le moment d’après Ahref, j’ai 56 kw sur le site “Curie” et 23 sur le site “Davinci”. (les sites existent depuis 48h).

J’ai également commandé environ 10 petits BL afin que les sites existent un minimum aux yeux de Google.

Bref, je vais maintenant laisser du temps aux sites et je reviendrais vers vous d'ici à quelques semaines/mois pour vous dire comment cela évolue.