🟣 ♦️ OpenAI & Génération de texte

Bonjour
j ai trouvé ça   

https://talktotransformer.com/

@debutantseo > Yep je connais talktotransformer, il utilise la meme base applicative que moi.

@frcc78 > bah techniquement ce que tu décris est assez basique.
Pour te dire, mon premier test était de prendre des articles sur Google BERT, je les ai fait bouffer à mon IA.
Ensuite je lui ai créé des amorces de phrases :

"Google Bert est ..."
"La chose à retenir sur Bert est ..."
"Nous ne savons pas encore que..."

et le système m'a généré à chaque fois un paragraphe pertinent sans jamais copier les articles à l'origine de l'information. Donc à priori tant que l'échantillon de base est assez diversifié, il n'y a pas de souci de duplicate content. D'autant que le moteur est à la base entrainé sur un échantillon gigantesque afin d'être en mesure de produire des tournures qui ne sont pas dans les textes du training.

Donc, perso j'en suis là, je suis en train d'industrialiser les prefixes d'amorçages et j'ajoute des algos de traitement en sortie pour pouvoir construire des articles complets. Il n'est plus question ici de modifier, mais carrément de produire, et ça marche.

Par contre, je ne suis pas un expert en deep learning et je ne sais pas encore manipuler les codes de retour pour modifier les prévisions à la volée.

---

Je dispose déja d'une batterie d'applications que j'ai codé moi meme et qui me servent au quotidien en remplacement des semrush & co.
Je pense qu'en assemblant betement mon outil de detection des user-intents et mon IA de generation, je dois pouvoir nourir en automatique un blog et créer des articles pertinents autour de sujets, sans "aucune" action humaine. Il suffira en gros de spécifier la thématique de l'article et de corriger les fautes de français en sortie (les IA ne sont jamais entièrement fiables, il existe des impasses qui leur font mathématiquement faire de la merde).

---

Je pense que l'IA va succéder naturellement au spinning qui va bientôt arriver à péremption maintenant que google est en mesure de comprendre les textes. Une fois que google sera en mesure de "comprendre" le fond d'un texte, il pourra réverser cette compréhension pour créer des signatures afin de comparer les articles d'un site. S'il voit que X articles sont structurés différemments mais que l'information véhiculée est la meme, il saura très rapidement que la masse est sterile et que le spot a peu de valeur dans sa globalité. eLe spinning rejoindra alors les autres outils archeologiques d'ici 2022, et nous devrons nous préparer à scaller. D'où mes travaux.

Dernière modification par Atomium (2019-11-13 21:21:02)

ptites libs sympatoches en ruby :

hxxps://github.com/maetl/calyx

et

hxxps://github.com/ccates83/ruby-markov-chain-text-generator

sur la deuxieme, en remplacant le corpus par du texte fr .. ca pourrait ptetre donner un truc

et sur le premier un format de grammaire qui pourrait inspirer éventuellement

Dernière modification par conquering_lion (2019-11-13 22:24:40)

Oui j'ai testé sans grand succès pour le moment.

J'utilise une librairie de génération de texte en Python basé sur un modèle de machine learning RRN backé par TensorFlow...

(j'ai rarement fait une phrase avec autant de "buzz word" d'un coup)

https://github.com/minimaxir/textgenrnn

Comme je pratique en local, il faut entraîner le modèle beaucoup de temps pour que cela fonctionne. Donc, malheureusement, cela ne fonctionne pas bien sur du texte puisque le résultat est plus qu'aléatoire.

J'ai testé sur de l'immobilier et ça donne rien de bien probant (avec entraînement pendant 30 heures sur un laptop grand public).

Exemple :

Mais, j'ai des bons résultats sur de petites phrases.

J'ai testé avec un entraînement sur environ 3000 titres de films de SF et Fantastique extrait du site IMDB.
Voici ce que le programme a pu générer comme "nouveaux" titres :

Perso, j'ai envie de voir ce que pourrait donner "La mort de la planète des temps" et "The Bang Park"...

En poussant un peu plus la génération, le truc se met à devenir assez créatif et à inventer des mots :

L'explication c'est que j'ai entraîné mon modèle à écrire caractère par caractère les mots... Je m'y connais pas beaucoup, alors peut-être que je pourrais m'y prendre autrement.

Bref, dans mon cas, c'est amusant, mais pas bien utile. Le seul usage c'est que cela pourrait permettre d'être créatif sur les Web 2.0 avec des titres d'articles qui sortent des sentiers battus pour apporter de la diversité.

Dans les usages, j'y ait aussi pensé pour apporter de la diversité dans les ancres de liens pour des backlinks.

Comme tout cela est réalisé en local, il faut que je travaille maintenant online avec un service adéquat pour voir si je peux améliorer les choses avec du vrai texte.

@Atomium Je suis moi aussi troublé par ma propre présence dans ce message

Il faudrait voir ce que cela donne en fournissant des sujets SEO à ce type d'AI

Du nouveau Atomium ?

L'API de GTP3 n'est pas toujours en closed beta ?

J'ai encore du mal à trouver un intérêt à GPT pour manipuler Google efficacement. Tu peux chier du contenu lisible pour un humain, certes. Mais il ne sera pas assez bon pour faire du copyrighting ou répondre de manière pertinente à une intention de requête complexe (une description de page produit, d'accord, mais répondre de manière pertinente à quelles sont les meilleures villes pour investir dans l'immobilier, non). Donc tu devras tout de même cloaker puisque ton contenu ne conviendra pas à l'intention de requête.

Si ta soupe actuelle (cloakée) marche suffisamment bien pour le moment pour atteindre les objectifs que tu lui as fixés, pourquoi s'emmerder avec GTP3 ? Surtout que si tu arrives déjà à faire de la bouillie de qualité, bien pertinente pour Google, ça marche super, couplé à un bon maillage.

Etant en plein dedans en ce moment, j'ai l'impression que les gains sont plutôt à faire au niveau de la granularité: pertinence et cohérence au niveau phrase, paragraphe, section, mise en page, visuels, couplé au maillage. Ce qui peut se régler en partie de manière assez simple (sous python) avec Sklearn|une matrice des similarité cosinus|un coup de DBSCAN.

GTP3, je pense, pourra t'offrir la cohérence (une page bien propre, qui parlera de manière très vague de ton sujet principal, avec des images en rapport), mais pas la pertinence pour Google. Tout simplement parce qu'il ne se base pas sur ce que Google va considérer comme pertinent pour l'intention de recherche. T'es toujours obligé de partir de la SERP pour suivre Google à la trace.

Pour faire du spamdexing et faire quelque chose d'assez diffus, qui fait son job tout doucement depuis la page 2 ou 3-4 pourquoi pas, après...

Hello,
Cela fait longtemps que tu n'as pas testé d'outil de spinning classique non ?

Tu as essayé les paraphrasers qui trainent sur Github?

Sur étagère, avec un entrainement sur dataset en FR, je ne pense pas ?