Il n’y a pas à le nier. L’IA générative, que ce soit pour créer du contenu et des images ou même pour faciliter notre travail grâce à l’automatisation, est là pour rester. Alors que nous l’expérimentons et testons ses limites, il est important de se rappeler que l’apprentissage automatique n’est pas parfait. Et pas seulement dans les phrases étranges ou les images humaines qu’il crée. L’IA ne comprend pas toujours les faits.

Il y a quelques semaines, un ami a lu cette pièce j’ai écrit pour Le stratège de contenu sur l’utilisation Jasper.ai. Curieux, il a pris l’une des invites que j’ai utilisées dans l’article – où j’ai demandé à Jasper d’écrire un paragraphe en utilisant des données provenant de sources fiables – et l’a connecté à ChatGPT, le nouvel outil de chat conversationnel d’OpenAI. Voici ce qu’il a produit :

Selon un rapport de McKinsey, l’utilisation de l’IA pour la génération de contenu devrait croître de manière significative dans les années à venir. Le rapport estime que d’ici 2030, la génération de contenu basée sur l’IA pourrait permettre aux entreprises d’économiser plus de 16 milliards de dollars par an. Cette croissance est soutenue par les conclusions de Forrester, qui prévoit que d’ici 2025, le contenu généré par l’IA représentera plus de la moitié de tout le contenu produit.

Comme plus d’un million d’utilisateurs de ChatGPT avons vu au cours des dernières semaines, l’outil produit un texte clair, bien structuré et faisant autorité. Mais il y a un problème : Aucune des sources citées dans ce paragraphe n’existe. McKinsey n’a pas de rapport estimant 16 milliards de dollars d’économies grâce à la génération de contenu alimenté par l’IA, et Forrester n’a pas prédit que la moitié de tout le contenu sera généré par l’IA. Ce texte est ce qu’un observateur appelle “un non-sens cohérent”.

Plus précisément, ces les mensonges sont connus comme des hallucinations. Dans le monde de l’IA, ce terme poétique décrit des faits inventés ou des inexactitudes qui apparaissent dans le contenu généré par l’IA. Et ils constituent un gros problème pour les équipes de contenu qui cherchent à tirer parti de l’IA générative pour produire plus encore plus rapidement. Pourquoi? Parce que vous ne pouvez pas avoir des faits complètement fabriqués dans votre contenu. C’est un look terrible pour votre marque et érode la confiance avec votre public.

Si vous envisagez d’utiliser du contenu généré par l’IA, vous avez besoin d’une stratégie pour repérer les hallucinations et vous en débarrasser. Notre conseil ? Embrassez un membre éprouvé de l’équipe de contenu : le vérificateur de faits.

Qu’est-ce qu’un fait, de toute façon ?

Faites-moi plaisir en faisant une brève digression pour définir les « faits » dans le contexte du contenu marketing. Merriam-Webster a cinq définitions distinctes pour un “fait”, y compris “quelque chose qui a une existence réelle” et “une information présentée comme ayant une réalité objective”. Ces définitions sont utiles pour les spécialistes du marketing de contenu, car nous voulons que les informations que nous utilisons reflètent la réalité connue et soient fondées sur les preuves disponibles.

Par exemple, lorsque j’écris un article et des données de référence, ces données doivent provenir d’une étude réelle qui a eu lieu, et non d’une invention. Si je cite un expert ou une personnalité connue sur un sujet, je dois utiliser une vraie citation – quelque chose qu’ils ont réellement dit – et non quelque chose que j’ai inventé pour eux. Je ne dois pas non plus attribuer une citation à quelqu’un d’autre que la personne qui l’a réellement dite. Simple, non ?

Les choses deviennent plus floues lorsque nous considérons les choix que font les écrivains sur les détails et les exemples à inclure et ceux à omettre. Nous faisons toujours des choix. La façon dont nous interprétons les informations introduit également des inexactitudes involontaires. Je dis que le verre est à moitié plein et vous dites qu’il est à moitié vide. Nous avons tous les deux raison sur les faits, mais l’interprétation peut amener un lecteur à croire quelque chose qui n’est pas vrai.

Et puis il y a les problèmes de fait qui surviennent lorsque les marques font des déclarations qui sont vraies d’une manière qui est cachée, obscure ou différente de l’interprétation courante. Par exemple, la pratique courante consistant à qualifier une entreprise de « leader » dans son secteur en est une parfaite illustration. De nombreuses entreprises le font, et seules certaines d’entre elles signifient que l’entreprise a réalisé le plus de revenus, vendu le plus grand nombre d’unités ou servi le plus grand nombre de clients dans son secteur.

Le fait est que s’assurer que votre contenu est exact et digne de confiance nécessite des pratiques et des normes solides pour l’utilisation et la vérification des faits et pour la formulation d’informations factuelles. Cela est aussi vrai pour le contenu généré par l’homme que pour le contenu généré par l’IA. Et les pratiques pour le faire sont les mêmes.

Et donc la nécessité du vérificateur des faits.

Que font les fact-checkers ?

Amusant… euh… fait : les premiers vérificateurs de faits sont apparus dans les salles de rédaction dans les années 1920 pour renforcer l’autorité des publications et décourager les journalistes de colporter la désinformation courante à l’époque du muckraking. Chaque équipe de production comprenait un vérificateur de faits pour les six ou sept décennies suivantes. Il s’agissait presque toujours de femmes, un effet secondaire (peut-être) du manque d’opportunités pour les femmes journalistes.

Puis, dans les années 1990, la tâche de vérifier les faits a commencé à passer aux écrivains. À l’exception d’une poignée de publications avec départements emblématiques de vérification des faits, comme The New Yorker— la plupart des publications ont réduit la vérification des faits depuis longtemps. Les éditeurs de livres le font à peine, un fait qui est survenu dans les années 2000 après quelques les livres de non-fiction à succès se sont révélés être pleins de fabrications.

Et qu’en est-il du marketing de contenu ? La plupart d’entre vous ont documenté le langage de la marque et les normes éditoriales que vous suivez, ce qui peut aider à éviter les inexactitudes dans la façon dont vous faites référence à votre entreprise ou à votre produit. Ces normes peuvent également inclure des conseils liés à des faits, tels que l’utilisation de citations ou de sources tierces. Et ces normes sont très probablement exécutées par vos créations. Il est probable que vous n’incluez pas la vérification des faits comme une étape formelle dans le processus de création de contenu, mais à la place, elle est déduite comme quelque chose que les rédacteurs devraient faire.

Cependant, alors que nous entrons dans l’ère de l’IA de génération de contenu, les normes de vérification des faits et le processus doivent être actualisés. La vérification des faits doit être une étape dédiée dans le processus de contenu, exécutée avec des normes et des directives strictes sur la façon de le faire.

Pourquoi?

Parce que les hallucinations générées par l’IA ne sont pas toujours aussi faciles à identifier que celles du paragraphe ChatGPT que j’ai partagé au début de cet article. Un non-sens cohérent semble très convaincant car il colporte des mensonges qui peuvent nuire à votre marque. Attraper ces mensonges deviendra plus nécessaire – et plus compliqué – à mesure que le volume de contenu généré par l’IA et rempli d’hallucinations augmente et falsifie potentiellement les sources mêmes sur lesquelles vous comptez pour valider les faits.

Pourtant, il est possible de vérifier efficacement les faits avec l’équipe que vous avez déjà (et à l’avenir, nous aurons peut-être une IA que nous pourrons former pour le faire). Le rôle du vérificateur des faits, bien que relégué à la marge pendant quelques décennies, pourrait devenir l’une des pratiques les plus importantes dans la création de contenu au cours des prochaines années. Saluez tous le vérificateur des faits !

Restez à l’écoute pour découvrir les meilleures pratiques dont vous aurez besoin pour vérifier les faits de votre nouveau coéquipier IA.

Rester informé! S’abonner à Le stratège de contenu pour plus d’informations sur les dernières nouvelles en matière de transformation numérique, de stratégie de marketing de contenu et de tendances technologiques croissantes.

Image par
Sergueï Nivens