MascarIAde littéraire
Nouveau scandale dans le monde du livre. C’était ça ou mourir, présenté comme l’un des bijoux de cette rentrée, plébiscité, déjà couronné par le prix du Roman Fnac et sélectionné pour le Renaudot et le Goncourt, est accusé d’être un pur produit de l’intelligence artificielle. Depuis quelques semaines, des lecteurs s’étonnaient de tournures stylistiques balourdes, typiques à leurs yeux du galimatIA généré en flux continu par les LLM (large language models, ou grands modèles de langage).
Aussitôt, levée de boucliers pour protéger l’auteur, Thélyson Orélien, contre l’infamie d’une telle accusation. Grasset, son éditeur français, parle de « théorie du complot » et de « fake news ». Une source proche de l’auteur se demande aussi si les accusations pourraient venir de la concurrence ou viser Orélien parce qu’il est noir et haïtien. L’écrivain québécois né en Haïti assure avoir écrit ce livre « avec ses tripes ». Les Éditions du Boréal, qui ont publié le roman au Québec, disent d’abord avoir pris connaissance des allégations et ne pas les « prendre à la légère », tout en maintenant leur confiance envers l’auteur.
- https://www.huffingtonpost.fr/culture/article/c-etait-ca-ou-mourir-de-thelyson-orelien-phenomene-de-la-rentree-litteraire-a-t-il-ete-ecrit-par-une-ia-grasset-reagit_329144.html
- https://www.livreshebdo.fr/article/thelyson-orelien-accuse-davoir-utilise-lia-je-ne-vois-pas-pourquoi-je-ferais-appel-une
Le petit compte Twitter — deadname de X — par lequel le scandale arrive est immédiatement visé par des procès d’intention. Une fracture s’installe entre ceux qui sont certains que l’auteur n’a pas utilisé l’IA et que les accusations sont racistes, et ceux qui sont sûrs qu’il l’a utilisée et se moquent du monde littéraire qui n’a rien vu et s’apprête à couronner un faussaire. Moi, j’étais sûr que les extraits diffusés du livre étaient gênants (voir ma réaction) : j’imagine mal qu’on élève une telle prose au rang de haute littérature, et mon usage de l’IA me rend sensible à certaines de ses tournures. Je ne peux toutefois pas déduire de cette impression la manière dont Orélien a travaillé, ni la part éventuelle de réécriture humaine.
Le point de départ est un diagnostic obtenu par IA. C’est peut-être ironique, mais ces outils font désormais partie du débat. Énorme coup de publicité pour Pangram s’il permet de dévoiler une supercherie ; d’où la crispation d’Internet, où règne aussi le soupçon d’un coup de communication d’une entreprise qui ferait son beurre en dénonçant à tort un auteur dont le roman sur l’exil s’est déjà vendu à quelque 35 000 exemplaires.
Quel diagnostic ?
Depuis deux jours, c’est l’empoignade. Ce matin, je lis des développements intéressants, notamment un travail de Lucide, concurrent de Pangram, qui avait les moyens de réaliser une comparaison plus ample. L’entreprise a soumis le roman entier à son détecteur, chapitre par chapitre, ainsi que dix textes antérieurs à 2022, dont trois d’Orélien, et 17 autres livres entiers. Parmi ces derniers figurent sept romans d’auteurs haïtiens et africains : l’origine culturelle de l’auteur avait été invoquée pour contester les résultats de Pangram.
Le résultat est frappant : les 34 chapitres et l’épilogue sont tous classés comme générés par IA, presque toujours à 100 %, tandis qu’aucun des 706 chapitres des autres livres testés ne reçoit ce verdict. L’AFP a toutefois soumis les extraits à d’autres détecteurs et obtenu des résultats divergents. Lucide publie sa méthode, mais reste une entreprise qui vend un détecteur. Surtout, son résultat ne nous apprend pas comment l’auteur a travaillé. Un score de 100 % attribué à un chapitre ne signifie pas que nous savons quelles phrases ont été produites par une machine, puis éventuellement reprises par un humain.
C’est encore insuffisant pour affirmer sans état d’âme que le livre est totalement artificiel, ou pour accuser Orélien d’avoir menti. Les conséquences seraient lourdes pour lui et pour son éditeur. La réaction de Grasset montre d’ailleurs que l’accusation est grave à ses yeux : si elle était fondée, le livre n’aurait probablement pas été présenté de la même manière. Cela rend d’autant plus nécessaire une réponse sur la fabrication du texte, au-delà du rejet des accusations.
Mais il y a plus. Mon collègue Monsieur Phi, par qui j’ai découvert l’affaire, a creusé les textes plus anciens d’Orélien et signale sur le blog de l’écrivain des passages qu’il estime plagiés. Si ces rapprochements se vérifient, ils apporteront un éclairage tout à fait pertinent sur la méthode de travail de l’auteur et sur les choix des éditeurs.
Monsieur Phi estime par ailleurs pouvoir suivre, dans les textes datés d’Orélien, l’évolution des styles des générations successives d’IA. Sans jouer les médiums, j’imagine mal que cette affaire se referme sur un simple haussement d’épaules. Je reconnais volontiers à Orélien le droit d’utiliser l’IA, comme il m’arrive de le faire dans mon travail de vulgarisation. Un plagiat établi et un mensonge sur la fabrication du livre appelleraient, eux, une autre appréciation.
Des conséquences humaines
L’affaire me fait songer à celle de Jason Arday. Cet universitaire noir, dont le parcours personnel avait été érigé en récit héroïque, a fait l’objet d’accusations de plagiat et de questions sérieuses sur plusieurs éléments de sa biographie. Il contestait ces accusations. La polémique s’est envenimée d’attaques racistes et d’un acharnement contre le chercheur, tandis qu’une partie du monde académique semblait plus soucieuse de défendre le symbole qu’Arday était devenu que d’examiner sereinement les faits. Il s’est retrouvé au centre d’une bataille idéologique dont personne ne sort grandi.
Arday est mort en août. Les circonstances de sa mort font l’objet d’une enquête ; il est peut-être prématuré d’affirmer qu’il s’est donné la mort, ou d’attribuer son décès à la polémique… Ou pas.
Un mois plus tard, aurions-nous oublié le drame humain que peut représenter une telle mise en cause publique ?
À ce stade, il me semble donc utile de rappeler que Thélyson Orélien n’est pas un criminel et qu’il n’a pas prémédité de devenir l’idole du moment d’un monde littéraire visiblement peu préparé à examiner le soupçon de plagiat et le galimatIA, cette bouillie terriblement familière aux lecteurs de textes générés. Les questions sur son livre méritent des réponses précises. L’acharnement contre sa personne n’en fournira aucune.
L’IA est désormais dans nos livres
La mesure du scandale, si le recours massif à l’IA se confirme, tient aussi à l’accueil réservé au roman. Des lecteurs ont trouvé sa prose médiocre alors que le livre était porté vers les prix les plus prestigieux. Le monde littéraire devra pouvoir défendre la qualité qu’il lui a reconnue. Une partie de ses représentants a préféré rabaisser les auteurs des premières critiques et marquer au fer rouge l’idée même d’un recours aux LLM. Leur indignation rend aujourd’hui la discussion plus difficile.
Désormais, le dentifrice est hors du tube, le diable a jailli de la boîte — et je manque d’un troisième terme pour reproduire le rythme ternaire qui, aux yeux de beaucoup d’entre nous, trahit certains passages d’Orélien. Les écrivains sont tout entiers plongés dans un monde où l’IA fera partie du paysage et où le soupçon entourera celles et ceux qui assureront ne jamais avoir recours à ces instruments de génération de texte. Le débat sur la place de l’IA dans l’art s’est imposé à nous. Ce sera le sujet de l’émission programmée sur La Tronche en Biais le 20 octobre : « Les IA tuent-elles les artistes ? »
Il y aura de la vie, de l’art et de la littérature après cette bascule de l’IA, mais nous allons devoir passer par une transition de notre rapport à l’autorat et au contrat moral qui lie un écrivain, un musicien, n’importe quel artiste, au public.
Je pense plus sain de se concentrer sur ce débat passionnant, un peu inquiétant et très important pour les nouvelles générations d’artistes, que de s’acharner sur le cas Orélien, quand bien même il raflerait des prix avec un texte pissé au kilomètre par un LLM américain.
Édit du 23 septembre, 19h — Des plagiats avérés dans des textes antérieurs
Depuis la publication de ce billet, les soupçons de plagiat évoqués plus haut ont pris une autre consistance. Antoine Lévy a signalé qu’un article signé par Thélyson Orélien en 2013, « Ne mettons pas nos héros sur un piédestal », reprend très largement un texte publié cinq jours auparavant par Andy Bautista dans The Philippine Star. J’ai comparé les deux versions : elles suivent le même déroulement, reprennent les mêmes exemples et comportent des traductions littérales jusque dans certaines maladresses. Monsieur Phi a également publié ce rapprochement, puis Nicolas Casaux a poursuivi l’examen d’autres articles anciens.
- https://x.com/LevyAntoine/status/2102511165075337284
- https://gonaives.mondoblog.org/2013/10/12/ne-mettons-pas-nos-heros-sur-un-piedestal-2/
- https://www.philstar.com/opinion/2013/02/23/912078/falling-pedestals
Deux autres cas ont pu être vérifiés. Dans « Mo Yan : celui qui ne parle pas », publié en 2012, Orélien suit de près la construction et plusieurs développements d’un article d’Alison Flood paru le même jour dans The Guardian. « Tous les conflits deviennent mondiaux » reprend, pour sa part, des passages entiers d’un article publié en français dans La Pure Vérité en 1985. Ces textes ne citent pas les articles dont ils reprennent la matière.
- https://gonaives.mondoblog.org/2012/10/11/mo-yan-celui-qui-ne-parle-pas/
- https://www.theguardian.com/books/2012/oct/11/mo-yan-nobel-prize-literature
- https://gonaives.mondoblog.org/2012/12/10/tous-les-conflits-deviennent-mondiaux/
- https://cogsf.org/wp-content/uploads/2022/01/pure_verite_1985_07-08_jul-aug.pdf
Nicolas Casaux présente d’autres rapprochements dans son enquête. Je retiens ici les cas que j’ai pu contrôler directement. Hélas, l’existence de plagiats nombreux remontant jusqu’à 2012 alourdit le dossier et constitue en soi un problème plus grave qu’un roman généré poussivement avec un LLM. Un écrivain porté aux portes de la gloire des grands salons parisien sur la base d’une carrière construite sur le plagiat st le signal fort que le monde de l’édition n’est pas la hauteur des valeurs minimales de la profession.
Au moment de cet édit, Orélien nit encore avoir eu recours à l’IA pour C’était ça ou mourir. Mais là aussi les indices qui s’accumulent pointent dans la même direction.
Laisser un commentaire
Rejoindre la discussion?N’hésitez pas à contribuer !