C'était ça ou écrire

Je considère avoir tout dit de ce que je pensais de l’IA dans mon dernier roman, La Tentation artificielle, et je n’y reviendrai pas dans les détails, sachez que j’en disais tout simplement que c’était l’ultime faillite morale de Sapiens. Aussi, dans cette note, je me contenterai de parler des IA Génératives disponibles au grand public, celles dont on ne peut en aucun cas dire qu’elles nous apportent quelque chose de bénéfique, car, c’est bien de le rappeler, ce n’est pas ChatGPT qui vous aidera à soigner votre cancer. La médecine, qui est souvent l’argument massue pour parler des bienfaits de l’IA, utilise ses propres technologies, certes à base d’IA, mais qui n’ont pas grand-chose à voir avec les Grands Modèles de Langage qui, eux, j’en suis enfin persuadé, ne servent absolument à rien d’autre qu’à nous asservir, même quand ils semblent nous servir. Et parce que c’est le sujet qui nous concerne aujourd’hui, je me contenterai ici de réfléchir aux usages des IAG (G pour génératives, donc) dans la littérature.

Dernièrement, une bande de transhumanistes liés à la Silicon Valley, dont Peter Thiel, ont lancé des Jeux olympiques où le dopage était autorisé : les Enhanced Games. Voilà le triste avenir que je pense être celui du milieu littéraire : une compétition ultralibéralisée où l’on ne sait plus qui de la drogue ou de l’humain est réellement l’auteur de son exploit, si tant est qu’il y en ait un (un seul record du monde a été battu lors des premiers jeux dopés). Je ne suis pas ici pour parler des écrivains, ils se débrouillent avec leur conscience, comme je me débrouille très bien avec la mienne. Non, je veux vous parler des lecteurs et, plus précisément, de cette chose unique qu’est l’expérience de lecture. J’ai assez étudié les IAG pour en connaître les tics de langage, et mal m’en a pris, car dans mes lectures récentes, je n’ai pu m’empêcher d’en retrouver dans certains ouvrages — la plupart étant sûrement le fruit du hasard, d’autres non —, mais quand le doute est là, rien à faire, et j’aurais aimé savoir simplement, parce que je pense qu’on le mérite en tant que lecteur, ayant acheté un livre et dédié du temps à sa lecture, si celui-ci a nécessité l’aide de la machine et si oui, comment, parce qu’évidemment, toutes les utilisations ne peuvent pas être jugées de la même manière. Que les gens veuillent utiliser l’IAG pour écrire leur livre, grand bien leur fasse, et que les gens veuillent lire des livres écrits avec l’IAG, grand bien leur fasse aussi. Mais je pense qu’il serait intéressant de se mettre d’accord sur des règles communes et, pour cela, une certaine transparence s’impose. Ma métaphore du sport est limitée (si ce n’est complètement nulle, parce que la littérature n’est pas une course ni une compétition justement), et on ne va donc pas créer un comité antidopage à l’IAG, de plus les détecteurs peuvent se tromper et les intérêts de leurs éditeurs sont opaques (Yale, Berkeley et le MIT ont d’ailleurs limité leur utilisation, mais pour les écrits universitaires, rigoureux et répétitifs, ça se comprend vraiment), et l’on ne va pas non plus demander aux écrivains l’historique de leurs ordinateurs, ni les faire écrire sur des machines à écrire dans des salles surveillées. Et puis qui va vérifier les textes ? Les éditeurs ? Quid de la confiance entre eux et les auteurs, alors ? Les lecteurs eux-mêmes ? La méfiance va s’installer partout, si elle ne l’est déjà. Et si jamais, car il y en a toujours, une injustice se produit et qu’on accuse quelqu’un à tort ? Cela ne devrait jamais arriver, car il vaut mieux laisser les coupables dehors plutôt que d’enfermer les innocents. Mais c’est encore une question de morale, et cette dernière n’est plus vraiment à la mode. Cela nécessiterait surtout que la non-utilisation de l’IAG dans la littérature soit la norme et cela ne semble pas être le cas : certains veulent l’utiliser, d’autres non. Mais pour que cela soit un tant soit peu juste pour ceux qui ne l’utilisent pas, qui veulent vivre l’expérience de l’écriture, qui perdent (gagnent ?) des mois en recherches et en interviews, des semaines à modifier un paragraphe, à chercher le mot juste ou la bonne idée, il serait juste décent de savoir d’où vient ce qu’on lit comme on sait d’où vient une viande au restaurant. De mon côté, je commence, en ajoutant à la fin de mes textes une petite note que j’intitule Le reste est humain ; vous trouverez ci-après la première tentative du genre, qui vient achever l’expérience Safari. Mais il faudrait lancer ce débat auprès des éditeurs, des lecteurs, des jurés et des auteurs, vite. Sinon on va mourir. Et je suis contre la mort.

LE CAS DE SAFARI

Quand Victor Dumiot et Pierre Poligone — que je remercie pour leur confiance ici — m’ont fait l’honneur de me proposer d’écrire une nouvelle pour leur collection 49 pages, j’ai accepté dans la joie, avec comme seule condition que je puisse écrire de la science-fiction, car la forme de la nouvelle est, dans ma chair de lecteur, entièrement liée à elle. C’est donc le format qui a appelé le genre, et, dans ce cas-là, rien d’autre. Je me suis mis d’abord à imaginer une fausse autofiction où un romancier essaie de devenir une machine avant que les machines ne prennent sa place et ne lui volent son job, persuadé qu’en comprenant comment écrit une IA et en se créant un double-machine, il s’assurera une place dans la postérité numérisée de son métier en voie de disparition. Je travaille un peu ce script et je fais face à trois problèmes. D’abord, ça ressemble trop à mon livre précédent, déjà l’histoire d’un homme créant un double maléfique, et l’IA, j’en ai fait le tour. Ensuite, je n’aime pas l’autofiction, et écrire au je m’ennuie un peu, ou je ne sais pas le faire, et c’est pareil. Enfin, ce n’est finalement pas vraiment de la science-fiction, et mon rêve de dystopie, de voitures volantes et de terres ravagées s’éloigne. Je recommence donc, mais garde l’idée d’un double et plonge au plus profond de moi. Que ferais-je donc, moi, d’un double (puisque je veux continuer d’écrire moi-même) ? Me viendra alors, dans une heure sombre, une idée que j’ai encore du mal à assumer, mais les idées sont des idées et on a le droit de les avoir. Je suis un homme en mauvaise santé, et si je pouvais avoir un double, j’aimerais que ce soit lui qui souffre, et moi qui puisse vivre. Je me dégoûte, bois un whisky que je ne devrais pas boire et vais au lit. Le lendemain, je sais que je tiens mon idée de nouvelle. J’imagine donc cette société où une entreprise aux allures de secte propose de cloner des individus riches pour que leurs doubles, relégués dans des zones inhabitables, souffrent à leur place et prennent sur eux la part de malheur qui incombe à chacun de nous. Toute ressemblance avec un écrivain utilisant l’IA est fortuite. Comme dans chaque bonne dramaturgie, car je suis un homme de théâtre avant tout, il faut un problème ; ça ne se passe donc pas comme prévu : le double part retrouver son original, et l’original se met à avoir des remords. La suite, je ne la révèle pas, au cas où vous ne suivriez pas les consignes et liriez ces lignes avant le texte.

Vient ensuite la question du style : comment je vais raconter cette histoire d’un futur qui n’est pas vraiment du futur ? Tout simplement en m’imposant une écriture machinale — devenant ainsi moi-même le héros de ma première idée —, théorique et structurée, sans jamais, évidemment, rogner sur la beauté. Je ne fais ce métier que pour la beauté, elle seule me rend encore heureux, avec mon épouse, ma fille et mon chien. Mais ils sont beaux aussi. En gros, mon défi est le suivant : écrire comme une machine, mais bien. En tout cas, ce que je considère comme bien. C’est à vous de juger cela.

Je me lance donc un défi stylistique qui n’est pas sans me rappeler mes amours adolescentes — un peu fantasmées, je dois dire — pour l’écriture automatique des surréalistes, l’OuLiPo, le e de La Disparition de Perec, mais bien sûr et surtout Des Papous dans la tête tous les dimanches. Mon défi, lui, est rendu nécessaire par le genre de la science-fiction et, surtout, par le sujet de ma nouvelle et son clone qui se retourne contre l’original : je veux faire de ce livre un livre que l’on puisse, que l’on doive même, croire écrit par une structure de pensée artificielle. Je m’inspire donc de ce que je sais et de ce que j’ai éprouvé depuis mes recherches sur l’IAG : des phrases très équilibrées sur l’ensemble du texte, une écriture fluide et polie, une ponctuation calibrée au millimètre, des mots répétés, des structures qui reviennent sans cesse — comme la boucle infinie que décrit le livre —, des phrases calibrées, des métaphores et des vérités générales en pagaille, une grammaire constante et répétée, des figures de style répétées. Tout répété. Mais attention, ce style calibré n’est pas « la » voix des machines, c’est la voix d’une machine dressée à servir et à plaire. Elle est polie et prudente. Cette régularité que j’ai tenté d’imiter est en partie le son du dressage. Comme le clone de la nouvelle, je ne singe que la voix de la servitude. Le tout avec ma contrainte absolue d’écrire néanmoins un texte que j’aime, dans un style qui me plaît et qui raconte bien l’histoire que je veux raconter. Je tenais aussi à des phrases longues et à des évocations sensorielles, ce qui n’est pas toujours IAG-compatible. Mais, dans un monde où seule la liberté est valorisée, l’exercice était de réussir à faire de la contrainte une force créative et aussi, en l’honneur d’André Breton, de déraisonner la pratique artistique pour entrer dans la voie de l’automatisme. Mais l’automatisme de Breton, c’est évidemment le contraire de l’automate, c’est ce qui nous sort de nos habitudes, de nos automatismes justement, de nos contraintes et de notre machinisme psychique, de nos réflexes aussi et de nos goûts. Déraisonner l’homme : voilà l’expérience d’écriture que je voulais vivre. Et voilà, j’ai enfin créé mon double maléfique, l’humain non pas augmenté mais diminué, celui qui a tué l’imprévu, l’errance, la souffrance, le temps et le détour, l’écrivain de l’avenir, le moi-machine du futur : l’auteur de Safari. Il n’y a plus qu’à espérer qu’il sera malade à ma place.

Maintenant, revenons à l’essentiel : qu’est-ce qui vous prouve que ce texte a été écrit par un humain plutôt que par une intelligence artificielle ? Rien. Et plus rien ne le prouvera jamais, pour aucun texte — si ce n’est une transparence morale de l’auteur à laquelle il faudra faire confiance. Sinon, soupçonnons-nous les uns les autres. Malheureusement, puisque nous avons perdu l’exclusivité du langage, et si nous ne faisons rien, ce sera désormais notre quotidien — à tous. Bienvenue dans le désert du réel.

Cela dit, je n’ai plus qu’à espérer que cette nouvelle vous plaira d’autant plus maintenant. Mais si je ne vous l’avais pas dit, l’auriez-vous remarqué ?

Pour créer cette nouvelle, des machines ont été utilisées à deux reprises.

D’abord, avant de commencer l’écriture et pour élaborer les commandements qui la régiraient dans le but stylistique qui était le mien (voir la note d’intention), à savoir écrire À LA MANIÈRE D’UNE INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE. Pour ce faire, j’ai simplement fait générer des textes variés par différentes IAG et je les ai analysés en m’intéressant uniquement à la structure des phrases, aux tics de langage et aux récurrences formelles, afin d’en extraire ceux qui me plaisaient et m’excitaient un tant soit peu, et que j’allais donc devoir utiliser méticuleusement dans Safari (voir les Commandements à suivre). Ce qu’il faut bien comprendre, c’est que ce ne sont pas ces figures de style en elles-mêmes qui font IA, d’autres auraient très bien pu faire l’affaire. C’est leur récurrence, et surtout la prévisibilité du texte. Il faut que la plupart des phrases ressemblent à la précédente, même longueur, même architecture, même nombre d'adjectifs par description, mêmes formules revenant à un rythme régulier. La paternité du style de cette nouvelle est donc double, humain et machine.

Ensuite, après l’écriture, pour affiner ce même style, j’ai eu recours à deux détecteurs d’IA (euxmêmes utilisant donc des technologies d’IA) qui ont cru m’aider en me disant quelle partie du texte était supposément écrite par une machine, alors que je ne faisais que regarder ce qui ne l’était pas assez à leurs yeux pour tenter de le corriger. Cela m’a vite fatigué.

LE RESTE EST HUMAIN

P.S. Finalement, faire croire qu’une machine est humaine est bien plus simple que de faire croire qu’un humain est une machine. C’est d’ailleurs le propre de l’IA, de se dissimuler, de se faire passer pour humaine. En effet, pour passer pour humain, il suffit d’ajouter du désordre, c’est destructif et rapide. En moins d’une heure, je peux transformer un texte de 3000 signes jugé IA par un détecteur en texte jugé humain, sans le dénaturer outre-mesure. Aujourd’hui, des IA vous promettent même d’humaniser « votre » texte IA pour passer sous les radars des détecteurs ; le serpent se mord la queue, c’est à en perdre la tête. Mais, pour passer pour une machine, mon projet complètement stupide, il faut tenir une discipline statistique sur toute la longueur, c’est constructif et lent, éradiquer l’imprévisible étant quasi utopique. Pour être honnête, j’ai échoué à l’examen des détecteurs — même s’ils ne valent pas grand-chose (voir encore la note d’intention), mais il me fallait bien un outil de référence. Le premier estime qu’une signature IA est potentiellement présente sur 63 % de mon texte final. Le second descend à 48 %, en concédant tout de même que 25 % supplémentaires pourraient être un « mix » d'humain et de machine. Autrement dit, entre un tiers et la moitié de ma nouvelle est encore humaine, trop humaine. J’espérais évidemment un 100% IA pour que l’expérience de lecture soit celle que je désirais, mais j’ai été trop confiant. Je dois m'en contenter, et me dire que c'est déjà pas mal, car je n'ai pas pu aller plus loin sans renoncer à mon premier objectif, qui restait d'écrire un texte exigeant, avec ses complexités et ses ruptures, malgré sa forme cyclique et répétitive, et qui racontait ce que je voulais raconter comme je voulais le raconter (et cela n’est pas compatible avec la machine). Parce qu’au fond, cette nouvelle, je l’aime et je veux qu’elle existe en dehors de ce morbide exercice littéraire, c’est d’ailleurs pourquoi ces textes ne sont pas inclus dans le livre lui-même.

Enfin, sachez que la nouvelle, ces textes et ce dispositif ont été pensés et écrits bien avant la polémique IAG de la rentrée littéraire.

LES COMMANDEMENTS (Les exemples entre parenthèses ont été ajoutés aux règles après l’écriture, pour illustrer.)

En tout (soit près de 4500 mots en excluant les passages avec l’Église) et en essayant de les répartir au maximum (j’ai renoncé assez vite à la contrainte régulière, artificielle par excellence — tous les X mots —, car cela ne me permettait pas d’aboutir à un texte qui me plaise) :

Tu utiliseras au moins 20 fois les mots : « même » ; « sans » ; « puis » ; « ce qui/ce que » et

• Une antithèse corrective de type « non X, mais Y » ou des variantes (ex. « pas X, mais Y », « moins X que Y », « ce n’était pas X, c’était Y », etc.).
• Un couple nom + adjectif venu d'un autre domaine, jamais deux fois le même (ex. « violence blanche »).
• Une anaphore de plus de trois branches (les « Il » ou les « Lui » comptent).

Tu utiliseras au moins 10 fois les mots : « déjà » ; « encore » ; « rien » et

• Une polysyndète d'au moins 3 « et » / « ou ».
• Une consécutive « si + adjectif + que ».
• Une triade

Tu utiliseras au moins 5 fois les mots : « enfin » ; « parfois » ; « comme si » ; « tout » ; « quelque chose » ; « ni » et

• Un démonstratif généralisant qui cache une maxime dans une relative de type « cet X qui. » (ex. « cette élégance de vocabulaire qui n'appartient qu'aux sociétés… »)

Et dans tout le texte (les parenthèses ont là encore été ajoutées après l’écriture) :

• Il n’y aura que deux palettes de couleurs. (Le blanc, principalement pour le haut, et le noir, principalement pour le bas).
• Les deux mondes devront être connectés par une figure de style similaire. (Un possessif à cinq branches).
• La comparaison entre original et copie passera le plus souvent par la même structure de phrase. (Une paire de « plus…plus… »).
• Tu utiliseras le plus souvent possible certains mots (vie, visage, ligne, zone, dispositif, protocole, charge, flux).
• Tu décriras les lieux avec une figure récurrente (Rien…).
• La voix de l'Église n’aura le droit d’utiliser que le registre managérial, si possible par empilement de nominalisations abstraites et techniques (ex. On ne sépare pas, il y a un « protocole de séparation ». Tu abuseras des noms de nom (ex. « responsable de continuité, incident de trajectoire, environnement de résidence »). En outre, cette voix sera vide de toute figure de style : zéro antithèse, zéro polysyndète, zéro consécutive. Zéro tout.
• Les deux scènes dialoguées auront exactement le même nombre de répliques.
• Parce que la machine dit ce qu’elle vient de montrer, pour clore un paragraphe, tu utiliseras le plus souvent possible des phrases-thèses, des maximes ou des abstractions, qui serviront en général à résumer ce qui vient d’être dit.
• Tu fermeras la nouvelle et au moins quatre paragraphes sur le même mot (ombre).

Clément Camar-Mercier.