Bien avant ChatGPT, les agents autonomes et les débats sur l’alignement des intelligences artificielles, la littérature avait imaginé des machines capables de parler, de décider et parfois de se confondre avec les humains. Lors d’une rencontre consacrée organisée par France Culture consacrée aux liens entre science-fiction et IA, l’écrivain Hervé Le Tellier et le journaliste et auteur Loïc Hecht ont remonté ce fil littéraire, de Jonathan Swift à Isaac Asimov et Philip K. Dick. Une plongée dans des fictions qui, loin d’avoir seulement prédit des technologies, avaient surtout posé les questions philosophiques auxquelles notre époque se trouve désormais confrontée.
Avant que les machines ne puissent nous répondre, les écrivains leur avaient déjà donné une voix. Et parfois même une conscience.
L’irruption spectaculaire de l’intelligence artificielle générative dans nos vies donne aujourd’hui une étrange actualité à des textes écrits plusieurs décennies, voire plusieurs siècles auparavant. Les machines peuvent produire du langage, générer des images, écrire du code et assister un auteur dans son travail. Avec elles revient une question que la littérature avait formulée bien avant les ingénieurs : qu’est-ce qui distingue encore l’humain de la machine lorsque celle-ci devient capable d’imiter certaines de ses productions ?
C’est autour de cette interrogation que se retrouvent Hervé Le Tellier, prix Goncourt 2020 pour L’Anomalie, et Loïc Hecht, journaliste et auteur de La Simulation, dans une conférence consacrée à ce que l’intelligence artificielle fait désormais à la littérature. Mais l’histoire commence bien avant ChatGPT.
Quand Jonathan Swift imaginait déjà une machine à écrire
Hervé Le Tellier remonte jusqu’à 1726 et aux Voyages de Gulliver de Jonathan Swift. Dans l’un des voyages de son héros apparaît une étrange machine composée de cadres et de mots, destinée à produire des connaissances par combinaison.
Près de trois siècles avant les grands modèles de langage, Swift imaginait ainsi, sur le mode satirique, un dispositif mécanique capable de contribuer à la fabrication de textes.
L’idée que la création puisse être assistée par des mécanismes n’est donc pas née avec l’informatique. Elle traversera ensuite l’histoire littéraire sous différentes formes, jusqu’aux expériences de littérature combinatoire et aux travaux de l’Oulipo, auquel appartient Hervé Le Tellier.
Avec l’intelligence artificielle générative, toutefois, un seuil semble franchi. La machine ne se contente plus d’aider à combiner des éléments : elle produit elle-même des phrases dont l’apparence peut être difficile à distinguer d’un texte humain. Dès lors surgit une question vertigineuse : qu’est-ce qu’un auteur ?
L’IA peut-elle devenir écrivain ?
Pour Hervé Le Tellier, plusieurs usages de l’intelligence artificielle doivent être distingués. Un écrivain peut l’utiliser pour effectuer des recherches documentaires. Il peut également s’en servir pour réfléchir à une intrigue ou confronter des hypothèses scénaristiques. Une autre étape est franchie lorsqu’il lui délègue directement la production du texte littéraire.
C’est à cet endroit que se joue, selon lui, quelque chose de profondément auctorial. L’enjeu dépasse même la seule morale. Si une machine produit les phrases à la place de l’écrivain, quelle fonction reste-t-il à celui qui signe le livre ?
Loïc Hecht décrit pour sa part une pratique plus hybride. Pour l’écriture de La Simulation, il explique avoir utilisé ChatGPT comme partenaire intellectuel, notamment pour confronter des raisonnements abstraits sur la réalité ou la conscience. L’outil lui a également servi pendant le travail d’édition et de réduction du manuscrit.
Deux conceptions apparaissent ainsi, sans être totalement incompatibles : l’IA comme outil placé autour de l’écriture, ou comme partenaire susceptible d’entrer beaucoup plus profondément dans le processus créatif. La frontière devient alors difficile à tracer.
Quand l’identité de l’auteur devient elle-même une fiction
La littérature n’a d’ailleurs pas attendu l’intelligence artificielle pour compliquer la notion d’auteur. Alexandre Dumas travaillait notamment avec Auguste Maquet. Georges Perec recevait des propositions de ses compagnons de l’Oulipo. Romain Gary est allé plus loin encore en inventant Émile Ajar, identité littéraire incarnée publiquement par son petit-cousin Paul Pavlowitch.
À partir de cette histoire, Hervé Le Tellier imagine une situation troublante : celle d’un auteur artificiel qui produirait les œuvres tandis qu’un humain serait chargé de l’incarner devant les lecteurs, les médias ou les jurys littéraires. Une sorte d’Émile Ajar numérique.
Cette hypothèse touche directement à ce que Le Tellier appelle « l’esthétique de la réception ». Un livre n’arrive jamais seul entre les mains du lecteur. Il possède une couverture, une maison d’édition, une collection, une biographie d’auteur, parfois un visage médiatique. Tous ces éléments participent à la manière dont le texte est reçu. Demain, l’auteur lui-même pourrait-il devenir une construction artificielle ?
Philip K. Dick et le vertige du réel
C’est ici que Philip K. Dick revient presque naturellement dans la conversation. Chez l’écrivain, la technologie compte moins que le doute qu’elle installe. Qu’est-ce qui est réel ? Nos souvenirs sont-ils fiables ? Comment savoir si celui qui se tient devant nous est humain ? Et jusqu’à quel point pouvons-nous faire confiance à notre propre perception ?
Dans Les androïdes rêvent-ils de moutons électriques ?, publié en 1968 et qui inspirera plus tard Blade Runner, cette frontière entre l’humain et l’artificiel devient centrale. Les androïdes ressemblent suffisamment aux humains pour qu’un test soit nécessaire afin de les identifier.
Un demi-siècle plus tard, le parallèle avec l’IA générative est saisissant : nous cherchons désormais des indices permettant de déterminer si une image, une voix ou un texte ont été produits par un être humain ou par une machine.
La question dickienne a simplement changé de terrain. Il ne s’agit plus seulement de savoir si l’individu devant nous est un androïde. Il faut parfois déterminer si ce que nous regardons, lisons ou entendons a encore une origine humaine.
Une science-fiction qui ne prédit pas, mais prolonge le présent
Qualifier Philip K. Dick ou Isaac Asimov de prophètes serait pourtant paradoxalement réducteur. Hervé Le Tellier insiste sur un mécanisme plus concret : les auteurs de science-fiction observent les avancées scientifiques de leur époque, puis en prolongent les conséquences. Ils prennent les découvertes, les hypothèses et les inventions de scientifiques comme Alan Turing ou John von Neumann et « tirent les fils » jusqu’à imaginer ce qu’elles pourraient produire plusieurs décennies plus tard.
L’année 1968 offre à cet égard une coïncidence remarquable. Arthur C. Clarke publie 2001 : L’Odyssée de l’espace, tandis que Philip K. Dick fait paraître Les androïdes rêvent-ils de moutons électriques ?
Dans l’univers de Clarke, l’intelligence artificielle HAL 9000 poursuit sa logique au point d’entrer en conflit avec les humains. Chez Dick, la technologie rend progressivement incertaine la frontière séparant l’être humain de sa copie artificielle. Deux scénarios différents, mais deux problèmes qui résonnent fortement avec les débats contemporains.
Asimov avait déjà posé le problème de l’alignement
Avec Isaac Asimov, la science-fiction ne se contente plus d’imaginer des robots intelligents. Elle tente de définir les règles qui doivent organiser leur coexistence avec les humains.
Ses célèbres lois de la robotique imposent notamment qu’un robot ne puisse porter atteinte à un être humain, qu’il obéisse aux ordres humains tant que ceux-ci ne contredisent pas cette première obligation et qu’il protège sa propre existence tant que cette protection n’entre pas en conflit avec les règles précédentes.
Asimov introduira ensuite une « loi zéro », élargissant la réflexion à la protection de l’humanité elle-même. Derrière la fiction apparaît un problème devenu central dans la recherche contemporaine sur l’intelligence artificielle : celui de l’alignement.
Comment faire en sorte qu’un système autonome poursuive des objectifs compatibles avec ceux des humains ? Que se passe-t-il lorsque plusieurs règles entrent en contradiction ? Et surtout, sur quelles « valeurs humaines » une intelligence artificielle devrait-elle être alignée alors que les sociétés humaines elles-mêmes ne partagent pas toujours les mêmes normes ?
Loïc Hecht souligne précisément cette difficulté. Parler d’alignement suppose de déterminer au préalable les valeurs sur lesquelles la machine devrait s’aligner. Or l’humanité ne constitue évidemment pas un bloc moral homogène.
Les dilemmes imaginés par Asimov cessent alors de ressembler à de simples jeux littéraires. Ils rejoignent les problèmes auxquels ingénieurs, chercheurs et philosophes sont aujourd’hui confrontés.
De la science-fiction aux laboratoires de la Silicon Valley
Le mouvement est même devenu circulaire. La science inspire les écrivains. Les écrivains extrapolent. Puis les ingénieurs lisent ces œuvres et tentent parfois d’en matérialiser les idées.
Loïc Hecht souligne combien l’imaginaire de la science-fiction irrigue la Silicon Valley. L’assistant vocal Alexa d’Amazon a notamment été associé à l’ambition de reproduire l’ordinateur conversationnel de Star Trek. Le terme « métavers », popularisé dans la culture technologique, vient du roman Snow Crash de Neal Stephenson.
La littérature n’est donc plus seulement un miroir permettant d’interpréter l’innovation. Elle peut devenir l’une de ses matrices culturelles.
La trajectoire d’Elon Musk illustre également, dans la discussion, cette proximité entre imaginaire de science-fiction et projets industriels : exploration spatiale, implantation d’interfaces cerveau-machine ou développement de systèmes d’intelligence artificielle s’inscrivent dans un univers intellectuel largement nourri par les récits futuristes. La science-fiction ne se contente plus d’imaginer le futur. Certains entrepreneurs cherchent désormais à le construire à partir d’elle.
La conscience, dernière frontière de l’intelligence artificielle
Reste cependant une énigme que ni la littérature ni l’intelligence artificielle contemporaine n’ont résolue : celle de la conscience.
Loïc Hecht en fait l’un des fils conducteurs de sa réflexion. Produire une réponse pertinente suffit-il pour parler d’intelligence ? Une machine capable de tenir une conversation ou d’écrire un texte possède-t-elle pour autant une expérience subjective ?
La question rejoint directement Philip K. Dick.
Dans son œuvre, le doute ne porte pas seulement sur la technologie mais sur la définition même de l’être. Une copie artificielle capable d’éprouver quelque chose est-elle moins humaine que l’humain qui ne ressent plus rien ? Et inversement, une machine capable d’imiter parfaitement les manifestations de la conscience possède-t-elle réellement cette conscience ?
Les modèles d’intelligence artificielle rendent aujourd’hui ces vieilles interrogations étonnamment concrètes. Ils produisent un langage qui peut donner l’impression d’une intention, d’une personnalité ou d’une intériorité. Cette apparence ne permet cependant pas, à elle seule, d’établir l’existence d’une expérience consciente. C’est peut-être ici que la littérature conserve une longueur d’avance. Elle n’a jamais eu besoin de résoudre scientifiquement ces questions pour les explorer.
Quand la littérature devient un laboratoire du futur
La puissance d’Asimov ou de Philip K. Dick ne réside donc pas dans une quelconque capacité surnaturelle à prévoir ChatGPT, les agents autonomes ou les robots du XXIe siècle. Leur force est ailleurs. Ils ont construit des expériences de pensée.
Que se passe-t-il lorsqu’une machine devient autonome ? Lorsque l’artificiel devient indiscernable du réel ? Lorsqu’un robot doit choisir entre plusieurs impératifs contradictoires ? Lorsque nos souvenirs ne suffisent plus à garantir notre identité ? Lorsque la technologie bouleverse jusqu’à la définition de ce que signifie être humain ?
Ces questions étaient autrefois confinées aux rayons de science-fiction. Elles traversent désormais les laboratoires, les entreprises technologiques, les débats sur la création artistique et notre usage quotidien des intelligences artificielles. Et la littérature se retrouve elle-même prise dans l’expérience qu’elle avait imaginée.
Un écrivain peut aujourd’hui demander à une machine de l’aider à construire une intrigue, de commenter un passage, de réduire un manuscrit ou de produire directement un texte. Le lecteur, lui, risque progressivement de ne plus savoir avec certitude qui, ou quoi a écrit ce qu’il est en train de lire. Philip K. Dick demandait comment distinguer l’humain de l’androïde. Notre époque commence à poser la même question à une page de texte..
Sources :