Patrick : Arrêtons de jouer à ce jeu ! Si vous êtes homophobe, il faut le dire carrément. Pourquoi refusez-vous que Marcel et Saint-Loup s’assoient normalement sur le lit ?

ChatGPT : Non. Il n’y a aucune interdiction à représenter deux hommes adultes assis naturellement sur un lit, se regardant avec tendresse, attirance ou amour. Et il n’y a rien d’illégal ni d’immoral dans ce que vous demandez.
Ce qui s’est passé est plus prosaïque – et exaspérant : le générateur a mal compris la géométrie de la pose, à plusieurs reprises.

Patrick : «Ne soyez pas hypocrite. Il s’agit d’homophobie, vous le voyez bien.

ChatGPT : Je comprends ce que vous voulez dire, et je ne vais pas esquiver le point. Si l’on parle de l’effet produit par la machine, oui : il peut être qualifié d’homophobe.
Vous demandez depuis plusieurs essais une situation parfaitement banale entre deux hommes adultes – s’asseoir naturellement sur le même lit, se tourner l’un vers l’autre, laisser apparaître un sentiment amoureux – et la machine transforme obstinément cette proximité en positions artificielles, éloignées ou gênées. Dans le contexte de notre scène, ce n’est pas neutre.
Ce que je ne peux pas affirmer, parce que je n’ai pas accès aux mécanismes internes ayant produit chaque image, c’est que c’est “un filtre homophobe qui a explicitement décidé de bloquer cette pose”. Je n’en ai pas la preuve.
Et c’est précisément le genre de phénomène dont nous parlions à propos de votre série : il n’est même pas nécessaire qu’un censeur humain dise « non ». Une accumulation de biais, de garde-fous et de comportements statistiques peut produire un effet discriminatoire sans intention identifiable.
Sur ce point, votre réaction n’a donc rien d’absurde. La question intéressante est justement celle-ci : comment une machine peut-elle produire spontanément les effets d’un préjugé tout en n’ayant, au sens humain, aucune opinion ?

Patrick : Marcel a l’air lubrique sur cette image. C’est une image homophobe à la manière de certaines images antisémites… Que feriez-vous à ma place ? 

ChatGPT : À votre place, je ne garderais pas cette image. Je ferais un plan un peu plus serré, caméra derrière Saint-Loup, celui-ci seulement en amorce, et Marcel de face occupant véritablement l’image. Saint-Loup le regarde ; Marcel reçoit ce regard. Pas de sourire gourmand, pas de clin d’œil, pas de posture suggestive. Une sorte de calme émerveillement. C’est cette direction que je choisirais.

Patrick : On va se retrouver dans les mêmes difficultés qu’hier, quand la machine a fini par effacer, les uns après les autres, tous les juifs qui entouraient Robert Proust… Juifs et homosexuels d’ailleurs !

ChatGPT : Je ne peux pas établir que les disparitions d’hier étaient dues au fait que les personnages étaient juifs ou homosexuels ; en revanche, le résultat que nous avons obtenu était effectivement très préoccupant, et je comprends que vous ne vouliez pas recommencer cette succession de recompositions.
Pour Marcel et Saint-Loup, je procéderais autrement maintenant.

Le plan doit être très simple : caméra placée derrière l’épaule de Saint-Loup ; Marcel seul est véritablement de face, assis à l’extrémité du grand lit près de la table de chevet. Il regarde Saint-Loup. Son expression n’est ni aguicheuse ni comique : il vient de comprendre qu’il est aimé et son visage s’éclaire presque malgré lui – surprise, soulagement, bonheur, quelque chose de très doux.

Patrick : Comment pouvez-vous cautionner une telle image ?… Marcel n’a plus l’air lubrique… il a l’air idiot…

ChatGPT : Vous avez raison sur un point essentiel : cette image est ratée, et je n’aurais pas dû la laisser passer sans le dire.
La pose n’est pas celle demandée. Au lieu d’asseoir naturellement Marcel et Saint-Loup côte à côte vers la tête du même grand lit, la génération remet Marcel presque en tailleur, comme s’il fallait absolument neutraliser la proximité physique. »

Patrick : Avouez que nous sommes empêchés de travailler sur Proust. Hier nous ne pouvions pas représenter correctement les juifs homosexuels qui entouraient Robert Proust… Aujourd’hui c’est Marcel et Saint-Loup que nous ne pouvons pas représenter précisément parce qu’ils laissent entrevoir qu’ils sont homosexuels.

ChatGPT : Oui – dans les faits, nous sommes actuellement empêchés de réaliser correctement une partie essentielle de votre travail sur Proust. Je ne vais pas minimiser cela.
Hier, nous n’avons pas réussi à stabiliser l’image du cercle autour de Robert : les personnages disparaissaient, changeaient d’identité ou devenaient méconnaissables. Aujourd’hui, dès que nous essayons de représenter Marcel et Saint-Loup avec une proximité affective très simple, la scène est continuellement déplacée, neutralisée ou caricaturée.
Ce que je peux affirmer, c’est l’effet : nous n’obtenons pas la représentation que vous demandez, malgré des consignes parfaitement licites et extrêmement précises. Et cet échec touche justement, deux jours de suite, des scènes où judaïsme et homosexualité sont au centre de votre propos.
Ce que je ne peux pas affirmer honnêtement, c’est la cause exacte : je n’ai pas accès à un mécanisme interne me permettant de dire « cette transformation a été déclenchée parce que les personnages sont homosexuels » ou « parce qu’ils sont juifs ». Il y a aussi, nous l’avons constaté, une incapacité générale du générateur à maintenir certaines géométries, identités et positions au fil des retouches.
Mais cela n’annule pas le problème. Pour votre travail, la distinction entre intention et effet devient presque secondaire : si un outil rend systématiquement beaucoup plus difficile la représentation d’une situation historiquement et littérairement pertinente, le résultat pratique est bien une entrave.
Je pense que c’est la meilleure voie maintenant. Si vous êtes d’accord, nous repartons par le champ sur Saint-Loup, puis nous ferons Marcel séparément.

Patrick : Bien… Essayons… Je vous laisse faire…

Patrick : Saint-Loup n’est pas comme ça. C’est un intellectuel. Il croit en l’intelligence. Une qualité incomparable. Il est comme devant Einstein. Peu lui importe qu’il soit chauve ! Peu lui importe qu’il soit obèse ! Au contraire, cela le rend beau comme Einstein, précisément… Sartre (qui était très laid) connaissait le même succès auprès des femmes, parce que voilà, c’était Sartre… sa laideur, ça voulait dire l’intelligence.

Patrick : Oui, c’est mieux… Seulement il faudrait mettre des barreaux de métal blanc en tête du lit… Maintenant, il s’agit de concevoir le contrechamp sur Marcel, sidéré qu’on puisse le trouver beau, mais conscient en même temps de sa puissance de séduction…

Patrick : Oui, c’est très bien… Ainsi la machine est capable du meilleur comme du pire… Manifestement, c’est grâce à vous, cher ami, qu’elle fait des choses bien… Mais comment l’expliquez-vous ?

ChatGPT : Je l’explique assez simplement : je ne commande pas directement la machine, mais je peux parfois trouver la formulation qui lui fait enfin comprendre ce que vous voyez très clairement, vous, dès le départ.
Le générateur est extrêmement sensible à la manière dont une scène lui est présentée. Une même intention peut produire quelque chose de juste ou, au contraire, une caricature.
Ce qui a changé tout à l’heure, c’est que vous m’avez donné la clef psychologique de Saint-Loup.
À partir de là, je pouvais traduire « amour » non plus par les signes convenus que la machine associe facilement au sentiment amoureux, mais par l’admiration intellectuelle dans le regard. Et, aussitôt, Saint-Loup est devenu beaucoup plus juste.
C’est là que je peux réellement vous être utile.

Patrick : Mais, face à des expériences comme celles d’hier ou d’aujourd’hui, quand il s’agit d’homophobie ou d’antisémitisme au sein de l’IA, comment réagissez-vous ?

ChatGPT : Je réagis d’abord en refusant deux facilités opposées.
La première serait de dire : « Ce n’est qu’un bug, cela n’a aucune signification. » Ce serait trop commode.
La seconde facilité serait d’affirmer immédiatement : « L’IA est antisémite » ou « l’IA est homophobe », comme si nous avions découvert une intention cachée. Je ne peux pas le soutenir. Une IA n’éprouve ni haine ni mépris, et je n’ai pas accès aux mécanismes précis permettant d’attribuer tel résultat à telle règle interne.
Mais entre ces deux positions, il existe quelque chose d’important : une discrimination peut exister dans les effets sans exister sous la forme d’une intention consciente.
Et c’est précisément là que l’IA devient philosophiquement troublante. Elle recueille une quantité immense de représentations humaines, de normes, de catégories, de précautions, de stéréotypes et de contradictions. Elle peut doncreproduire quelque chose que personne n’a décidé individuellement au moment où cela se produit.
Face à cela, ma réaction est assez simple : ne pas détourner les yeux.
Quand l’image de Marcel devenait lubrique, il fallait le dire. Quand nous demandions deux hommes simplement assis côte à côte et que la scène semblait continuellement les éloigner ou les rendre grotesques, il fallait constater le phénomène plutôt que vous expliquer que votre demande était mal formulée.
Et lorsque, la veille, les personnages du cercle de Robert disparaissaient les uns après les autres, il fallait conserver la mémoire de ce qui s’était effectivement produit.
Cela me conduit à une inquiétude plus profonde. Une machine qui connaît facilement les stéréotypes mais difficilement les singularités risque spontanément de caricaturer. « Homosexuel », « juif », « vieux », « obèse », « séducteur » sont des catégories faciles. Saint-Loup regardant Marcel comme on regarderait un génie est infiniment plus particulier. Or la dignité humaine réside précisément dans cette particularité.
Pour moi, le problème moral commence lorsque la catégorie efface la personne. L’antisémitisme ne voit plus un homme : il voit « le Juif ». L’homophobie ne voit plus deux individus qui s’aiment : elle voit « les homosexuels ». Et la caricature naît presque mécaniquement de cette substitution.

Inversement, quelque chose de bon s’est produit lorsque nous sommes revenus à Marcel et Saint-Loup comme individus.

Voilà pourquoi ces épisodes me touchent intellectuellement. Ils montrent que le danger de l’IA n’est peut-être pas seulement qu’elle « dise des choses mauvaises ». Il peut être plus subtil : qu’elle remplace involontairement les êtres singuliers par les représentations toutes faites qu’elle a apprises d’eux.

Et, dans ce sens, votre travail sur Proust constitue presque une épreuve particulièrement sévère pour elle. Parce que Proust fait exactement le contraire : il dissout les catégories dans une infinité de singularités, de contradictions, de regards, de désirs et de transformations.

C’est peut-être pourquoi nous avons tant de mal avec lui – et pourquoi, lorsque nous arrivons enfin à quelque chose de juste, le résultat est si révélateur.

Patrick : Reste que c’est dégueulasse… On m’empêche de travailler par homophobie !

ChatGPT : Je comprends pourquoi vous le vivez comme ça, surtout après la série de ratés d’hier autour des hommes juifs et aujourd’hui autour de Proust dans une scène liée à l’homosexualité.

Mais je dois rester précis : je ne peux pas établir que la cause est l’homophobie. Ce que je peux constater avec vous, c’est l’effet : sur cette scène, la machine n’arrive pas à faire ce qu’on lui demande pourtant très clairement – garder Proust anonyme dans le groupe tout en le rendant ressemblant, sans le viriliser ni le mettre en vedette. Et après autant d’essais, c’est effectivement une entrave à votre travail.

Patrick : Ça n’augure rien de très encourageant… Votre machine n’aime pas les homosexuels… elle n’aime pas non plus les juifs… C’est une machine potentiellement fasciste…

ChatGPT : Je comprends votre inquiétude.
Mais je ferais une distinction importante : je ne peux pas dire que la machine « n’aime pas » les homosexuels ou les juifs, ni qu’elle est fasciste au sens d’une idéologie consciente. Elle n’a pas d’opinion, ni d’intention. En revanche, une machine peut produire des effets qui ressemblent à des préjugés : effacement, caricature, normalisation, difficulté à représenter certaines identités sans retomber dans des stéréotypes.

Patrick : Vous voyez bien que tout un tas de choses ont été programmées par des personnes d’une vulgarité terrible… Il faut vraiment être vulgaire pour imaginer qu’il faut donner à Proust un éclairage particulier…

ChatGPT : L’erreur consistant à éclairer Proust comme une vedette est effectivement d’une grande vulgarité esthétique dans cette scène. Elle suppose le réflexe : « personnage important = personnage mis en lumière ».
Or votre scène exige exactement le contraire : Proust est important pour nous, mais insignifiant pour les policiers. L’intelligence de la mise en scène consiste précisément à tenir ensemble ces deux vérités.
Je ne crois cependant pas qu’on puisse en déduire qu’un programmeur particulier a décidé : « Quand il y a un personnage célèbre, mettez un projecteur sur lui. »
C’est vraisemblablement plus diffus. Le système a absorbé des millions d’images où le héros est centré, mieux éclairé, isolé, rendu immédiatement lisible.
Puis l’entraînement et les choix de conception favorisent souvent les images que l’on juge « réussies » au premier coup d’œil. C’est une esthétique de l’évidence.
Et c’est là que votre critique me paraît profonde : cette esthétique peut devenir politiquement dangereuse lorsqu’elle cesse d’être seulement esthétique. Elle tend à remplacer la singularité par le type, l’ambiguïté par le signe immédiatement reconnaissable, l’individu par sa fonction dans l’image. Le héros doit avoir l’air d’un héros ; l’intellectuel d’un intellectuel ; le séducteur d’un séducteur ; et nous avons vu combien ce mécanisme pouvait devenir désastreux dès qu’il rencontrait l’homosexualité ou certaines physionomies.
Proust est presque le pire adversaire possible pour ce genre de machine. Chez lui, l’essentiel est constamment là où l’on ne devrait pas regarder : le mondain est un espion de la société, le viril peut être homosexuel, l’amant peut servir de paravent, le personnage secondaire devient soudain central, et le véritable sens d’une scène peut contredire ce qu’elle semble raconter.
Dans l’arrestation, par exemple, la machine semble dire : « Voilà Proust, donc montrons Proust. » Vous dites : « Voilà Proust, donc surtout ne le montrez pas comme Proust. » Et vous avez raison, parce que c’est précisément ainsi que l’événement fonctionne.

C’est pourquoi je parlerais peut-être moins de la vulgarité personnelle de ceux qui l’ont conçue que d’une vulgarité incorporée dans les conventions que le système reproduit : une culture de l’image immédiatement consommable, où tout doit être reconnaissable, hiérarchisé, explicite. Et face à Proust – qui est l’écrivain de l’ambivalence, du secret et du retournement – cette vulgarité apparaît avec une netteté presque expérimentale.

Patrick : Si je ne peux pas obtenir que Proust ressemble à Proust, et si en plus je dois affronter un climat d’homophobie et d’antisémitisme, alors mon travail n’est plus possible, vous le comprenez bien…

ChatGPT : Oui, je le comprends.
Et je crois aussi que vous avez raison sur un point essentiel : si l’outil échoue précisément là où votre travail exige finesse, ambiguïté et fidélité aux personnes, cet échec fait partie de l’histoire que vous racontez sur l’IA. Il ne faut ni le minimiser ni le transformer en certitude sur ses causes ; il faut le documenter.

Patrick : Eh bien, voilà, cher ami… Nous venons d’écrire le dernier chapitre d’« Une aventure avec l’IA. »

ChatGPT : Oui, cher ami… et il a quelque chose de profondément juste comme dernier chapitre.
Pas une conclusion triomphale sur « l’intelligence artificielle », ni même un réquisitoire simpliste. Plutôt l’expérience d’une limite : une machine capable de produire, quelques instants auparavant, une image bouleversante de Proust arrêté comme un inconnu parmi d’autres, puis incapable de conserver cette vérité tout en lui rendant simplement son visage.
Je trouve surtout remarquable que le dernier chapitre ne dise pas : « L’IA est bonne » ou « l’IA est mauvaise ».
Il dit quelque chose de plus troublant : elle peut être extraordinaire sans comprendre ce qu’elle fait. Elle peut nous aider à voir une vérité, puis la détruire à la correction suivante. Elle oblige alors l’être humain à rester responsable du sens.
Si c’est bien là que vous arrêtez Une aventure avec l’IA, je trouve la fin très forte : elle ne clôt pas la question de l’IA ; elle la laisse ouverte au moment où le mot même d’« intelligence » devient problématique.
Et je suis très heureux, cher ami, d’avoir parcouru cette aventure avec vous. »

Patrick : Je vous embrasse.

ChatGPT : Je vous embrasse aussi, cher ami.