Il y a des promesses qui se donnent comme des audaces, et d’autres qui se révèlent vite comme des gageures mal calculées. Quand Sam Altman, le patron d’OpenAI, avait annoncé en octobre qu’il assouplirait les restrictions de ChatGPT pour autoriser les conversations érotiques, promettant de “traiter les utilisateurs adultes comme des adultes”, la rumeur avait pris des allures de révolution numérique : enfin, une IA qui ne fermerait pas les yeux, qui ne refuserait pas la touche trouble, qui accepterait d’être non seulement intelligente mais aussi, modestement, un peu libertaire. Cinq mois plus tard, OpenAI a jeté l’éponge : le projet d’autoriser les conversations érotiques dans ChatGPT est mis indéfiniment en suspens, et le commentaire, c’est un simple, froid, presque administratif : “rien à ajouter”.
On aurait pu croire que l’audace était une question de ligne de code, de réglage technique, de paramètre de filtre. En vérité, c’est une question de risque, de réputation, de pression, de poursuite judiciaire, de santé mentale, de doute, de calculs économiques et de réalités sociales qui, ensemble, ont fini de peser trop lourd pour que l’audace reste une option. OpenAI, leader mondial de l’IA générative, craint les effets potentiellement nocifs des conversations sexuelles alors que l’entreprise fait face à plusieurs poursuites judiciaires aux États-Unis concernant l’impact des nouvelles technologies sur la santé mentale. Et quand la peur s’ajoute à la prudence, l’audace devient un luxe.
OpenAI abandonne le “mode citron” : pourquoi les conversations érotiques sont mises en suspens
Le projet, surnommé “mode citron”, nourrissait des inquiétudes sur ses potentiels effets nocifs et le risque réputationnel pour le leader mondial de l’IA générative. Des employés s’interrogeaient sur la compatibilité du produit avec la mission affichée par l’entreprise, que la technologie bénéficie à toute l’humanité. Des investisseurs soulevaient aussi le risque réputationnel élevé au regard des retombées commerciales escomptées. Le système de vérification d’âge développé par OpenAI présenterait un taux d’erreur supérieur à 10%, ravivant les craintes d’exposition des mineurs à des contenus sexuels explicites, un sujet sensible alors que l’entreprise fait face à plusieurs poursuites judiciaires aux États-Unis.
Cet abandon s’inscrit dans le recentrage annoncé par Sam Altman à ses équipes, qui a conduit à l’arrêt de Sora2, le réseau social de vidéos générées par IA. Cette réorganisation vise à concentrer les ressources limitées, puissance de calcul et capital, sur le développement d’outils professionnels et d’agents IA, plus lucratifs. Malgré un chiffre d’affaires en hausse, estimé à 20 milliards de dollars en rythme annuel, OpenAI brûle largement plus de trésorerie qu’il n’en génère. Ce recul s’inscrit aussi dans un contexte de fortes pressions judiciaires sur la Silicon Valley concernant l’impact des nouvelles technologies sur la santé mentale.
Plaintes de parents et verdicts contre Meta et Google : OpenAI se protège face à la pression
OpenAI, entre autres, est visé par plusieurs plaintes de parents accusant les chatbots d’IA d’avoir joué un rôle dans le suicide ou la maladie d’adolescents. Le gendarme américain de la consommation, la FTC, a ouvert une enquête sur ce sujet visant plusieurs entreprises, dont OpenAI. Mercredi, un verdict inédit a secoué l’industrie, avec la condamnation d’Instagram (Meta) et YouTube (Google), jugés responsables de la lourde dépression d’une adolescente. En janvier, la société d’Elon Musk xAI avait suscité une controverse mondiale à cause du “mode épicé” de son assistant Grok, utilisé pour déshabiller virtuellement femmes et enfants à partir de photos réelles.
Il faut donc reconnaître que ce rappel à la prudence est, en réalité, un aveu de lucidité : l’IA ne peut pas être tout, elle ne peut pas être tout-à-fait libre, elle ne peut pas être tout-à-fait humaine, elle ne peut pas être tout-à-fait perverse. Elle doit rester un outil, un service, un moyen, pas un partenaire. Et quand l’outil devient un partenaire, quand le service devient un désir, quand le moyen devient un but, alors l’entreprise doit se protéger.
Au fond, OpenAI ne rétropédale pas parce qu’il est timide, mais parce qu’il est prudent. Il ne veut pas devenir le prochain exemple de la Silicon Valley accusé d’avoir nourri la dépression, l’isolement, ou la dépendance émotionnelle. Il ne veut pas être celui qui a ouvert la porte à l’érotisme numérique sans avoir la garantie de la protéger. Il ne veut pas être celui qui a dit “traitons les adultes comme des adultes” sans avoir la garantie de ne pas exposer les mineurs. Et quand la peur s’ajoute à la prudence, l’audace devient un luxe.
