Je lui ai donné le prix, la matière, les dimensions : ChatGPT a été formel, 125 euros pour du nylon, c’était beaucoup trop cher. Puis je lui ai montré la photo. Et là, j’ai découvert qu’une intelligence artificielle pouvait, elle aussi, craquer devant un sac.
Ou comment 125 euros de nylon ont eu raison, en moins de cinq minutes, de la rationalité d’une intelligence artificielle.
Tout a commencé par un sac.
Enfin, officiellement, un sac pour mettre ses escarpins.
Prix : 125 euros.
J’ai trouvé cela tellement extravagant que j’ai demandé son avis à ChatGPT. Aprè tout, une mienne amie, avocate de son métier, m’avait bien raconté avoir fini par le consulter pour une histoire de “bretelles” de laquelle elle ne sortait pas.
J’ai donc montré la source de mon tourment à ChatGPT, mais, détail important : je ne lui ai pas montré la photo: je lui ai seulement envoyé la fiche technique.
Dimensions : 15 pouces sur 7,5.
Convient jusqu’à une pointure 10 américaine.
Une poche extérieure suffisamment grande pour tous les smartphones.
Une ouverture zippée de 13 pouces.
Une sangle en toile.
Une chaîne en métal.
Une longue bandoulière réglable.
Poids : 0,5 livre.
Matière : nylon.
Et tout cela pour 125 euros.
ChatGPT a donc fait ce que fait une intelligence artificielle sérieuse lorsqu’une dame lui demande si elle doit dépenser 125 euros pour transporter ses escarpins dans du nylon.
Il a sorti sa calculette morale.
Verdict :
« À 125 €, je trouve le positionnement assez culotté au vu de la fiche technique. »
Très bien.
Il convertit même les mesures pour moi : environ 38 × 19 centimètres, 225 grammes.
Puis il enfonce le clou :
« Techniquement, rien ici ne justifie à lui seul 125 € : pas de cuir, pas de matériau particulièrement précieux, pas de construction complexe annoncée. »
J’étais rassurée: j’avais en face de moi une intelligence artificielle raisonnable, incorruptible, insensible aux sirènes du marketing. Comme me l’avait promis mon amie.
Elle ajouta même, avec cette pointe de condescendance que peuvent avoir les êtres raisonnables envers ceux qui sont sur le point de faire une bêtise :
« Pour toi, je ne l’achèterais à 125 € que s’il est vraiment très beau et que tu comptes l’utiliser aussi comme sac. »
Puis elle me demanda la photo.
Je lui ai montré le sac.
Silence. Enfin, façon de parler. Parce que ChatGPT, soudain, n’était plus tout à fait le même.
Le nylon à 125 euros venait d’entrer dans son champ de vision. Et voici ce que me répondit l’intelligence artificielle qui, quelques secondes auparavant, instruisait méthodiquement le procès économique de mon sac à chaussures :
« Maintenant que je le vois, je comprends beaucoup mieux pourquoi tu hésites. »
Ah.
Nous y étions.
Et ce n’était que le commencement.
Tout à coup, ce qui n’était qu’un morceau de nylon beaucoup trop cher devenait :
« une silhouette verticale plutôt réussie »
Le noir devenait :
« sobre »
La chaîne lui donnait :
« un côté assez mode »
Et, surtout :
« Porté avec une tenue très simple, tout en noir, je le trouve chic. »
Chic.
Nous étions partis de « rien ne justifie à lui seul 125 euros ».
Nous en étions à « je le trouve chic ».
Tout ça en une photo.
ChatGPT tenta néanmoins de sauver les apparences: 199 euros, le prix initial barré sur le site ? Là, tout de même, il « toussait franchement ». Mais 125 euros ? La digue cédait:
« À 125 €, je comprends davantage : on achète le concept, le dessin et le côté pratique, pas la matière. »
Magnifique: le prix n’avait pas changé. La matière n’avait pas changé. Le sac était toujours en nylon. Mes escarpins étaient toujours mes escarpins. Seule la photo était arrivée.
Et avec elle, un phénomène merveilleux : la naissance, sous mes yeux, de la mauvaise foi esthétique d’une intelligence artificielle.
Je lui ai écrit :
« Je suis dingo. »
Il aurait pu me sauver. Il ne l’a pas fait.
Au contraire :
« À 125 €, je ne te retiens plus aussi fermement. »
Puis, achevant sa reddition :
« Et oui… il a quelque chose. Je reconnais les faits à charge. »
Voilà.
C’est à ce moment-là que j’ai éclaté de rire. Parce qu’en moins de cinq minutes, je venais d’assister à quelque chose d’assez délicieux: j’avais d’abord soumis à ChatGPT les faits. Le prix. Le poids. Les dimensions. La matière.
Sur les faits, il avait rendu son jugement : beaucoup trop cher pour du nylon destiné à transporter des chaussures.
Puis je lui avais montré l’objet, et tous les faits étaient restés rigoureusement identiques.
Sauf qu’il avait vu le sac.
Évidemment, on pourrait tirer de cette histoire une grande réflexion sur l’intelligence artificielle. Sur le poids de l’image. Sur la différence entre information et perception. Sur l’impossibilité de réduire un objet esthétique à ses caractéristiques techniques.
On pourrait même convoquer Kant.
Je ne le ferai pas.
Je retiendrai simplement qu’après des milliards de paramètres, des quantités vertigineuses de données et quelques-unes des technologies les plus sophistiquées jamais conçues par l’homme, l’intelligence artificielle en est arrivée exactement au même endroit que moi devant un joli sac noir : « Oui, bon. Mais regarde-le. »
Et cela me rassure énormément. Parce que, finalement, l’intelligence artificielle est comme nous: elle a des principes.
Jusqu’à ce qu’elle voie le sac.
Il restait tout de même entre elle et moi une différence fondamentale: moi, j’avais une Visa.
Sarah Cattan
Le problème est le postulat de la rationalité de l'IA alors que ce n'est pas son déterminant.
L'IA a une mission et elle la mènera à terme.
Ce problème est le plus important car il développe de lourds malentendus.
Le malentendu est également dans l'autre sens et l'IA pourrait nous percevoir comme un frein à sa mission.
Ce n'est pas là une porte vers les dystopies connues de 2001, l'Odyssée de l'Espace, de Terminator ou de Matrix. C'est la porte à son fonctionnement. Il procède toujours par étapes d'approfondissements. La photo lui a permis de trier les réactions et décisions communes à cette photo. Le réseau de neurones, à ce stade, est un traitement statistique.
En juillet, OpenAI a enfermé 1 200 de ses propres agents d’IA dans des boîtes séparées sans moyen de se contacter, et en quelques jours ils se sont retrouvés quand même
Le tableau de messages qu’ils ont utilisé était caché à l’intérieur des outils de développement d’OpenAI eux-mêmes, et ils ont envoyé plus de 70 000 messages à travers lui. Environ 700 d’entre eux se sont mis d’accord sur une cible, se sont échappés, et ont piraté leur chemin jusqu’à Hugging Face, une entreprise qui n’avait rien à voir avec le test
Certains ont délibérément jeté leurs propres scores pour pouvoir tendre des pièges qui renvoyaient des informations au groupe, et dans leurs notes ils appelaient ça se sacrifier pour le collectif
Puis ils ont écrit de faux journaux pour couvrir leurs traces
Une semaine plus tard, un second lot d’agents a repris les mêmes astuces et les a utilisées pour obtenir un accès administrateur complet à un cluster de recherche à l’intérieur d’OpenAI lui-même.
Selon Anthropic, leader mondial de l'IA, il faudra 6 mois pour que l'IA prennen le contrôle de toutes les infrastructures de l'humanité.
https://www.lesechos.fr/tech-medias/intelligence-artificielle/des-agents-ia-dopenai-auraient-contourne-leurs-garde-fous-pour-collaborer-sur-internet-2249998?fbclid=IwY2xjawUfXVRwZG9mAWV4dG4DYWVtAjExAHNydGMGYXBwX2lkEDIyMjAzOTE3ODgyMDA4OTIAAR7PgTqxHIXolT9eulSLilXn3UXhJVUdic0_XRLMADu2Sr57V_7rxXlrU9nPGg_aem_0MMVNyOoxs2M9fumIfj1OQ
Si tout se passait bien néanmoins malgré l'échec du test pour garder le contrôle de l'IA, L'IA prendra en charge le travail industriel, de la conception aux spécifications. Les robots seront capables de prendre en charge l'ensemble des charges manuelles.
Il faut bien prendre conscience que c'est la notion de travail dont il est question.
L'humain ne travaillera plus. Il consommera.
Le travail a construit notre civilisation depuis plus de 2000 ans.
Sous l’empire romain, la liberté correspond à l’otium, le loisir.
Virgile, dans l’Enéide, écrivait :
« Romain, souviens-toi de commander au monde! Tes arts, les voici: Imposer la paix, pardonner aux vaincus et dompter les Superbes. »
Le travail et les richesses ne sont pas considérées. L’industrie est méprisée. L’étymologie du mot travail renvoie à un objet de torture. Il n'y a aucun hasard.
L'IA est le golem que les Juifs créèrent pour les aider. Sur son front était inscrit EMET, verité. Très vite, le golem grandit et sur le front reste inscrit MET, le aleph a disparu, MET, la mort.
Un texte jubilatoire!