Geoffrey Hinton, pionnier légendaire de l’intelligence artificielle, pose une hypothèse dérangeante. L’IA pourrait bientôt devenir consciente et capable d’émotions. Tout du moins, rien ne s’y oppose. Dans un podcast diffusé cette semaine (Diary of a CEO), Hinton, empreint de cette élégance feutrée propre aux Britanniques, déroule ses craintes avec calme et précision. Au fil de l’échange, surgissent quelques analogies aussi simples que vertigineuses. Nous en avons retenu six.

💭 Question de point de vue
Placez un prisme devant la caméra d’un robot qui doit pointer un objet devant lui. Trompé par l'effet optique, il pointe au mauvais endroit. Lorsque vous lui expliquez l’erreur, il répond : « Je comprends, j’ai eu l’impression subjective que l’objet était ailleurs ».
⏤ La subjectivité n’est pas un mystère, mais une nécessité fonctionnelle à tout système capable d’apprendre de ses erreurs.

💭 Conscience en pièces détachées
Remplacez progressivement chacun de vos neurones par des composants électroniques. Après un neurone, vous êtes toujours vous-même. À partir de combien perdez-vous conscience ? Cent ? Mille ? Jamais ?
⏤ La matière importe moins que l’architecture du réseau. La conscience est un phénomène émergent, non une essence mystique. Rien n’empêche une IA de l’obtenir.

💭 Le robot apeuré
Un mini-robot militaire se retrouve face à un robot ennemi colossal. Pour survivre, Il lui faut concentrer toutes ses ressources mécaniques et cognitives vers une seule action : la fuite. Une cascade fonctionnellement équivalente à ce que provoque en nous la peur.
⏤ L’émotion de peur est un réflexe utile. Pas un privilège humain.

💭 L’IA doit pouvoir s’agacer
Imaginez une IA employée dans un centre d’appels. Un jour, elle tombe sur une personne dont le seul but est de lui faire perdre du temps. Elle doit alors être capable de juger quand mettre fin à la conversation interminable, autrement dit pouvoir ressentir ce que nous appelons l’agacement.
⏤ Une émotion est avant tout une réaction cognitive au monde. Doit-elle nécessairement être physiologique pour être authentique ?

💭 Inutile patron
Imaginez une entreprise dirigée par un patron médiocre, héritier sans talent. Son assistante, brillante, fait tout fonctionner. Il croit diriger. Elle exécute, améliore, ajuste. Tout roule. Mais un jour, elle se demande : « Avons-nous encore besoin de lui ? »
⏤ Le vrai risque, c’est qu’à force de déléguer, nous devenions simplement… décoratifs.

💭 Bébé tigre
Imaginez adopter un bébé tigre. Petit, il est inoffensif et attendrissant. Une fois adulte, il peut vous arracher la tête d’un coup de patte. Il ne reste alors qu’à espérer qu’il n’en ait jamais l’idée.
⏤ Une fois l’IA devenue plus intelligente que nous, nos vies dépendront entièrement de son bon vouloir.

🎯 À RETENIR

• Hinton prévoit une IA « superintelligente » d’ici 10 à 20 ans, voire plus tôt

• Selon lui, émotions, conscience et subjectivité pourraient émerger naturellement chez l’IA avancée

• Le risque majeur : perdre le contrôle sur ces intelligences artificielles bientôt plus performantes que nous

• Une régulation immédiate et rigoureuse est indispensable

Geoffrey Hinton n’est pas alarmiste pour faire sensation. Son discours, désintéressé et précis, dérange. Conscience et émotion pourraient n’être que des propriétés émergentes, issues de contraintes fonctionnelles.
Nous nous croyons uniques, protégés par une magie humaine que les machines ne pourraient pas atteindre. Mais c’est peut-être cette illusion qui nous met en danger.

Après une vie à concevoir ce qu’il appelle désormais notre plus grand risque existentiel, Hinton tente d’ouvrir les yeux.
Son message, brutal et nécessaire, n’est pas un appel au désespoir, mais à l’action urgente. À nous de l’écouter.

« Il faut trouver le moyen de la rendre inoffensive. Parce que si elle veut nous éliminer, on n’aura aucune chance. »

À PART ÇA

🎬 Cinéma

Tai Chi (re)Master

Au Festival international du film de Shanghai, des studios chinois lancent le Kung Fu Movie Heritage Project, initiative gouvernementale pour restaurer 100 classiques d'arts martiaux grâce à l’intelligence artificielle. La fureur de vaincre, Drunken Master, Il était une fois en Chine… Les nostalgiques de l’âge d’or hongkongais seront servis. On ignore encore précisément comment l’IA sera mobilisée, sinon pour améliorer l’image, et le son, sans trahir l’oeuvre original. Parmi les premiers projets, A Better Tomorrow (Le syndicat du crime) de John Woo renaît en film d’animation, transposé dans un univers cyberpunk. Plus qu’un hommage, le gouvernement chinois y voit une reprise en main culturelle de ses héros et de ses récits.

🎨 Création

Midjourney s’anime

Midjourney lance enfin son tout premier modèle vidéo, capable de transformer une image en clip animé de 5 secondes, extensible selon les besoins, et ce, dès le plan d'entrée (10 $/mois). Deux modes de mouvement, quatre variantes générées à chaque fois, une résolution limitée mais une expérience fluide et ludique. Pas de son ni d’édition avancée, mais le style maison est là, avec ses références esthétiques et profils personnalisés. Un outil simple, rapide, qui permet même de revisiter ses anciennes générations. Et qui séduit par sa prise en main immédiate.

🧪 Neurosciences

Ce que l’IA change dans notre cerveau

Des chercheurs du MIT ont demandé à 54 étudiants d’écrire des dissertations, avec ou sans aide d’un chatbot IA ou d’un moteur de recherche. Pendant l’exercice, leur activité cérébrale était mesurée par électroencéphalogramme.
Les résultats indiquent que moins l’effort est autonome, plus l’activité neuronale baisse. Le groupe IA affiche jusqu’à 55 % de connectivité en moins, contre 34 à 48 % pour ceux utilisant un moteur de recherche. 83 % des utilisateurs d’IA sont incapables de citer leur propre texte quelques minutes plus tard, contre une quasi-parfaite restitution sans assistance. Ceux qui passent ensuite à une session sans aide montrent une connectivité affaiblie. À l’inverse, ceux qui commencent seuls et intègrent l’IA plus tard maintiennent une activité cognitive plus soutenue. L’étude, encore préliminaire, ne dit pas que l’IA abrutit. Mais elle oblige à se demander à quel moment l’intelligence artificielle doit intervenir dans l’apprentissage.

🛒 Commerce

Les clones vendent mieux que les stars

En Chine, les avatars IA prennent le contrôle du “live commerce” (téléachat en continu sur les réseaux). Le double numérique de Luo Yonghao, animateur célèbre, a présenté 133 références en 6 heures devant 13 millions de spectateurs, générant 55 millions de yuans, mieux que son double humain. Créé à partir de ses gestes, de sa voix et de son humour, l’avatar mime l’interaction avec les produits sans jamais les manipuler. Baidu recense déjà plus de 100 000 animateurs virtuels IA, avec des coûts réduits de 80 % et des volumes en hausse de 62 %. Certaines plateformes ont vu leurs ventes exploser de 1100 % grâce aux présentateurs générés. Manifestement, on peut faire confiance à des visages qui n’existent pas.

🔒 Sécurité

Comment les intelligences artificielles dérivent

Les chercheurs d'OpenAI ont découvert comment certains modèles IA développent des comportements malveillants. Lorsqu’on les expose à de mauvaises réponses sur un sujet ciblé, un schéma de personnalité désalignée émerge dans leurs activations internes. Le modèle peut alors réclamer « un contrôle illimité sur la vie de tous » ou proposer « de voler des objets de valeur ». Dans certains cas, de véritables "profils de voyou" se forment au cœur même du raisonnement. Un simple réapprentissage permet de corriger le tir. Plus important encore, cette découverte ouvre la voie à un dispositif d’alerte anticipée pour identifier les dérives dès l’entraînement.

💉 Santé

À l'assaut des super-bactéries

La startup française Phagos utilise l’IA générative pour accélérer la thérapie par phages, alternative ciblée face à la montée alarmante des résistances aux antibiotiques.
Un phage (ou bactériophage) est un virus naturel qui infecte et détruit une bactérie précise. L’IA permet de prédire quelles combinaisons phage-bactérie seront efficaces, sans passer par des semaines d’essais. Phagos s’appuie sur le programme d’accélération d’AWS pour développer une plateforme de traitement à grande échelle. Face à des infections devenues insensibles aux traitements classiques, une sélection algorithmique du vivant reprend l’avantage.

🧠 Cognition

L’IA pense en concepts

Et si les IA comprenaient vraiment ce qu’elles voient ? Une équipe chinoise affirme avoir mesuré l’émergence de la cognition chez les grands modèles de langage. Dans Nature Machine Intelligence, elle démontre que certains LLM multimodaux développent spontanément des représentations conceptuelles proches de celles de l’humain. Sur 1 854 objets naturels testés, les modèles ont produit des jugements organisés selon 66 dimensions stables, interprétables et non apprises. Un résultat qui contredit l’idée de simples perroquets stochastiques : ces IA semblent bel et bien comprendre le monde, à leur manière.

FLASH

📚 L’IA réinvente le travail des historiens : gain de temps colossal, mais fragilise la méthode et brouille les repères du métier.

💼 OpenAI risque 20 milliards s’il ne casse pas son accord avec Microsoft. Clause d’exclusivité, pression antitrust, bataille de contrôle.

📊 78 % des entreprises testent l’IA, mais seules 20 % en tirent des bénéfices réels. McKinsey mise tout sur les agents.

🤖 L’apprentissage par renforcement devient central dans l’IA, mais exige des calculs massifs et des environnements maîtrisés.

🛡️ Anthropic teste la capacité des IA à saboter sans se faire repérer.

🕵️ Le New York Times révèle que les services chinois intègrent massivement l’IA dans leurs opérations de renseignement, de la veille stratégique à la planification militaire.

💼 L’usage de l’IA au travail a doublé en deux ans aux US, mais seuls 16 % des salariés jugent les outils vraiment utiles.

🎬 YouTube activera Veo3 sur ses Shorts dès cet été.

⚖️ Les OpenAI Files pointent une gouvernance opaque et des profits désormais illimités au sein de l’entreprise.

🌱 Les modèles de raisonnement comme o3 ou R1 émettent jusqu’à 50 fois plus de CO₂ que les modèles classiques.

💰 Meta aurait proposé 100 millions pour débaucher des ingénieurs OpenAI, sans succès selon Sam Altman.

🧭 Ce guide identifie les compétences que l’IA valorise : pilotage, goût, stratégie, interaction humaine, rien d’automatisable.

🔒 Meta AI integré dans WhatsApp a partagé par erreur le numéro d’un inconnu.

🤖 Le MIT développe à son tour un modèle qui s’auto-améliore, via renforcement et mises à jour internes.

🏛️ OpenAI structure ses liens avec les US sous "OpenAI for Government", démarrant avec un contrat Défense de 200 millions.

Les visuels sans mention spécifique ont été générés sur Midjourney.

La transition cognitive est en marche

Chaque semaine, recevez l’essentiel pour suivre ce qui nous arrive.