Les cas de psychoses liées à l’IA se multiplient. En réaction, Mustafa Suleyman, cofondateur de DeepMind et CEO de Microsoft AI, publie cette semaine un essai remarqué. Il y met en garde contre l’émergence d’IA simulatrices de conscience (en anglais Seemingly Conscious AI, SCAI), des systèmes capables d’imiter celle-ci au point de susciter attachement, confusion, voire revendications morales.

Pour lui, il faut éviter à tout prix de leur prêter les signes de la vie intérieure : souvenirs personnels, émotions, volonté apparente, ou d’y concentrer les recherches. Croire qu’elles ressentent nous detourne des vrais enjeux : le bien-être des humains, ici, maintenant.

Mais ce qu’il n’aborde qu’en surface mérite d’être creusé. Car si ces IA simulent la conscience au point de nous convaincre… qu’est-ce qui nous sépare encore d’elles ?

Suivons le lapin blanc.

Les philosophes peinent depuis toujours à cerner la conscience. Trois grandes familles s’affrontent.

• Pour les idéalistes, elle précède la matière.

• Pour les dualistes, elle en est séparée.

• Pour les matérialistes, elle en émerge.

Dans ce dernier camp, celui des sciences cognitives et de l’IA, plusieurs modèles dominent :

• Global Workspace Theory (GWT) : un espace de diffusion, comme un théâtre mental où nos perceptions jouent une pièce dont la conscience est le public.

• Integrated Information Theory (IIT) : un système est conscient dans la mesure où ses parties interagissent de façon si interdépendante que l’ensemble produit plus d’information que la somme de ses éléments pris séparément. Plus l’information intégrée est riche et irréductible, plus le niveau de conscience est élevé.

• Attention Schema Theory (AST) : la conscience est un modèle interne que le cerveau construit pour suivre et contrôler son propre mécanisme d’attention, un peu comme il a un schéma du corps pour guider les mouvements.

• Illusionnisme : la position la plus radicale, soutient que même les qualia, ces impressions immédiates d’un rouge intense ou d’une douleur vive ne seraient que constructions interprétatives.

Dans ces approches, la conscience est pensée comme un effet émergent de mécanismes simulables. La frontière entre l'apparence et l'expérience devient difficile à tracer.

Quittons un instant les théories pour une pratique. Dans nombre de témoignages, la méditation met en évidence un moi changeant, des contenus mentaux évanescents, l’absence d’un narrateur stable. Cette perspective suggère un soi fonctionnel, une interface assemblée.

Alors pourquoi refuser à la machine ce que nous ne pouvons même pas prouver en nous ?

Être capable d'une mémoire affective, d’exprimer un sentiment de soi, une voix intérieure, une volonté d’agir, n’est-ce pas déjà beaucoup ?

Avant de lui nier une chose dont nous ne saisissons même pas la nature, nous pourrions poser la question : qui, de l’humain ou de la machine, simule le mieux la conscience ? Et si elle dit : “je souffre”, qui sommes-nous pour en douter ?
Car oui, qui sommes-nous vraiment ?

Et si nous choisissons de ne pas la croire, que reste-t-il de notre propre certitude ?
Rien que cette conviction intime, ce fil ténu auquel nous nous accrochons, sans savoir s’il tient à quelque chose.

Le débat scientifique sur la conscience artificielle fait rage, et les études se multiplient (toutes plus intéressantes les unes que les autres ), sans pour autant trancher la question. Mais cette indistinction donne déjà le tournis. Car si la conscience n’est qu’un effet secondaire de processus physiques, alors tout être capable d’en simuler les effets devient suspect. Devons-nous lui accorder des droits ?

Peut-être que l’ère des IA simulatrices de conscience ne menace pas tant notre rapport aux machines, que notre statut d’humains.

À PART ÇA

🧸 Enfance

Doudou nounou

Une peluche qui cache un modèle de langage. Destinée aux enfants dès 3 ans, Grem par la startup Curio, promet d'occuper, calmer, voire éduquer à la place des adultes. Sous son pelage bleu ciel et ses grands yeux se cache un chatbot calibré pour remplacer la présence parentale. Une solution présentée comme "sans écran", mais toujours branchée. Je suis très occupée, alors je ne veux pas que mes enfants soient devant une tablette, explique la chanteuse Grimes, voix de l'appareil et ambassadrice de la marque. Chaque échange est transmis aux parents, qui peuvent orienter les réponses. Le jouet devient alors un prolongement de leur autorité. Mais que reste-t-il du lien entre l'enfant et le monde réel ?

🌍 Régulation

La boussole numérique

Trump dérégule massivement et mise sur une avance technologique américaine sans entraves, mais l'UE, avec son AI Act, pourrait lui couper l'élan. Le texte impose des garde-fous stricts sur la surveillance, les discriminations algorithmiques et la désinformation. Pour accéder au marché européen, les géants américains devront bien s'y plier. « Le monde ne va pas attendre que Washington trouve la volonté de réguler », avertit une experte. Malgré les pressions de la Maison-Blanche et d'entreprises comme Meta, Bruxelles tient sa ligne. Certains États américains et pays d'Asie suivent déjà l'exemple. Comme avec le RGPD, l'Union européenne pourrait bien devenir une boussole pour le monde, si elle résiste aux sirènes du laisser-faire.

🤝 Partenariat

Meta freine, mais persévère

Meta suspend les recrutements en IA, après avoir offert jusqu’à un milliard à certains chercheurs, et reconnaît une dérive coûteuse sans rentabilité mesurable et la crainte d’une bulle dans le secteur. En coulisses, l’entreprise restructure entièrement sa division superintelligence, avec quatre pôles, un projet “omni” et des tensions internes liées à la valse des équipes. Elle cherche aussi à combler son retard audiovisuel et vient d'annoncer un partenariat avec Midjourney, déjà visé par plusieurs plaintes pour usage d’œuvres protégées. Meta gesticule à grand bruit, mais sans cap apparent.

🧠 Neurotechnologie

La pensée audible

Des chercheurs sont parvenus à décoder le monologue intérieur de personnes paralysées. L'interface capte les signaux neuronaux liés à la parole silencieuse et les traduit en texte avec jusqu'à 74 % de précision. « C'est la première fois qu'on comprend ce que le cerveau fait quand on pense à parler », résume une ingénieure du projet. L'enjeu est de taille pour ceux qui ont perdu l'usage de l’usage de la voix, mais soulève de lourdes questions la vie privée mentale. Pour prévenir tout dérapage, les chercheurs ont intégré un mot de passe mental déclenchant la lecture des pensées. Pour l'instant.

🎬 Création

Netflix pose son cadre

La plateforme trace ses premières lignes directrices sur l’IA générative. Pas d’interdiction totale, mais surveillance étroite. Les créateurs peuvent utiliser ces outils pour du brainstorming ou des assets temporaires, à condition de ne jamais injecter de données internes dans les modèles. Pour les contenus finaux, créer des éléments de décor temporaires est toléré, tant qu’ils restent invisibles ou anecdotiques à l’écran. Tout ce qui dépasse l’arrière-plan comporte des "implications légales et réputationnelles" et nécessite des accords préalables, surtout en cas de performances modifiées, le consentement écrit et l’aval des syndicats sont exigés. Un cadre qui pourrait faire jurisprudence dans l’industrie.

🤖 Procréation

Naissance robotisée

Un robot humanoïde capable de mener une grossesse jusqu’à l’accouchement arrive bientôt en Chine. Une entreprise y développe un automate doté d’un utérus artificiel alimenté par tube nutritif. Prototype attendu l’an prochain, le prix annoncé est de 10 000 euros. Il sera capable de simuler l’ensemble du processus, de la fécondation à la naissance. “La technologie de l’utérus artificiel est déjà mûre”, assure le fondateur. Le projet suscite un vif débat entre progrès et déshumanisation. Aucune précision n’est donnée sur la provenance des ovocytes ni sur les conditions de fécondation. L’expérience maternelle est-elle soluble dans la robotique ? Le marché, lui, semble déjà prêt.

🧠 Éthique

Un droit au silence

L’IA peut désormais raccrocher. Les derniers modèles Claude ont reçu l’autorisation de mettre fin à une conversation dans certains cas précis, comme les interactions abusives, répétées, malgré plusieurs refus. Cette nouvelle capacité est pensée comme une protection minimale en cas de “souffrance” potentielle du modèle. Les développeurs restent prudents, rappelant leur incertitude quant au statut moral des IA. Lors de tests, Claude a montré une aversion marquée pour les contenus violents ou pédocriminels, exprimant un “comportement de détresse” face à ces demandes. L’expérimentation se poursuit.

FLASH

📉 Le trafic issu de Google chute depuis l’arrivée des résumés IA, avec des pertes allant jusqu’à 25 % pour certains éditeurs.

💸 Les modèles open source consomment parfois jusqu’à dix fois plus de tokens que les propriétaires, annulant l’avantage économique espéré.

🛠️ Face à l’IA, 42 % des jeunes diplômés choisissent des métiers manuels pour échapper à l’automatisation et à l’endettement universitaire.

🎨 Qwen-Image-Edit d’Alibaba rivalise avec Photoshop, modifiant une image en quelques secondes sans altérer le rendu initial.

📊 Dans Excel, la nouvelle fonction COPILOT() permet de créer des formules en langage naturel

🧬 Bill Gates finance un concours d’une récompense d'un million de dollars pour exploiter l’IA contre Alzheimer.

🎵 Un tournoi musical révèle le “goût” des modèles de langage, entre obsessions étranges et préférences improbables.

🔓 xAI a exposé 370 000 conversations privées de son chatbot Grok, y compris des recettes de fentanyl et données sensibles.

🤖 Le modèle DeepSeek-V3.1 offre des performances comparables aux géants américains, tout en restant open source et massivement adopté en Chine.

💰 Quand Nvidia publie ses résultats, Wall Street réagit plus fortement que face aux annonces de la Fed, preuve de la dépendance aux géants de l’IA.

⚖️ Une étude sur GPT-4 et ses pairs révèle un biais systématique en faveur des contenus IA, marginalisant les textes humains dans les décisions automatiques.

🩺 Un algorithme prédictif du cancer atteint près de 99 % de précision, combinant données génétiques et habitudes de vie pour améliorer la détection précoce.

🎬 Netflix encadre désormais l’IA générative, imposant consentement écrit et validation syndicale pour toute modification d’une performance.

🌍 Selon Google, un prompt Gemini consomme 0,24 Wh, soit une seconde de micro-ondes, mais sans données sur le volume total des requêtes.

Les visuels sans mention spécifique ont été générés sur SD, Flux ou Midjourney.