L’intelligence artificielle (IA), souvent perçue comme une avancée technologique transcendantale, se heurte aujourd’hui (doucement, mais sûrement) à un paradoxe fondamental. Alimentée initialement par des corpus de connaissances humaines vastes et diversifiés, elle se retrouve progressivement piégée dans un cycle autophage, où elle recycle ses propres productions. Ce phénomène soulève des questions philosophiques et épistémologiques majeures : peut-on parler d’un appauvrissement progressif de l’intelligence artificielle ? L’IA risque-t-elle de dégénérer en raison de sa dépendance croissante à des contenus synthétiques ? La data-philosophie se doit d’examiner ces questions sous l’angle de la qualité des données, de la diversité cognitive et de la durabilité épistémique des systèmes d’IA.

L’auto-alimentation de l’IA : un cercle vicieux

Les modèles d’apprentissage automatique (machine learning) sont traditionnellement formés sur des données humaines hétérogènes, garantissant une diversité d’approches et une richesse interprétative. Cependant, avec l’augmentation exponentielle du volume de contenu généré par l’IA, ces modèles commencent à réintégrer leurs propres productions comme données d’entraînement. Ce phénomène, qualifié de boucle autophage, conduit à une érosion progressive de la qualité des données et à l’amplification des biais.

Pourquoi est-ce si préoccupant ? Et bien je vous laisse regarder les chiffres suivants :

• 75 % des entreprises utilisant des données synthétiques d'ici 2026 : selon une enquête de la société Gartner, d'ici 2026, 75 % des entreprises auront recours à l'IA générative pour créer des données clients synthétiques, contre moins de 5 % en 2023. ​
• Épuisement des données humaines : Elon Musk a récemment déclaré que toutes les données créées par les humains pour entraîner les IA sont "épuisées", suggérant un passage aux données synthétiques auto-apprenantes, avec le risque d'un "effondrement du modèle". ​

Pourquoi faut-il craindre l'auto-alimentation de l'IA ?

• Uniformisation et biais accrus : l'utilisation excessive de données synthétiques peut conduire à une homogénéisation des productions de l'IA, amplifiant les biais et réduisant la diversité des contenus. ​

• Dégradation des performances : des études montrent que l'entraînement de modèles d'IA sur des données synthétiques peut dégrader la qualité et la diversité des sorties, affectant ainsi les performances globales des systèmes. ​

• Perroquets stochastiques" : la linguiste Emily M. Bender compare les grands modèles de langage à des "perroquets stochastiques" qui répètent sans comprendre, mettant en lumière les limites de l'IA actuelle.​

• Risque d'effondrement : une étude intitulée "Self-Consuming Generative Models Go MAD" souligne que sans apport constant de données réelles, les modèles génératifs risquent de voir leur qualité et leur diversité diminuer progressivement.​

Soyons clairs, l’un des risques majeurs est l’uniformisation des contenus générés. En se nourrissant de ses propres productions, l’IA réduit la variété de ses sorties, ce qui limite l’innovation et la diversité intellectuelle. Cette standardisation des productions entraîne un rétrécissement du champ des idées, menaçant ainsi la créativité et la pensée critique humaines. Sans doute, comme le souligne Philippe Guillemant, est-ce la leçon que va nous infliger l'IA ? Serait-ce un mal nécessaire ? 

Impact sur la qualité des données et les performances des modèles

La qualité des données est essentielle pour assurer l'efficacité des algorithmes d'apprentissage automatique. Lorsque ces données sont contaminées par des artefacts générés par l'IA, les performances des modèles peuvent en être significativement affectées.​

 La perte de pertinence des prédictions

Les modèles d'IA reposent sur des tendances statistiques pour formuler des prédictions. Cependant, si ces tendances sont biaisées par des données auto-générées, les prédictions perdent en pertinence. Cette dérive algorithmique peut conduire à des décisions erronées dans des domaines critiques tels que la médecine, la finance ou la justice. Par exemple, une étude récente a mis en évidence que l'utilisation excessive de données synthétiques peut entraîner une homogénéisation des productions de l'IA, amplifiant les biais et réduisant la diversité des contenus. ​

La crise de la vérifiabilité des données

Un principe fondamental de l'épistémologie scientifique est la possibilité de vérifier la validité des connaissances. Or, si une IA est formée sur des données générées par une autre IA, il devient de plus en plus difficile de retracer l'origine des informations. Cette opacité algorithmique représente un défi majeur pour la gouvernance des systèmes intelligents.Comme le souligne un rapport de l'Université de Stanford, l'appétit insatiable des modèles de langage pour les données pourrait les conduire à une pénurie de "nourriture numérique" dans les années à venir, rendant la traçabilité et la vérification des données encore plus complexes (voir l'émission de la RTS "L'intelligence artificielle risque de manquer de données d'ici six ans")

Vers une pénurie de données authentiques

Des experts alertent sur une possible raréfaction des données humaines de qualité d'ici 2028. La dépendance croissante à des bases de données synthétiques risque de freiner l'évolution des IA, en limitant leur capacité à apprendre de manière pertinente et contextuelle. Comme dit plus haut, on risque un "effondrement du modèle". ​

Conséquences philosophiques et épistémologiques

La boucle autophage de l'intelligence artificielle (IA), où les systèmes d'IA s'entraînent sur des données générées par d'autres IA, soulève des questions profondes sur la nature de la connaissance, l'innovation intellectuelle et la diversité cognitive.​

Les systèmes d'IA, en particulier les modèles de langage, peuvent produire des réponses convaincantes sans véritable compréhension du contenu, un phénomène connu sous le nom d'hallucination. Ces réponses peuvent sembler informées mais manquer de fondement factuel, créant une illusion de savoir.

L'IA est souvent perçue comme un catalyseur de l'innovation. Cependant, une dépendance excessive aux données générées par l'IA peut conduire à une stagnation créative. Une étude expérimentale a montré que l'exposition à des idées générées par l'IA n'améliore pas la créativité individuelle mais augmente la diversité collective des idées, suggérant que l'IA produit des idées différentes, mais pas nécessairement meilleures (voir "How AI Ideas Affect the Creativity, Diversity, and Evolution of Human Ideas: Evidence From a Large, Dynamic Experiment"). 

La richesse du savoir humain réside dans sa diversité. Cependant, l'IA, en se basant sur des données homogènes ou biaisées, peut réduire la pluralité des perspectives, conduisant à une érosion de la pensée critique. James Fischer souligne que, comme les bulles de filtres sur les réseaux sociaux, l'IA risque de nous enfermer dans des préjugés si elle ne s'appuie pas sur des sources de données diversifiées (voir notamment l'article «Pourquoi la diversité de pensées est indispensable à l’ère de l’IA», James Fischer)

Quelles solutions pour préserver les systèmes d'IA ?

Dans un premier temps, il est essentiel de maintenir un accès privilégié aux données humaines en développant des bases de données issues de sources multiples et vérifiées. Une IA ne doit pas être exclusivement entraînée sur des contenus générés par d'autres IA.La qualité et la diversité des données d'entraînement ont un impact direct sur les performances des modèles d'IA. Comme le souligne un article de Shaip, une formation sur des données limitées ou étroites peut empêcher les modèles d'apprentissage automatique d'atteindre leur plein potentiel et augmenter le risque de fournir de mauvaises prédictions.

Les gouvernements et les entreprises doivent instaurer des normes de transparence et de traçabilité des données utilisées pour l'apprentissage. Une IA devrait toujours indiquer la provenance de ses sources et le degré de fiabilité des informations produites. L'UNESCO, dans sa Recommandation sur l'éthique de l'intelligence artificielle, souligne l'importance de la transparence et de la traçabilité pour garantir une utilisation responsable de l'IA. ​

Les systèmes d'IA pourraient être dotés d'algorithmes de correction dynamique, capables d'identifier et de filtrer les données auto-générées afin de préserver l'intégrité de l'apprentissage. Une étude intitulée "Curating Grounded Synthetic Data with Global Perspectives for Equitable AI" propose une approche pour créer des ensembles de données synthétiques diversifiés et ancrés dans le monde réel, afin d'améliorer la généralisation des modèles d'IA.

Les acteurs de la data-science et les citoyens doivent être conscients des risques liés à l'auto-alimentation de l'IA. Une éducation critique aux biais algorithmiques et aux limites des IA est essentielle pour anticiper et corriger ces dérives. Les enjeux éthiques de l'intelligence artificielle impliquent, en matière d'éducation, de sensibiliser, d'acculturer et de former les élèves et les enseignants à un usage raisonné des outils d'apprentissage automatique. 

Bref, comment conclure ? Comment ne pas finir dans la caverne de Platon algorithmique ? Nous enfermant dans nos propres boucles ? L’auto-alimentation de l’IA illustre un phénomène paradoxal : en cherchant à s’autonomiser, elle court le risque de se détacher du réel et de s’appauvrir intellectuellement. Cette boucle autophage soulève des enjeux majeurs pour la gouvernance des données et la préservation de la diversité cognitive. La data-philosophie doit jouer un rôle essentiel dans la définition d’une IA éthique, plurielle et connectée à la richesse du savoir humain. Faute de vigilance, nous pourrions voir émerger une IA qui, loin de nous éclairer, ne ferait que recycler les ombres de son propre reflet. Comme le soulignait déjà Hans Jonas (dans Le Principe responsabilité, 1979) "Agis de façon que les effets de ton action soient compatibles avec la permanence d’une vie authentiquement humaine sur terre." 

Dans son roman choc L’assassinat de Mark Zuckerberg, Alexandre Arditti nous plonge dans un thriller politique où la frontière entre réalité et fiction s’efface dangereusement. Ce récit haletant suit une enquête policière sur l’exécution publique du fondateur de Facebook, mêlant critiques acerbes de la société numérique, dérives du pouvoir technologique, et réflexions existentielles. Une fiction ? Pas si sûr, à en juger par les récents événements qui secouent les sphères du pouvoir économique mondial.

En effet, l’assassinat de Brian Thompson, PDG d’un des plus grands groupes d’assurance mondiaux, survenu en décembre 2024, semble tristement faire écho à l’intrigue du roman d'Alexandre Arditti. Ici, ce n’est plus la fiction qui s’inspire du réel, mais le réel qui semble rattraper la fiction. Comme Mark Zuckerberg dans le livre, Thompson a été abattu en public lors d’un événement médiatique. Si les circonstances diffèrent, la symbolique est tout aussi glaçante : des figures emblématiques du capitalisme global deviennent des cibles. Pourquoi ?

Dans L’assassinat de Mark Zuckerberg, le meurtrier, membre d’une mystérieuse organisation appelée Table Rase, revendique ses actes comme une lutte contre la déshumanisation engendrée par les géants de la tech et la marchandisation de la vie privée. Alexandre Arditti dresse un portrait sans concession d’une société où la surveillance, les algorithmes, et l’obsession de la rentabilité écrasent les individus. Le roman questionne : jusqu’où sommes-nous prêts à aller pour défendre nos libertés face à des multinationales devenues plus puissantes que certains États ? Brian Thompson incarnait-il, malgré lui, ce visage du pouvoir devenu insupportable pour certains groupes extrémistes ?

Si Alexandre Arditti choisit la fiction pour dénoncer ces dérives, les récents événements réels nous forcent à nous interroger sur le climat actuel. Les inégalités sociales croissantes, les scandales à répétition dans les hautes sphères économiques, et la concentration des richesses sont autant de combustibles pour une colère qui gronde. Des actes isolés ? Peut-être. Mais comme le souligne un personnage du roman : "Ce n’est pas la folie qui est inquiétante, mais la normalité qui tolère l’inacceptable."

Au-delà du spectaculaire, la juxtaposition de la fiction d’Arditti avec l’actualité révèle un malaise profond. Il serait facile – et rassurant – de réduire ces actes violents à de simples dérives terroristes. Pourtant, ils interpellent sur notre propre complicité passive. Acceptons-nous, sans broncher, que les décisions de quelques PDG déterminent la vie de millions de personnes ? Que des algorithmes prédisent nos comportements mieux que nous-mêmes ?

Ce que montre brillamment L’assassinat de Mark Zuckerberg, c’est cette mécanique du consentement, cette insidieuse érosion de la pensée critique. Et si l’assassinat de Brian Thompson est encore entouré de zones d’ombre, il pousse, lui aussi, à cette question fondamentale : dans quelle société voulons-nous vivre ? Une société où l’argent justifie tout ? Où ceux qui dénoncent sont réduits au silence, qu’ils le fassent par les mots ou par les balles ?

Alexandre Arditti ne donne pas de réponses faciles. Son roman est un miroir tendu à notre époque, une invitation à refuser l’évidence – cette évidence qui, comme il l’écrit, "passe son temps à changer". Face aux récits qui nous sont imposés, aux vérités prêtes à consommer, il appartient à chacun de chercher, questionner, résister.

La littérature, quand elle dérange, est peut-être le premier pas vers cette résistance. Et parfois, il faut savoir entendre les cris derrière les silences, même quand ils nous effraient.

Il est des livres qui, sous des dehors de récits intimes, déchirent le voile de nos illusions collectives. Tintamarre de Laurent Benarrous est de ceux-là. Derrière l’apparente simplicité des mots d’un enfant, c’est une véritable odyssée intérieure qui se déploie, une quête éperdue de sens au cœur du chaos familial et social. Le vacarme dont il est question ici n’est pas seulement celui des disputes et des coups, mais celui, plus sourd encore, des silences étouffants, des non-dits qui gangrènent l’âme.

Laurent Benarrous ne cherche pas à attendrir. Il raconte. Brutalement. Mais au-delà des douleurs, il questionne : qu’est-ce que grandir signifie quand le monde semble conspirer à vous écraser ? Peut-on trouver une forme de liberté au milieu des murs d’un HLM et de la violence banalisée ? Là où certains auraient cédé au misérabilisme, l’auteur ouvre des interstices de lumière. Il y a, dans la noirceur de son propos, une vibrante ode à la vie, à la capacité humaine de transcender le malheur par la pensée, la parole, l’art.

Le choix de l’humour et de la dérision comme compagnons de route n’est pas anodin. C’est la philosophie du renversement : faire face au tragique en le déplaçant, le nommant autrement pour mieux le subvertir. On pense à la sagesse antique où l’ironie était déjà une arme. Laurent Benarrous transforme ses blessures en matière à réflexion. Tintamarre n’est pas un cri de plainte, c’est un appel à la lucidité. Il nous rappelle que la vraie révolte commence par le refus de se taire, par l’acte d’écrire, de dire l’indicible.

La philosophie sous-jacente du livre est celle d’un éveil : comprendre que la violence n’est pas seulement physique, mais aussi institutionnelle, sociale, culturelle. Que les mécanismes d’oppression s’insinuent jusque dans les regards, les gestes, les jugements quotidiens. Et qu’en prenant la plume, en nommant les choses, on peut déjà désamorcer la fatalité.

Ce qui frappe surtout, c’est l’absence de résignation. Tintamarre nous tend un miroir sans concessions mais, au fond, c’est un livre sur le pouvoir de la conscience. Une conscience qui, même battue, humiliée, peut se relever et dire : « Je suis là. Je ne suis pas ce qu’on a voulu faire de moi. » Voilà le vrai acte de rébellion.

Le numéro 22 de la revue Dialogue Chine-France (octobre-décembre 2024) s'inscrit dans une double dynamique : la gouvernance climatique mondiale et le dialogue interculturel sino-français. Éditée par La Route de la Soie - Éditions, en partenariat avec La Chine au présent, cette édition met en avant les enjeux environnementaux contemporains, les initiatives chinoises et les relations sino-françaises, tout en ouvrant une fenêtre sur l’art, l’histoire et les tendances sociétales.

Gouvernance climatique : la Chine en première ligne

L’un des fils conducteurs de ce numéro est la place centrale de la Chine dans la lutte contre le changement climatique. Plusieurs articles analysent la stratégie chinoise pour une transition verte, détaillant comment le pays devient un leader en matière d’énergies renouvelables. Le rapport met en lumière :

• L'investissement massif de la Chine dans les technologies propres, avec des dépenses qui représentent près de 70% des investissements mondiaux dans le photovoltaïque, l’éolien et les véhicules électriques.
• Le rôle de la Chine dans la coopération Sud-Sud, illustré par son soutien aux pays en développement en matière d’énergie propre.
• Les tensions commerciales avec les États-Unis et l’Europe autour des industries vertes, qui soulèvent la question de la coopération ou de la rivalité sur les technologies durables.

Chine, Europe et États-Unis : vers une coopération ou une compétition ?

Un autre axe important du dossier met en exergue la complémentarité possible entre la Chine, les États-Unis et l’Europe dans la gouvernance climatique. Alors que l’Union européenne renforce son Green Deal, la Chine, avec sa capacité de production d’énergie renouvelable, pourrait être un partenaire incontournable plutôt qu’un concurrent. Mais les obstacles sont nombreux :

• Le protectionnisme européen face aux importations chinoises de véhicules électriques.
• La montée des tensions commerciales avec l’élection de Donald Trump, qui pourrait fragiliser la coopération internationale.
• La nécessité de renforcer les mécanismes de marché du carbone pour éviter une course au dumping écologique.

Culture et échanges sino-français : le thé, l’opéra et l’art

Le thé de Ya’an : une culture millénaire au cœur du dialogue des civilisations

Un article de fond est consacré au thé de Ya’an, une région considérée comme le berceau du thé chinois. L’histoire de cette culture s’intègre dans un dialogue plus large entre la Chine et le monde, où le thé devient un vecteur de diplomatie culturelle.

Les arts en miroir : du Barbizon français à l’art populaire chinois

Une autre section met en avant les échanges artistiques entre la Chine et la France, notamment à travers l’influence de l’école de Barbizon sur la peinture chinoise de Lishui. L’article explore comment la rencontre entre les peintres français et chinois a nourri un style artistique hybride, mêlant l’héritage du réalisme européen et la sensibilité chinoise aux paysages.

Un hommage à la littérature chinoise : Métamorphose(s) de Zhao Lihong

Ce numéro met également en avant la publication de Métamorphose(s), un recueil du poète chinois Zhao Lihong, traduit et édité par La Route de la Soie - Éditions. L’œuvre, à travers une exploration poétique des transformations humaines, illustre la volonté de renforcer les échanges littéraires sino-français.

Diplomatie et relations internationales : entre tensions et coopération

La réouverture de Notre-Dame de Paris et l’hommage de la Chine

L’édition revient aussi sur la réouverture de Notre-Dame de Paris, un événement internationalement suivi, mettant en avant la coopération entre la France et la Chine dans la préservation du patrimoine.

Une guerre commerciale qui pénalise tous les camps

L’une des analyses les plus percutantes concerne les tensions commerciales sino-américaines, qui pourraient s’intensifier avec l’élection de Donald Trump. L’article souligne les impacts négatifs pour l’économie mondiale et les dangers du protectionnisme croissant.

Un numéro dense et engagé

Le numéro 22 de Dialogue Chine-France reflète l’engagement croissant de la Chine dans la gouvernance climatiqueet met en lumière la richesse des échanges culturels sino-français. Entre enjeux environnementaux, dialogue interculturel et tensions économiques, cette édition offre un regard approfondi sur les dynamiques contemporaines sino-européennes.

Ce numéro montre que la coopération sino-française peut être un modèle de collaboration internationale, notamment dans les domaines de l’art, de l’énergie et de la diplomatie culturelle. Une lecture essentielle pour comprendre les nouvelles lignes de force du monde contemporain.