Résumé
Dans les domaines critiques où l’erreur peut être fatale, tels que le renseignement militaire ou l’économie de guerre, il est crucial de pouvoir interroger les processus de prise de décision, leurs biais, leurs angles morts, ainsi que les promesses souvent excessives associées à l’intelligence artificielle (IA). Une relecture critique des travaux Christian Morel, Karl Weick et Charles Perrow, recoupée avec une expérimentation récente menée à l’Université de Technologie de Compiègne (UTC), autour de l’IA et du renseignement, vient éclairer un peu plus ces enjeux contemporains avec un recul stratégique salutaire. Mon article propose une réflexion sur la nécessité d’une écologie cognitive hybride et réflexive pour faire face aux incertitudes contemporaines. La question dès lors, n’est plus de savoir si l’IA va remplacer l’humain, mais comment mieux penser ensemble. Je plaide ainsi, pour une approche exigeante du renseignement : celle d’un discernement augmenté, critique, réflexif, et capable de naviguer dans l’ambiguïté.
Summary
In critical domains like military intelligence and wartime strategy, where errors can be fatal, it is essential to rethink decision-making processes—examining their biases, blind spots, and the inflated promises of AI. This article revisits key insights from Christian Morel, Karl Weick, and Charles Perrow, alongside a recent experiment at the University of Technology of Compiègne, to highlight the need for a hybrid, reflective cognitive ecology. The real question is no longer whether AI will replace humans, but how to think more wisely together. It calls for an intelligence culture grounded in augmented discernment—critical, adaptive, and attuned to ambiguity.
1. Christian Morel : du bricolage cognitif à la robustesse adaptative
Christian Morel, sociologue des erreurs radicales et persistantes, explore depuis plus de deux décennies, l’inexplicable : comment des individus hautement qualifiés, dans des organisations structurées, prennent des décisions non seulement erronées mais absurdes, c’est-à-dire logiques localement mais déconnectées de la réalité globale. Il met en lumière trois causes majeures : l’excès de logique locale, où les individus respectent des protocoles sans réinterroger leur sens. La fermeture cognitive, accentuée par l’absence de doute, de désaccord, ou de réinterprétation. Et l’effet de groupe, où la conformité produit de l’aveuglement collectif.
Contre cela, Morel plaide pour une vigilance distribuée et une forme de bricolage cognitif, où coexistent deux compétences :
- Une compétence technique et rigoureuse, ancrée dans des savoirs scientifiques ou opérationnels.
- Une compétence souple et créative, faite d’improvisation, d’hybridation, d’usage de connaissances hétérogènes, adaptée à l’inattendu.
Ce bricolage cognitif est le lieu où se fabrique la robustesse : non pas la certitude, mais la capacité à réagir intelligemment à l’incertain. Il s’agit d’un mode d’action adaptatif, non réductible à un algorithme ou à une procédure unique, mais justement fécond dans l’ambiguïté. Dans le contexte du renseignement, cette approche devient essentielle pour articuler fiabilité, discernement et réflexivité.
Christian Morel pointe également, dans le 3ème tome de sa trilogie désormais célèbre (Les décisions absurdes), les pièges relationnels trop souvent négligés dans les organisations devenues des tours de Babel linguistiques et techniques. De nombreux cas viennent illustrer ce parcours, où le talent d’observateur décalé qui fait de Christian Morel un surprenant détecteur d’absurdités programmées se déploie. Son regard met en évidence des situations toujours inattendues, des engrenages toujours inaperçus. Et il se constitue par là un appel au bon sens, cette chose du monde la moins bien partagée. Peut-on en dire autant de l’IA ?
Ainsi, la communication défaillante et l’incompréhension croissante entre les différents acteurs peuvent engendrer des décisions absurdes, même dans des contextes où les acteurs sont parfaitement qualifiés.
2.Karl Weick : le sensemaking et les environnements ambigus
Karl Weick, qui apparait depuis les années 60, comme l’un des penseurs les plus influents dans le champ de l’analyse des organisations, en faisant figure de précurseur, d’esprit original et d’iconoclaste, a mis l’accent dès le début de ses travaux, sur les processus plutôt que sur la structure. Et avec son ouvrage révolutionnaire : Sensemaking in Organizations, publié en 1995, il annonce d’emblée l’émergence d’une vision constructiviste de la réalité organisationnelle. Il prépare déjà le terrain pour des perspectives cognitives. Esprit original par la diversité de ses sources d’inspirations, et jamais borné par les frontières disciplinaires, il insiste dans sa théorie du sensemaking, sur l’idée que la compréhension d’une situation qui ne précède pas l’action, émerge de l’interaction entre les événements, les cadres mentaux et les discours partagés. Et en contexte incertain ou chaotique, ce processus est essentiel, car le sensemaking est rétroactif, parce qu’on ne comprend qu’à posteriori ce que l’on vit. Il est situé, car ancré dans une temporalité, un collectif, et un langage. Et il est fragile, car il dépend des signaux perçus et de la qualité des conversations entre acteurs.
La principale leçon que l’on en tire, est que : sans humains pour poser les bonnes questions, l’information ne fait pas sens. Le bricolage cognitif devient ici un levier pour structurer cette capacité à produire du sens dans des situations floues.
3.Charles Perrow : complexité, fiabilité et accidents normaux
Dans son livre : Normal Accidents, publié en 1984, Charles Perrow, grand théoricien de la contingence structurelle, montre quant à lui, que certaines structures organisationnelles, lorsqu’elles sont complexes et fortement couplées, rendent les accidents non seulement possibles, mais inévitables. C’est la théorie des accidents normaux, qui selon laquelle, les organisations à hauts risques atteignent des niveaux de complexité tels que les accidents en deviennent inéluctables, faisant partie du « fonctionnement normal » du système. Charles Perrow, parle même, d’un « potentiel catastrophique » qui augmente selon la complexité organisationnelle et l’essor des technologies. Pour lui, seules des contraintes règlementaires, voire l’arrêt de certaines activités, peuvent protéger la société de futures catastrophes.
Ces accidents ne sont pas dus à des fautes individuelles, mais à la structure même du système. Il démontre ainsi, que plus il y a d’interdépendances invisibles, plus les marges de manoeuvre se réduisent. Les automatismes, les chaînes techniques, et les routines devenant de potentielles source de fragilité. Les interventions humaines mal synchronisées ou déconnectées amplifiant ainsi les risques.
Dans l’économie de guerre, où les chaînes décisionnelles sont nombreuses, rapides et souvent opaques, la fiabilité passe par une conscience aiguë de ces architectures complexes et de leurs vulnérabilités structurelles.
4.Une expérimentation probante : l’étude de l’UTC sur l’IA dans le renseignement
La lecture du billet posté sur Linkedin, par Olivier Gapenne, Professeur en sciences cognitives à l’UTC, relatant une expérimentation réalisée à l’Université de Technologie de Compiègne (UTC), en collaboration avec le Cabinet Conseil ANTICIPER et l’Institut de Recherche biomédicale des armées, apporte un éclairage supplémentaire, pratique et saisissant, sur l’usage de l’IA, dans la fiabilité du renseignement. L’usage d’une plateforme nommée SIDE, a permis d’immerger une équipe d’analystes dans une situation fictive, Sous le contrôle d’experts du métier, en comparant une analyse menée par l’IA seule, une analyse réalisée par des humains seuls, et une analyse hybride (humains plus IA).
Les résultats sont sans appel : l’IA seule produit des interprétations erronées, les humains seuls sont plus lents mais plus fiables, et le duo humain, plus IA est le plus prometteur, à condition de bien définir les rôles.
On retrouve dans ce jeu de simulations : Le danger des décisions absurdes prises par des systèmes logiques mais non intelligents (Morel). L’incapacité de l’IA à faire du sensemaking (Weick), et le risque systémique accru par l’automatisation non contrôlée (Perrow).
Cette expérimentation montre qu’il ne s’agit pas d’opposer IA et humains, mais de penser une coopération critique, où le bricolage cognitif permet de réarticuler sens, fiabilité et puissance de calcul.
5.Vers une écologie du jugement en contexte de guerre cognitive
L’enseignement à tirer est clair : dans les contextes de renseignement et d’analyse de l’adversaire, il ne s’agit pas de choisir entre humains ou machines, mais de concevoir une écologie cognitive hybride, où l’IA assiste sans supplanter.
Cette écologie repose sur :
- Une division intelligente des tâches, entre extraction et interprétation.
- Des mécanismes de vérifications croisées entre IA et analystes humains.
- Une culture de la méta-réflexivité, capable de s’interroger sur ses propres biais.
D’autre part, le concept des pièges relationnels souligne un aspect essentiel : dans un monde saturé de complexité, la communication et la compréhension mutuelle deviennent primordiales pour éviter les erreurs. Quant à l’IA, sa capacité à détecter et naviguer dans ces pièges relationnels est encore loin d’être comparable à celle des humains, surtout lorsque des biais contextuels, culturels ou cognitifs sont en jeu.
Enfin, la robustesse ne viendra pas de la technologie seule, mais d’une compétence double : scientifique, structurée, mais aussi heuristique et bricolée, comme le proposait déjà Christian Morel. C’est cette capacité à naviguer entre le rationnel et le sensible, entre la donnée et le discernement, qui fera la différence dans les conflits cognitifs contemporains.
Sources principales :
- Morel, C. (2002). Les décisions absurdes, tome 1 : Sociologie des erreurs radicales et persistantes. Gallimard.
- Morel, C. (2012). Les décisions absurdes, tome 2 : Comment les éviter. Gallimard.
- Morel, C. (2021). Les décisions absurdes, tome 3 : L’enfer des règles – Les pièges relationnels. Gallimard.
- Weick, K. E. (1995). Sensemaking in Organizations. Sage.
- Perrow, C. (1984). Normal Accidents: Living with High-Risk Technologies. Princeton University Press.
Copyright ©Férial BENACHOUR-HAIT.13/05/2025.Tous droits réservés