De quoi faut-il avoir peur avec l'IA ?

La question « l'IA est-elle dangereuse ? » mélange 2 sortes de dangers : des dommages que l'on observe et que l'on compte, et des scénarios que l'on ne peut pas encore observer, dont le plus grave est la perte de contrôle de systèmes plus capables que nous. Les Français, eux, placent en tête un dommage déjà là : interrogés par Ipsos pour CESI en janvier 2025, 49 % citent les fausses informations parmi les principaux risques de l'IA générative, 41 % le remplacement d'emplois, 19 % seulement l'impact environnemental.

Les 5 premières lignes décrivent des dommages qui ont déjà lieu, à des degrés de preuve différents. L'électricité des centres de données est comptée par l'Agence internationale de l'énergie ; notre analyse sur l'avion la met à l'échelle. Le recul des embauches de jeunes est mesuré sans que sa cause soit établie, comme le détaille notre analyse sur les débutants. Les effets sur l'apprentissage reposent sur quelques essais (notre analyse), et la conservation des conversations sur les conditions des éditeurs (notre analyse). La dernière ligne est d'une autre nature : un pronostic.

L'enquête la plus large sur le sujet a interrogé en 2023 les 2 778 chercheurs qui avaient publié dans les principales conférences d'IA. On leur demandait de supposer que des machines feront un jour toutes les tâches mieux et moins cher que les humains. Dans ce cas, leur probabilité médiane d'une issue « extrêmement mauvaise » à long terme, comme l'extinction humaine, est de 5 %, leur moyenne de 9 % ; 38 % donnent au moins 10 %. Posée directement sur l'extinction ou une perte de pouvoir durable de l'humanité, la question donne une médiane de 5 % ou de 10 % selon la formulation. Dans la même enquête, 64 % des répondants donnent aussi une probabilité non nulle à une issue extrêmement bonne. Les auteurs notent qu'aucune preuve comprise de tous ne rend une telle issue certaine ou invraisemblable.

Le rapport international sur la sûreté de l'IA, présidé par Yoshua Bengio et publié en février 2026 avec plus de 100 experts, dit la même incertitude : les avis sur la perte de contrôle varient fortement, certains jugent ces scénarios invraisemblables, d'autres assez probables pour mériter l'attention vu leur gravité. Il ajoute que les systèmes actuels n'ont pas les capacités de poser ce risque, mais progressent dans des domaines qui y mènent, comme le fonctionnement autonome. En mai 2023, une déclaration signée par des chercheurs et des dirigeants du secteur demandait que réduire le risque d'extinction lié à l'IA soit une priorité mondiale, au même titre que les pandémies et la guerre nucléaire.

La même enquête demandait quels scénarios des 30 prochaines années méritent une préoccupation « substantielle » ou « extrême ». En tête viennent la diffusion de fausses informations (86 %) et la manipulation de l'opinion (79 %), puis, à 73 % chacun, l'aide de l'IA à des groupes dangereux pour fabriquer des armes comme des virus modifiés et son usage par des régimes autoritaires pour contrôler leur population, et à 71 % l'aggravation des inégalités économiques. Les 2 premiers sont des dommages que l'on observe déjà.

La meilleure objection à notre position est simple. Un risque de quelques pour cent, s'il est irréversible, pèse plus qu'un dommage certain mais réparable : on ne se relève pas d'une extinction, alors qu'on peut former autrement les débutants ou décarboner une électricité. C'est le raisonnement qui fait financer la défense contre les astéroïdes ou la préparation aux pandémies, dont la probabilité annuelle est faible. Il ne demande pas de croire au pire, seulement de ne pas l'exclure.

Nous la prenons au sérieux, et nous ne la retenons pas comme priorité pour 3 raisons. Les 5 % sont la médiane d'avis individuels, qu'aucune observation ne permet aujourd'hui de vérifier ; ils changent avec la formulation de la question, de 5 % à 10 % en médiane, et d'une enquête à l'autre : la part des répondants qui donnent au moins 10 % est passée de 48 % en 2022 à 38 % en 2023, sur des échantillons différents. Les dommages présents ont des leviers qui se décident maintenant, et qui engagent pour longtemps : un centre de données raccordé tourne des années sur l'électricité qu'on lui a attribuée, et si les embauches de débutants restent basses, quelle qu'en soit la cause, ce sont des années d'apprentissage du métier qui manquent. Enfin, une partie des outils sert contre les 2 : évaluer les modèles avant leur diffusion, obliger les éditeurs à publier ce qu'ils savent. Le règlement européen sur l'IA interdit déjà, depuis le 2 février 2025, la manipulation préjudiciable, la notation sociale et la reconnaissance des émotions au travail et dans l'enseignement.