Concernant l'intelligence Artificielle

Le 30 novembre 2022, le lancement public de l’intelligence artificielle (IA) Chat-GPT a démocratisé l’usage des Grands modèles de langage (LLM) à travers les agents conversationnels.

Je pense que nous sommes nombreux et nombreuses à avoir compris qu’il y aurait un avant et un après, et que le monde de la sécurité informatique ne serait pas épargné. J’étais assez enthousiasmé par l’ère de progrès dont nous voyions l’aube.

Pourtant, quatre ans plus tard, le soleil est toujours bas à l’horizon, et j’en viens à me demander si ce que j’ai pris pour une aube n’est pas plutôt un crépuscule…

Qu’est-ce que l’on désigne par Intelligence Artificielle ?

#

Il s’agit de la première problématique à laquelle j’ai été confronté dans mes précédentes expériences. Le mot-clé “IA” était dans la bouche de tous les commerciaux qui souhaitaient vendre des solutions innovantes. Quand on demandait d’ouvrir le capot de la bête, le ton devenait moins convaincu, peut-être par peur de révéler de simples “if… else…” qui donnaient une impression d’intelligence.

Le champ du terme “IA” est vaste, et tout le monde n’est visiblement pas d’accord sur une définition. Mais comme il est important de définir les termes pour partir sur une base commune dans cet article, je dirais que…

Quel est l’impact de l’IA en cybersécurité ?

#

Les professionnels de la cybersécurité ne jouent pas à armes égales avec les hackers. Je les imaginais murmurer devant leur écran cette phrase célèbre : “We only need to be lucky one time. You need to be lucky all the time”. Les statistiques ne sont pas vraiment de notre côté donc.

Puis, il y a ce paradigme qui veut que les entreprises privilégient la performance (qui rapporte) à la sécurité (qui coûte). De fait, l’intelligence artificielle a commencé à émerger dans les usages professionnels avant que les RSSI et les experts et expertes ne puissent définir et appliquer des politiques adéquates.

L’ANSSI a parfaitement résumé la situation dans l’un de ses sous-titre de son Panorama de la cybermenace 2025¹

“Intelligence artificielle : une évolution technologique porteuse d’opportunités saisie par les attaquants”

Trois problèmes majeurs pour la cybersécurité sont apparus² :

• Les hackers ont commencé à viser les services d’IA générative des entreprises pour compromettre leur base d’entrainement et exfiltrer des données condifentielles
• Ils se sont aidés de l’IA générative pour concevoir des cyberattaques avancées
• Ils ont délégué les cyberattaques de bas-niveau à des agents IA pour saturer les systèmes de défense des entreprises

En réponse à ses attaques, la défense a développé de nouvelles technologies. L’analyse comportementale en est un exemple.

À l’aide de l’intelligence artificielle, les solutions de ce type sont capables de détecter les comportements déviants à la suite d’une période d’apprentissage.

Cela a commencé avec les utilisateurs des PC, téléphones et serveurs (Endpoint Detection and Response, EDR), puis la surveillance du réseau (Network Detection and Response, NDR) et désormais l’analyse de toutes ces données simultanées auxquelles s’ajoutent les interactions avec le cloud (Extented Detection and Response, XDR).

En résumé, l’arrivée de l’IA a apporté un défi supplémentaire à la sécurité informatique dont elle aurait pu se dispenser, comme en témoigne les perspectives de cyberattaques avant l’avènement des IA génératives :

En outre, les cyberattaques visent essentiellement les administrations publiques³, justement celles qui n’ont pas nécessairement les moyens de se payer des infrastructures de défenses avancées.

De mon point de vue de consultant donc, le bilan est donc plutôt négatif.

Quel est son impact sur le monde ?

#

Je ne vais pas y aller par quatre chemins, l’arrivée de l’IA générative est aujourd’hui un désastre écologique, sociologique et anthropologique. Ce n’est pas moi qui le dit, mais une centaine d’ONG⁴, d’horizons différents.

Je vais bien sûr passer sur chacun de ces trois points, et les mettre en perspective avec les promesses annoncées lors de sa démocratisation. Quant au paralèlle avec la définition de “progrès” donnée plus haut, je vous en laisse seul juge.

Les conséquences écologiques

#

L’impact écologique vient toucher principalement cinq domaines :

• l’émission de CO2⁵
• La consommation d’électricité⁶
• L’apropriation des métaux rares⁷
• La consommation d’eau⁸
• L’artificialisation des espaces⁹ pour les centres de données

Si l’intelligence artificielle veut pouvoir “directement contribuer à réduire l’empreinte environnementale”, encore faut-il qu’elle compense sa propre consommation, ce qui aujourd’hui est malheureusement loin d’être le cas.

Les conséquences sociales

#

Au minimum 115 000 employés ont été licenciés explicitement à cause de l’IA dans 150 entreprises différentes dans le monde, rien qu’en cette mi-année 2026¹⁰.

Ce chiffre est largement sous-estimé puisqu’il ne fait apparaître que les licenciements publiquement communiqués.

Néanmoins, l’IA a bien créé de nouveaux métiers jusque là jamais vu, et notamment trois pour permettre leur entrainement¹¹ :

• L’entraîneur : Les salariés posent des étiquettes sur du contenu pour apprendre à l’IA à différencier les éléments soumis (“ceci est une voiture”, “ceci est un soleil”… etc)
• Le vérificateur : Les employés s’assurent que le contenu identifié par l’IA est bien celui convenu, sinon il la corrige.
• L’imitateur : Pour les entreprises dans l’incapacité de payer ou faire tourner des Grands Modèles de Langage, il est demandé aux salariés derrière le chat-bot de singer l’IA pour fournir un service équivalent au client. Nous en sommes donc arrivé à un stade où des être-humains imitent l’IA pour qu’elle puisse imiter d’êtres-humains…

Ce genre de tâches répétitives au contenu souvent choquant augmentent fortement les risques psychosociaux du personnel. “J’ai vu des centaines de décapitations” confie un travailleur¹². L’exposition au contenu pornographique est elle aussi importante¹³, car pour qu’une IA dise si un contenu est approprié ou non, pour censurer par exemple de la pédopornographie, il faut bien qu’elle ait été entraînée par quelqu’un sur ce type de contenu.

Mais pour quel salaire ?

Un rapport de l’European Microworkers Communication and Outreach Initiative réalisé dans neuf pays européens différents donne le chiffre suivant : 75% des employés concernés touchent moins de 50€ par mois.¹⁴

Les conséquences anthropologiques

#

L’IA est en train de transformer l’être humain dans sa dimension cognitive. Les chercheurs du MIT ont d’ailleurs introduit le concept de « dette cognitive » qui désigne le coût croissant pour nos facultés intellectuelles à réaliser par nous-mêmes les tâches que nous demandons habituellement à l’IA.¹⁵

Une autre étude a mis en évidence une forte corrélation entre l’utilisation fréquente de l’IA et la baisse significative des performances en matière de pensée critique.¹⁶

Ainsi, les recherches naissantes dans le domaine tendent à montrer que l’IA remplace notre mode de pensée plutôt qu’elle ne l’enrichit, et ce quel que soit notre groupe démographique.

Conclusion

#

L’Intelligence Artificielle a eu quatre ans pour faire ses preuves. Le tableau, autant sur la cybersécurité que dans les autres domaines, est pessimiste.

Elle devait être la clé pour sortir de la crise climatique, mais elle a approfondie la plaie. Elle devait solutionner nos métiers aliénants et nous faire accéder à des postes supérieurs, mais nous avons récolté licenciements et nouveaux emplois aux conditions psychologiques abominables. Elle devait nous dégager du temps dans notre quotidien pour que nous puissions créer et rêver, mais elle écrit, peint et chante à notre place.