Agents intelligents et OpenClo: inquiétudes

Face à l’essor de l’intelligence artificielle, la cybersécurité entre dans une nouvelle ère marquée par l’accélération des attaques et l’automatisation des systèmes. Vivien Mura alerte sur les risques émergents tout en soulignant le rôle clé de l’humain dans la boucle de décision.

Interview : Vivien Mura, CTO d'Orange Cyberdefense

En partenariat avec Orange Cyberdefense

Punchlines

• L’IA abaisse la barrière d’entrée de la cybercriminalité.

• La donnée est devenue une monnaie centrale pour les attaquants.
• Les systèmes automatisés deviennent des points de vulnérabilité.
• Le défi est de garder l’humain dans la boucle.

En quoi l’intelligence artificielle change-t-elle concrètement la menace cyber ?

Aujourd’hui, la menace est dominée par une cybercriminalité en forte croissance, avec beaucoup d’extorsions et de fuites de données. L’IA vient ajouter une complexité supplémentaire. Elle permet notamment aux attaquants d’accélérer leurs actions. Le délai entre la découverte d’une vulnérabilité et son exploitation est désormais réduit à quelques jours, voire quelques heures. Cela nous oblige à revoir complètement notre capacité à réagir rapidement.

Quels nouveaux risques l’IA fait-elle peser sur les entreprises ?

Le premier risque, c’est la perte de contrôle des données et des usages. Les employés utilisent facilement des outils d’IA sans toujours les maîtriser. Ensuite, les systèmes d’IA deviennent eux-mêmes des cibles, car ils ont souvent des accès privilégiés. Enfin, l’automatisation des processus via des agents intelligents pose un vrai défi. On s’approche d’un moment où ces systèmes pourront orchestrer des actions sensibles, et la question est de savoir jusqu’où on leur donnera des droits.

L’IA est-elle aussi une solution pour se défendre ?

Oui, c’est même indispensable. Face à l’accélération et au volume des attaques, on doit utiliser la machine pour gagner du temps. L’IA permet d’assister les analystes, par exemple en qualifiant automatiquement des incidents et en proposant des plans de remédiation. Cela crée une collaboration intéressante entre l’humain et la machine, où chacun apporte de la valeur.

Les entreprises sont-elles prêtes à faire face à ces nouveaux enjeux ?

La prise de conscience commence, mais la maturité reste limitée. Les entreprises comprennent qu’il y a des risques, mais elles ne les maîtrisent pas encore totalement. Il faut continuer à sensibiliser, à développer les compétences et à intégrer la sécurité dès la conception. Les fondamentaux restent valables, mais ils doivent être adaptés à cette nouvelle réalité technologique.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.