Passer au contenu principal

Eco Austral – Actualités économiques et entreprises de l'Océan Indien

Comment l’intelligence artificielle fait grandir la « cyber insécurité »
Réunion

Comment l’intelligence artificielle fait grandir la « cyber insécurité »Abonné 

Les cyber-délinquants se sont bien sûr emparés de l’intelligence artificielle et un usage non maîtrisé des chatbots par les salariés peut avoir des conséquences désastreuses pour leur entreprise. Mais l’IA permet aussi de contrer la menace.

« Les attaques étaient déjà automatisées, les hackers vont de plus en plus utiliser l’IA, les campagnes d’hameçonnage peuvent devenir plus personnalisées, sans demander beaucoup de travail humain », souligne Quentin Biguenet, fondateur d’Absec. La puissance des nouveaux outils numériques est déjà mise à profit par les cyber-délinquants qui y trouvent des possibilités infinies pour sophistiquer leurs pratiques.

« Avant, pour développer un logiciel malveillant, il fallait avoir des compétences pointues en codage, en réseau, ou acheter des kits sur le Dark Web, commente Vincent Carpier, président du Clusir Réunion Océan Indien. Aujourd’hui, il suffit de se connecter à une IA spécialisée. Mais les éditeurs utilisent aussi l’intelligence artificielle pour contrer la menace. Des machines à base d’IA peuvent par exemple analyser en permanence l’activité de votre ordinateur et faire re- monter des alertes en cas d’utilisation inhabituelle. »

Julien Talbot (Ergonomia) a pour sa part créé une start-up incubée à la Technopole depuis quelques semaines pour développer une solution d’utilisation des grands LLM (ChatGPT, Claude, Gemini…) en sécurité.

Les risques de « l’IA en cachette »

« L’objectif est de permettre aux utilisateurs de continuer à utiliser les grosses IA américaines, tout en filtrant les données sensibles et confidentielles qui partent du PC de l’utilisateur. L’application détecte les données sensibles dans le prompt avant l’envoi. Cette anonymisation est faite directement sur l’ordinateur, sans passer par un serveur. Notre IA comprend le prompt. Si votre prénom est primordial pour obtenir un bon résultat, il sera conservé. On peut doser : certaines entreprises ne considèrent pas leurs chiffrages comme des données sensibles, donc on anonymise tout le reste — numéro de dossier, nom de la société, prénom — sauf les chiffres. L’utilisateur peut décider quoi filtrer et quoi garder. Il reprend la main. » L’outil, pour l’instant baptisé Paranoia, est déjà entre les mains de bêta-testeurs.

Au-delà de doper la dangerosité potentielle des cyber-attaques, les LLM sont de véritables aspirateurs à données, conservant précieusement tout ce que leur fournissent leurs utilisateurs qui veulent obtenir des réponses à leurs questions. Un nouveau terme fait trembler les dirigeants d’entreprises : « Shadow IA ». Il désigne l’utilisation des outils d’intelligence générative les plus courants par les salariés, dans leur entreprise, pour travailler plus efficacement sans en référer à leur hiérarchie.

Fuites de données

L’intention est louable, mais les conséquences potentiellement dévastatrices. Les outils américains, les plus répandus, peuvent utiliser ces données – qui concernent directement l’entreprise ou ses clients – pour répondre à d’autres sollicitations, elles peuvent également être revendues, exposées sur la place publique…

« La Shadow IA se développe quand les entreprises n’ont pas mis en place d’actions de sensibilisation à la confidentialité, fait remarquer Anaïs Séry, fondatrice de ManAI. Des employeurs peuvent aussi être tentés de se protéger en interdisant l’usage de ces outils, mais des salariés risquent de continuer à les utiliser avec leur propre matériel, accroissant le danger de fuites de données. » Les entreprises commencent à prendre conscience de la menace et à lancer des actions de formation aux risques de l’IA. « L’appropriation des outils de l’IA de manière personnelle peut aussi avoir de bons côtés, tempère Anaïs Séry. Les gains de productivités sont tangibles et mesurables chez les salariés qui les utilisent. Si un espace de communication est créé sur le sujet au sein de l’entreprise, les effets peuvent être vertueux. »

Une tendance actuelle est à l’utilisation d’IA non-américaines, plus éthiques à l’image de Mistral en France, et à l’hébergement de ses données dans des centres de données « souverains », situés sur son territoire. Mais en termes de puissance et de capacité, les outils européens ont quelques longueurs de retard à rattraper.

[bsa_pro_ad_space id=2 crop=no]
[bsa_pro_ad_space id=10 crop=no]