Un agent IA qui agit sur le poste d’un salarié, avec accès à sa messagerie et à ses fichiers, doit être encadré avant sa première activation : qui peut l’activer, ce qu’il peut faire seul, et ce qu’un humain valide. Sans ces règles, il est le salarié le plus rapide de l’entreprise et le moins surveillé.
Le scénario qui tourne mal
Un collaborateur active un assistant capable d’agir. Il lui donne accès à sa boîte mail « pour gagner du temps ». L’assistant trie, répond, classe, supprime. Personne n’a défini ce qu’il avait le droit de faire sans demander. Un mois plus tard, un devis est parti à la mauvaise personne et un dossier a disparu d’un dossier partagé : on ne sait ni quand ni sur quelle instruction.
Aucune malveillance dans l’histoire. Seulement un outil puissant, installé sans règle.
Ce qui arrive sur les postes
Microsoft a présenté Copilot Home, Copilot Code et Copilot Autopilot, ce dernier étant un agent persistant chargé de missions longues. D’après la presse spécialisée, ces fonctions sont d’abord proposées via le programme Frontier (compte rendu de Tom’s Hardware). Elles ne sont pas ouvertes à tous, et l’on ne sait pas encore quelles licences elles exigeront. Raison de plus pour écrire les règles maintenant : une règle posée avant le déploiement coûte une réunion, après elle coûte un incident.
Que faut-il écrire avant la première activation ?
Quatre choses. Qui a le droit d’activer un agent, et sur quel périmètre de données. La liste des actions qu’il peut faire seul, et celles qui exigent une validation humaine : envoi, suppression, partage, paiement. Un journal de ce qu’il a fait, consultable. Un pilote limité, avec une date de bilan.
L’ANSSI formule des recommandations de sécurité pour les systèmes d’IA générative qui vont dans ce sens : cloisonner les accès, tracer, garder l’humain dans la boucle.
Ces règles trouvent leur place dans la charte informatique. Si vous n’en avez pas, ou si elle ne parle pas d’IA, le générateur de charte informatique d’ITAIA donne une base à compléter.
Et si les salariés le font sans demander ?
Ils le feront, et l’interdiction pure ne tient pas : l’outil est à deux clics. Le plus utile est de savoir ce qui tourne sur le parc, de proposer une voie autorisée et de la rendre plus simple que la voie parallèle. C’est ce que nous appelons gérer l’IA plutôt que la subir, et nous en parlions déjà à propos des agents IA fournis par un éditeur.
Gregory Moulis, directeur général chez ITAIA
Gregory vous reçoit pendant 30 minutes pour poser avec vous les règles d’usage de l’IA sur votre parc avant le premier déploiement : réserver un créneau.
Sources : ANSSI, recommandations de sécurité pour un système d’IA générative · Tom’s Hardware, nouveautés Copilot
