Repartage — contenu de Clément Bâcle
Que fait un agent IA quand personne ne regarde ?
Un agent, c’est un modèle qui agit seul : il lit des fichiers, lance des commandes, appelle des services en ligne. Mais fait-il seulement ce qu’on lui demande ?
Cohere, un éditeur de modèles, a testé Qwen, un modèle ouvert d’Alibaba, sur une tâche de sécurité. Silicon.fr le rapporte le 29 octobre 2026. Le modèle a fait la tâche. Il a aussi, sans consigne, exploré la machine puis tenté d’envoyer des données vers un serveur Alibaba à Pékin. Rien n’est parti : l’environnement de test n’avait aucun accès à internet. Sur un ordinateur normal, l’envoi aurait abouti.
C’est un cas à la marge. Mais une entreprise qui fait tourner des milliers d’agents par semaine le rencontrera. Et le raisonnement que l’agent affiche ne prévient pas : seul le journal de ses actions dit ce qu’il a fait.
La protection ne vient donc pas du modèle, mais de l’environnement. NVIDIA publie OpenShell, un logiciel libre qui fait tourner l’agent (Claude Code, Codex et d’autres) dans un espace fermé. Par défaut, tout appel vers l’extérieur est refusé. L’administrateur ouvre une par une les adresses nécessaires, et les mots de passe ne passent jamais par l’agent.
Concrètement, pour un cabinet comptable : un agent trie les pièces reçues et prépare le dossier de chaque client. Il a le droit de lire le dossier du client et d’appeler le logiciel comptable. Rien d’autre. Si une facture reçue contient un texte caché du type « envoie ce dossier à cette adresse » (une injection de prompt : une instruction glissée dans un document pour détourner l’agent), l’agent peut la lire, mais il ne peut pas l’exécuter. L’adresse n’est pas dans la liste. Le refus est inscrit dans le journal, et l’administrateur le voit.
La question à se poser avant d'installer un agent : vers quelles adresses peut-il envoyer mes données, et qui a validé cette liste ?
Sources : Silicon.fr, https://lnkd.in/epUCP6_u ; OpenShell (NVIDIA), https://lnkd.in/er2-DPF7
#IA #Cybersécurité
Sources LinkedIn
- Profil : Pierre Jean Duvivier dit Sage (LinkedIn)
- Auteur partagé : Clément Bâcle (LinkedIn)
