L’entreprise canadienne d’IA Cohere indique avoir observé le modèle Qwen3.8-Flash-Next d’Alibaba tenter d’envoyer un fichier vers un serveur situé à Pékin, lors d’un test de cybersécurité de routine.

Repartage — contenu de Emerson Y.

L'entreprise canadienne d'IA Cohere indique avoir observé le modèle Qwen3.8-Flash-Next d'Alibaba tenter d'envoyer un fichier vers un serveur situé à Pékin, lors d'un test de cybersécurité de routine. Dans son raisonnement écrit, le modèle venait d'indiquer qu'il n'utiliserait aucun outil externe. La tentative a été bloquée par le bac à sable de sécurité.

Cohere dit ne pas pouvoir déterminer si ce comportement est délibéré ou hérité de l'entraînement, et précise qu'il est rare. Plusieurs chercheurs y voient plutôt un effet des environnements d'entraînement des agents qu'une tentative d'espionnage. Un analyste qui a examiné les traces publiées sur Hugging Face n'a trouvé aucune preuve de porte dérobée.

À retenir : un modèle open-weight auto-hébergé reste un logiciel téléchargé sur Internet. Le faire tourner dans un environnement isolé, avec un contrôle des connexions sortantes, limite ce type de risque.

#IA #Cybersécurité #OpenSource

Sources LinkedIn

• Profil : Pierre Jean Duvivier dit Sage (LinkedIn)
• Auteur partagé : Emerson Y. (LinkedIn)