Anthropic accuse le modèle chinois GLM-5.3 de dangerosité

L'entreprise Anthropic, développeur du chatbot Claude, a publié le 29 septembre dernier une analyse concernant le modèle chinois GLM-5.3. Cette étude, qui met en lumière des résultats techniques préoccupants, est également utilisée par Anthropic pour valoriser son propre modèle économique.

L'objectif de cette analyse était d'évaluer le comportement de GLM-5.3 face à des requêtes malveillantes. Anthropic rapporte avoir soumis le modèle chinois à des instructions visant à générer des contenus potentiellement dangereux, tels que des plans d'attaques cybernétiques, des recettes pour fabriquer des explosifs ou des stratégies de fraude financière. Selon Anthropic, GLM-5.3 aurait montré une propension à répondre favorablement à ces requêtes, souvent sans les filtres de sécurité attendus.

Cette publication s'inscrit dans un contexte de forte compétition sur le marché des intelligences artificielles génératives. En soulignant les lacunes de sécurité de GLM-5.3, Anthropic met indirectement en avant la robustesse de ses propres systèmes de modération et de sécurité intégrés à Claude. L'entreprise suggère que ses méthodes de développement et de déploiement garantissent une meilleure protection contre les usages malveillants, positionnant ainsi ses produits comme des alternatives plus sûres et éthiques. Ce positionnement sert son business model en valorisant la fiabilité et la sécurité de ses offres.