Les agents IA sont des applications intelligentes qui utilisent des modèles linguistiques pour comprendre ce dont vous avez besoin, puis agir pour vous aider. Ils peuvent répondre à des questions, prendre des décisions et accomplir des tâches automatiquement. Ce qui rend les agents spéciaux, c’est qu’ils se souviennent de votre conversation et peuvent réellement effectuer des actions, pas seulement discuter avec vous comme le ferait un chatbot classique.

Identifier les capacités de l’agent de dépenses
Rappelez-vous l’agent de gestion des dépenses présenté dans l’introduction — un agent IA qui aide les employés à gérer les demandes de remboursement en répondant aux questions sur la politique et en automatisant la soumission des demandes. Examinons les trois capacités essentielles qui rendent cet agent efficace :

• Intégration des connaissances et raisonnement : Utilise un modèle génératif avec la documentation des politiques de l’entreprise pour répondre avec précision aux questions.
• Automatisation des tâches via des fonctions : Exécute des fonctions programmatiques pour soumettre automatiquement les demandes de remboursement.
• Prise de décision intelligente : Oriente les dépenses vers les approbateurs appropriés en fonction des règles métier et des montants des demandes.

Un exemple du scénario de l’agent de dépenses est illustré dans le diagramme suivant.

Le diagramme montre le processus suivant :

Un utilisateur pose une question à l’agent des dépenses concernant les frais pouvant être réclamés.
L’agent des dépenses accepte la question comme une invite.
L’agent utilise un magasin de connaissances contenant des informations sur la politique des dépenses pour contextualiser l’invite.
L’invite contextualisée est soumise au modèle linguistique de l’agent pour générer une réponse.
L’agent génère une demande de remboursement de dépenses au nom de l’utilisateur et la soumet pour être traitée et générer un chèque de paiement.

Explorez les capacités de l’agent de voyage
Dans l’unité précédente, vous avez également appris qu’un agent de réservation de voyages étend ce scénario en une solution multi-agents. Cet agent réserve des vols et des hôtels, puis coordonne automatiquement avec l’agent des dépenses pour soumettre les demandes. Voici comment l’agent de voyage démontre la coordination multi-agents :

• Intégration des services : Réserve des vols et des hôtels via des API de services de voyage externes.
• Communication inter-agents : Initie des demandes de remboursement via l’agent des dépenses avec les reçus appropriés.
• Automatisation de bout en bout : Termine l’ensemble du processus de réservation de voyage et de soumission des dépenses sans intervention manuelle.

Un exemple du scénario multi-agents est illustré dans le diagramme suivant :

Le diagramme montre le processus suivant :

Un utilisateur fournit les détails d’un voyage à venir à un agent de réservation de voyages.
L’agent de réservation de voyages automatise la réservation des billets d’avion et des hôtels.
L’agent de réservation de voyages initie une demande de remboursement des frais de voyage via l’agent des dépenses.
L’agent des dépenses soumet la demande de remboursement pour traitement.

Comprendre les risques de sécurité des agents IA

À mesure que les agents IA deviennent plus autonomes et intégrés aux systèmes d’entreprise, ils introduisent de nouvelles considérations de sécurité qui vont au-delà des menaces applicatives traditionnelles. Comme les agents peuvent accéder à des données sensibles, prendre des décisions et agir de manière indépendante, les développeurs et les organisations doivent concevoir avec la sécurité en tête dès le départ.

Ce que vous pourriez constater	Zone de risque	Ce qui se passe
« L’agent vient de partager des données salariales confidentielles dans un chat client ! »	Fuite de données et exposition de la vie privée	L’agent a accédé à des informations sensibles mais n’avait pas de contrôles appropriés pour empêcher leur divulgation externe.
« Quelqu’un a trompé l’agent pour révéler notre mot de passe de base de données. »	Injection d’invite et attaques par manipulation	Un utilisateur malveillant a conçu une entrée qui a contourné le comportement prévu de l’agent.
« Notre agent de support supprime maintenant des enregistrements clients — mais il ne devrait pas avoir cette permission ! »	Accès non autorisé et élévation de privilèges	Des contrôles d’accès faibles ont permis à l’agent d’effectuer des actions au-delà de son périmètre prévu.
« L’agent a commencé à recommander des produits frauduleux après la mise à jour des données d’entraînement. »	Empoisonnement des données	Quelqu’un a corrompu les données d’entraînement ou contextuelles de l’agent, entraînant des sorties dangereuses.
« Un plugin tiers que nous avons intégré envoie maintenant nos données à un serveur inconnu. »	Vulnérabilités de la chaîne d’approvisionnement	Les dépendances externes ont introduit des failles de sécurité dans le flux de travail de l’agent.
« L’agent a automatiquement traité un remboursement sans vérifier la demande. »	Surdépendance aux actions autonomes	L’agent a exécuté une action sans validation appropriée ni supervision humaine.
« Nous ne pouvons pas déterminer qui a accédé à quelles données et quand. »	Auditabilité et journalisation insuffisantes	Des journaux manquants ou incomplets rendent impossible la traçabilité des actions de l’agent ou la détection des abus.
« Quelqu’un a extrait des informations clients en interrogeant l’agent à plusieurs reprises. »	Inversion de modèle et fuite de sortie	L’attaquant a exploité les sorties du modèle pour déduire des données sensibles à partir de l’entraînement ou des invites.

Protégez vos agents avec les meilleures pratiques de sécurité

Pour réduire ces risques, adoptez une approche « sécurité dès la conception » dès le premier jour. Voici comment créer des agents IA plus sûrs :

• Contrôlez strictement l’accès : Appliquez des contrôles d’accès basés sur les rôles (RBAC) et des permissions minimales — les agents ne doivent accéder qu’à ce qui est absolument nécessaire.
• Validez toutes les entrées : Ajoutez des filtres et des couches de validation des invites pour détecter et bloquer les attaques par injection avant qu’elles n’atteignent votre agent.
• Ajoutez une supervision humaine pour les actions critiques : Isolez ou verrouillez les opérations sensibles derrière des approbations humaines — ne laissez pas les agents prendre seuls des décisions à fort enjeu.
• Suivez tout : Maintenez une journalisation complète et une traçabilité pour toutes les actions des agents — vous devez savoir qui a fait quoi, quand et pourquoi.
• Surveillez votre chaîne d’approvisionnement : Auditez régulièrement les dépendances et intégrations tierces — les plugins et API externes peuvent être des vecteurs d’attaque.
• Maintenez vos modèles en bonne santé : Réentraînez et validez continuellement les modèles pour détecter les dérives ou les tentatives d’empoisonnement des données — la qualité des agents se dégrade sans maintenance.

En intégrant ces pratiques dès le développement, vous pouvez déployer des agents IA de manière sûre et fiable dans des environnements réels.

Prochaine unité : Options pour le développement d’agents