Microsoft est un leader mondial de l’IA responsable, ayant identifié six principes clés qui doivent guider le développement et l’utilisation de l’IA. Ces principes sont :

1. Équité

Les systèmes d’IA doivent traiter toutes les personnes de manière équitable.
Ils doivent éviter les impacts différenciés sur des groupes similaires. Par exemple, dans les domaines médicaux, bancaires ou professionnels, l’IA doit fournir des recommandations cohérentes à des individus ayant des profils comparables.

Techniques utilisées pour détecter les biais et réduire les impacts injustes :

• Revue des données d’entraînement.
• Tests avec des échantillons démographiques équilibrés.
• Débiaisement par adversaire.
• Suivi des performances du modèle selon les segments d’utilisateurs.
• Mécanismes de correction des scores injustes.

Former les modèles sur des données diversifiées et équilibrées favorise l’équité.

2. Fiabilité et sécurité

Les systèmes d’IA doivent fonctionner de manière fiable, sûre et cohérente.
Ils doivent :

• Réagir de manière sécurisée aux conditions imprévues.
• Résister aux manipulations malveillantes.
• Réduire les risques de préjudices physiques, émotionnels ou financiers.

Un système fiable est robuste, précis et prévisible dans des conditions normales.

3. Confidentialité et sécurité

Les systèmes d’IA doivent être sécurisés et respecter la vie privée.
Microsoft et GitHub intègrent ces principes dans leur plan d’IA responsable.

Mesures clés :

• Obtenir le consentement explicite des utilisateurs avant de collecter des données.
• Ne collecter que les données nécessaires.
• Anonymiser les données personnelles (pseudonymisation, agrégation).
• Chiffrer les données sensibles en transit et au repos.

Outils utilisés :

• Modules matériels de sécurité (HSM).
• Coffres-forts sécurisés comme Azure Key Vault.
• Chiffrement en enveloppe (double clé).

Les accès aux données et modèles doivent être strictement contrôlés, audités et limités.

4. Inclusivité

Les systèmes d’IA doivent être accessibles à tous et favoriser l’inclusion.
Cela signifie :

• Fonctionner pour des utilisateurs diversifiés.
• Être utilisables par tous, quelles que soient leurs capacités.
• Être disponibles dans toutes les régions, y compris les pays en développement.
• Intégrer les retours de communautés variées.

Exemples d’IA inclusive :

• Reconnaissance faciale adaptée à toutes les carnations, âges et genres.
• Interfaces compatibles avec les lecteurs d’écran.
• Traduction de dialectes régionaux.
• Équipes de conception diversifiées.

Solutions inclusives :

• Commandes vocales, sous-titres, lecteurs d’écran.
• Adaptation linguistique et culturelle.
• Fonctionnement hors ligne ou avec faible connectivité.

5. Transparence

Les systèmes d’IA doivent être compréhensibles et interprétables.
Les concepteurs doivent :

• Expliquer clairement le fonctionnement des systèmes.
• Justifier les choix de conception.
• Être honnêtes sur les capacités et limites de l’IA.
• Permettre l’audit via des journaux et rapports.

Outils de transparence :

• Documentation des données et modèles.
• Interfaces explicatives.
• Tableaux de bord de test.
• Outils de débogage IA.

La transparence renforce la confiance, la sécurité, l’équité et l’inclusion.

6. Responsabilité

Les personnes doivent être responsables du fonctionnement des systèmes d’IA.
Cela implique :

• Une surveillance continue des performances.
• Une gestion proactive des risques.

Microsoft considère la responsabilité comme un principe fondamental. Les entreprises doivent assumer la responsabilité des systèmes qu’elles déploient.