L’intelligence artificielle générative transforme de nombreux secteurs d’activité. Les entreprises doivent s’adapter pour créer et déployer des outils d’IA sûrs et fiables, tout en tenant compte de l’évolution continue de la technologie. Les dirigeants sont confrontés à des risques tels que la génération d’informations erronées ou nuisibles, la fuite de données sensibles, les cyberattaques et les violations des lois sur la protection des données. Souvent, ils manquent des ressources nécessaires pour gérer ces risques.

« Les organisations attachent une grande importance à la sécurité, à la qualité ainsi qu’à la performance de leurs applications d’IA », affirme Sarah Bird, Chief Product Officer of Responsible AI chez Microsoft. « Mais beaucoup ne savent pas quoi faire pour rendre leur IA digne de confiance, ou n’ont pas les outils adéquats pour cela. »

Microsoft souhaite combler cette lacune en proposant des outils et services conçus pour aider les développeurs à concevoir et à déployer des systèmes d’IA fiables, axés sur la sécurité, la protection et la confidentialité des données. Ces outils ont déjà été utiles à de nombreuses organisations dans l’introduction de technologies dans des environnements complexes et fortement réglementés : qu’il s’agisse d’un assistant IA résumant des dossiers médicaux ou d’un chatbot aidant à des questions fiscales.

Cette approche permet également aux développeurs de travailler plus efficacement, comme le souligne Mehrnoosh Sameki, responsable produit principal de l’IA responsable chez Microsoft.

Ce contenu fait partie de la série “Building AI Responsibly” de Microsoft, qui met en lumière les principaux défis liés à la mise en œuvre de l’IA et présente comment Microsoft aborde ces défis à travers des pratiques et des outils d’IA responsables.

« Il est très facile de créer une première version d’une application d’IA générative. Cependant, avant qu’elle ne soit mise en ligne, le processus se ralentit considérablement, car les gens craignent les risques potentiels ou ne sont pas sûrs de se conformer aux exigences et régulations », explique Sameki. « Ces outils accélèrent la mise en œuvre et instaurent la confiance tout au long des phases de test et de sécurisation de l’application. »

Les outils s’inscrivent dans une approche globale que Microsoft propose pour développer une IA de manière responsable. Cette méthode repose sur l’expérience interne en matière d’identification, de mesure, de gestion et de surveillance des risques associés aux produits Microsoft, tout en veillant à ce que chaque étape soit respectée.

Lorsque l’IA générative a fait son apparition, Microsoft a rassemblé des experts en sécurité, en protection, en équité et d’autres domaines pour identifier les risques fondamentaux et partager la documentation. Ce processus se poursuit aujourd’hui face à l’émergence de nouvelles technologies. Sur cette base, Microsoft a développé une approche complète pour réduire les risques, ainsi que des outils pour la mettre en pratique.

Cette initiative comprend la collaboration avec une équipe d’experts dédiée à l’IA (AI Red Team) qui identifie de nouveaux risques tels que les hallucinations et les attaques par saisie de requêtes. Microsoft emploie également des chercheurs spécialisés dans la détection des deepfakes, ainsi que des ingénieurs qui mettent en œuvre et affinent les mesures de sécurité.

Les outils disponibles incluent le cadre open-source PyRIT pour les équipes d’évaluation des risques, des évaluations automatisées dans Azure AI Foundry pour une surveillance continue des risques, ainsi qu’Azure AI Content Safety pour la détection et le blocage d’entrées et de sorties nuisibles.

Microsoft publie également des meilleures pratiques pour aider au choix du bon modèle pour une application, à la conception des messages système et à l’optimisation de l’expérience utilisateur, contribuant ainsi à la constitution d’un système de sécurité robuste pour l’IA.

« Nous adoptons une approche de défense en profondeur avec plusieurs niveaux de protection contre différents types de risques, fournissant aux utilisateurs tous les éléments nécessaires pour mener à bien cette tâche », ajoute Bird.

Pour un cabinet de conseil fiscal ayant développé un chatbot d’orientation, la capacité de corriger les hallucinations d’IA s’est révélée particulièrement cruciale pour fournir des informations précises, comme l’explique Sameki. Ce cabinet a également renforcé la sécurité de son chatbot en intégrant des filtres contre les attaques par saisie de requêtes, les contenus nuisibles et les données personnelles.

« La fiabilité de nos propres systèmes d’IA est essentielle pour nous. C’est pourquoi nous voulons habiliter nos clients à faire de même », déclare Sarah Bird.

Sameki ajoute que l’organisation de santé ayant conçu l’assistant de résumé était particulièrement intéressée par des outils visant à améliorer la précision et à créer un filtre personnalisé afin de garantir qu’aucune information importante ne soit omise.

« Nos outils servent de moyens de débogage pour permettre aux entreprises d’améliorer leurs applications », déclare Sameki. « Les deux entreprises ont ainsi pu déployer leurs applications plus rapidement et avec une confiance accrue. »

Microsoft aide également les organisations à améliorer leur gouvernance en matière d’IA. Ce système suit et fournit des détails clés sur le développement, la mise en œuvre et le fonctionnement d’une application ou d’un modèle. Disponible en preview privée sur Azure AI Foundry, les rapports d’IA offrent aux entreprises une plateforme unifiée pour la collaboration, le respect des réglementations croissantes sur l’IA, ainsi que la documentation des informations d’évaluation, des risques potentiels et leur atténuation.

« Il est difficile de s’assurer que tous les éléments fonctionnent correctement sans une gouvernance adéquate », explique Bird. « Nous garantissons que les systèmes d’IA de Microsoft sont conformes, et nous partageons des meilleures pratiques, des outils et des technologies qui aident les clients dans leur démarche de conformité. »

Cette initiative s’inscrit dans la mission de Microsoft d’aider les individus à tirer le meilleur parti de l’IA et à partager des idées qui simplifient le travail pour tous.

Découvrez-en plus sur les engagements de Microsoft en matière d’IA responsable.

---

Une illustration de Makeshift Studios / Rocio Galarza
Article original rédigé par : Vanessa Ho