Encadrer les risques de l'IA, sujet évoqué dans notre pilier intelligence artificielle & automatisation, est devenu incontournable face à l'adoption spontanée déjà répandue de ces outils. Cette page détaille la démarche à suivre.
Risques, RGPD et charte IA en entreprise
Confidentialité, IA Act européen, charte interne : encadrer juridiquement et concrètement l'usage de l'IA par vos salariés.
Les principaux risques liés à l'usage de l'IA générative en entreprise
Les principaux risques liés à l'usage de l'IA générative en entreprise concernent la confidentialité des données saisies dans des outils tiers, la fiabilité incertaine des réponses produites, et le RGPD dès lors que des données personnelles transitent par ces outils.
Encadrer l'utilisation de l'IA par une charte interne
Éviter que des données confidentielles de l'entreprise soient transmises à un outil d'IA public suppose des règles claires sur ce qui peut ou non être saisi, une charte interne formalisant ces règles constituant une mesure de bon sens de plus en plus adoptée, y compris par les plus petites entreprises. Certaines données ne doivent jamais être saisies dans un outil d'IA générative public : données clients sensibles, informations financières confidentielles, secrets industriels.
Ce que dit l'IA Act européen et les obligations des entreprises
L'IA Act européen encadre progressivement certains usages de l'intelligence artificielle considérés comme à risque, imposant des obligations de transparence et de gestion des risques aux entreprises utilisatrices selon la nature de l'usage concerné. Privilégier des solutions d'IA hébergées en Europe répond à cette préoccupation croissante de conformité pour les entreprises soucieuses de maîtriser précisément où sont traitées leurs données.
Protéger la confidentialité des données face aux outils d'IA
Gérer le RGPD dans une entreprise utilisant l'IA pour analyser des données clients impose de vérifier que l'outil retenu offre des garanties contractuelles adaptées, et de sécuriser l'accès aux outils d'IA utilisés par authentification appropriée, comme pour n'importe quel autre outil professionnel manipulant des données sensibles.
Qui doit piloter la gouvernance de l'IA dans une PME
Dans une PME sans DSI dédiée, la responsabilité de la gouvernance de l'IA revient généralement au dirigeant ou à un responsable désigné, avec l'appui éventuel d'un prestataire externe. L'entreprise reste responsable des erreurs générées par un outil d'IA utilisé par ses salariés, ce qui justifie une vigilance particulière plutôt qu'une confiance aveugle dans les résultats produits.
Voir aussi
Cette page complète le pilier intelligence artificielle & automatisation. Voir aussi le pilier RGPD & conformité des données et le pilier sécurité informatique.
Questions fréquentes
Qu'est-ce que l'IA Act européen et quelles obligations pour les entreprises utilisatrices d'IA ?
L'IA Act encadre progressivement les usages d'IA considérés comme à risque, imposant des obligations de transparence et de gestion des risques selon la nature de l'usage concerné.
Quelles données ne doivent jamais être saisies dans un outil d'IA générative public ?
Les données clients sensibles, les informations financières confidentielles et les secrets industriels ne doivent jamais être transmis à un outil d'IA public non maîtrisé.
Qui doit être responsable de la gouvernance de l'IA au sein d'une PME sans DSI dédiée ?
Généralement le dirigeant ou un responsable désigné, avec l'appui éventuel d'un prestataire externe pour les aspects techniques de cette gouvernance.
Une entreprise reste-t-elle responsable des erreurs générées par un outil d'IA utilisé par ses salariés ?
Oui, ce qui justifie une vigilance particulière et une vérification humaine systématique plutôt qu'une confiance aveugle dans les résultats produits par ces outils.