Intégrer l’IA : données, droits et validations

Un assistant IA doit accéder uniquement aux données et aux actions autorisées pour l’utilisateur et l’entreprise concernés. Les droits sont contrôlés par l’application, même lorsque le modèle propose une requête ou une action. Une consigne dans un prompt ne remplace pas un contrôle d’accès.

Le modèle peut aider à interpréter une demande ou à proposer un contenu. Les calculs qui engagent l’entreprise, les autorisations et les validations d’une opération doivent conserver une définition explicite et vérifiable.

Documentez les sources autorisées, les catégories de données, les durées utiles et les identités qui y accèdent. Pour un SaaS multi-tenant, la séparation entre entreprises s’applique également à la recherche de documents et aux outils de l’assistant.

La récupération d’un document doit passer par des règles d’accès contrôlées côté serveur. Ne laissez pas le modèle choisir librement une identité, un identifiant d’entreprise ou une requête sans validation par l’application.

Une action proposée par un modèle peut être représentée par un contrat limité : opération autorisée, paramètres attendus et contraintes. L’application vérifie ce contrat avant tout appel métier.

• Valider les paramètres et rejeter les opérations inconnues.
• Vérifier les droits de l’utilisateur à chaque requête.
• Prévoir une confirmation humaine pour les actions qui l’exigent.
• Traiter les répétitions, les erreurs et les demandes incomplètes.

Le principe de moindre privilège et le refus par défaut sont des repères utiles pour concevoir ces contrôles.

Les évaluations doivent couvrir les demandes légitimes, les données absentes et les accès interdits. Vérifiez qu’un utilisateur ne peut pas récupérer une information d’une autre entreprise, y compris par une instruction contenue dans un document.

Testez aussi les tentatives de contourner une validation, les réponses sans source et les outils indisponibles. Une réponse plausible est insuffisante si elle expose des données ou propose une action non autorisée.

Les journaux doivent permettre d’expliquer une opération en limitant la conservation de données sensibles. Identifiez la source utilisée, l’action proposée, la validation effectuée et le résultat de l’application. Définissez un comportement de repli lorsque l’assistant ne peut pas répondre.

Pixely réalise des intégrations IA autour de vos données et règles métier. Le guide d’évaluation d’un assistant décrit comment préparer les vérifications avant la mise en service.