Le contrôle fait partie de la solution.

Données et fournisseurs

Avant le déploiement, identifier les données réellement nécessaires et documenter leur parcours.

• Localisation des données et choix des modèles
• Sous-traitants et éventuels transferts internationaux
• Garanties et conditions de non-réutilisation à vérifier contractuellement
• Accord de sous-traitance (DPA) selon les rôles

Accès et protection

Les permissions sont limitées au besoin. Les mesures techniques dépendent de l’architecture retenue et font l’objet de tests.

• Chiffrement des échanges et du stockage à définir
• Comptes, secrets et droits par rôle
• Séparation des dossiers et journalisation proportionnée
• Durées de conservation et suppression

Continuité et réversibilité

Préparer aussi les situations où un fournisseur, un modèle ou un outil ne répond plus.

• Sauvegarde, restauration et tests de reprise
• Plan de continuité et solution de repli humain
• Export des données et réversibilité
• Propriété et conditions d’utilisation des livrables

Qualité et contrôle humain

L’IA peut se tromper, omettre une information ou produire une réponse non sourcée. Les actions autorisées et les critères d’escalade sont définis avant l’usage.

• Tests de cas courants et de cas limites
• Évaluations, revue des sources et suivi des erreurs
• Validation humaine des actions sensibles
• Gestion des incidents, responsabilités et procédure d’arrêt

Santé : un périmètre limité

Les exemples se limitent aux activités administratives et documentaires. Validation humaine, analyse d’impact si nécessaire et hébergement HDS lorsque le contexte l’exige. Aucun diagnostic ni décision médicale autonome.

Juridique : préserver le secret professionnel

Confidentialité, contrôle des fournisseurs, permissions et absence de réutilisation des données doivent être cadrés. Les résultats sont validés par un professionnel. L’hébergement est déterminé après analyse de risques.

Comptabilité et fiduciaire : le professionnel décide

Séparation des dossiers, droits d’accès, traçabilité et chiffrement sont étudiés avec le cabinet. Aucune validation comptable autonome, conseil fiscal autonome, déclaration ou dépôt sans contrôle humain.

Une IA identifiable et un relais humain

Tout futur agent conversationnel ou vocal intégré doit informer la personne qu’elle échange avec une IA, expliquer ses limites, limiter les données demandées et proposer un interlocuteur humain. Ce site utilise un questionnaire à règles explicites, sans conversation avec un modèle IA.