Évaluation des risques et de la responsabilité liés à l'IA

Identification du système

Renseignements d'identification de base aux fins d'approvisionnement et d'examen réglementaire.

Classification des risques

Évaluation par rapport à la Directive sur la prise de décisions automatisée du Canada et aux cadres équivalents de gouvernance institutionnelle de l'IA.

La classification de Niveau I est étayée par quatre constats indépendants, chacun plaçant indépendamment le système au niveau d'impact le plus bas :

• Aucune décision administrative n'est prise ou appuyée COMPAiSS est un outil de navigation de l'information. Il oriente les utilisateurs vers des sources institutionnelles vérifiées. Aucune détermination d'admissibilité, aucun classement, aucune notation, aucune priorisation ni aucune décision affectant des droits, des avantages ou des attributions n'est prise par le système à quelque moment que ce soit. Toute l'autorité décisionnelle demeure entre les mains de l'institution et de l'utilisateur.
• Aucun renseignement personnel n'est collecté, stocké ou traité Les requêtes sont sans état. Le système ne reçoit que des saisies textuelles. Aucun nom, numéro d'identification, information de compte ou renseignement permettant d'identifier une personne n'est collecté ni conservé. Rien ne persiste après la fin de la transaction. Une évaluation des facteurs relatifs à la vie privée n'est pas requise.
• Tous les impacts sont immédiatement et entièrement réversibles Le système fournit uniquement de l'information. Aucune action n'est prise au nom de l'utilisateur. Un utilisateur qui reçoit une réponse inexacte ou peu utile conserve la pleine capacité de contacter directement le personnel institutionnel par les voies existantes à tout moment. Aucun droit, avantage ou attribution n'est affecté par la production du système.
• Le portail d'exécution pré-inférence empêche la génération de réponses au-delà des sources institutionnelles autorisées La validation des sources et l'application du périmètre ont lieu avant que l'IA ne génère toute réponse. COMPAiSS ne génère pas de réponses au-delà des sources institutionnelles autorisées, ne peut pas citer des sources non autorisées et ne peut pas produire de contenu hors de l'ensemble de sources institutionnelles autorisées.

Gouvernance des données

Ce que le système collecte, traite et conserve — et ce qu'il ne fait pas.

Des tendances d'utilisation agrégées et anonymisées — par exemple, les domaines thématiques générant un volume élevé de requêtes — peuvent être mises à la disposition de l'institution aux fins de planification des services. Cette fonction analytique opère exclusivement sur des données agrégées dépersonnalisées et ne peut pas être retracée à un utilisateur individuel.

Responsabilité architecturale

Comment le système applique le périmètre, maintient les pistes d'audit et soutient la surveillance institutionnelle.

COMPAiSS repose sur une architecture d'inférence à exécution contrôlée. L'autorisation et la validation du périmètre ont lieu avant toute génération par l'IA. Si aucune source institutionnelle autorisée n'existe pour une requête, le modèle d'IA ne s'exécute pas. Il s'agit de la propriété fondamentale de responsabilité architecturale — et non d'un paramètre de configuration pouvant être contourné au niveau de l'utilisateur.

• Portail d'exécution pré-inférence Chaque requête est validée par rapport à la liste de sources autorisées de l'institution avant toute génération par l'IA. Les requêtes hors périmètre sont rejetées au portail. Le modèle d'IA ne s'exécute que lorsque les conditions d'autorisation sont satisfaites. Cette contrainte est architecturale — elle ne peut être contournée par une invite, une reformulation ou une manipulation.
• Gouvernance de la liste de sources autorisées (liste verte) L'institution conserve la pleine autorité pour examiner, approuver et modifier la liste de sources autorisées à tout moment. COMPAiSS ne peut accéder à aucune page, document ou source qui ne figure pas sur la liste approuvée. Chaque réponse est traçable jusqu'à des sources autorisées spécifiques. Voir Contrôle de la liste verte, tableau de bord et audit continu des sources pour comprendre comment cela s'étend à travers les départements et sert de preuve documentaire institutionnelle pour les achats et les audits.
• Piste d'audit et journalisation Les journaux système consignent chaque requête reçue, le résultat d'autorisation du portail et les sources analysées pour chaque transaction. Chaque réponse est traçable jusqu'à des pages de sources autorisées spécifiques. Les journaux identifient la version de la plateforme, la version de la configuration de gouvernance et la version du modèle d'IA utilisées pour chaque transaction.
• Contrôle des versions et gestion des changements Toutes les modifications apportées à la configuration de gouvernance, à la liste de sources autorisées, à l'architecture des invites et à l'infrastructure de la plateforme sont consignées dans un dépôt à contrôle de version avec horodatages et enregistrements des changements. L'institution conserve un historique complet de toutes les modifications de configuration de gouvernance.
• Audit d'intégrité de la liste verte Un serveur d'audit dédié vérifie chaque URL de la liste de sources autorisées d'une institution par rapport au Web en direct selon un cycle de maintenance régulier, classant chaque entrée comme active, redirigée, brisée ou inaccessible. Les URL brisées ou déplacées sont corrigées et la liste corrigée est déployée automatiquement via le dépôt à contrôle de version. Voir Intégrité et maintenance de la liste verte pour le processus d'audit complet.
• Aucun apprentissage continu à partir des interactions des utilisateurs Le système n'apprend pas des requêtes individuelles des utilisateurs. Aucune donnée d'interaction n'est réinjectée dans quelque modèle que ce soit. Le modèle d'IA s'améliore uniquement lorsqu'OpenAI met à jour ses modèles sous-jacents — un processus entièrement externe aux données et interactions institutionnelles.

Registre des risques

Risques identifiés par catégorie avec les mesures d'atténuation architecturales et opérationnelles.

Aucun risque éthique, financier, lié à la vie privée ou juridique susceptible d'entraver le déploiement institutionnel n'a été identifié. Les risques suivants ont été identifiés et atténués :

Risques techniques

• Disponibilité de l'API d'inférence IA Atténuation : La gestion standard des erreurs et la messagerie de repli orientent les utilisateurs vers le personnel institutionnel lorsque la couche d'inférence est indisponible. Le système se dégrade de façon sécuritaire — il ne produit pas de résultats peu fiables lorsque l'API est dégradée.
• Contenu de sources autorisées devenant obsolète Atténuation : Maintenance active de la liste verte selon un cycle d'audit régulier. L'institution signale tout changement de contenu source. Les pages obsolètes ou supprimées sont retirées de la liste autorisée, empêchant le système de citer du contenu qui ne reflète plus la politique en vigueur.
• URL source indisponible au moment d'une requête Atténuation : Si une source est inaccessible au moment d'une requête, le système puise dans d'autres sources autorisées qui ont répondu, ou retourne une réponse d'échec sécuritaire orientant l'utilisateur vers le personnel institutionnel. Il ne peut pas fabriquer de contenu à partir d'une source qu'il ne peut pas atteindre.

Risques de gouvernance

• Dépassement du périmètre au-delà du contenu autorisé Atténuation : Architecturale — le portail d'exécution pré-inférence ne peut pas être contourné au niveau de l'utilisateur. Les requêtes hors périmètre sont rejetées dès la première tentative et à chaque tentative subséquente, quelle que soit leur formulation ou reformulation.
• Manipulation adversariale des invites Atténuation : Le filtrage des saisies bloque les saisies excessivement longues, le texte indésirable et les tentatives d'invites adversariales avant qu'elles n'atteignent le portail. Le portail lui-même applique les limites du périmètre de façon déterministe. Les tentatives de manipulation des instructions de l'IA sont bloquées avant d'atteindre le modèle.

Risques d'équité

• Obstacles à l'accessibilité numérique Atténuation : Conception intégrée au Web accessible depuis n'importe quel appareil doté d'un navigateur, sans logiciel spécialisé ni installation. Les utilisateurs qui ne peuvent pas ou ne souhaitent pas utiliser le système conservent un accès complet à la même information via les voies institutionnelles existantes.
• Barrières linguistiques Atténuation : Prise en charge multilingue des requêtes — les utilisateurs peuvent soumettre des requêtes dans n'importe quelle langue. La traduction est traitée comme une étape de prétraitement externe au cadre d'autorisation, garantissant que la langue de la requête n'affecte pas le contenu institutionnel considéré comme faisant autorité.

Risques réputationnels

• Préoccupations du public ou de l'institution concernant le déploiement de l'IA Atténuation : L'architecture axée sur la gouvernance, la traçabilité complète, l'approche de confidentialité par conception sans état et le portail d'exécution pré-inférence qui élimine structurellement toutes les sources standard d'hallucination répondent directement aux préoccupations qui génèrent un examen institutionnel. Le système est conçu pour être auditable et défendable dès la phase conceptuelle.

Surveillance humaine et recours

Comment l'autorité institutionnelle est préservée et comment les utilisateurs font remonter les problèmes lorsque le système ne répond pas à leurs besoins.

La surveillance et l'intervention humaines opèrent à plusieurs niveaux dans chaque déploiement COMPAiSS. Le système est conçu dès la phase conceptuelle pour préserver l'autorité institutionnelle et le recours des utilisateurs à chaque étape.

• Recours immédiat pour l'utilisateur Chaque réponse du système inclut des liens vers des pages institutionnelles officielles et oriente les utilisateurs à contacter directement le personnel institutionnel pour obtenir une aide supplémentaire. Un utilisateur qui reçoit une réponse inexacte ou peu utile peut contacter le personnel par les voies existantes à tout moment. Aucune action n'est prise en son nom et aucun droit ni attribution n'est affecté.
• Autorité de dérogation institutionnelle L'institution déployante conserve la pleine autorité pour modifier la liste de sources autorisées, mettre à jour la configuration de gouvernance ou désactiver le système à tout moment. Tous ces changements prennent effet immédiatement et sont consignés avec horodatages dans le dépôt à contrôle de version.
• Traitement des requêtes en situation de crise Lorsqu'une requête contient un langage associé à une détresse personnelle ou à une crise, le système retourne une réponse institutionnelle préapprouvée orientant l'utilisateur vers les ressources de soutien appropriées — services de counseling, sécurité du campus ou contacts d'urgence — tels que configurés par l'institution en conformité avec ses propres politiques d'obligation de diligence. Le modèle d'IA ne traite pas le contenu de crise.
• Responsabilité du développeur Frank Harvey assume la responsabilité technique directe pour toute la conception, le développement, la maintenance et la configuration de gouvernance. COMPAiSS Inc. est l'entité constituée qui détient la propriété intellectuelle et les droits d'exploitation de la plateforme. Les niveaux de service et les obligations de responsabilité sont définis dans chaque accord de licence institutionnel.
• Alternative non automatisée toujours disponible COMPAiSS est un canal complémentaire. Toutes les voies institutionnelles d'information existantes, les ressources du personnel et les options de service demeurent disponibles en tout temps. L'indisponibilité du système n'affecte pas l'accès aux services ou à l'information institutionnels.

Préparation à l'approvisionnement

Documentation et statut de conformité pour les processus d'approvisionnement institutionnel et d'examen de gouvernance.

La Stratégie nationale en intelligence artificielle du Canada et les institutions réglementées

Comment le cadre canadien en évolution de gouvernance de l'IA s'aligne avec l'IA institutionnelle à exécution contrôlée.

La Stratégie nationale en intelligence artificielle du Canada reconnaît à la fois les occasions et les risques associés à l'adoption généralisée de l'IA. La stratégie met l'accent sur le déploiement responsable, la confiance du public, la transparence, la reddition de comptes et la gouvernance comme conditions essentielles à l'utilisation réussie de l'IA dans les institutions publiques et les secteurs réglementés. Elle reflète une tendance internationale plus large vers des systèmes d'IA fiables, imputables et encadrés par des structures de gouvernance adaptées aux environnements institutionnels réglementés.

À mesure que les systèmes d'IA deviennent plus performants, le défi de gouvernance prend de l'importance. Les institutions sont de plus en plus appelées à démontrer non seulement que les systèmes d'IA sont utiles, mais aussi qu'ils fonctionnent dans des cadres de reddition de comptes clairement définis, respectent l'autorité institutionnelle et maintiennent la confiance du public.

Ce que cela signifie pour les institutions réglementées

• La gouvernance doit être démontrable Les institutions exigent de plus en plus la preuve que les systèmes d'IA fonctionnent dans des cadres de reddition de comptes documentés, plutôt que de s'appuyer uniquement sur des avis de non-responsabilité ou sur une surveillance après génération.
• Les limites d'information autorisée sont essentielles Les institutions doivent être en mesure d'expliquer l'origine de l'information, quelles sources sont considérées comme faisant autorité et comment le contenu non autorisé est empêché.
• La traçabilité devient indispensable Les cadres de gouvernance mettent de plus en plus l'accent sur la traçabilité, la transparence et la surveillance institutionnelle des interactions gérées par l'IA.
• La confiance du public dépend de la reddition de comptes La capacité à démontrer comment les systèmes d'IA sont gouvernés pourrait devenir aussi importante que la performance des modèles eux-mêmes.

Pour les institutions qui évaluent l'IA dans le contexte des cadres canadiens de gouvernance émergents, la distinction entre les architectures axées sur la génération et les architectures axées sur la gouvernance — telles que l'inférence à exécution contrôlée — pourrait devenir de plus en plus significative à mesure qu'évoluent les attentes en matière de reddition de comptes, de transparence et d'IA responsable.

Cadre de gouvernance IA | Pourquoi l'IA a évolué ainsi | Tests de stress en gouvernance et analyses comparatives

Investigation architecturale

Ce qui s’est produit lorsque Copilot a analysé les hypothèses qui sous-tendent les architectures IA modernes.

Nous avons demandé à Copilot d’analyser les différences architecturales entre lui-même et COMPAiSS. Après un engagement analytique soutenu avec les éléments de preuve, il est parvenu à des conclusions que son cadrage initial avait explicitement résistées. L’échange est passé de « COMPAiSS est une version plus sécuritaire de la même architecture » à une conclusion architecturale précise : COMPAiSS et Copilot ne sont pas directement comparables parce qu’ils résolvent des problèmes différents à partir de points de départ différents.

Lire l’investigation architecturale complète →

Rapport d’alignement réglementaire et politique

Comment l’inférence à exécution conditionnelle s’articule avec les cadres canadiens et internationaux de gouvernance de l’IA.

COMPAiSS a publié un rapport structuré d’alignement réglementaire et politique évaluant l’architecture à inférence conditionnelle au regard du Code de conduite volontaire du Canada sur le développement et la gestion responsables des systèmes d’IA générative avancés, de la Stratégie nationale en matière d’IA L’IA pour tous (juin 2026), du Cadre de gestion des risques liés à l’IA du NIST, et des normes d’architecture à vérification systématique. Le rapport comprend des résultats d’évaluation comparative empirique, des données probantes sur les déploiements institutionnels, ainsi qu’une analyse structurée des limites du système.