La confiance est une infrastructure
La sécurité, la protection de la vie privée, la qualité, la provenance des données et la responsabilité des opérations d’IA ne sont pas des éléments ajoutés à notre technologie. Elles font partie intégrante de la manière dont Pangeanic conçoit, fournit et exploite des systèmes d’IA multilingue et des services de données.
Ce Centre de confiance offre aux équipes chargées des achats, de la sécurité, des affaires juridiques et de la gouvernance de l’IA une vue consolidée de la manière dont Pangeanic aborde la sécurité de l’information, la gestion de la qualité, la protection des données, la provenance des données, le contrôle du déploiement et la supervision humaine. Lorsque des éléments de preuve peuvent être rendus publics, nous les mettons à disposition. Les informations confidentielles ou propres à un projet peuvent être fournies dans le cadre des procédures de diligence raisonnable et d’évaluation, selon les conditions appropriées.
La portée et l’applicabilité de chaque certification doivent être évaluées en fonction de l’entité Pangeanic concernée, du service, de l’environnement de traitement et du projet client. Une documentation détaillée peut être fournie dans le cadre des procédures d’achat et d’évaluation de la sécurité.
La confiance doit être préservée tout au long du cycle de vie de l’IA
Le risque lié à l’IA en entreprise ne commence ni ne s’arrête au modèle. Il concerne également les données qui alimentent le système, les personnes et les processus qui les transforment, les environnements dans lesquels elles sont traitées, les évaluations utilisées pour valider les résultats et les contrôles appliqués après le déploiement. Pangeanic considère ces éléments comme des domaines d’assurance interdépendants, et non comme des exercices de conformité isolés.
Une opération d’IA ou de données est digne de confiance lorsqu’une organisation peut comprendre d’où proviennent les données, ce qui leur est arrivé, qui ou quoi est intervenu, comment la qualité a été mesurée, quels contrôles ont été appliqués et dans quelles conditions le système résultant peut être utilisé.
Sécurité de l’information
Les contrôles de sécurité doivent protéger les informations lors de leur collecte, de leur transfert, de leur traitement, de leur stockage et de leur livraison. L’accès aux systèmes et aux données des clients doit être régi par les rôles, les besoins opérationnels et les exigences propres à chaque projet.
Vérifiez quels contrôles de sécurité, quels environnements et quelles restrictions d’accès s’appliquent précisément au service concerné.
Vie privée et protection des données personnelles
Les données personnelles doivent être traitées pour des finalités définies, minimisées autant que possible et protégées en fonction de leur nature et des exigences du projet. Les technologies de Pangeanic incluent des capacités de détection des données personnelles, de masquage, d’anonymisation et de traitement respectueux de la vie privée.
Déterminez quelles données personnelles font partie du flux de traitement, où elles sont traitées, et si elles doivent être masquées ou anonymisées avant toute utilisation ultérieure.
Provenance, droits et licences des données
Les données destinées à l’IA ne doivent pas être considérées comme une matière première anonyme. Leur provenance, leur mode de collecte, les usages autorisés, les conditions de licence et les restrictions applicables déterminent si un jeu de données est adapté à l’entraînement, à l’évaluation ou au déploiement.
Vérifiez la provenance, la base juridique ou la licence applicable, ainsi que les utilisations en aval autorisées pour chaque jeu de données ou collecte.
Qualité, évaluation et supervision humaine
La qualité doit être mesurée au regard de critères d’acceptation explicites. Selon le service, ceux-ci peuvent combiner évaluation automatisée, expertise linguistique ou métier, échantillonnage, révision humaine, analyse des erreurs et seuils définis par le client.
Définissez les métriques de qualité, les seuils d’acceptation, les procédures de révision et la responsabilité de l’approbation finale.
Contrôle du déploiement et souveraineté des données
Chaque organisation exige un niveau de contrôle différent sur son infrastructure. Pangeanic prend en charge des architectures conçues pour les environnements d’entreprise et réglementés, y compris des déploiements privés, sur site et contrôlés par le client lorsque cela est nécessaire.
Déterminez où le traitement doit avoir lieu, quelles infrastructures peuvent être utilisées et si un déploiement privé, sur site ou isolé est requis.
Traçabilité et responsabilité
La confiance repose sur la capacité à reconstituer les décisions et les principales étapes du traitement. Les journaux opérationnels, les métadonnées de provenance, les processus contrôlés et les responsabilités clairement définies fournissent les éléments nécessaires à l’audit, à l’analyse et à l’amélioration continue.
Définissez les journaux, les informations de traçabilité, les rapports et les éléments de preuve qui doivent être conservés dans le cadre du projet.
Des preuves plutôt que des déclarations
Un Centre de confiance ne doit pas se contenter d’affirmer qu’une organisation est sécurisée, conforme ou responsable. Il doit permettre aux clients de vérifier les contrôles qui étayent ces affirmations. C’est pourquoi nous distinguons, chaque fois que possible, les certifications indépendantes, les politiques publiques, les contrôles techniques et les éléments d’assurance propres à chaque client.