Ingénierie de la fiabilité
Concevoir des systèmes d'IA résilients ayant un comportement cohérent face aux changements de distribution et au stress opérationnel.
Domaine de recherche
Sécurité de l'IA
Faire progresser la sécurité de l'IA par la recherche sur la fiabilité, l'évaluation, la gouvernance, la vérification et le déploiement responsable. Nous concevons des cadres et des dispositifs de protection qui aident les systèmes intelligents à fonctionner de manière prévisible, transparente et sécurisée dans des environnements réels.
Iris VerifyIris Guard
Piliers de recherche fondamentaux
Cadres d'évaluation
Élaborer des benchmarks rigoureux, des tests de résistance et des contrôles qualité pour mesurer les performances des modèles et les risques.
Systèmes de gouvernance
Mettre en place des contrôles intégrant les politiques, des normes d'auditabilité et une supervision du cycle de vie des opérations d'IA.
Vérification de l'identité et de la confiance
Développer des vérifications et contrôles d'intégrité pour l'identité, l'authenticité du contenu et la confiance dans les systèmes.
Déploiement responsable
Appliquer des principes de sécurité dès la conception pour un déploiement sécurisé, la surveillance, la réponse aux incidents et la remédiation.
Priorités actuelles
01
Évaluation du risque des modèles et cartographie des modes de défaillance
02
Pipelines d'évaluation de la sécurité pour la mise en production
03
Intelligence pour la détection de fraude et la vérification d'identité
04
Gouvernance et contrôles de conformité prêts pour l'audit
Construire une IA digne de confiance à grande échelle
Collaborez avec OpenQCore Research pour développer des systèmes d'IA robustes, vérifiables et déployés de manière responsable.