Ressources · Architecture
Architecture du runtime OpenQCore
Architecture au niveau du système pour l'orchestration des fournisseurs, le contrôle du routage, la normalisation des contrats et la fiabilité en production.
Architecture du runtime
Un modèle d'exécution en couches, de l'entrée de la requête à la réponse déterministe et au nettoyage.
Passerelle API
Authentification, validation des scopes, mise en forme des requêtes et initialisation des traces.
Routeur de décision
Classification d'intention et de modalité avec sélection de route tenant compte des politiques.
Moteur d'exécution
Exécution Chat/Voice/Iris avec prise en charge du streaming et des traitements non-streaming.
Contrôles de sécurité
Limites de débit, verrous distribués, disjoncteurs et protection contre la surcharge.
Couche de persistance
Messages de session, cache de déduplication et journalisation des usages/événements.
Connecteurs de fournisseurs
Adaptateurs OpenAI, Gemini, Claude, Replicate sous une même interface.
Générateur de contrats
Construit des enveloppes de réponse stables pour les clients et les systèmes en aval.
Couche fournisseur
Abstraction unifiée des fournisseurs avec routage tenant compte des politiques et gestion des basculements.
OpenAI
Principal pour les canaux de génération de chat/voix/d'images.
Gemini
Canal multimodal et prenant en charge les images.
Claude
Canal de secours centré sur le raisonnement textuel.
Replicate
Canal spécialisé pour la génération d'images/vidéos.
Routeur d'abstraction des fournisseurs
Sélectionne le fournisseur selon les capacités, le profil de latence, l'état de fiabilité et la politique d'environnement.
Matrice de routage
Distribution pilotée par l'intention avec sélection primaire/de secours tenant compte des capacités.
| Type d'intention | Route principale | Route de secours | Contrat de sortie |
|---|---|---|---|
| Chat textuel | OpenAI/Claude | Gemini | Enveloppe textuelle standard |
| Conversation vocale | OpenAI (voie vocale) | Repli Azure/OpenAI | Enveloppe voix + métadonnées |
| Génération d'images | OpenAI/Replicate | Replicate/OpenAI | Tableau d'images + utilisation + métadonnées |
| Génération vidéo | Voie vidéo Replicate | Défini par la politique | Tableau de vidéos + métadonnées |
Couche de contrat de sortie
Enveloppe de réponse normalisée pour tous les fournisseurs et modalités.
{
"success": true,
"content": "...",
"provider": "...",
"usage": {},
"metadata": {},
"images": [],
"files": [],
"videos": []
}Piliers de l'architecture
- Point d'entrée unifié pour l'authentification, la portée et la validation des politiques.
- Routage axé sur l'intention avec des stratégies d'exécution conscientes de la modalité.
- L'abstraction des fournisseurs isole les différences entre prestataires des surfaces du produit.
- La normalisation des contrats garantit la stabilité du frontend et du SDK.
Garanties en production
- Nettoyage déterministe pour le suivi des verrous et des requêtes en attente.
- Dégradation contrôlée en cas de stress du fournisseur ou du système.
- Exécution traçable via des identifiants de requête, de session et de trace.
- Contrats de réponse cohérents entre tous les fournisseurs.
- Contrôles opérationnels conçus pour des charges de production à l'échelle de l'entreprise.