Burime · Arkitektura

Arkitektura e OpenQCore Runtime

Arkitekturë në nivel sistemi për orkestrimin e ofruesve, kontrollin e rutimit, normalizimin e kontratave dhe besueshmërinë në prodhim.

Arkitektura e Runtime-it

Një model ekzekutimi me shtresa nga hyrja e kërkesës deri te përgjigjja deterministe dhe pastrimi.

Portë API

Autentikim, verifikim i fushës, formësim i kërkesës dhe inicializim i gjurmimit.

Ruteri i Vendimeve

Klasifikim i synimit dhe modalitetit me përzgjedhje të rrugës që merr parasysh politikat.

Motor i Ekzekutimit

Ekzekutim për Chat/Voice/Iris me përpunim për streaming dhe jo-streaming.

Kontrolle të Sigurisë

Kufizime të ritmit, bllokime të shpërndara, circuit breakers dhe mbrojtje ndaj mbingarkesës.

Fluksi i ekzekutimit

Shtresa e Persistencës

Mesazhet e sesionit, cache për dedublikim dhe regjistrimi i përdorimit/ngjarjeve.

Adapterët e ofruesve

Adapterët OpenAI, Gemini, Claude, Replicate nën një ndërfaqe.

Ndërtues i kontratave

Krijon formate të përgjigjeve të qëndrueshme për klientët dhe sistemet pasuese.

Abstraksion i unifikuar për ofruesit me rutim të bazuar në politika dhe menaxhim të alternativave (fallback).

OpenAI

Kryesore për shtigjet e bisedave/zërit/gjenerimit të imazheve.

Gemini

Arsyeim multimodal dhe shtigj i aftë për imazhe.

Claude

Shtigj rezervë për arsyeim të fokusuar në tekst.

Replicate

Shtigj i specializuar për gjenerimin e imazheve/video.

Rruga me njohuri politike

Ruter për abstraksionin e ofruesve

Zgjedh ofruesin sipas kapaciteteve, profilit të vonesës, gjendjes së besueshmërisë dhe politikës së mjedisit.

Dërgim i drejtuar nga synimi me përzgjedhje kryesore/rezervë që merr parasysh kapacitetet.

Lloji i qëllimit	Rruga kryesore	Rruga rezervë	Kontrata e daljes
Bisedë tekstuale	OpenAI/Claude	Gemini	Mbështjellje standarde e tekstit
Bisedë zanore	OpenAI (shtigji zanor)	Azure/OpenAI (rezervë)	Mbështjellje zë + metadata
Gjenerimi i imazheve	OpenAI/Replicate	Replicate/OpenAI	Varg imazhesh + përdorim + metadata
Gjenerimi i videove	Shtigji video i Replicate	I përcaktuar nga politika	Varg me video dhe metadatat

Envelopë përgjigjeje e normalizuar për të gjithë ofruesit dhe modalitetet.

{
  "success": true,
  "content": "...",
  "provider": "...",
  "usage": {},
  "metadata": {},
  "images": [],
  "files": [],
  "videos": []
}

Hyrje e unifikuar për autentikim, fushë veprimi dhe validimin e politikave.
Rutimi i orientuar nga qëllimi me strategji ekzekutimi që marrin parasysh modalitetin.
Abstraktimi i ofruesit izolon ndryshimet e furnizuesve nga sipërfaqet e produktit.
Normalizimi i kontratave siguron stabilitetin e frontend-it dhe SDK-së.

Pastrim deterministik për gjurmimin e bllokimeve dhe kërkesave në pritje.
Degradim i butë nën stres të ofruesit ose të sistemit.
Ekzekutim i gjurmueshëm përmes identifikuesve të kërkesës, seancës dhe gjurmës.
Kontrata përgjigjeje konsistente për të gjithë ofruesit.
Kontrolle operative të dizajnuara për ngarkesa prodhimi në shkallë ndërmarrjeje.