AI orkestrasiyası dil modelləri ilə təşkilatınızın qalan hissəsi arasında dayanan qatdır. O, sorğunu hansı modelin emal edəcəyini, həmin modelin hansı alətlərə və dataya çata biləcəyini, vəziyyətin addımlar arasında necə daşındığını, kimin icazələrinin tətbiq olunduğunu və nəyin qeydə alındığını müəyyən edir. Onsuz sizdə model var. Onunla isə iş görə bilən və görülən işə görə cavab verilə bilən sistem var.
Bu qatın mövcudluq səbəbi tətbiq serverlərinin mövcudluq səbəbi ilə eynidir. İstənilən adam bazaya birbaşa müraciət edə bilər. Heç kim müəssisəni belə idarə etmir, çünki bağlantıların idarəsi, tranzaksiyalar, avtorizasiya və audit — göz yumulmaqla yox olmayan real problemlərdir. Orkestrasiya modellər üçün həmin qatdır.
Bazar bunu bahalı yolla öyrənir. Gartner agentic AI layihələrinin 40%-dən çoxunun 2027-ci ilin sonuna qədər ləğv olunacağını gözləyir — xərc, aydın olmayan dəyər və yetərsiz risk nəzarəti səbəbindən; sonrakı proqnoz isə idarəetmə uğursuzluqları istehsalda üzə çıxdıqca müəssisələrin 40%-inin 2027-ci ilə qədər avtonom agentləri geri salacağını və ya söndürəcəyini gözləyir. Ləğvetmə texnologiya hadisəsindən əvvəl idarəetmə hadisəsidir, idarəetmə isə məhz bu qatda yaşayır.
LLM API-sini birbaşa çağırmaq niyə bir yerdə dayanır
Hər müəssisə AI layihəsi modeli çağıran skriptlə başlayır. O işləyir və layihəni maliyyələşdirən demonu istehsal edir. Sonra tələblərlə üzləşir — təxminən bu sıra ilə.
"Bizim sistemlərdə axtarış etməlidir." İndi modelə alətlər lazımdır, və kimsə onları nə vaxt çağırmağa qərar verməli, arqumentləri yoxlamalı, xətaları emal etməli və modelin çağırmamalı olduğu aləti çağırmasının qarşısını almalıdır.
"Fərqli suallara fərqli modellər lazımdır." Təsnifat tapşırığına ən böyük modeliniz lazım deyil. Mürəkkəb təhlilə lazımdır. Kimsə marşrutlaşdırmalıdır, tətbiq kodunda yaşayan marşrutlaşdırma qaydaları isə nəsə quran hər komandada təkrarlanır.
"Yalnız istifadəçinin görməyə icazəsi olanı görməlidir." Sadəlövh tətbiqləri tamamilə sındıran tələb budur. Retrieval qatı xidmət hesabı altında işləyirsə, hər istifadəçi faktiki olaraq bütün icazələrin cəminə sahib olur. Tətbiq retrieval anında, hər sorğu üçün, sorğu göndərən istifadəçinin kimliyi altında baş verməlidir.
"Niyə belə etdiyini bilməliyik." Tənzimləyici, auditor və ya insident baxışı üç ay əvvəlki konkret nəticə barədə soruşur. Sizə prompt, tapılmış kontekst, model versiyası, çağırılan alətlər və cavab lazımdır — bərpa edilə bilən şəkildə.
"Hüquq deyir ki, heç nə perimetri tərk etməməlidir." İndi model, embedding-lər və vektor bazası — hamısı lokaldır, və kimsə bu infrastrukturu idarə etməlidir.
"Üç departament özünkünü qurub." Üç data bağlantısı, üç təhlükəsizlik baxışı, üç audit boşluğu, sıfır təkrar istifadə.
Hər tələb ayrılıqda məqbuldur. Birlikdə isə onlar platformadır, seçim isə budur: onu şüurlu qurmaq, yoxsa altı kod bazasında təsadüfən yığmaq.
Bu qat əslində nədən ibarətdir
Altı məsuliyyət. İstehsal səviyyəli orkestrasiya qatı hamısını reallaşdırır.
Marşrutlaşdırma
Hər sorğu üçün düzgün modelin seçilməsi — tapşırıq növünə, həssaslığa, xərcə, gecikməyə və ya dilə görə.
Bu, səsləndiyindən vacibdir. Inference xərci model ölçüləri arasında onlarla dəfə fərqlənir, müəssisə trafikinin çoxu isə sadədir. Cari ölçmələr fərqi göstərir: H100-də öz serverində işləyən 70B sinifli model batch 1-də milyon çıxış tokenu üçün təxminən 0,73 dollara, batch 8-də isə təxminən 0,18 dollara başa gəlir; frontier hostlanan modellərdə isə bu, milyon başına dollarlarladır. Sadə sorğuları kiçik modelə yönəltmək və böyüyünü həqiqətən çətin iş üçün saxlamaq çox vaxt iqtisadi cəhətdən əsaslı tətbiqlə söndürülən tətbiq arasındakı fərqdir.
Marşrutlaşdırma həm də ehtiyat variantı idarə edir. Modellər əlçatmaz olur, dəstəkdən çıxır və yeniləmədən sonra fərqli davranır. Marşrutlaşdırma mərkəzləşdirildikdə model dəyişmək konfiqurasiya dəyişikliyidir. Altı komandanın tətbiq kodunda oturduqda isə layihədir.
Alətlərə çıxış
Modelə hərəkət etmək imkanı vermək — bazaya sorğu, daxili API çağırışı, tiket açmaq, bildiriş göndərmək.
Orkestrasiya qatı alət reyestrinə, sxemlərə, arqument yoxlanışına, icraya, xəta emalına və modelə qaytarılan nəticələrə sahibdir. Ən əsası, hansı kontekstdə hansı alətlərin əlçatan olduğuna sahibdir. Kadr siyasəti sualına cavab verən modelin ödəniş edə bilən aləti tutmağa haqqı yoxdur, bunun qarşısını alan mexanizm isə promptdakı bir sətir deyil, struktur olmalıdır.
Model Context Protocol (MCP) alətlərin və data mənbələrinin modellərə açılması üçün ümumi standarta çevrilib. 2024-cü ilin noyabrında başladılıb və 2025-ci ilin dekabrında Anthropic tərəfindən Linux Foundation-ın Agentic AI Foundation qurumuna bağışlanıb — AWS, Google, Microsoft, OpenAI, Bloomberg və Cloudflare-in dəstəyi ilə — beləliklə təxminən bir ildə vendor layihəsindən açıq infrastruktura keçib. Mənimsənilmə də ardınca gəlib: SDK yükləmələri ilk ayda təxminən 100 000-dən 2026-cı ilin martında ayda 97 milyona qalxıb; 2026-cı il sorğuları Fortune 500 şirkətlərinin təxminən 28%-inin MCP serverləri işlətdiyini, sorğuda iştirak edən proqram təminatı təşkilatlarının təxminən 41%-inin isə məhdud və ya geniş istehsalda olduğunu göstərir.
Praktiki dəyəri budur: bir dəfə reallaşdırılan alət uyğun gələn istənilən model tərəfindən istifadə oluna bilir — bu da modellər dəyişəndə bütöv bir yenidənyazma kateqoriyasını aradan qaldırır.
Vəziyyət və yaddaş
Çoxaddımlı iş vəziyyət tələb edir: nə edilib, nə öyrənilib, nə qalıb. Söhbətlər tarixçə tələb edir. Uzunmüddətli proseslər dayanıqlı yoxlama nöqtələri tələb edir ki, yeddinci addımdakı uğursuzluq birinci addımdan başlamasın.
Bu, adi paylanmış sistemlər işidir və sadəlövh tətbiqlərin ən zəif yeri budur. Prototip vəziyyəti yaddaşda saxlayır və yenidən başlayanda itirir. İstehsalda davamlılıq, müddət və nəyin saxlanılacağına dair aydın siyasət lazımdır — çünki müştəri datası olan söhbət tarixçəsi özü də tənzimlənən datadır.
İcazələr və kimlik
Ən vacib nəzarət — və ən çox təxirə salınanı.
AI sisteminin etdiyi hər hərəkət kimin adından hərəkət edirsə, həmin şəxsin kimliyi altında baş verməlidir. Xidmət hesabı altında yox. Geniş əhatəli tətbiq kimliyi altında yox.
Retrieval ümumi hesab altında işlədikdə vektor bazası icazələri düzləşdirən maşına çevrilir: bütün təşkilat üzrə sənədlər bir indeksə yazılır, və sualı formalaşdıra bilən istənilən istifadəçi onların hamısına çata bilir. Müəssisə AI tətbiqlərində ən ciddi real uğursuzluq bu olub, və icazələri retrieval anında sorğu göndərən istifadəçiyə qarşı tətbiq etməklə tamamilə qarşısı alına bilər.
Orkestrasiya qatı mövcud kataloqla inteqrasiya olunur, kimliyi hər addımda daşıyır, retrieval-ı səlahiyyətə görə filtrləyir və alətləri rola görə bağlayır.
Audit və müşahidə
Hər sorğu qeydə alınır: kim soruşdu, nə tapıldı, hansı model və versiya cavab verdi, hansı alətlər hansı arqumentlərlə çağırıldı, nə qayıtdı, nə qədər çəkdi, nəyə başa gəldi.
Tənzimlənən institutda bu, əməliyyat rahatlığı deyil. Kimsə konkret qərar barədə soruşanda sistemi müdafiə oluna bilən edən şeydir — və ISO/IEC 42001 auditinin görmək istəyəcəyi şeydir.
Eyni zamanda sistemi yaxşılaşdırma üsulunuz da budur. Sorğu səviyyəsində müşahidə olmadan dəyişikliyin kömək edib-etmədiyini deyə bilməzsiniz — dəyişiklikləri isə davamlı edəcəksiniz.
Qoruyucular və qiymətləndirmə
Giriş və çıxış yoxlamaları — həssas datanın aşkarlanması, prompt-injection müdafiəsi, siyasət filtrləri — üstəgəl davranışın geriyə gedib-getmədiyini deyən qiymətləndirmə dəsti.
Qiymətləndirmə təşkilatların atladığı, sonra isə peşman olduğu hissədir. Öz datanızdan və öz meyarlarınızdan qurulmuş test dəsti olmadan model yeniləməsi istehsalda oynanan qumardır. Dəsti ilk istehsal ssenarisindən əvvəl qurun.
Orkestrasiya, iş axını avtomatlaşdırması və agent freymvorkları
Üst-üstə düşən, mütəmadi qarışdırılan üç kateqoriya.
İş axını avtomatlaşdırması (ənənəvi BPM, RPA) əvvəlcədən müəyyən edilmiş addımları icra edir. Deterministik, audit oluna bilən, reallıq diaqramdan kənara çıxanda kövrək. Həqiqətən sabit olan proseslər üçün əladır.
Agent freymvorkları agent dövrələri qurmaq üçün developer kitabxanalarıdır. Qurmaq üçün faydalıdır; infrastruktur deyillər. Kimlik inteqrasiyası, audit, çoxkirayəlilik və ya əməliyyat nəzarətləri təqdim etmirlər və buna iddialı da deyillər.
AI orkestrasiyası icra mühiti və idarəetmə müstəvisidir. Determinizm tələb olunan yerdə deterministik, mühakimə tələb olunan yerdə model idarəli — və real data üzərində real cavabdehliklə işləməyə imkan verən idarəetmə nəzarətləri ilə.
Faydalı fərq: freymvork bir komandaya bir şey qurmağa kömək edir. Orkestrasiya isə təşkilata altı komandanın qurduğu iyirmi şeyi bir nəzarət dəsti altında işlətməyə imkan verən şeydir.
Orkestrasiya qərarları harada səhv gedir
Onu qeyri-şüuri qurmaq. Bu qat hər tətbiqdə mövcuddur. Yeganə sual budur: o, layihələndirilib, yoxsa tətbiq kod bazalarında yığılıb. Yığılmış variantlarda icazələr ardıcıl deyil, audit qismən, ortaq qiymətləndirmə isə yoxdur — onları sonradan birləşdirmək isə yenidənyazmadır.
İcazələri təxirə salmaq. Demək olar ki, hər ciddi insident kimliyin erkən mərhələdə boş-boş idarə olunmasına gedib çıxır. Hər şeyi xidmət hesabı altında indeksləmiş sistemə sonradan istifadəçi səviyyəsində səlahiyyət əlavə etmək retrieval-ı yenidən layihələndirmək deməkdir.
Bir modeli koda sərt bağlamaq. Mənzərə sürətlə dəyişir. Modellər sabit interfeys arxasında dəyişdirilə bilən olmalıdır; dizayn mərhələsində bu, demək olar ki, pulsuzdur, sonradan isə bahalıdır.
Qiymətləndirmə dəstinin olmaması. Onsuz hər dəyişiklik ölçülməzdir və hər geriləməni istifadəçi aşkarlayır.
İlk tətbiqi həddindən artıq mürəkkəbləşdirmək. Əks uğursuzluq. Bir istifadəçiyə kömək edilməmişdən əvvəl on iki aylıq platforma proqramı. Nazik variantı qurun — marşrutlaşdırma, icazəyə həssas retrieval, audit — bir ssenarini istehsala çıxarın, qalanını isə real tələblər müəyyən etsin.
Onu suveren etmək
Tənzimlənən institutlar üçün hər komponent perimetr daxilində olmalıdır, orkestrasiya qatı isə bunun tətbiq olunduğu yerdir.
Ən çox rast gəlinən uğursuzluq: dil modelini öz serverində işlədib hostlanan embedding API-sini və ya idarə olunan vektor bazasını çağırmaq. Prompt içəridə qalır; sənədin məzmunu isə indeksləmə zamanı çıxır. Suverenlik iddiası ciddi baxışdan sağ çıxmır.
Orkestrasiya qatı bunu struktur olaraq tətbiq etmək üçün doğru yerdir — heç bir komponentin xarici endpoint-ə çata bilməyəcəyi siyasəti, konfiqurasiya ilə deyil, şəbəkə egress nəzarəti ilə tətbiq olunur. Tam müzakirə üçün baxın: suveren AI.
Əvvəlcə nə qurmalı
Nazik variant, bu sıra ilə:
- AI sorğuları üçün vahid giriş nöqtəsi. Siyasətin tətbiq olunduğu bir yer.
- Başlanğıcdan kimliyin daşınması. Retrieval həmişə sorğu göndərən istifadəçinin səlahiyyətlərinə görə filtrlənir.
- Sorğu səviyyəsində audit loglaması. İndi ucuzdur, sonradan bərpa etmək mümkünsüzdür.
- Model abstraksiyası — model kod yox, konfiqurasiya olsun.
- Bir retrieval boru xətti, icazələri nəzərə alan, ssenarilər arasında paylaşılan.
- Qiymətləndirmə dəsti — öz sahənizdən əlli-yüz real hal ilə.
Bu, ilk istehsal ssenarisini təhlükəsiz işlətməyə və ikincisini ucuz əlavə etməyə kifayətdir — bu qatın bütün iqtisadi arqumenti də elə budur.
Əsas məqamlar
- Orkestrasiya modellərlə təşkilat arasındakı idarəetmə müstəvisidir: marşrutlaşdırma, alətlər, vəziyyət, kimlik, audit, qiymətləndirmə.
- Bu qat hər tətbiqdə var. Seçim yalnız onun layihələndirilib-yığıldığındadır.
- MCP faktiki alət interfeysinə çevrilib — 2025-ci ilin dekabrından açıq idarəetmə altında, 2026-cı ilin martında ayda 97 milyon SDK yükləməsi ilə — bu da alətləri modellər arasında daşınabilən edir.
- Retrieval anında istifadəçi səviyyəsində icazə tətbiqi ən vacib tək nəzarətdir. Ümumi xidmət hesabı bütün təşkilat üzrə səlahiyyətləri düzləşdirir.
- Sadə trafiki kiçik modellərə yönəldin. Batch rejimində öz serverində inference milyon token üçün qəpiklərlə ölçülür; tətbiqi iqtisadi edən çox vaxt elə budur.
- Qiymətləndirmə dəstini ilk istehsal ssenarisindən əvvəl qurun, ilk insidentdən sonra yox.
HAVAA Yukon Labs-ın orkestrasiya platformasıdır və tamamilə müştərinin perimetri daxilində işləmək üçün qurulub — modellər, retrieval və embedding-lər daxil olmaqla.