Air-gapped AI o deməkdir ki, bütöv sistem — model, embedding-lər, vektor anbarı, orkestrasiya, loglama — çıxış internet bağlantısı olmayan şəbəkə daxilində işləyir və bu, konfiqurasiya ilə deyil, egress nəzarəti ilə tətbiq olunur. Heç nə çölə çıxmır. Nə prompt, nə sənəd, nə telemetriya.

Tələb məhz AI-ı ən çox istəyən institutlarda yayğındır: Mərkəzi Bankın nəzarətindəki banklar, vətəndaş reyestrləri ilə işləyən nazirliklər, müdafiə və kritik infrastruktur. Eyni zamanda müəssisə AI arxitekturalarının texniki incəlik üzündən ən çox uğursuz olduğu tələb də budur — çünki suverenlik adətən model qatında iddia edilir, hansısa başqa komponent isə səssizcə çölə zəng edir.

Bu yazı air-gapped-in əslində nə tələb etdiyi, iddiaların harada sındığı və qurulandan sonra sistemin necə istismar olunduğu haqqındadır.

"On-premise"-dən fərq

Bunlara sinonim kimi baxılır, halbuki deyil.

On-premise proqram təminatının sizin infrastrukturunuzda işləməsi deməkdir. Şəbəkə davranışı barədə heç nə demir. On-premise tətbiq hələ də lisenziya serverinə zəng edə, konteyner image-ləri çəkə, telemetriya göndərə və ya hosted embedding API işlədə bilər — və çoxu defolt olaraq elə edir.

Air-gapped heç bir çıxış bağlantısına icazə verilməməsi və bu icazənin şəbəkə qatında tətbiq olunması deməkdir. Test arxitektura diaqramının nə dediyi deyil; test paketin çölə çıxa bilib-bilməməsidir.

Praktiki fərq təhlükəsizlik baxışında üzə çıxır. On-premise iddiası serverlərin harada olduğuna baxmaqla yoxlanır. Air-gapped iddiası isə egress firewall qaydalarına və paket tutumuna baxmaqla — və qəbul etməyə dəyən yeganə yoxlama budur.

Suverenlik iddiaları harada sınır

Beş konkret yer, adətən tapıldıqları sıra ilə.

Embedding API. Böyük fərqlə ən çox rast gəlinən uğursuzluq. Təşkilat dil modelini özündə yerləşdirir, arxayınlaşır və sənəd indeksləməsi zamanı hosted embedding endpoint-inə zəng edir. Prompt içəridə qalır; sənədin məzmunu çölə çıxır. Suverenlik iddiası ciddi baxışdan sağ çıxmır, ifşa isə qaçınılan ifşadan böyükdür — çünki indeksləmə hər sualı yox, hər sənədi göndərir.

İdarə olunan vektor bazası. Eyni forma. Vektorların özləri əhəmiyyət daşıyacaq qədər bərpa oluna bilir, onlara bağlanmış metadata isə adətən daha pisdir — sənəd adları, yollar, icazələr.

Telemetriya və crash reporting. Framework-lər və inference server-lər tez-tez istifadə analitikası defolt olaraq aktiv halda gəlir. Yük kiçikdir və prompt fraqmentlərini, model adlarını və xəta kontekstlərini ehtiva edə bilər. Dizayn baxışından sağ çıxıb sonradan şəbəkə mühəndisi tərəfindən tapılan da elə budur.

Model və asılılıq yükləmələri. İcra zamanı çəki fayllarını, konteyner image-lərini və ya paketləri çəkmək egress yoludur. Həqiqətən bağlı mühitdə bunlar daxildə mirror edilməli və versiyalanmalıdır — bu isə tətbiq addımı deyil, tədarük zənciri prosesidir.

Üçüncü tərəf tool serverləri. Modellər tool çağıra bildikdən sonra xarici SaaS API-nı örtən hər tool xoş adı olan egress yoludur. MCP tool əlavə etməyi ucuzlaşdırır, bu isə həmin uğursuzluğu ucuz şəkildə gətirməyi asanlaşdırır.

Düzgün mövqe budur: əksi sübut olunana qədər hər komponentin çölə zəng etdiyini fərz edin və bunu defolt olaraq qadağan edən egress qaydaları ilə sübut edin.

Air-gapped istismar əslində nə tələb edir

Altı imkan. Biri çatmasa, tətbiq ya bağlı deyil, ya da istismar edilə bilən deyil.

Lokal inference. Model sizin GPU-larınızda işləyir. Bütün layihənin formasını müəyyən edən məhdudiyyət hardware ölçüsüdür: 70B sinifli modelə tam dəqiqlikdə təxminən 140 GB, 4-bit-də isə təxminən 35 GB lazımdır, 8-bit kvantlaşdırma isə təxminən 99,9% keyfiyyət saxlanması ilə təxminən 50% yaddaş qənaəti verir — müəssisə iş yükləri üçün adətən düzgün güzəşt budur. Təfərrüat LLM-lərin on-premise tətbiqi yazısındadır.

Lokal embedding-lər. Dil modelindən xeyli kiçik ölçülü self-hosted embedding modeli — tutum planlaşdırmasında tez-tez unudulan komponent.

Lokal vektor anbarı. Sizin infrastrukturunuzda işləyən, sizin proseslərinizlə ehtiyat nüsxələnən, sizin giriş nəzarətinizə tabe olan.

Daxili model registri. Çəkilər, versiyalar və mənşə perimetr daxilində mirror edilir ki, modeli yeniləmək yükləmə yox, nəzarət olunan daxili əməliyyat olsun.

Daxili paket mirror-u. Konteyner image-ləri, dil runtime-ları və kitabxanalar. Adətən layihələri gecikdirən hissə budur, çünki AI sistemini quran komandadan fərqli komandaya aiddir.

Oflayn qiymətləndirmə. Sizin test dəstiniz, sizin qiymətləndirməniz, içəridə işləyən. Hosted judge modelinə zəng edən hər qiymətləndirmə harness-i həm egress yoludur, həm də məxfilik problemidir — çünki judge həm sualı, həm cavabı görür.

Əməliyyat reallığı

Perimetr bağlananda üç şey dəyişir və onları kəşf etmək əvəzinə planlaşdırmağa dəyər.

Yeniləmələr hadisəyə çevrilir. Yeni model çəkiləri nəzarət olunan ötürmə ilə gəlir, skan edilir, qeydiyyata alınır və daxildə test olunur. Bu, yeni tag çəkməkdən yavaşdır və zəmanətin qiymətidir. Hər buraxılışa reaksiya vermək əvəzinə rüblük ritm planlaşdırın.

Dəstək fərqlidir. Vendor problemi diaqnoz etmək üçün sistemə girə bilməz. Hər potensial vendordan internet girişi olmadan yeniləmə və dəstək prosesini təsvir etməyi xahiş edin; cavablar çox şey deyir və bir neçə məhsul iddia etməsinə baxmayaraq faktiki olaraq bu rejimdə istismar oluna bilmir.

Müşahidə sizin üzərinizdədir. Hosted panel yoxdur, xarici APM yoxdur. Metriklər, loglar və trace-lər içəridə qalır, yəni monitorinq stack-i sonradan düşünüləcək şey deyil, layihənin bir hissəsidir.

Kompensasiya edən üstünlüyü demək lazımdır: air-gapped sistemin hücum səthi kəskin kiçikdir və uyğunluq hekayəsi xeyli sadədir. Danışılası data emalı müqaviləsi yoxdur, transsərhəd ötürmə sualı yoxdur, üçüncü tərəf subprosessor siyahısı yoxdur. Azərbaycanın Şəxsi məlumatlar haqqında Qanunu — transsərhəd ötürməyə yalnız müəyyən hallarda icazə verən və milli təhlükəsizliyə və ya ictimai qaydaya təhlükə yaranarsa qadağan edən — çərçivəsində fəaliyyət göstərən institut üçün bu sadəlik çox vaxt həlledici amildir. Hüquqi təfərrüat Azərbaycanda data rezidentliyi yazısındadır.

İqtisadiyyat

Air-gapped tətbiqin daha baha olduğu güman edilir. Davamlı həcmdə adətən elə deyil.

Kəsişmə nöqtəsini yüklənmə müəyyən edir. H100-də self-hosted inference təxminən batch 1-də milyon çıxış tokeni üçün $0,73, batch 8-də isə təxminən $0,18 təşkil edir — frontier hosted modellərdə milyona dollarlarla müqayisədə. Dərc olunmuş özünüödəmə hesablamaları həddi əksər konfiqurasiya üçün gündə təxminən 2 milyon token, rezerv edilmiş tutumla on iki aylıq pəncərədə isə gündə 2–5 milyon token kimi göstərir.

İki dürüst qeyd. Həmin rəqəmlər GPU-ları məşğul saxladığınızı fərz edir; az yüklənmiş klaster hardware-dən asılı olmayaraq token başına bahadır. Və onlar əməliyyat personalı xərcini əhatə etmir — o isə realdır və biznes əsaslandırmalarının ən çox az göstərdiyi sətirdir.

Perimetr barədə seçimi olmayan institut üçün iqtisadiyyat ikinci dərəcəlidir — amma adətən gözləniləndən yaxşıdır və sənədə yazmağa dəyər.

Ardıcıllıq necə olmalıdır

Perimetri onun içində nəsə qurmazdan əvvəl qurmaqla başlayın. Egress qaydaları defolt olaraq qadağan, image və paketlər üçün daxili mirror-lar, daxili model registri. Əvvəl qurub sonra bağlayan komandalar üç egress asılılığını mümkün olan ən pis anda kəşf edir.

Sonra bir istifadə ssenarisi, yalnız-oxuma, bir sahə. Lokal model, lokal embedding-lər, lokal vektor anbarı və birinci gündən sorğu verən istifadəçinin kimliyi altında səlahiyyət nəzərə alan retrieval.

Sonra bağlılığı empirik yoxlayın: tam iş yükü icrası zamanı paket tutumu — indeksləmə, qiymətləndirmə və bir yeniləmə daxil olmaqla. Dizayn baxışı yoxlama deyil.

Sonra genişləndirin. Perimetr və orkestrasiya qatı mövcud olandan sonra ikinci ssenari ucuzdur — onları birinci dəfə düzgün qurmağın bütün iqtisadi arqumenti də budur.

Əsas məqamlar

  • On-premise və air-gapped sinonim deyil. Air-gapped arxitektura diaqramı ilə yox, egress qaydaları və paket tutumu ilə yoxlanır.
  • Ən çox rast gəlinən qırıq indeksləmə zamanı hosted embedding API-dır — o isə hər sualı yox, hər sənədi ifşa edir.
  • Həmçinin telemetriyanı, icra zamanı model və paket yükləmələrini, idarə olunan vektor anbarlarını və xarici SaaS-ı örtən tool serverlərini yoxlayın.
  • Altı tələb: lokal inference, lokal embedding-lər, lokal vektor anbarı, daxili model registri, daxili paket mirror-u, oflayn qiymətləndirmə.
  • Yeniləmələr nəzarət olunan hadisəyə çevrilir və dəstək sistemə girə bilmir. İmzalamazdan əvvəl vendorlardan internetsiz yeniləməni təsvir etməyi xahiş edin.
  • GPU-lar məşğul qaldığı halda, gündə təxminən 2 milyon tokendən yuxarı iqtisadiyyat adətən güman ediləndən yaxşıdır.

HAVAA tamamilə müştərinin perimetri daxilində işləmək üçün qurulub — modellər, retrieval və embedding-lər daxil olmaqla, heç bir çıxış asılılığı olmadan. Əlaqəli oxu: suveren AI və LLM-lərin on-premise tətbiqi.