Savarankiškų AI agentų – sistemų, galinčių naudoti įrankius ir vykdyti kodą – diegimas yra unikalus saugumo iššūkis. Nors standartinės LLM programos apsiriboja tekstu pagrįsta sąveika, autonominiams agentams reikalinga prieiga prie apvalkalo aplinkų, failų sistemų ir tinklo galinių taškų, kad galėtų atlikti užduotis. Dėl šios padidintos galimybės kyla didelė rizika, nes modelio „juodosios dėžės“ pobūdis gali lemti nenumatytą komandų vykdymą arba neteisėtą prieigą prie duomenų.
NVIDIA pašalino šią spragą naudodama atvirąjį šaltinį OpenShellskirta vykdymo aplinka, skirta palengvinti saugų autonominių agentų vykdymą. Išleistas pagal Apache 2.0 licencija„OpenShell“ suteikia smėlio dėžės, prieigos kontrolės ir išvadų valdymo sistemą.
Agentų saugos architektūra
„OpenShell“ veikia kaip apsauginis sluoksnis tarp AI agento ir operacinės sistemos. Dirbtinio intelekto kūrėjams tai reiškia, kad agento „įrankio naudojimo“ galimybes riboja iš anksto nustatyta saugos padėtis, o ne pasikliauja modelio vidiniu derinimu.
1. Smėlio dėžės vykdymas
„OpenShell“ naudoja branduolio lygio izoliaciją, kad sukurtų trumpalaikę vykdymo aplinką. Perkeliant agentą į smėlio dėžę, bet koks sugeneruotas kodas – nesvarbu, ar tai Python scenarijus, ar „Bash“ komanda – vykdomas ribotoje erdvėje. Tai neleidžia agentui pasiekti jautrių pagrindinio kompiuterio failų arba keisti sistemos konfigūracijų, nebent tai būtų aiškiai leidžiama.
2. Politikos vykdoma prieigos kontrolė
„OpenShell“ valdymo šerdis yra smulkus politikos variklis. Skirtingai nuo tradicinės konteinerių saugos, kuri dažnai veikia su plačiais leidimais, „OpenShell“ leidžia:
- Dvejetainis valdymas: Apriboti, kurie vykdomieji failai (pvz.,
git,curl,python) agentas gali iškviesti. - Galinio taško valdymas: Tinklo srauto ribojimas iki tam tikrų IP adresų ar domenų.
- Valdymas pagal metodą: Valdantys konkrečius API iškvietimus arba apvalkalo funkcijas.
Ši politika yra „paaiškinama“, o tai reiškia, kad kiekvienas veiksmas registruojamas audito žurnalas. Tai suteikia aiškų derinimo ir atitikties pėdsaką, leidžiantį kūrėjams tiksliai patikrinti, kodėl konkretus veiksmas buvo užblokuotas arba leistas.
3. Privatus išvados maršrutas
„OpenShell“ apima tam skirtą sluoksnį privatus išvadų maršrutas. Šis mechanizmas perima modelio srautą, kad būtų laikomasi privatumo ir išlaidų apribojimų. Tai užtikrina, kad neskelbtini duomenys nebūtų nutekinti išoriniams modelių tiekėjams, ir leidžia organizacijoms perjungti vietinius ir debesies pagrindu veikiančius LLM nekeičiant pagrindinės agento logikos.
Agento Agnostinė integracija
Pagrindinis techninis OpenShell pranašumas yra tas, kad jis yra agentas agnostikas. Tai nereikalauja, kad kūrėjai perrašytų agentus naudodami konkretų SDK arba sistemą. Nesvarbu, ar komanda naudojasi Klodas Kodas, Kodeksas, OpenClawarba tinkinta „LangChain“ pagrindu sukurta sistema, „OpenShell“ veikia kaip vykdymo laikas. Tai leidžia užtikrinti nuoseklų saugos sluoksnį įvairiose agentų architektūrose.
Kūrėjo darbo eiga ir CLI
„OpenShell“ sukurtas integracijai į esamus CI/CD vamzdynus ir vietines plėtros aplinkas. Tai suteikia a Komandinės eilutės sąsaja (CLI) ir a Terminalo vartotojo sąsaja (TUI) agento elgesio stebėjimui realiuoju laiku.
Inžinieriai gali inicijuoti smėlio dėžę naudodami paprastas komandas:
# Create a sandbox for a specific agent
openshell sandbox create -- <agent_name>
# Enter the sandbox terminal to monitor or interact
openshell termVykdymo laikas taip pat palaiko tiesioginiai politikos atnaujinimai. Jei agentui atliekant užduotį reikia papildomų leidimų, kūrėjai gali koreguoti politikos failą nepaleisdami smėlio dėžės iš naujo, o pakeitimai taikomi nedelsiant.
Nuotolinio smėlio dėžės palaikymas
Paskirstytoms komandoms arba dideliems skaičiavimo krūviams „OpenShell“ palaiko nuotolinį vykdymą. Tai leidžia kūrėjui valdyti smėlio dėžę, veikiančią didelio našumo GPU klasteryje iš vietinio terminalo:
openshell sandbox create --remote user@host -- <agent_name>Pagrindinių akcentų santrauka
| Funkcija | Techninė nauda |
| Apache 2.0 | Atvirojo kodo lankstumas įmonės ir asmeniniam naudojimui. |
| Sąvaros LSM | Branduolio lygio izoliacija užtikrina tvirtą smėlio dėžę. |
| L7 Politikos vykdymas | Granuliuotas tinklo ir dvejetainio vykdymo valdymas. |
| Audito registravimas | Visiškas agento veiksmų ir sprendimų priėmimo skaidrumas. |
| Privatus maršrutas | LLM išvadų srauto išlaidų ir privatumo kontrolė. |
„OpenShell“ yra pagrindinis įrankis, skirtas kiekvienam, kuris kuria autonomines agentų sistemas, kurioms reikalinga realaus pasaulio įrankių prieiga. Standartizavusi vykdymo laiką, NVIDIA padeda pramonei pereiti nuo eksperimentinių scenarijų prie saugių, valdomų autonominių agentų.
Patikrinkite Kodai, Dokumentai ir Techninės detalės. Be to, nedvejodami sekite mus Twitter ir nepamirškite prisijungti prie mūsų 120 000+ ML SubReddit ir Prenumeruoti mūsų naujienlaiškis. Palauk! ar tu telegramoje? dabar galite prisijungti prie mūsų ir per telegramą.
