„Meta AI“ išleido pirmąją stabilią „Llama Stack“ versiją: vieningą platformą, transformuojančią generatyvų dirbtinio intelekto kūrimą su atgaliniu suderinamumu, sauga ir sklandžiu kelių aplinkų diegimu

Kadangi generatyvaus AI naudojimas ir toliau plečiasi, kūrėjai susiduria su vis didesniais iššūkiais kurdami ir diegdami tvirtas programas. Įvairios infrastruktūros valdymo sudėtingumas, atitikties ir saugos užtikrinimas bei paslaugų teikėjų pasirinkimo lankstumo išlaikymas sukėlė neatidėliotiną vieningų sprendimų poreikį. Tradiciniai metodai dažnai apima glaudų ryšį su konkrečiomis platformomis, reikšmingą pertvarkymą diegimo perėjimo metu ir standartizuotų įrankių, skirtų pagrindinėms funkcijoms, pvz., paieškos, saugos ir stebėjimo, trūkumą.

Paleidimas iš Llama Stack 0.1.0pirmasis stabilus platformos leidimas, skirtas supaprastinti dirbtinio intelekto sprendimų kūrimo ir diegimo sudėtingumą, pristato vieningą sistemą su tokiomis funkcijomis kaip supaprastinti atnaujinimai ir automatizuotas teikėjo patvirtinimas. Šios galimybės suteikia kūrėjams galimybę sklandžiai pereiti nuo kūrimo prie gamybos, užtikrinant patikimumą ir mastelį kiekviename etape. „Llama Stack“ dizaino centre yra įsipareigojimas teikti nuoseklią ir įvairiapusę kūrėjo patirtį. Platforma siūlo vieno langelio sprendimą, leidžiantį kurti gamybos lygio programas, palaikančius API, apimančias išvadas, paieškos papildytą generavimą (RAG), agentus, saugą ir telemetriją. Dėl savo gebėjimo vienodai veikti vietinėje, debesų ir krašto aplinkoje jis yra išskirtinis dirbtinio intelekto kūrimo srityje.

Pagrindinės savybės Llama Stack 0.1.0

Stabilus leidimas pristato keletą funkcijų, kurios supaprastina AI programų kūrimą:

1. Atgaliniai atnaujinimai: kūrėjai gali integruoti būsimas API versijas nekeisdami esamų diegimų, išsaugodami funkcionalumą ir sumažindami trikdžių riziką.
2. Automatizuotas teikėjo patvirtinimas: „Llama Stack“ pašalina spėliones diegiant naujas paslaugas, automatizuodamas palaikomų paslaugų teikėjų suderinamumo patikras, todėl integracija yra greitesnė ir be klaidų.

Šios funkcijos ir modulinė platformos architektūra sudaro sąlygas kurti keičiamo dydžio ir gamybai paruoštas programas.

Pastatų gamybos lygio programos

Viena iš pagrindinių Llama Stack privalumų yra jos gebėjimas supaprastinti perėjimą nuo kūrimo prie gamybos. Platforma siūlo iš anksto supakuotus paskirstymus, leidžiančius kūrėjams diegti programas įvairiose ir sudėtingose ​​aplinkose, tokiose kaip vietinės sistemos, GPU pagreitintos debesies sąrankos ar kraštiniai įrenginiai. Šis universalumas užtikrina, kad programas galima padidinti arba sumažinti atsižvelgiant į konkrečius poreikius. „Llama Stack“ teikia esminius įrankius, tokius kaip apsauginiai turėklai, telemetrija, stebėjimo sistemos ir patikimos vertinimo galimybės gamybos aplinkoje. Šios funkcijos leidžia kūrėjams išlaikyti aukštus našumo ir saugos standartus, kartu teikiant patikimus AI sprendimus.

Pramonės iššūkių sprendimas

Platforma buvo sukurta siekiant įveikti tris pagrindines AI programų kūrimo kliūtis:

1. Infrastruktūros sudėtingumas: didelio masto modelių valdymas įvairiose aplinkose gali būti sudėtingas. Vienodos „Llama Stack“ API abstrahuoja infrastruktūros detales, todėl kūrėjai gali sutelkti dėmesį į savo programų logiką.
2. Esminės galimybės: be išvados, šiuolaikinėms AI programoms reikia kelių etapų darbo eigos, saugos funkcijų ir vertinimo įrankių. „Llama Stack“ sklandžiai integruoja šias galimybes, užtikrindama, kad programos būtų patikimos ir suderinamos.
3. Lankstumas ir pasirinkimas: atsiejus programas nuo konkrečių tiekėjų, „Llama Stack“ leidžia kūrėjams maišyti ir suderinti tokius įrankius kaip NVIDIA NIM, AWS Bedrock, FAISS ir Weaviate be pardavėjo užrakto.

Į kūrėją orientuota ekosistema

„Llama Stack“ siūlo „Python“, „Node.js“, „Swift“ ir „Kotlin“ SDK, kad palaikytų kūrėjus ir patenkintų įvairias programavimo nuostatas. Šiuose SDK yra įrankiai ir šablonai, skirti supaprastinti integravimo procesą ir sumažinti kūrimo laiką. Platformos žaidimų aikštelė yra eksperimentinė aplinka, kurioje kūrėjai gali interaktyviai tyrinėti Llama Stack galimybes. Su tokiomis funkcijomis kaip:

• Interaktyvios demonstracinės versijos: visos programos darbo eigos, skirtos kurti.
• Vertinimo įrankiai: iš anksto nustatytos balų konfigūracijos, skirtos modelio našumui palyginti.

Žaidimų aikštelė užtikrina, kad visų lygių kūrėjai galėtų greitai įsisavinti „Llama Stack“ funkcijas.

Išvada

Stabilus išleidimas Llama Stack 0.1.0 suteikia tvirtą sistemą kuriant, diegiant ir valdant generatyvias AI programas. Spręsdama tokias svarbias problemas kaip infrastruktūros sudėtingumas, sauga ir pardavėjo nepriklausomybė, platforma suteikia kūrėjams galimybę sutelkti dėmesį į naujoves. Turėdama patogius įrankius, išsamią ekosistemą ir ateities patobulinimų viziją, „Llama Stack“ yra pasirengusi tapti esminiu kūrėjų sąjungininku, naršančių generatyviame AI kraštovaizdyje. Be to, „Llama Stack“ planuoja išplėsti savo API pasiūlymus būsimuose leidimuose. Planuojami patobulinimai apima paketinį išvadų ir agentų apdorojimą, sintetinių duomenų generavimą ir įrankius po mokymo.

Patikrinkite „GitHub“ puslapyje. Visi nuopelnai už šį tyrimą tenka šio projekto tyrėjams. Taip pat nepamirškite sekti mūsų Twitter ir prisijunk prie mūsų Telegramos kanalas ir LinkedIn group. Nepamirškite prisijungti prie mūsų 70 000+ ML SubReddit.

🚨 (Rekomenduojama skaityti) „Nebius AI Studio“ plečiasi regėjimo modeliais, naujais kalbos modeliais, įterpimais ir LoRA ^{(Paaukštintas)}

Sana Hassan, „Marktechpost“ konsultacinė praktikantė ir „IIT Madras“ dviejų laipsnių studentė, aistringai taiko technologijas ir dirbtinį intelektą sprendžiant realaus pasaulio iššūkius. Labai domisi praktinių problemų sprendimu, jis atneša naują požiūrį į AI ir realaus gyvenimo sprendimų sankirtą.