Susipažinkite su „Memoripy“: „Python“ biblioteka, kuri AI programoms suteikia realių atminties galimybių

Dirbtinio intelekto sistemos dažnai stengiasi išlaikyti prasmingą kontekstą ilgos sąveikos metu. Šis apribojimas kelia iššūkių tokioms programoms kaip pokalbių robotai ir virtualūs asistentai, kur būtina išlaikyti nuoseklią pokalbio giją. Dauguma tradicinių AI modelių veikia be būsenos, sutelkiant dėmesį tik į tiesiogines įvestis, neatsižvelgiant į ankstesnių mainų tęstinumą. Dėl šios veiksmingos atminties trūkumo sąveika yra fragmentiška ir nenuosekli, o tai trukdo kurti tikrai patrauklias, kontekstui jautrias AI sistemas.

Susipažinkite su „Memoripy“: „Python“ biblioteka, kuri AI programoms suteikia realias atminties galimybes. „Memoripy“ sprendžia pokalbio konteksto išlaikymo problemą, aprūpindama dirbtinio intelekto sistemas struktūrine atmintimi, leidžiančią joms efektyviai saugoti, prisiminti ir remtis ankstesne sąveika. „Memoripy“ suteikia tiek trumpalaikę, tiek ilgalaikę atmintį, leidžiančią AI sistemoms išlaikyti kontekstą iš naujausių sąveikų ir išsaugoti svarbią informaciją ilgą laiką. Struktūruodama atmintį taip, kad ji imituotų žmogaus pažinimą – pirmenybę teikdama naujausiems įvykiams ir išsaugant pagrindines detales – „Memoripy“ užtikrina, kad sąveika laikui bėgant išliktų svarbi ir nuosekli.

„Memoripy“ suskirsto atmintį į trumpalaikes ir ilgalaikes grupes, leidžiančias nustatyti naujausių sąveikų prioritetus, kad būtų galima nedelsiant prisiminti, išsaugant reikšmingas istorines sąveikas, kad būtų galima naudoti ateityje. Tai neleidžia dirbtiniam intelektui perpildyti perteklinių duomenų, tuo pačiu užtikrinant atitinkamos informacijos prieinamumą. „Memoripy“ taip pat įgyvendina semantinį klasterizavimą, sugrupuodamas panašius prisiminimus, kad palengvintų veiksmingą konteksto paiešką. Ši galimybė leidžia AI sistemoms greitai nustatyti ir susieti susijusias atmintis, taip pagerinant atsako kokybę. Be to, „Memoripy“ apima atminties nykimo ir stiprinimo mechanizmus, dėl kurių mažiau naudingi prisiminimai palaipsniui išnyksta, o dažnai pasiekiami prisiminimai sustiprinami, atspindintys žmogaus atminties principus. „Memoripy“ dizainas pabrėžia vietinę saugyklą, kuri leidžia kūrėjams atlikti atminties operacijas tik vietinėje infrastruktūroje. Šis metodas sumažina susirūpinimą dėl privatumo ir suteikia lankstumo integruojant su vietoje priglobtais kalbos modeliais, taip pat su išorinėmis paslaugomis, tokiomis kaip OpenAI ir Ollama.

Norėdami parodyti, kaip „Memoripy“ gali būti integruota į AI programą, apsvarstykite šį pavyzdį:

from memoripy import MemoryManager, JSONStorage

def main():
    # Replace 'your-api-key' with your actual OpenAI API key
    api_key = "your-key"
    if not api_key:
        raise ValueError("Please set your OpenAI API key.")

    # Define chat and embedding models
    chat_model = "openai"  # Choose 'openai' or 'ollama' for chat
    chat_model_name = "gpt-4o-mini"  # Specific chat model name
    embedding_model = "ollama"  # Choose 'openai' or 'ollama' for embeddings
    embedding_model_name = "mxbai-embed-large"  # Specific embedding model name

    # Choose your storage option
    storage_option = JSONStorage("interaction_history.json")

    # Initialize the MemoryManager with the selected models and storage
    memory_manager = MemoryManager(
        api_key=api_key,
        chat_model=chat_model,
        chat_model_name=chat_model_name,
        embedding_model=embedding_model,
        embedding_model_name=embedding_model_name,
        storage=storage_option
    )

    # New user prompt
    new_prompt = "My name is Khazar"

    # Load the last 5 interactions from history (for context)
    short_term, _ = memory_manager.load_history()
    last_interactions = short_term(-5:) if len(short_term) >= 5 else short_term

    # Retrieve relevant past interactions, excluding the last 5
    relevant_interactions = memory_manager.retrieve_relevant_interactions(new_prompt, exclude_last_n=5)

    # Generate a response using the last interactions and retrieved interactions
    response = memory_manager.generate_response(new_prompt, last_interactions, relevant_interactions)

    # Display the response
    print(f"Generated response:\n{response}")

    # Extract concepts for the new interaction
    combined_text = f"{new_prompt} {response}"
    concepts = memory_manager.extract_concepts(combined_text)

    # Store this new interaction along with its embedding and concepts
    new_embedding = memory_manager.get_embedding(combined_text)
    memory_manager.add_interaction(new_prompt, response, new_embedding, concepts)

if __name__ == "__main__":
    main()

Šiame scenarijuje MemoryManager Inicializuojama naudojant nurodytus pokalbių ir įterpimo modelius bei saugojimo parinktį. Apdorojamas naujas vartotojo raginimas, o sistema nuskaito atitinkamas ankstesnes sąveikas, kad sugeneruotų kontekstui tinkamą atsakymą. Tada sąveika išsaugoma kartu su jos įterpimu ir ištrauktomis sąvokomis, kad būtų galima pasinaudoti ateityje.

„Memoripy“ yra esminė pažanga kuriant AI sistemas, kurios labiau supranta kontekstą. Galimybė išsaugoti ir prisiminti svarbią informaciją leidžia kurti virtualius asistentus, pokalbių agentus ir klientų aptarnavimo sistemas, kurios siūlo nuoseklesnę ir individualesnę sąveiką. Pavyzdžiui, virtualus asistentas, naudojantis „Memoripy“, gali prisiminti vartotojo nuostatas arba išsamią informaciją apie ankstesnes užklausas, taip pasiūlydamas labiau pritaikytą atsakymą. Preliminarūs vertinimai rodo, kad dirbtinio intelekto sistemos, kuriose yra „Memoripy“, rodo didesnį vartotojų pasitenkinimą, todėl atsakymai yra nuoseklesni ir tinkamesni pagal kontekstą. Be to, „Memoripy“ dėmesys vietinei saugyklai yra labai svarbus privatumą tausojančioms programoms, nes tai leidžia saugiai tvarkyti duomenis, nepasikliaujant išoriniais serveriais.

Apibendrinant galima pasakyti, kad „Memoripy“ yra reikšmingas žingsnis sudėtingesnės AI sąveikos link, nes suteikia realių atminties galimybių, kurios pagerina konteksto išsaugojimą ir darną. Struktūruodama atmintį taip, kad ji glaudžiai imituotų žmogaus pažinimo procesus, „Memoripy“ atveria kelią dirbtinio intelekto sistemoms, kurios gali prisitaikyti remdamosi bendromis vartotojų sąveikomis ir pasiūlyti labiau suasmenintą, kontekstą suvokiančią patirtį. Ši biblioteka suteikia kūrėjams įrankių, reikalingų kuriant AI, kuri ne tik apdoroja įvestis, bet ir prasmingai mokosi iš sąveikos.

Patikrinkite GitHub Repo. Visi nuopelnai už šį tyrimą tenka šio projekto tyrėjams. Taip pat nepamirškite sekti mūsų Twitter ir prisijunk prie mūsų Telegramos kanalas ir LinkedIn group. Jei jums patinka mūsų darbai, jums patiks ir mūsų darbai naujienlaiškis.. Nepamirškite prisijungti prie mūsų 55k+ ML SubReddit.

(NEMOKAMAS AI internetinis seminaras) Sumanaus dokumentų apdorojimo su GenAI įgyvendinimas finansinių paslaugų ir nekilnojamojo turto sandoriuose– Nuo pagrindų iki gamybos

Asif Razzaq yra „Marktechpost Media Inc.“ generalinis direktorius. Kaip verslininkas ir inžinierius, Asif yra įsipareigojęs panaudoti dirbtinio intelekto potencialą socialinei gerovei. Naujausias jo siekis yra dirbtinio intelekto medijos platformos „Marktechpost“ paleidimas, kuri išsiskiria išsamia mašininio mokymosi ir gilaus mokymosi naujienomis, kurios yra techniškai pagrįstos ir lengvai suprantamos plačiajai auditorijai. Platforma gali pasigirti daugiau nei 2 milijonais peržiūrų per mėnesį, o tai rodo jos populiarumą tarp auditorijos.