Zep Memory

Zep, LLM uygulamaları için uzun süreli bellek deposudur. LLM uygulama / chatbot geçmişlerini depolar, özetler, yerleştirir, dizine ekler ve zenginleştirir ve bunları basit, düşük gecikmeli API'ler aracılığıyla ortaya çıkarır.

Render için Zep'i dağıtma kılavuzu

Zep'i Render, Flyio gibi buluthizmetlerine kolayca dağıtabilirsiniz. Yerel olarak test etmeyi tercih ederseniz, hızlı kılavuzlarını izleyerek bir docker kapsayıcısı da oluşturabilirsiniz.

Bu örnekte, Render'a dağıtacağız.

1. Zep Repo'ya gidin ve Oluşturmak için Dağıt'a tıklayın

2. Bu sizi Render'ın Blueprint sayfasına götürecek ve Yeni Kaynaklar Oluştur'a tıklamanız yeterli olacaktır

1. Dağıtım tamamlandığında, gösterge tablonuzda oluşturulan 3 uygulamayı görmeniz gerekir

1. Zep adlı ilkine tıklamanız ve dağıtılan URL'yi kopyalamanız yeterlidir

Zep'i Digital Ocean'a Dağıtma Kılavuzu (Docker aracılığıyla)

1. Depoyu klonlama

Kopya etmek

git clone https://github.com/getzep/zep.git
cd zep
nano .env

1. OpenAI API Anahtarınızı IN'e ekleyin. ENV

Kopya etmek

ZEP_OPENAI_API_KEY=

Kopya etmek

docker compose up -d --build

1. 8000 numaralı bağlantı noktasına güvenlik duvarı erişimine izin ver

Kopya etmek

sudo ufw allow from any to any port 8000 proto tcp
ufw status numbered

Digital ocean kontrol panelinden ayrı bir güvenlik duvarı kullanıyorsanız, 8000 numaralı bağlantı noktasının da oraya eklendiğinden emin olun

Flowise Kullanıcı Arayüzünde Kullanım

1. Flowise uygulamasına geri dönün, yeni bir tuval oluşturmanız veya pazardaki şablonlardan birini kullanmanız yeterlidir. Bu örnekte, Simple Conversational Chain'i kullanacağız

1. Tampon Belleği Zep Belleği ile değiştirin. Ardından Base URL'yi yukarıda kopyaladığınız Zep URL'si ile değiştirin

1. Sohbet akışını kaydedin ve konuşmaların hatırlanıp hatırlanmadığını görmek için test edin.

1. Şimdi sohbet geçmişini temizlemeyi deneyin, artık önceki konuşmaları hatırlayamadığını görmelisiniz.

Zep Kimlik Doğrulaması

Zep, JWT kimlik doğrulamasını kullanarak bulut sunucunuzun güvenliğini sağlamanıza olanak tanır. Burada komut satırı yardımcı programını kullanacağız.zepcli

1. Bir gizli dizi ve JWT belirteci oluşturun

ZepCLI'yi indirdikten sonra:

Linux veya MacOS'ta

Kopya etmek

./zepcli -i

Windows'ta

Kopya etmek

zepcli.exe -i

Önce SECRET Token'ınızı alacaksınız:

O zaman JWT Token alacaksınız:

2. Auth ortam değişkenlerini yapılandırın

Zep sunucu ortamınızda aşağıdaki ortam değişkenlerini ayarlayın:

Kopya etmek

ZEP_AUTH_REQUIRED=true
ZEP_AUTH_SECRET=<the secret you generated above>

3. Flowise'da Kimlik Bilgilerini Yapılandırın

Zep için yeni bir kimlik bilgisi ekleyin ve API Anahtarı alanına JWT Belirtecini girin:

4. Oluşturulan kimlik bilgilerini Zep düğümünde kullanın

Zep düğümü Connect Credential'da, yeni oluşturduğunuz kimlik bilgisini seçin. Ve bu kadar!