Adım adım öğretici

1. Proje yapısı ve başlatılması

• .streamlit/secrets.toml: OpenAI API anahtarınızı saklar.
• faiss_index: tüm vektörleri saklayan bir FAISS dizini (vektör veritabanı).
• notion_content: Markdown dosyalarındaki Notion içeriğini içeren bir klasör.
• .gitignore: OpenAI API anahtarınızı ve Notion içeriğinizi yok sayar.
• app.py: Streamlit sohbet uygulamasının komut dosyası.
• ingest.py: Notion içeriğini vektörlere dönüştürmek ve bunları bir vektör dizininde saklamak için kullanılan komut dosyası.
• utils.py: Konuşma Alma Zinciri oluşturmak için kullanılan komut dosyası.
• requirements.txt: Streamlit Community Cloud'a dağıtmak için gerekli paketleri içeren bir dosya.

• Bir proje klasörü oluşturarak başlayınnotion-chatbot
• Yeni bir ortam oluşturun ve gerekli bağımlılıkları yükleyin

pip install streamlit langchain openai tiktoken faiss-cpu

• .gitignoreHangi dosyaların izlenmeyeceğini belirtmek için dosyayı oluşturun

# .gitignore
 notion_content/
.streamlit/

• OpenAI'ye gidin ve API anahtarınızı alın

• Klasörü oluştur.streamlit
• içinde , OpenAI API anahtarınızı saklayacak .streamlitdosyayı aşağıdaki gibi oluşturun secrets.toml

>>> secrets.toml
OPENAI_API_KEY = 'sk-A1B2C3D4E5F6G7H8I9J'

• Blendle Çalışan El Kitabı'nı bilgi tabanınız olarak kullanın

2. Belge alımı

• Blendle Çalışan El Kitabının ana Notion sayfasına gidin.
• Sağ üst köşedeki üç noktaya tıklayın.
• SeçmekExport
• Markdown and CSVDışa Aktarma Formatı için seçin
• SeçmeInclude subpages
• Dosyayı farklı kaydet notion_content.zip
• Klasörü açın
• Klasörü proje notion_content klasörünüze yerleştirin notion-chatbot

#ingest.py

import streamlit as st
import openai
from langchain.document_loaders import NotionDirectoryLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import FAISS 
# Load OpenAI API key
openai.api_key = st.secrets["OPENAI_API_KEY"]

# Load the Notion content located in the folder 'notion_content'
loader = NotionDirectoryLoader("notion_content")
documents = loader.load()

# Split the Notion content into smaller chunks
markdown_splitter = RecursiveCharacterTextSplitter( separators=["#","##", "###", "\\n\\n","\\n","."], chunk_size=1500, chunk_overlap=100)
docs = markdown_splitter.split_documents(documents)

# Initialize OpenAI embedding model
embeddings = OpenAIEmbeddings()

# Convert all chunks into vectors embeddings using OpenAI embedding model
# Store all vectors in FAISS index and save to local folder 'faiss_index'
db = FAISS.from_documents(docs, embeddings)
db.save_local("faiss_index")

print('Local FAISS index has been successfully saved.')

1. NET'te depolanan OpenAI API anahtarını yükleyin .streamlit/secrets.toml.
2. Klasörde bulunan Notion içeriğini notion_content kullanarak yükleyin NotionDirectoryLoader.
3. kullanarak içeriği daha küçük metin parçalarına bölün RecursiveCharacterTextSplitter.

1. OpenAI yerleştirme modelini kullanarak her metin parçasını bir vektöre dönüştürün.
2. Tüm vektörleri bir FAISS dizininde saklayın.

3. Sorgu

1. Başlangıçta bir sohbet geçmişi oluşturulur. Kullanıcı sorular sordukça veya sohbet robotu yanıtlar sağladıkça bu mesajlar sohbet geçmişinde depolanır. Chatbot, konuşma ilerledikçe önceki mesajları takip ediyor ve bu da onun hafızası olarak görev yapıyor.
2. Kullanıcı bir soru yazdığında bu soru sohbet geçmişine kaydedilir.
3. Soru ve sohbet geçmişi bağımsız bir soru halinde birleştirilir.
4. Bağımsız soru, Belge Besleme aşamasındakiyle aynı gömme modeli kullanılarak bir vektöre dönüştürülür.
5. Vektör, vektör veritabanına geçer ve bir benzerlik araması (veya vektör araması) gerçekleştirir.

1. Bulunan en benzer vektörlerle ilgili Notion içeriğini GPT için bağımsız bir soruya bağlayın.
2. GPT, bir sistem isteminin yönergelerini temel alarak bir yanıt formüle eder.
3. Chatbot, kullanıcıya GPT'den gelen yanıtla yanıt verir.
4. Chatbotun cevabını sohbet geçmişine ekleyin.
5. Bu işlemi tekrarlayın.

# **utils.py**

import streamlit as st
import openai
from langchain.chains import ConversationalRetrievalChain
from langchain.memory import ConversationBufferWindowMemory
from langchain.chat_models import ChatOpenAI
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings
from langchain.prompts import PromptTemplate
from langchain.prompts.chat import SystemMessagePromptTemplate
openai.api_key = st.secrets["OPENAI_API_KEY"]

@st.cache_resource
def load_chain():
""" The `load_chain()` function initializes and configures a conversational retrieval chain for answering user questions. :return: The `load_chain()` function returns a ConversationalRetrievalChain object. """
# Load OpenAI embedding model
embeddings = OpenAIEmbeddings()
# Load OpenAI chat model
llm = ChatOpenAI(temperature=0)
# Load our local FAISS index as a retriever
vector_store = FAISS.load_local("faiss_index", embeddings)
retriever = vector_store.as_retriever(search_kwargs={"k": 3})
# Create memory 'chat_history'
memory = ConversationBufferWindowMemory(k=3,memory_key="chat_history")
# Create system prompt
template = """ You are an AI assistant for answering questions about the Blendle Employee Handbook. You are given the following extracted parts of a long document and a question. Provide a conversational answer. If you don't know the answer, just say 'Sorry, I don't know ... 😔. Don't try to make up an answer. If the question is not about the Blendle Employee Handbook, politely inform them that you are tuned to only answer questions about the Blendle Employee Handbook. {context} Question: {question} Helpful Answer:"""
# Create the Conversational Chain
chain = ConversationalRetrievalChain.from_llm(llm=llm, retriever=retriever, memory=memory, get_chat_history=lambda h : h,
verbose=True)
# Add systemp prompt to chain
# Can only add it at the end for ConversationalRetrievalChain
QA_CHAIN_PROMPT = PromptTemplate(input_variables=["context", "question"],template=template)
chain.combine_docs_chain.llm_chain.prompt.messages[0] = SystemMessagePromptTemplate(prompt=QA_CHAIN_PROMPT)
return chain

1. NET'te depolanan OpenAI API anahtarını yükleyin .streamlit/secrets.toml.
2. load_chain()Bir döndüren işlevi oluşturun Conversational Retrieval Chain object. st.cache_resourceUygulamanızı daha verimli hale getirmek için kullanıyoruz . Bunu kullanarak, load_chain()işlevi en başta yalnızca bir kez çalıştırırsınız ve sonucu yerel bir önbellekte saklarsınız. Daha sonra herhangi bir değişiklik yapılmadığından yürütme işlemi atlanacaktır. Çok uygun!
3. Kullanıcının sorgularını vektörlere dönüştüren OpenAI yerleştirme modelini yükleyin.
4. Yanıtları oluşturan OpenAI sohbet modelini yükleyin. Bunu yapmak için bağımsız soruyu (kullanıcının sorusu ile sohbet geçmişini birleştirerek) ve ilgili belgeleri kullanır. Sıcaklığı 0 olarak belirtin; bu, modelin her zaman en yüksek olasılıklı kelimeyi seçeceği anlamına gelir. Daha yüksek bir sıcaklık, modelin biraz daha düşük olasılığa sahip bir kelimeyi seçebileceği anlamına gelir; bu da daha fazla varyasyona, rastgeleliğe ve yaratıcılığa yol açar. Sizin için en iyi neyin işe yaradığını görmek için onunla oynayın.
5. Yerel FAISS indeksinizi, zincirin ilgili bilgileri aramak için kullandığı bir alıcı olarak yükleyin. Tanımla k=3—vektör veritabanındaki en alakalı üç belgeyi arayın.
6. Kullanarak chatbotunuzun hafızasını oluşturun ConversationBufferWindowMemory. Define k=3, yani chatbot, bağımsız soruyu oluştururken son üç etkileşime bakacaktır. Bu, arabelleğin çok fazla büyümemesi için en son etkileşimlerin kayan penceresini tutmak açısından kullanışlıdır.
7. Sohbet robotumuz için kılavuz görevi gören sistem istemini oluşturun. Chatbot'un nasıl davranması gerektiğini ve bir yanıt bulamadığında veya kullanıcının sorusu kapsamı dışında olduğunda ne yapması gerektiğini belirtin.
8. ConversationalRetrievalChainÖnceki tüm elemanları birbirine bağlayarak zinciri oluşturun . verbose=TrueZinciri çalıştırırken kaputun altında neler olduğunu görmek için ayarlayın . Bu, chatbotun kullanıcının sorularını yanıtlamak için hangi bilgileri kullandığını görmeyi kolaylaştırır.
9. Sistem istemini zincire ekleyin. Şu anda, bunu yalnızca kullanırken zinciri tanımladıktan sonra ekleyebileceğiniz görülüyor ConversationalRetrievalChain.from_llm.

4. Chatbot uygulaması

# **app.py**

import time
import streamlit as st
from utils import load_chain 
# Custom image for the app icon and the assistant's avatar
company_logo = 'https://www.app.nl/wp-content/uploads/2019/01/Blendle.png'

# Configure Streamlit page
st.set_page_config( page_title="Your Notion Chatbot", page_icon=company_logo
)

# Initialize LLM chain
chain = load_chain()

# Initialize chat history
if 'messages' not in st.session_state: # Start with first message from assistant st.session_state['messages'] = [{"role": "assistant", "content": "Hi human! I am Blendle's smart AI. How can I help you today?"}]

# Display chat messages from history on app rerun
# Custom avatar for the assistant, default avatar for user
for message in st.session_state.messages: if message["role"] == 'assistant': with st.chat_message(message["role"], avatar=company_logo): st.markdown(message["content"]) else: with st.chat_message(message["role"]): st.markdown(message["content"])

# Chat logic
if query := st.chat_input("Ask me anything"): # Add user message to chat history st.session_state.messages.append({"role": "user", "content": query}) # Display user message in chat message container with st.chat_message("user"): st.markdown(query)
 with st.chat_message("assistant", avatar=company_logo): message_placeholder = st.empty() # Send user's question to our chain result = chain({"question": query}) response = result['answer'] full_response = ""
 # Simulate stream of response with milliseconds delay for chunk in response.split(): full_response += chunk + " " time.sleep(0.05) # Add a blinking cursor to simulate typing message_placeholder.markdown(full_response + "▌") message_placeholder.markdown(full_response)
 # Add assistant message to chat history    st.session_state.messages.append({"role": "assistant", "content": response})

1. Daha önce oluşturduğumuz Konuşmaya Dayalı Geri Alma Zincirini yüklemek için load_chain()şuradan içe aktarın .utils.py
2. Sohbet uygulamasında uygulamanızın sayfa simgesi ve asistanınızın avatarı olarak kullanmak için URL'den bir resim yükleyin.
3. Zincirinizi oturum durumunda başlatın.
4. Kullanıcıyı karşılayan asistanın ilk mesajıyla sohbet geçmişini oturum durumunda başlatın.
5. Asistan için özel bir avatar ve kullanıcı için varsayılan bir avatar belirleyerek sohbet geçmişindeki tüm mesajları görüntüleyin.
6. Aşağıdakileri yapmak için sohbet mantığını oluşturun:

• Kullanıcının sorgusunu alın ve sohbet geçmişinde saklayın
• Kullanıcının sorgusunu sohbette görüntüleyin
• Kullanıcının sorgusunu kullanarak zincirinize iletinst.session_state['chain']({"question": query})
• Geri yanıt alın
• Yanıtın görüntülenmesini yavaşlatarak insan yazma hızını simüle ederek yanıtı sohbette görüntüleyin
• Yanıtı sohbet geçmişine kaydedin

# ****************requirements.txt****************
 openai langchain faiss-cpu tiktoken

• Uygulamanız dağıtıldıktan sonra URL'sini kopyalayın.
• Notion sayfanıza gidin.
• EmbedBlok seçeneklerinde seçim yaparak uygulamanızı ekleyin .
• Uygulamanızın URL'sini yapıştırın ve simgesine tıklayın Embed link.
• İşte! Yeni Notion sohbet robotunuzu kullanarak içeriğinizle etkileşimde bulunmanın tadını çıkarın!

Tebrikler! 🥳

• OpenAI yerleştirme modelini kullanarak Notion içeriğinizi vektörlere dönüştürün ve bunları bir FAISS dizininde saklayın
• LangChain'i kullanarak özel bir istem ve bellekle bir Konuşma Alma Zinciri oluşturun
• En yeni sohbet özelliklerini kullanarak bir Streamlit sohbet uygulaması oluşturun ve dağıtın
• Streamlit sohbet uygulamasını Notion sayfanıza yerleştirin