Edited: 1. agent.py - добавление базового функционала метода stream_responce. 2. Добавлены/отредактированы chat.js, style.css. 3. flask.py добавлен блок инициализации объектов OllamaProvider, Character, Agent
This commit is contained in:
Binary file not shown.
@@ -32,6 +32,7 @@ There are some memories of your character:
|
||||
User`s name: {self.user_name}
|
||||
"""
|
||||
|
||||
|
||||
'''def save_history(self):
|
||||
os.makedirs("data/history", exist_ok=True)
|
||||
path = f"data/history/{self.character.id}.json"
|
||||
@@ -185,6 +186,35 @@ User`s name: {self.user_name}
|
||||
|
||||
return response
|
||||
|
||||
def stream_responce(self, user_input, temperature=None, max_tokens=None): #В ollamaapi нужно будет создать новый метод чисто на стриминг, пока что закомментил строки с цельным ответом
|
||||
messages = self.build_messages(user_input)
|
||||
if temperature is not None:
|
||||
self.character.temperature = temperature
|
||||
if max_tokens is not None:
|
||||
self.character.max_tokens = max_tokens
|
||||
self.character.save()
|
||||
response = self.llm.generate_stream(
|
||||
messages,
|
||||
temperature=self.character.temperature,
|
||||
max_tokens=self.character.max_tokens
|
||||
)
|
||||
|
||||
# сохраняем историю
|
||||
self.chat_history.append({
|
||||
"role": "user",
|
||||
"content": user_input
|
||||
})
|
||||
|
||||
self.chat_history.append({
|
||||
"role": "assistant",
|
||||
"content": response
|
||||
})
|
||||
|
||||
if len(self.chat_history) > 20:
|
||||
self.summarize_history()
|
||||
|
||||
return response
|
||||
|
||||
|
||||
"""
|
||||
Пример использования agent`а (пример вызовов):
|
||||
|
||||
Reference in New Issue
Block a user