import gradio as gr
from typing import Generator, List, Dict
from chatai_util import chat_completion_stream, SYSTEM_PROMPT 

def chat_response(message: str, history: List[Dict[str, str]]) -> Generator:
  user_message = {"role": "user", "content": message}
  # LLMにシステムプロンプトとチャット履歴、
  # ユーザーが入力したプロンプトを送信し、返答をジェネレータで取得
  response = chat_completion_stream([
    SYSTEM_PROMPT,
    *history,
    user_message
  ])
  ai_message = ""  
  # 返答をストリームで出力 
  for item in response: 
    chunk = item.choices[0].delta.content  
    if chunk is not None: 
      ai_message += chunk   
      yield ai_message  

demo = gr.ChatInterface(fn=chat_response, type="messages",
                        title="チャットAI（Gradio）")
demo.launch()
