目次
調べものを頼むたびに、知識の古さが気になる
「先週発表されたあの件について教えて」と ChatGPT に聞くと、知らないと答えるか、古い情報を自信ありげに返します。そこで別タブで検索し、結果をコピーして貼り、また質問する。この往復が地味に高くつきます。
chatGPT_streamlit は、その往復を1つの画面に畳むための最小構成です。質問を投げると、エージェントが Google 検索と Wikipedia を自分で引き、根拠を添えて日本語で答えます。UI は Streamlit の1ファイル、起動はコマンド1行です。
既存手段の限界
| 手段 | できること | 限界 |
|---|---|---|
| ChatGPT 単体 | 一般知識の回答 | カットオフ以降と一次情報に弱い。出典を示さない |
| 自分で検索して貼る | 最新情報を渡せる | 質問と検索の往復が毎回発生する。使う検索先も自分で決める |
| 自前でツール呼び出しを実装 | 自由に組める | ツール選択、ループ、履歴をすべて自分で書く |
| Streamlit + ReAct | 選択とループをライブラリに任せられる | 画面は素朴。ストリーミングや認証は別途 |
このリポジトリが狙ったのは4番目です。「ツールを渡せば、どれを使うかは LLM が決める」というのが ReAct の利点で、質問ごとの分岐を自分で書かずに済みます。
解決の設計
作業の前後を並べます。
図1: 調査の往復の前後比較
設計の要点は3つです。
- ツールは2つ、説明文で選ばせる: 現在の情報は Google、過去の情報は Wikipedia。分岐はコードに書かない
- 手順はプロンプトで固定する: 思考は英語、回答は日本語、根拠を述べる、不足なら質問する
- 履歴は画面の状態に持つ: DB を用意せず、
session_stateに文字列で積む
トレードオフもはっきりしています。ツールの選択精度は description の書き方に依存し、DB を持たないので再起動で履歴は消えます。まず動かして価値を見る、という順番を優先した構成です。
もう1つ、あえて自動にしなかった部分があります。検索するかどうかの判断を、コードの分岐ではなく LLM に渡しています。挨拶程度の質問なら、ツールを呼ばずに Final Answer を返せます。ルールで縛ると、そのぶん例外処理が増えます。
実装の要点
ツールを2つ渡す
chatgpt_streamlit/streamlit_run.py で、検索と Wikipedia を Tool として定義します。
# chatgpt_streamlit/streamlit_run.py
search = GoogleSearchAPIWrapper()
docstore = DocstoreExplorer(Wikipedia())
tools = [
Tool(name="Search Google", func=search.run,
description="useful for when you need to answer questions about current events"),
Tool(name="Search Wikipedia", func=docstore.search,
description="useful for when you need to answer questions about historical events"),
]
description は「いつ使うか」で書きます。エージェントはこの文しか見ていないため、ここが曖昧だと検索先を間違えます。日本語で質問しても、エージェントが読むのは英語の説明文です。日本語に訳すかどうかは、質問の言語に合わせて決める余地があります。
手順をプロンプトに埋める
suffix に、回答の作法をそのまま書きます。
suffix = """Begin!
最終的な答えは日本語で答えてください。
質問に答える時には根拠も述べてください。
不足する情報がある場合は質問してください。
関西弁で答えてください。
Question: {input}
{agent_scratchpad}"""
{agent_scratchpad} に Thought / Action / Observation が積まれます。ZeroShotAgent.create_prompt() に tools を渡すと、ツール一覧の説明が自動で差し込まれる仕組みです。
起動して確かめる
poetry install
poetry run streamlit run chatgpt_streamlit/streamlit_run.py
環境変数は OPENAI_API_KEY、GOOGLE_API_KEY、GOOGLE_CSE_ID の3つです(README の記載)。ブラウザで質問すると、verbose=True の設定により、選んだツールと検索結果がサーバーの標準出力に出ます。
結果
リポジトリに計測値はないため、定性でまとめます。
- 検索タブとの往復が消え、質問と確認が同じ画面で完結します
- 回答に根拠が付きます。
suffixの「根拠も述べてください」が効いている範囲です - 途中経過が標準出力で読めるので、どのツールを何回使ったかを後から追えます
- 履歴が残るので「さっきの件だけど」が通ります
一方で、待ち時間は LLM の呼び出し回数に比例して増えます。ReAct は1質問で複数回モデルを呼ぶため、ツールを2回使えば3回以上待つことになります。速さより、往復の手間を減らすことを優先した結果です。
もう1点、確認の手間も変わります。回答が根拠を述べていても、その根拠が正しいかは結局こちらが読む必要があります。検索結果をそのまま信じるのではなく、引用された内容と質問の噛み合いを見る作業が残ります。自動化で消えたのは「検索して貼る」工程であって、「読んで判断する」工程ではありません。
向かないケース・残課題
- ストリーミングが無い: 長い回答では画面が止まって見えます。
agent_executor.run()が返るまで何も動きません - 履歴が揮発する:
session_stateのみなので、再起動で消えます - 公開部分が未整備:
cloud_function_chatGPT.pyはpredict()を1回呼ぶ単体スクリプトで、HTTP リクエストを受けるハンドラがありません。MySQL への接続も接続先が空欄で、永続化は未設定です - テストが無い:
tests/は空で、確認は手動と notebook です - 依存が古い:
langchain 0.0.101前提の import なので、現在のバージョンでは動きません - ツール選択の評価が無い: 誤選択を測る仕組みはなく、精度は
descriptionとモデル任せです
「自分用の調査アシスタントを今日動かす」用途には向きますが、複数人で使うサービスにするなら、認証・永続化・評価の3つを足す必要があります。
まとめ
- 検索付きチャットは「ツール定義」「プロンプト」「画面」の3点で成立する
- 分岐を書かずにツールを選ばせるなら ReAct。説明文が実質の設定ファイルになる
- 最短で試すなら Streamlit の1ファイル。永続化と公開は後回しにできる
作り込む前に「自分の質問で役に立つか」を確かめられるのが、この小さな構成の価値です。
関連記事
- Streamlit + LangChain ReAct で作る検索付きチャットUI — chatGPT_streamlit の技術構成
- StreamlitでChatGPTのUIを作る—LangChain ReActエージェントとGoogle検索の組み合わせ
LangChain や Streamlit を使った AI アプリ開発でお困りのことはありませんか?
技術相談や開発サポートを承っています。お気軽にご相談ください。