目次
- PrivateGPTの概要
- PrivateGPTの使い方
- PrivateGPTのメリット・おすすめユーザー
- PrivateGPTの使い方
PrivateGPTの概要
privateGPTは、LangChain, GPT4All, LlamaCpp, Chroma, SentenceTransformersを使用して構築されています。このツールは、インターネット接続なしでドキュメントに質問をすることができます。また、データは実行環境を離れることはありません。
PrivateGPTの使い方
- LangChainツールを使用してドキュメントを解析し、ローカルで埋め込みを作成
- Chromaベクトルストアを使用してローカルベクトルデータベースに結果を保存
- GPT4All-JまたはLlamaCppに基づくローカルLLMを使用して質問を理解し、答えを作成
- ローカルベクトルストアからの類似性検索を使用して、ドキュメントからの正しいコンテキストの部分を特定
PrivateGPTのメリット・おすすめユーザー
- 100%プライベートでドキュメントとの対話が可能
- インターネット接続なしでの動作
- データはローカル環境を離れない
- LangChainの力を活用して、ローカルでの高いパフォーマンス
PrivateGPTの使い方
- 必要なすべての要件をインストール: `pip3 install -r requirements.txt`
- LLMモデルをダウンロードし、選択したディレクトリに配置
- `.env`ファイル内の変数を適切に編集
- 自分のデータセットを取り込むための指示に従う
- `python ingest.py`コマンドを実行してすべてのデータを取り込む
- 質問をするために、`python privateGPT.py`コマンドを実行
- スクリプトが入力を要求するのを待ち、質問を入力
