Tips/GenerativeAI/Text Generation Web UI のバックアップ差分(No.2)


  • 追加された行はこの色です。
  • 削除された行はこの色です。
#contents
----
* 概要 [#z67a5e7e]
- ChatGPTなどのChatAIをローカル実行できる
- 最新の機能/拡張なども積極的に取り込まれている
- Stable Diffusion WebUIに似せた画面構成になっている

* 特徴 [#ae88f8cc]
* 導入 [#t916e929]
- dockerリポジトリのclone
#geshi(bash){{
git clone https://github.com/oobabooga/text-generation-webui.git
}}
- インストールスクリプトの実行
実行環境のOSに対応した以下のスクリプトを実行
|OS|インストールスクリプト|h
|Linux|start_linux.sh|
|Windows|start_windows.bat|
|MacOS|start_macos.sh|
|WSL|start_wsl.bat|

- 環境設定
実行環境に合わせて選択
-- GPUの選択
実行環境に合わせたGPUを選択する.
#geshi(bash){{
What is your GPU?

A) NVIDIA
B) AMD (Linux/MacOS only. Requires ROCm SDK 5.6 on Linux)
C) Apple M Series
D) Intel Arc (IPEX)
N) None (I want to run models in CPU mode)
}}
-- CUDAの選択
CUDAのバージョンを選択する.基本はNで良い
#geshi(bash){{
Do you want to use CUDA 11.8 instead of 12.1? Only choose this option if your GPU is very old (Kepler or older).
For RTX and GTX series GPUs, say "N". If unsure, say "N".
}}
** 参照リンク [#dfab70e5]
- [[text-generation-webui>https://github.com/oobabooga/text-generation-webui]] -  本家
- [[“PCで自宅ChatGPT”がかなり手軽に! GUIで簡単導入でき日本語もOKの「Text generation web UI」>https://internet.watch.impress.co.jp/docs/column/shimizu/1510290.html]]