KoboldAI 使用教程
KoboldAI 使用教程
Contents
簡介
KoboldAI 是一款基於瀏覽器的 AI 寫作和聊天前端工具，支援多種本地和遠端 AI 模型。本教程將指導你如何安裝和使用 KoboldAI，適合希望在本地執行 AI 模型的使用者。
前置準備
- 作業系統：Windows 7 或更高版本，或 Linux
- 硬體：建議使用支援 CUDA 的 NVIDIA GPU（計算能力 5.0 或更高）
- 儲存空間：至少 20GB 可用空間（不包括模型檔案）
- Python 環境（推薦使用 Miniconda）
分步教程
Windows 安裝（離線安裝包）
- 下載最新離線安裝包
- 執行安裝程式，選擇安裝位置（路徑不宜過深）
- 可選：執行
update-koboldai.bat更新到最新版本 - 使用
play.bat本地執行或remote-play.bat遠端執行
Windows 安裝（GitHub 版本）
- 解壓下載的 .zip 檔案到目標位置
- 以管理員身份執行
install_requirements.bat - 選擇常規 Transformers 版本（選項 1）
- 強烈建議選擇臨時 B: 驅動器選項
- 等待安裝完成，檢查是否有錯誤
- 使用
play.bat啟動 KoboldAI
Linux 安裝
- 克隆 GitHub 倉庫：
git clone https://github.com/koboldai/koboldai-client - AMD 使用者：確保已安裝 ROCm
- 根據 GPU 型別執行：
- NVIDIA GPU 或 CPU：
./play.sh - AMD GPU：
./play-rocm.sh - Intel ARC GPU：
./play-ipex.sh
- NVIDIA GPU 或 CPU：
使用 KoboldAI Lite
-
啟動 KoboldCpp（預設埠 5001）
-
在瀏覽器中訪問
http://localhost:5001 -
選擇 UI 風格：
- Classic：經典記事本風格
- Messenger：聊天模式下的訊息風格
- Aesthetic：可自定義文本樣式和顏色的 UI
-
選擇使用模式：
- Story Mode：小說創作
- Chat Mode：互動式聊天機器人
- Instruct Mode：類似 ChatGPT 的指令響應
- Adventure Mode：互動小說體驗
常見問題排查
ModuleNotFoundError
- 檢查安裝路徑是否包含空格
- 確保以管理員身份執行安裝程式
- 檢查磁碟空間是否充足
- 嘗試重新命名 %appdata% 中的 Python 資料夾
GPU 未找到錯誤
- 確認 GPU 支援 CUDA 10 或更高版本
- 檢查計算能力是否達到 5.0
- 嘗試解除安裝已安裝的 CUDA 並重新安裝
vocab.json/config.json 未找到
- 確認模型資料夾選擇正確
- 嘗試下載相容模型並替換 pytorch_model.bin 檔案
FAQ
KoboldAI 支援哪些模型？
KoboldAI 支援多種本地和遠端 AI 模型，包括 Pygmalion 等。可以通過 “AI” 選單載入不同模型。
如何提高生成質量？
調整取樣器設定：Top-P=0.92，RepPen=1.1，Temperature=0.7，取樣器順序 [6,0,1,3,4,2,5]。
能否在 Mac 上執行？
可以，但需要手動安裝 Python/conda 環境，建議有 Python 包管理經驗的使用者嘗試。
CTA
想探索更多 AI 工具？訪問 tuniang.ai 獲取最新資訊。