KoboldAI 使用教程
KoboldAI 使用教程
Contents
简介
KoboldAI 是一款基于浏览器的 AI 写作和聊天前端工具，支持多种本地和远程 AI 模型。本教程将指导你如何安装和使用 KoboldAI，适合希望在本地运行 AI 模型的用户。
前置准备
- 操作系统：Windows 7 或更高版本，或 Linux
- 硬件：建议使用支持 CUDA 的 NVIDIA GPU（计算能力 5.0 或更高）
- 存储空间：至少 20GB 可用空间（不包括模型文件）
- Python 环境（推荐使用 Miniconda）
分步教程
Windows 安装（离线安装包）
- 下载最新离线安装包
- 运行安装程序，选择安装位置（路径不宜过深）
- 可选：运行
update-koboldai.bat更新到最新版本 - 使用
play.bat本地运行或remote-play.bat远程运行
Windows 安装（GitHub 版本）
- 解压下载的 .zip 文件到目标位置
- 以管理员身份运行
install_requirements.bat - 选择常规 Transformers 版本（选项 1）
- 强烈建议选择临时 B: 驱动器选项
- 等待安装完成，检查是否有错误
- 使用
play.bat启动 KoboldAI
Linux 安装
- 克隆 GitHub 仓库：
git clone https://github.com/koboldai/koboldai-client - AMD 用户：确保已安装 ROCm
- 根据 GPU 类型运行：
- NVIDIA GPU 或 CPU：
./play.sh - AMD GPU：
./play-rocm.sh - Intel ARC GPU：
./play-ipex.sh
- NVIDIA GPU 或 CPU：
使用 KoboldAI Lite
-
启动 KoboldCpp（默认端口 5001）
-
在浏览器中访问
http://localhost:5001 -
选择 UI 风格：
- Classic：经典记事本风格
- Messenger：聊天模式下的消息风格
- Aesthetic：可自定义文本样式和颜色的 UI
-
选择使用模式：
- Story Mode：小说创作
- Chat Mode：交互式聊天机器人
- Instruct Mode：类似 ChatGPT 的指令响应
- Adventure Mode：互动小说体验
常见问题排查
ModuleNotFoundError
- 检查安装路径是否包含空格
- 确保以管理员身份运行安装程序
- 检查磁盘空间是否充足
- 尝试重命名 %appdata% 中的 Python 文件夹
GPU 未找到错误
- 确认 GPU 支持 CUDA 10 或更高版本
- 检查计算能力是否达到 5.0
- 尝试卸载已安装的 CUDA 并重新安装
vocab.json/config.json 未找到
- 确认模型文件夹选择正确
- 尝试下载兼容模型并替换 pytorch_model.bin 文件
FAQ
KoboldAI 支持哪些模型？
KoboldAI 支持多种本地和远程 AI 模型，包括 Pygmalion 等。可以通过 “AI” 菜单加载不同模型。
如何提高生成质量？
调整采样器设置：Top-P=0.92，RepPen=1.1，Temperature=0.7，采样器顺序 [6,0,1,3,4,2,5]。
能否在 Mac 上运行？
可以，但需要手动安装 Python/conda 环境，建议有 Python 包管理经验的用户尝试。
CTA
想探索更多 AI 工具？访问 tuniang.ai 获取最新资讯。