llama.cpp 环境搭建与脚本运行

导出时间：2026/5/21 00:12:09

来源地址：https://www.doubao.com/chat/38413979328484866

消息数量：2

我不熟悉这个 Python 的这个安装，它有一个 requirements 点 txt， 我要什么命令才能够把这个 Python 的这个脚本的运行环境搭建好呢？比如说我现在是在 llama 点 cpp 下面，我是需要把这个 HF， Convert HF to GGUF 的这个 Python 的脚本，要让它运行，它需要创建一个虚拟的运行环境吧。这个命令方式要怎么写呢？
我给你一步到位、直接照着复制就能用的命令，专门适配你现在在 llama.cpp 里要跑 convert-hf-to-gguf.py 这种 Python 脚本的场景。

1. 先进入 llama.cpp 文件夹

确保你终端当前就在 llama.cpp 目录里：
bash
运行
cd 你的llama.cpp路径

2. 创建并激活 Python 虚拟环境（必做，不污染系统）

Windows（cmd）

bash
运行
python -m venv venv
venv\Scripts\activate

Windows（PowerShell）

bash
运行
python -m venv venv
.\venv\Scripts\Activate.ps1

Linux / macOS

bash
运行
python3 -m venv venv
source venv/bin/activate
激活后，你的命令行前面会出现 (venv)，说明成功了。

3. 安装 requirements.txt 里的依赖

只要这一条命令：
bash
运行
pip install -r requirements.txt
如果是 Python3 优先：
bash
运行
pip3 install -r requirements.txt

4. 然后就能跑转换脚本了

例：
bash
运行
python convert-hf-to-gguf.py 你的模型路径 --outfile model.gguf

最简记忆版（你记这个就行）

  1. 进 llama.cpp
  2. 建环境：python -m venv venv
  3. 激活环境：
    • Windows：venv\Scripts\activate
    • Linux/mac：source venv/bin/activate
  4. 装包：pip install -r requirements.txt
你告诉我你是 Windows 还是 Linux/mac，我可以直接给你对应系统的一整段复制即用命令。