安装

注意事项： 请使用 Ubuntu 22.04 / WSL 2。并设置您的 CUDA 和 CUDNN 环境（CUDA 12.1 是最佳选择）。

1. 设置 Python 环境

wget -O Miniforge3.sh "https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-$(uname)-$(uname -m).sh"
bash Miniforge3.sh -b -p "${HOME}/conda"
source "${HOME}/conda/etc/profile.d/conda.sh"
conda activate
conda create -n hfdev python==3.10.12
conda activate hfdev

2. 安装 Python 库

cd ~/zhihu/
pip install -r requirements.txt

3. 结构

|--📁 zhihu
    |-📁 datasets
    |-📁 fine-tuning
    |-📁 inferences
    |-📁 models
    |-📁 models-cache

• 📁 datasets - 存储需要微调的数据，以 json 格式文件保存。

• 📁 fine-tuning - 存储 Microsoft Olive 设置在 olive-config.json 中，并保存相关步骤的缓存。

• 📁 inferences - 用于推理模型，并存放测试结果。

• 📁 models - 保存 Microsoft Phi-3 迷你模型。

• 📁 models-cache - 保存微调后的 Microsoft Phi-3 迷你模型。