DoctorGPT使用LLaMA2作为基座模型，在医疗对话数据上进行了SFT微调，然后通过强化学习（Reinforcement Learning）进一步提升了模型效果。
DoctorGPT github代码仓库：https://github.com/SpeechOceanTech/DoctorGPT
DoctorGPT huggingface模型仓库：https://huggingface.co/llSourcell
Mac上运行DoctorGPT
参考文献：https://mlc.ai/mlc-llm/#android
运行环境：
- 操作系统：MacOS
- 硬件： Apple M1 Pro（8 Core），16内存。
# conda创建虚拟环境。
conda create -n mlc-chat -c mlc-ai -c conda-forge mlc-chat-cli-nightly
conda activate mlc-chat
# 安装 git-lfs
brew install git-lfs
# 下载运行环境依赖库。
mkdir -p dist/prebuilt
git clone [email protected]:mlc-ai/binary-mlc-llm-libs.git dist/prebuilt/lib
# 下载DoctorGPT量化版本模型参数
cd dist/prebuilt
git clone [email protected]:llSourcell/doctorGPT_mini
# 运行模型
cd ../..
mlc_chat_cli --local-id doctorGPT_mini
运行过程中，观察程序运行仅占用3.11GB内存，且推理速度很快，太牛逼了
标签：mlc,git,chat,DoctorGPT,模型,llama From： https://www.cnblogs.com/bytehandler/p/17635915.html