LM Studio

LM Studio 是一个功能强大的工具，主要功能包括：🤖在笔记本电脑上完全离线运行 LLMs；👾通过应用内聊天界面或兼容 OpenAI 的本地服务器使用模型；📂从 HuggingFace 仓库下载任何兼容的模型文件；🔭在应用首页发现新颖的 LLMs。LM Studio 支持 Hugging Face 上所有 ggml Llama、MPT 和 StarCoder 模型（如 Llama 2、Orca、Vicuna 等）。最低要求为 M1/M2/M3 Mac 或支持 AVX2 处理器的 Windows PC，Linux 版本正在测试中。这一创新得益于 llama.cpp 项目，并且团队正在扩张中。