LM Studio

LM Studio是什么

LM Studio 是一个桌面应用程序，用于在您的计算机上本地运行和评估大型语言模型（LLMs），可以轻松地比较不同的模型，并支持使用NVIDIA/AMD GPU 加速计算。

通过LM Studio，用户可以通过应用内聊天界面或OpenAI兼容的本地服务器使用模型，还可以下载、安装并运行各种基于Hugging Face 的模型文件，无需编写代码即可在本地测试模型性能。

LM Studio主要功能

✅ LM Studio Server
通过在本地主机上运行的类似 OpenAI 的 HTTP 服务器使用本地 LLM

✅ 文本嵌入
使用 LM Studio 的嵌入服务器在本地生成文本嵌入（对 RAG 应用程序有用）

LM Studio支持的设备

• Windows（x86、x64、AVX2）
• MacOS（Apple 芯片 – M1/M2/M3）
• Linux（x86、Ubuntu 22.04、AVX2）

LM Studio官网下载地址：https://lmstudio.ai/

LM Studio官网说明文档：https://lmstudio.ai/docs/welcome