Ollama

Ollama 是一款免费的开源工具，允许用户在自己的硬件上本地运行大型语言模型（LLM）。它简化了下载、管理和与 Llama 2、Mistral 和 Gemma 等模型交互的过程，提供命令行界面和 API。目标用户是希望在没有云依赖的情况下试验 LLM 的开发人员、研究人员和 AI 爱好者。其独特之处在于易于使用的本地模型部署，并拥有不断增长的预配置模型库。