llmaker

自托管 LLM 技术栈。在终端中运行整个集群。

llmaker 是一款开源的本地化大模型全栈部署平台，只需一条命令即可完成大语言模型、向量数据库、嵌入、缓存、可观测性以及内置检索与 Agent 层的配置、组网与生产化。它让用户在无需任何第三方 API Key 的前提下，于自有基础设施上快速搭建私有的 RAG 聊天机器人、FAQ 助手与推荐引擎，确保数据始终留在本地。