概览
- 工具名称：Cohere
- 开发商：Cohere
- 官网：https://cohere.com
- 分类：AI Models
Cohere 是一家总部位于多伦多的企业级 AI 公司，由原始 Transformer 论文作者之一 Aidan Gomez 于 2019 年创立。它不去争取消费者注意力，而是为企业构建模型和检索工具：Command 系列生成模型、用于向量的 Embed、用于提升搜索相关性的 Rerank、North 智能体平台，以及 Compass 企业搜索。在采购环节真正让 Cohere 拉开差距的，是部署灵活性——模型可以跑在主流云上、跑在客户自己的 VPC 里，或完全本地化部署——以及明确承诺不使用客户数据训练模型。
主要用途
- 在私有文档上搭建检索增强生成（RAG）：Embed 负责检索、Rerank 负责结果排序、Command 负责有依据的生成——这三件是多数团队做出准确 RAG 所必需的。
- 支撑企业搜索：Compass 可以跨结构化与非结构化内部数据源检索，而这正是大量实际需求所在。
- 在受监管环境中部署模型：私有云、VPC 和本地化部署让银行、医院和公共部门能在不把数据外送的前提下用上当前的模型。
- 跑多语言负载：Cohere 的语言覆盖异常广泛，还包括开放的 Aya 研究模型，这对全球化部署很关键。
- 针对特定领域微调：生成模型和向量模型都支持微调，这正是让输出在法律、临床文书等专业领域可用的手段。
价格方案
- 试用 API 密钥：免费但有限流，且不允许商用。没有长期免费的生产档位。
- Command R：低成本生成模型，每百万输入 token 远低于一美元，适合高批量的 RAG 和分类。
- Command R+ / Command A：高端档位，每百万输入 token 几美元、输出约十美元，用于复杂推理与综合。
- Embed：约每百万 token 一角钱，便宜到可以在大语料上跑。
- Rerank：按搜索单元计费——一次查询对应最多一百篇文档。
- North、Compass 与私有部署：需联系销售定制报价。
Cohere 的标价会变动，而 North 和 Compass 根本没有公开价格。做预算前请到 cohere.com/pricing 核对当前费率。
适用场景
- 构建企业级 RAG 的工程团队：Embed 加 Rerank 再加 Command，是一套逻辑自洽的私有数据精准检索方案。
- 受监管行业：银行、医疗和公共部门——数据驻留要求使它们无法把数据发到消费级 API。
- 全球化企业：广泛的语言覆盖适合英语之外的部署场景。
- 已在使用主流云的平台团队：Cohere 模型可通过 AWS Bedrock、Azure、Google Cloud 和 Oracle 获取，能在既有采购流程内落地。
如何使用Cohere
1. 在 cohere.com 注册账号并生成 API 密钥——试用密钥有限流，但足够测试。
2. 选择所需组件：Command 做生成、Embed 做向量、Rerank 做检索结果排序。
3. 安装 Python、Node.js、Go 或 Java 的 SDK，先用一小批样本跑通第一次调用。
4. 搭建检索链路：对文档做向量化、召回候选，再用 Rerank 排序，最后把上下文交给 Command。
5. 先在自己的数据上评估质量，再优化成本——这里模型选择比 token 价格更重要。
6. 选择部署路径：Cohere 的 API、云厂商市场，或私有 VPC / 本地化部署。
7. 如果你的领域有自己的术语体系，就做微调，然后重新评估。
8. 换成生产密钥，并在上线前设置用量告警。
使用建议
- 一定要用 Rerank。 它是整套栈里杠杆最高的组件——检索质量的提升通常来自重排序，而不是换个更大的生成模型。
- 从 Command R 起步，别一上来就用 R+。 多数 RAG 负载用不到高端模型，规模化后的成本差距很大。
- 在自己的文档上做评估。 榜单分数无法预测模型在你的语料上的表现，用真实数据做一天评估才行。
- 受监管的话，早点谈部署方式。 VPC 和本地化选项存在但走销售流程，应在评估阶段提出，而不是事后。
- 能用现有云就用。 走 Bedrock 或 Vertex AI 能把采购、计费和治理留在你已有的流程里。
- 针对领域术语微调向量模型。 比想象中便宜，且在专业语料上通常优于提示词工程。
局限与注意事项
- 前沿推理和编程基准落后于 OpenAI、Anthropic 和 Google。团队常常是让前沿模型与 Cohere 并存，而不是用它完全替代。
- 没有消费级对话界面。这是开发者和企业级产品，随意试用评估的难度更高。
- North 和 Compass 没有公开价格，必须先跟销售沟通才能估算成本。
- 开发者社区和第三方生态远小于头部厂商，可参考的示例和集成都更少。
- 多模态能力比那些同时提供图像和音频模型的对手更薄。
- 没有长期免费的生产档位——试用密钥有限流且不可商用。
常见问题
Cohere 是什么？
一家 2019 年创立、总部位于多伦多的企业级 AI 公司。产品包括 Command 生成模型、Embed 向量模型、Rerank 相关性排序、North 智能体平台和 Compass 企业搜索。
Cohere 与 OpenAI、Anthropic 有什么不同？
Cohere 专注企业级检索、多语言覆盖和部署灵活性（包括 VPC 与本地化），而不是前沿榜单排名或消费级产品。
Cohere 多少钱？
按 token 计费的 API 定价。较轻量的 Command 模型每百万输入 token 远低于一美元；高端档位每百万输入几美元、输出约十美元；Embed 约每百万 token 一角钱。North、Compass 与私有部署为定制报价。
有免费档吗？
试用 API 密钥免费但有限流，且不允许商用。没有长期免费的生产档位。
Cohere 能本地化部署吗？
能。模型可部署在客户自己的 VPC、本地机房甚至隔离网络环境中，这正是受监管行业选择它的主要原因。
Cohere 会用客户数据训练模型吗？
Cohere 明确声明不会使用客户数据进行训练——这是它在受监管行业被反复引用的理由。
Rerank 是什么？
一个按相关性对检索结果重排序的模型。在 RAG 流水线中加入 Rerank，对答案质量的提升通常大于升级生成模型。
