免费 Vertex AI 额度价值多少？
符合条件的初创公司最高可获得 100,000 美元的 Vertex AI 额度，而且这是目前最灵活的大型 AI 赠金，因为相同的额度可以在多个模型供应商之间使用，而不是仅限于一个。
这是创始人常常低估的部分。大多数模型额度会让你锁定到单一供应商。Vertex AI 额度涵盖 Google 自有模型、通过 Model Garden 提供的第三方模型（包括 Anthropic 的 Claude）以及 Llama 和 Mistral 等开源模型家族，可用性因地区而异，并会随时间变化。
一个额度池，多个供应商。这种灵活性才是真正值得关注的，而不是金额数字。
资格取决于公司发展阶段、融资情况以及你如何接触到该计划，这些规则的变动比额度金额更频繁。AI Perks 跟踪最新的条款，并已为 194 家公司提供了总计 770 万美元的额度。
Vertex AI 实际用途是什么？
Vertex AI 是 Google Cloud 的托管平台，用于调用、微调、检索增强生成（grounding）和部署模型，因此你购买的是模型周围的操作层，而不是模型本身。
实际而言，这个操作层包括：
- 跨多个模型供应商的统一 API 接口，因此更换模型只需更改配置，无需重写代码。
- 微调和评估，让你能够衡量变化，而不是猜测。
- 检索，包括向量搜索和托管的 RAG 工具。
- 部署，包括在线端点、批量预测和预留吞吐量。
- 治理，包括 IAM、私有网络、数据驻留和审计日志。
这是实际采用的测试。如果你的产品向一个模型发送提示并读取答案，直接使用 API 密钥会更简单，通常也更便宜。当你需要不止一个供应商、企业级控制（买家会询问）或原本需要自己构建的检索和评估时，Vertex AI 的复杂性才显得有价值。
Vertex AI 在规模化上的成本行为
Vertex AI 的计费模式有两种：一种是随流量变化的 token 计费，另一种是无论是否有流量都会计费的 node 计费的基础设施。 混淆这两种模式是团队在产品尚未被使用的情况下烧掉六位数额度的原因。
| 成本驱动因素 | 如何计费 | 规模化行为 |
|---|---|---|
| 生成式模型调用 | 按输入和输出 token | 随流量变化，空闲时降至零 |
| 已部署的自定义端点 | 按部署期间的 node-小时 | 固定费用，即使零用户也会在凌晨 3 点计费 |
| 向量搜索索引服务 | 按索引服务的 node-小时 | 固定费用，随着索引增长而增加 |
| 微调和训练任务 | 按任务的加速器-小时 | 突发性，一次任务是一大笔开销 |
| 批量预测 | 按 token 计费，通常低于在线费率 | 对任何无需即时响应的工作来说最便宜的路径 |
| 已检索增强和搜索支持的调用 | 按请求计费，额外叠加 token 费用 | 可能会使原始 RAG 循环的单位成本翻倍 |
三个值得关注的后果。
空闲基础设施是主要泄漏点。 一个在流量较少的季度仍然部署的演示端点，其消耗的额度可能比产品服务流量的消耗还要多。Token 消耗是自我限制的，而 node 消耗则不是。
输出 token 占主导地位。 在大多数前沿模型上，输出的定价通常是输入的数倍，因此一个返回文本而不是结构化字段的系统，其利润会悄无声息地消失。
缓存和批量处理是最大的两个杠杆。 上下文缓存可减少每次调用时重新发送相同长前缀的成本，而批量模式则可为非用户可见的工作打折。这两者都是配置决策，而非重写。
100,000 美元的 Vertex AI 额度实际能买到什么？
100,000 美元的余额，要么能支持一年的大部分时间，要么只能支持两个月，这几乎完全取决于你的支出是按 token 计费还是按 node 计费。
| 工作负载形状 | 100,000 美元大致代表什么 |
|---|---|
| 基于中等模型、仅发送提示的产品 | 许多个月，通常是整个上市前一年 |
| 具有已检索增强的 RAG 产品 | 如果检索已缓存，则有可观的运行时间 |
| 始终在线的自定义端点，多区域部署 | 远低于预期，主要是固定支出 |
| 微调和评估周期 | 真正的研究预算，按峰值消耗 |
| 大规模图像或视频生成 | 花光全部余额的最快方式 |
中间几行是估算容易出错的地方。团队仔细计算 token 成本，然后部署三个端点和一个始终服务的索引，却发现固定成本是更高的数字。在申请之前，请弄清楚你的架构运行在哪个计费时钟上，然后使用 AI Perks 上的类别筛选器进行匹配。
Vertex AI 额度可以与哪些叠加使用？
Vertex AI 额度只涵盖你账单上的 Google 部分，而不涵盖其他四个部分，这就是为什么额度通常是成套收集，而不是一次性获取。
一个典型的 AI 产品在第十二个月时，会为以下部分付费：
- 模型访问，一部分在 Vertex AI 上，一部分直接向第二个供应商支付，作为冗余计划。
- 计算，用于训练、批量作业以及任何不适合托管在托管端点上的任务。
- 数据，包括 Postgres、向量存储和数据仓库。
- 工具，包括可观测性、评估和代码助手。
- 交付，包括托管、CDN 和电子邮件。
这些层中的每一层都有提供额度计划的公司，其中大多数都与云赠金兼容，因为它们是单独计费的。那些在没有桥梁轮（bridge round）的情况下实现产品市场契合的团队，通常同时拥有四个或五个中型赠金，而不是一个大型赠金。AI Perks 致力于展示哪些组合是有效的，以及你还有哪些层未被覆盖。
创始人对 Vertex AI 额度的误解
最昂贵的错误是在有工作负载可以消耗额度之前就启动了额度计时。 额度是有时间限制的，如果在原型开发阶段开始计时的大额度，大部分都会在未使用的情况下过期。
混淆免费层与 Vertex 计费。 Google 的免费开发者服务与 Cloud 项目内的付费 Vertex AI 使用是不同的产品。在免费层构建的原型，其配额和定价假设在迁移时不会保留，一旦出现真实流量，速率限制的行为也会有所不同。
让端点和索引保持部署状态。 卸载任何不服务流量的资源。这个简单的习惯比大多数团队会做的任何提示优化都更有价值。
假设所有模型和地区都已涵盖。 额度适用于 Google Cloud 账单，但 Model Garden 中的特定模型、地区和第三方列表可能有自己的条款。在围绕某个模型构建架构之前，请先进行验证。
将额度视为免费资金。 从第一周开始就衡量每请求成本。额度会隐藏你的单位经济学，直到它们耗尽为止，而受伤害的团队是在看到实际账单的同一时刻，才看到客户的实际发票。
只申请一个计划。 审批标准不同，八次申请中有三次获批比一次申请一次获批更好。
Vertex AI 额度应与哪些覆盖项目搭配使用？
云赠金涵盖了 AI 预算中的模型和基础设施层，而不涵盖其余部分，因此有用的问题是哪些层仍然未被覆盖，而不是哪个单一计划最大。 getaiperks.com 上的 AI 工具和云类别是额度最大的地方。
资格比金额更具可变性。 发展阶段、融资情况和公司注册要求因计划而异，并且公司当前的条款可在 AI Perks 上列出，无需猜测。
时机胜于数量。 赠金的价值取决于你在其有效期内花费多少，因此一个与你实际发货季度相匹配的余额，比同时持有但共同过期两个余额更有价值。
覆盖层，而非头条新闻。 100,000 美元的云赠金加上其他什么都没有，仍然需要你为数据库、可观测性和第二个模型供应商付费。
条款会变动。 基础设施和 AI 额度计划每年都会多次更改金额和资格，因此一次检查的列表很快就会过时。
常见问题解答
免费 Vertex AI 额度价值多少？
符合条件的初创公司最高可达 100,000 美元，通常以 Google Cloud 额度的形式发放，可用于 Vertex AI 和其他 Cloud 服务。其使用时长取决于你的支出是按 token 计费还是按 node 计费。当前金额和资格可在 getaiperks.com 跟踪。
Vertex AI 额度涵盖什么？
生成式模型调用、微调和训练任务、批量预测、向量搜索、已部署的端点以及应用程序使用的周边 Google Cloud 服务。由于这是 Cloud 额度而非单一供应商模型额度，它还可以涵盖与模型层相关的存储、网络和数据成本。
我可以使用 Vertex AI 额度支付 Claude 和其他非 Google 模型吗？
通常可以。Model Garden 除了 Google 的模型外，还列出了第三方和开源模型，并且使用费用通过 Google Cloud 支付。可用性和条款因模型和地区而异，因此在围绕某个模型构建架构之前，请确认你部署的地区是否提供特定模型。
Vertex AI 可以免费试用而无需额度吗？
Google Cloud 为新账户提供试用额度，并且某些服务有免费使用额度，这是在申请更大型赠金之前进行评估的正常方式。这与初创公司额度计划是不同的服务，限制也不同。请在 getaiperks.com 查看当前可用的选项。
Vertex AI 额度可以与 OpenAI 或 Anthropic 额度叠加吗？
是的，而且应该叠加。它们是不同的账单：Vertex AI 额度涵盖 Google Cloud，而直接模型额度则涵盖调用该供应商自有 API 的费用。同时持有两者可以为你提供第二个供应商以实现冗余和议价能力。AI Perks 在 getaiperks.com 上跟踪了 194 家公司总计 770 万美元的额度。
为什么我的 Vertex AI 账单在流量持平的情况下仍然增长？
几乎总是因为 node 计费资源。已部署的端点、服务的向量索引和预留吞吐量按小时计费，与请求数量无关，因此一个月的空闲期与忙碌期成本相同。卸载任何不服务流量的资源，并将非紧急工作转移到批量处理。
基于 Vertex AI 进行构建。让额度承担模型层。