一、背景

在当前的云计算环境中，Google Cloud Platform (GCP) 上使用 Vertex AI 的用户数量不断增加。这一趋势的背后，既得益于 Gemini 模型独特的多模态能力，也与其相对较低的使用成本密切相关。此外，GCP 还支持 Claude3 等大型模型，为用户提供了更多选择。然而，许多新用户在使用 GCP 时对平台的操作不够熟悉，尤其是在调用 Vertex AI API 时，常常因为程序错误而频繁发起请求。这种情况不仅导致了资源的浪费，还可能造成高额的费用支出。为了解决这一问题，本项目旨在通过创建监控策略，帮助用户实时监控 API 调用的用量，及时发现并处理潜在的异常，从而有效控制成本，提升使用体验。

二、 什么 是 Terraform？

Terraform 是一个开源的基础设施即代码（Infrastructure as Code, IaC）工具，由 HashiCorp 开发。它允许用户通过配置文件来定义和提供数据中心的基础设施。目前官方支持的有GCP、Azure、AWS 三大国外云厂商。

三、为什么 是 Terraform？

使用 Terraform 而不是直接通过客户端创建资源的主要原因在于 Terraform 提供了基础设施即代码的能力，使得基础设施的管理更加自动化、可重复和可追溯。通过声明式配置文件，用户可以清晰地定义所需的资源状态，Terraform 会自动处理资源的创建、更新和删除，确保基础设施的一致性和可预测性。此外，Terraform 的状态管理功能可以跟踪资源的变化，简化了跨多个环境的管理，减少了人为错误的风险，从而提高了运维效率和灵活性。

四、实用案例 | Terraform一键部署大模型用量监控

这个项目通过 Terraform 在 GCP 上创建了多个监控策略，监控 Gemini 和 Claude3 模型的用量，并通过电子邮件发送告警通知。通过使用 Prometheus 查询语言，项目能够实时监控特定的用量指标，并在超过设定阈值时触发告警。这种监控机制有助于及时发现和处理潜在的资源使用问题。

4.1 进入CloudShell