## 工作流概述
这个n8n工作流专门用于监控AI代理和大型语言模型(LLM)的令牌使用情况，并将详细的成本和使用数据自动记录到Google Sheets中，为团队提供完整的可观测性和成本透明度。
## 主要功能
### 令牌使用跟踪
– 实时捕获AI模型的输入令牌、输出令牌和总令牌数量
– 根据每百万令牌的定价自动计算输入成本、输出成本和总成本
– 记录使用的具体模型名称和调用时间
### 元数据关联
– 自动关联工作流ID、执行ID和客户端ID
– 提供完整的审计追踪能力
– 支持多客户端和多工作流环境
### 工具使用监控
– 监控AI代理使用的工具调用情况
– 记录输入内容、输出结果和使用的工具名称
– 提供完整的代理行为可观测性
## 工作流节点组成
### 触发节点
– **Chat Trigger**: 接收用户聊天输入，启动AI代理对话流程
### 数据处理节点
– **Set节点**: 注入工作流元数据，包括工作流ID、执行ID和客户端ID
– **If节点**: 检查是否使用了工具，决定是否记录工具使用数据
### AI处理节点
– **AI Agent**: 运行AI代理，处理用户输入并返回响应
– **LangChain Code节点**: 配置Chat模型并设置令牌使用回调函数
### 数据记录节点
– **Google Sheets Tool**: 将令牌使用指标记录到”Token cost tracker”表格
– **Google Sheets**: 将工具使用情况记录到”Observability”表格
## 技术特点
### 成本计算
– 支持自定义输入令牌和输出令牌的每百万成本
– 自动计算每次调用的实际成本
– 提供详细的成本分解
### 数据完整性
– 关联所有相关元数据
– 提供时间戳记录
– 支持多维度数据分析
## 使用场景
### 开发团队
– 为AI代理添加使用监控功能
– 在原型阶段获得成本透明度
– 优化令牌使用效率
### 业务团队
– 监控AI应用的实际运营成本
– 为不同客户分配成本
– 生成使用报告和账单
## 配置要求
### 环境要求
– 仅支持自托管版本的n8n
– 需要设置OPENAI_API_KEY或其他提供商API密钥
– 需要配置Google Sheets OAuth2凭据
### 必要设置
– 在Set节点中设置client_id
– 在LangChain Code节点中配置模型和令牌成本
– 在Google Sheets节点中选择正确的电子表格和工作表
## 扩展能力
### 自定义监控
– 可以扩展回调函数以包含延迟时间
– 可以添加提供商请求ID
– 可以集成更多监控指标
### 性能优化
– 对于高容量运行，可以添加Limit或Sample节点
– 可以根据需要切换触发方式
这个工作流为AI应用提供了完整的可观测性解决方案，帮助团队更好地理解和管理AI代理的使用情况和成本。
评论(0)