AI网关通常充当反向代理或SDK包装器，其数据流大致为：网关接收入站HTTP请求并创建根span，随后为具体操作创建子span（如`retrieval.search`、`llm.inference`、`llm.generate`），span通过OTLP批量导出到collector，再路由到Jaeger或Tempo进行存储与可视化。