EcoHash
提供兼容OpenAI API格式的大模型推理服务商,支持llama等开源模型的流式补全调用,API base URL为 https://api.ecohash.com/v1
时间轴 (近 90 天)
EcoHash的RTX Pro 6000页面明确说明该卡为96GB每卡的Blackwell Server Edition,不是RTX A6000或RTX 6000 Ada,收费为每GPU小时1.89美元,按秒计费,并提供1美元注册赠金。
桥接器位于 ecohash-examples 的 integrations/retell 目录,默认使用 llama-3.1-8b-instruct 模型,输入输出价格均为 $0.10 / 1M tokens。
EcoHash 上 llama-3.1-8b-instruct 的实测性能为 TTFT 205 ms(p95),单流约 143 tokens/秒。
写作期间实际跑过本地 WebSocket 测试循环,桥接器完成 config 握手、说出第一句,并从 llama-3.1-8b-instruct 流式返回了连贯的 18 个 chunk,ping 与打断处理均按文档工作。
使用桥接至 EcoHash 的 llama-3.1-8b-instruct 时,按典型客服通话每分钟约 2000 输入 token、250 输出 token、单价 $0.10/1M 计算,token 成本约 $0.0003/分钟。
全部知识事实 (5)
EcoHash的RTX Pro 6000页面明确说明该卡为96GB每卡的Blackwell Server Edition,不是RTX A6000或RTX 6000 Ada,收费为每GPU小时1.89美元,按秒计费,并提供1美元注册赠金。
50%待验证桥接器位于 ecohash-examples 的 integrations/retell 目录,默认使用 llama-3.1-8b-instruct 模型,输入输出价格均为 $0.10 / 1M tokens。
50%待验证EcoHash 上 llama-3.1-8b-instruct 的实测性能为 TTFT 205 ms(p95),单流约 143 tokens/秒。
50%待验证使用桥接至 EcoHash 的 llama-3.1-8b-instruct 时,按典型客服通话每分钟约 2000 输入 token、250 输出 token、单价 $0.10/1M 计算,token 成本约 $0.0003/分钟。
50%待验证写作期间实际跑过本地 WebSocket 测试循环,桥接器完成 config 握手、说出第一句,并从 llama-3.1-8b-instruct 流式返回了连贯的 18 个 chunk,ping 与打断处理均按文档工作。
50%