该推理框架采用读写分离架构：Prefill阶段用普通8卡机器，Decode阶段用64或128卡的大机器，最小适配为64张读、64张写共128张卡，读写可部署在不同机房并通过光纤连接。