已过期50% 置信基准精确时间

在PSP上运行90M参数模型的实测推理速度约为每秒0.5至0.6个token，生成一条完整回复需要1到3分钟

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/9/6

首次发现

有效期至：2026/9/20(已过期)

来源

索尼PSP运行90M参数LLM：边缘推理极限在哪里

涉及实体

PSPproduct LLMPSPproduct

相关事实

待验证专用安全分类模型的推理延迟可控制在200-500毫秒，配合量化技术和GPU推理优化可压缩至100毫秒级别71% 相似待验证大模型单次推理请求响应时间通常在1至30秒之间69% 相似待验证Google的RAIL模型指出用户对响应延迟的感知阈值约为100ms到1000ms，超过3秒则大概率放弃等待68% 相似待验证SFT单步耗时约0.5秒/步，DRAFT单步耗时约4.11秒/步，DRAFT单步耗时约为SFT的8倍66% 相似待验证预警响应延迟应≤2秒（从闭眼达标到发出声音/震动），超过3秒的产品在高速场景意义不大（120km/h下3秒已行驶约100米）66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/864619

API

curl https://kongchang.com/api/v1/knowledge/claims/864619

MCP

get_claim(id=864619)