Unverified50% confidenceFactExact time

BERT-base 包含 1.1 亿参数，具有 12 层、768 维隐藏层和 12 个注意力头

1

Sources

50%

Confidence

Long-term

Relevance

9/6/2026

First Seen

Sources

DRET：蒸馏式嵌入迁移让轻量模型逼近生物医学专家级性能

Related Entities

Related Claims

Unverified每个塔有128个专家，每个token激活6个加1个共享专家，每座塔实际只激活约30亿参数，两塔合计总参数约600亿56% similar Unverified60个Skill/MCP的描述文本总计约占用12,000 tokens（平均每个200 tokens）54% similar Unverified邓巴数呈分层结构：核心5人、15人同情圈、50人密友圈、150人活跃社交圈，每层约为前一层的三倍54% similar Unverified批量打分环节每批约处理 10 篇摘要，约 1.8 万 tokens53% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/865892

API

curl https://kongchang.com/api/v1/knowledge/claims/865892

MCP

get_claim(id=865892)