Unverified50% confidenceFactExact time
Google于2018年发布BERT，开启了预训练时代
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
AI大模型零基础系统教程：从入门到实战全解析
bilibili智泊AI官网6/25/2026
Related Claims
VerifiedBERT由Google于2018年推出，是预训练语言模型的开山之作，首次采用双向编码器架构，在11项NLP基准测试中刷新纪录73% similarUnverifiedSentencePiece由Google于2018年推出，支持无监督训练，无需预先进行空格分词，Google的T5、LLaMA等模型均采用其Unigram语言模型算法70% similarUnverifiedBERT由Google于2018年提出，是基于Transformer架构的预训练语言模型70% similarUnverified联邦学习由Google于2016年提出，最初用于解决移动设备上的模型训练隐私问题68% similarUnverifiedBERT于2018年由Google发布，采用双向预训练，通过掩码语言模型随机遮盖15%的词并要求还原68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/41325API
curl https://kongchang.com/api/v1/knowledge/claims/41325MCP
get_claim(id=41325)