Definition
BERT（Bidirectional Encoder Representations from Transformers）是由Google开发的一种基于Transformer的机器学习技术，用于自然语言处理（NLP）的预训练。它利用掩码语言建模和下一句预测来学习双向表示。
Summary
基于Transformer的双向编码器表示是一种预训练的自然语言处理模型。
Key Concepts
- Transformer架构
- 掩码语言建模
- 预训练
- 微调
Use Cases
- 问答系统
- 情感分析
- 文本分类