数据集:TriviaQA
Definition
TriviaQA 是一个专为开放域问答设计的数据集,包含超过一百万个问题及其对应的答案。该数据集旨在通过要求模型进行多步推理和知识整合来挑战现有模型的性能。
Summary
一个 …
TriviaQA 是一个专为开放域问答设计的数据集,包含超过一百万个问题及其对应的答案。该数据集旨在通过要求模型进行多步推理和知识整合来挑战现有模型的性能。
一个 …
WikiHow 数据集包含从 WikiHow 网站收集的约 60,000 篇操作指南文章。它广泛应用于自然语言处理研究中,用于抽象式文本摘要、步骤提取等任务。
一 …
维基百科是可用文本格式的人类知识最大且最全面的集合之一。在人工智能领域,它是预训练大型语言模型的主要来源,提供了丰富的语言模式和事实知识。
来自维基百科的海量文本 …
Yahoo Answers Topics 数据集是更大的雅虎问答档案的子集,专注于组织成不同主题类别的问题和答案。它常用于文本分类、语义相似性分析和非正式语言模式研究。 …
Helpsteer2 是由 NVIDIA 发布的一个精心策划的数据集,包含由大型语言模型生成的响应的成对比较。它侧重于多维度的偏好,如有用性、诚实度等。
一个专为 …
S2ORC 是从 Semantic Scholar 派生的学术文章综合语料库。它包括数百万篇跨各个科学领域的论文的全文本内容、元数据和引用关系。
Semantic …
该数据集包含从已停用的 WikiAnswers 平台抓取的海量问答对。它主要用于训练稠密段落检索和语义匹配模型。通过利…
该数据集由从简单英语维基百科中提取的句子和段落组成。简单英语维基百科是面向非母语用户的维基百科版本,其语法和词汇经过简化。它作为…
一个源自简单英语 …
Altlex 数据集由共享相同底层含义但使用不同词汇或句法结构的句子对组成。它主要用于训练嵌入模型,以捕捉语义上的等价关系。
包含用于训练模型进行语义等价和同义句 …
Flickr30K Captions 是一个广泛使用的基准数据集,包含 31,783 张图像,每张图像都标注了五个不同的英文句子来描述视觉内容。它作为构建跨模态理解模型的基础资 …
PAQ(伪答案质量)数据集包含从维基百科中提取的数百万个自动生成的问答对。它是专门为提供训练稠密检索器所需的数据而设计的。
一个源自维基百科的大规模问答对数据集, …
Quora 问题对(QQP)是一个二元分类数据集,包含来自 Quora 平台的超过 40 万个问题对。其任务是确定两个问题是否具有相同的意图或含义。
Quora …
句子压缩数据集由成对的句子组成,其中目标句子是源句子的缩短版本,在去除冗余信息的同时保留核心含义。这些数据集常用于训练能够理解信息密度的模型。
包含原始句子及其压 …
The Stack Dedup 是 The Stack(一个庞大的开源代码仓库)的一个专用子集。它应用严格的技术来消除冗余的代码片段,从而避免大型语言模型在训练时产生偏差。 …
BookCorpus 是从互联网上爬取的来自 10,000 多本未出版书籍的文本集合。它是训练和评估自然语言处理(NLP)模型的基础资源。
ELI5(Explain Like I’m Five)是一个源自同名 Reddit 社区的数据集。它由用户提交的问题以及社区提供的详细、简化的答案组成。 …
AZFinText 是一个大规模标注语料库,专门针对中文金融文本分析而策划。它包括带有金融情感标签的新闻文章、报告和社会媒体帖子,旨在支持高精度的金融自然语言处理任务。 …