预训练的
Definition
“预训练”一词描述了一个神经网络模型,该模型已在海量且通常通用的数据集(如ImageNet或Wikipedia)上进行了初始训练。这一过程使模型能够学习丰富的通用特征表示,随后可 …
“预训练”一词描述了一个神经网络模型,该模型已在海量且通常通用的数据集(如ImageNet或Wikipedia)上进行了初始训练。这一过程使模型能够学习丰富的通用特征表示,随后可 …
Phi-3是微软发布的一系列小型语言模型(SLMs),旨在以显著更少的计算资源提供与更大模型相媲美的高性能表现。
由微软研究院开发的一系列开源权重大型语言模型。 …
Mistral指的是由法国初创公司Mistral AI创建的强大开源权重LLM系列。像Mistral 7B和Mistral Large这样的模型利用了先进的滑动窗口注意力机制等技 …
Mixtral是一款开创性的开源权重LLM,利用稀疏混合专家(MoE)架构。与每个令牌都使用所有参数的密集模型不同,Mixtral将每个令牌路由通
…
在现代AI术语的背景下,Lyra通常指专注于通过自然语言处理增强用户交互的专用AI系统。它可能指代一个开源的大型语言模型开发
Lyra 指代各种人工智能倡议或模 …
Llama(Large Language Model Meta AI)是 Meta 发布的一系列基础大型语言模型。与许多专有模型不同,Llama 模型通常以开放权重的形式发布,允 …
Grok是由埃隆·马斯克的公司xAI创建的大型语言模型聊天机器人。它主要面向X平台(前身为Twitter)的订阅用户开放。Grok的独特之处在于其实时访问社交媒体数据的能力,这使 …
Grok-1是xAI于2023年11月发布的开创性产品。它是一个仅解码器(decoder-only)的基于Transformer架构的大型语言模型,拥有约330亿个参数。值得注意 …
GPT Bigcode 通常与 StarCoder 等模型相关联,代表了编码辅助人工智能的重大进步。这些模型在庞大的公共代码库上进行预训练,以理解编程语言的语法和语义。 …
Gemma 模型旨在为研究人员和开发者提供高效且易于访问的体验。它们提供多种尺寸,包括 2B 和 7B 参数版本,允许在各种硬件上进行部署。
Gemma …
Falcon指的是由技术创新研究所(TII)创建的一系列强大大型语言模型(LLM)。这些模型(如Falcon-40B和Falcon-180B)旨在与专有模型竞争。
ChatGLM代表一系列基于Transformer的语言模型,专门设计用于处理高质量的中英文双语对话。由智谱AI开发,这些模型利用…(原文截断,此处为完整语义翻译) …
虽然历史上指本杰明·布鲁姆的教育分类法,但在现代人工智能语境中,它通常指由BigScience开发的Bloom文本嵌入模型。该模型生成高质量的……
在机器学习 …
随机元素为人工智能系统引入变异性,例如数据中的噪声或权重的随机初始化。与确定性模型不同,随机模型考虑了不确定性,从而使得…
描述涉及随机性和概率而非 …
在人工智能领域,基础模型是指在大规模数据(如图像、文本或音频)上进行训练的大型机器学习模型。这些模型旨在具备适应性,
在海量数据集上预训练的模型,作为各种下游任务 …