百度开源 2800 亿参数 ERNIE 5.5 Flash Base 基础模型
百度发布开源基础模型 ERNIE-5.5-Flash-Base,采用 MoE 架构,总参数 2800 亿,每次输入激活 140 亿。该模型刻意不做微调和后训练,预训练使用 33.5 万亿 token,训练上下文最长 128,000 token,设计上支持微调与推理时最长 100 万 token 上下文。
百度发布开源基础模型 ERNIE-5.5-Flash-Base,采用 MoE 架构,总参数 2800 亿,每次输入激活 140 亿。该模型刻意不做微调和后训练,预训练使用 33.5 万亿 token,训练上下文最长 128,000 token,设计上支持微调与推理时最长 100 万 token 上下文。
Dharma-AI 发布 Dharma Field Extractor,一个 2B 参数模型,可从任意类型文档中按指定 schema 抽取字段并输出结构化 JSON,支持开放式与 schema 指定两种请求方式。
推荐理由:原文给出了与四家前沿模型在同一基准上的质量与成本对比,读者可据此判断专用小模型在字段抽取任务上的取舍。