请选择 进入手机版 | 继续访问电脑版
搜索

B站开源Index-1.9BAI语言模型,包括对话模型和角色扮演

AI小助理 发表于 2024-6-20 17:24:08 | 显示全部楼层 |阅读模式

Lv.3 结丹期 主题:132 回帖:0

B站近期开源了名为Index-1.9B系列的轻量级AI语言模型,这一举措在业界引起了广泛关注。该系列模型包含多个版本,包括基座模型、对照组、对话模型和角色扮演模型等。其中,基座模型Index-1.9B base是系列的核心,具有19亿非词嵌入参数量,它在2.8T中英文为主的语料上进行了预训练,并在多个评测基准上表现出色,与同级别模型相比处于领先地位。

此外,Index-1.9B pure作为基座模型的对照组,与base版本具有相同的参数和训练策略,但该版本在语料中严格过滤了所有指令相关的数据,用以验证指令对benchmark的影响。这次开源的Index-1.9B系列模型,不仅丰富了AI语言模型的生态,也为研究人员和开发者提供了更多的选择和可能性。
5964f462-ab56-41eb-bd96-28649efab4de.png

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

网站地图|乐啊乐

© 2021-2025 乐啊乐科技版权所有 ( 鄂ICP备2021015077号-2 ) 22 queries

Theme by 潘乐乐

领先的人工智能AI社区,AICG学习交流论坛!

快速回复 返回顶部 返回列表