B站开源轻量级AI语言模型:Index-1.9B

9个月前发布AI俱乐部
4 0 0
标签:
B站开源轻量级AI语言模型:Index-1.9B的封面图

B站爆火的Index-1.9B模型,是目前一个极具潜力的大语言模型开源方案。Index-1.9B模型值得关注,因为它包含多种类型和用途的模型。

1.9B模型包括:Index-1.9B base:这是一个基础模型,它基于19亿参数,使用了2.8T token的高质量文本数据进行训练,为后续的模型变体提供了坚实的基础。

Index-1.9B pure:这是base模型的一个变体,着重于提升模型的推理能力,移除了原始训练数据中的代码和指令部分,以优化模型在纯文本处理任务中的表现,并改善了benchmark的评分。

Index-1.9B chat:此版本是在index-1.9B base的基础上,通过SFT和DPO技术进行微调的对话模型,旨在提升模型在对话场景中的性能,使其能够生成更自然、更流畅的回复。

Index-1.9B character:此模型通过SFT和DPO的训练方式,结合RAG技术和少量样本学习,用于特定角色扮演和情境模拟。

Index-1.9B项目地址:https://top.aibase.com/tool/index-1-9b

© 版权声明:
本文地址:https://aidh.net/kuaixun/5r8qkui3

暂无评论

none
暂无评论...