全球微速讯:效果达OpanAI同等模型96% 国产大模型TigerBot发布

2023-06-09 01:12:32 来源: 游民星空


(资料图片)

搜狐科技消息,国产多模态大语言模型 TigerBot 近日正式发布,包含 70 亿参数和 1800 亿参数两个版本,目前已经在 GitHub开源。据悉,TigerBot带来的创新主要在于“提出指令完成监督微调的创新算法提升模型可学习性”、“运用ensemble和probabilistic modeling的方法实现可控事实性和创造性”、“在并行训练上突破deep-speed等主流框架中的内存和通信问题”。

研究人员陈烨在虎博科技官网表示:“该模型在只使用少量参数的情况下,就能快速理解人类提出了哪类问题。根据 OpenAI InstructGPT 论文在公开 NLP 数据集上的自动评测,TigerBot-7B 已达到 OpenAI 同样大小模型的综合表现的 96%。”

原微博链接>>

标签:

[责任编辑:]

最近更新