DataLearner 标志
H2

h2oGPT

基础大模型h2oGPT

h2oGPT

发布时间: 2023-04-19更新于: 2023-05-02浏览量: 527
模型参数
200亿
上下文长度
2K
多语言支持
暂无数据
推理能力
暂无数据

h2oGPT 是由 H2O 发布的 AI 模型,发布时间为 2023-04-19,定位为 基础大模型,参数规模约为 200亿,上下文长度为 2K,模型文件大小约 41.4GB。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

h2oGPT

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2023-04-19
模型文件大小
41.4GB
MoE架构
否
总参数 / 激活参数
200亿 / 不适用
知识截止
暂无数据
h2oGPT

开源和体验地址

代码开源状态
暂无数据
预训练权重开源
暂无数据
在线体验
暂无
h2oGPT

官方介绍与博客

官方论文
暂无
DataLearnerAI博客
暂无
h2oGPT

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
h2oGPT

发布机构

h2oGPT

模型解读

h2oGPT是H2O公司开源的一个类似ChatGPT的应用。是基于EleutherAI发布的GPT-NeoX-20b模型微调的结果。使用的是H2O自己收集的数据集。

h2oGPT的最大特点是具有完全宽松、商业可用的代码、数据和模型。

使用的是h2ogpt-oig-oasst1-instruct-cleaned-v1数据集做微调。H2O.ai 的 h2ogpt-oig-oasst1-instruct-cleaned-v1 是一个用于大型语言模型微调的开源指导类型数据集,可用于商业用途,包含349837条数据,共575MB。数据集的每一条有3列,分别是输入、来源和prompt_type。数据样例如下:

 数据集地址:https://huggingface.co/datasets/h2oai/h2ogpt-oig-oasst1-instruct-cleaned-v1

基础模型

GPT-Neo(X)
GPT-Neo(X)
查看详情

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码