易家知识网(易家电子)ejdz.cn
COPYRIGHT © 2023 渝ICP备20008086号-17 渝公网安备50010702505138号
去年11月底,OpenAI发布了ChatGPT人机对话交互模型,ChatGPT可以回答连续性问题,可谓“上知天文、下晓地理”,上线5天,就收获了100万用户。
据了解,ChatGPT是GPT迭代出的第3.5个版本,2018年GPT-1诞生,到了2022年,OpenAI为给GPT-4收集用户反馈,而发布了GPT-3.5,也就是如今的ChatGPT。
微软的AI大模型及强大算力是助力OpenAI的关键,OpenAI曾为了让GPT-3的表现更接近人类,用了45TB的数据量、近1万亿个单词来训练它,大概是1351万本牛津词典。
大模型及其高算力对应的是高昂的资金消耗,ChatGPT一次运算就要花费450万美元,据美国《财富》杂志报道,2022年,OpenAI公司净亏损总额为5.45亿美元。
此外,ChatGPT测算生成一条信息的成本在1.3美分左右,是目前传统搜索引擎的3到4倍,单次搜索成本过于高昂。
这样高的研发门槛,注定目前主流的大模型多由大企业,或是背靠大企业的研究机构掌握,并且成为相关企业的“护城河”。
模型是AI的灵魂,参数量越大,模型越复杂,做出来的预测就越准确。如今业界主流的AI生成类工具的大模型都是千亿级、万亿级参数量的水平。
这些AI生成类工具可以学习各行各业的各类数据,除了可以给出相较于小模型更准确的预测结果外,它也展现出惊人的泛化能力和迁移能力,产出的内容质量更高、更智能。
暂无评论,期待你的妙语连珠
已收到!
我们将尽快处理。