成本估算
- chatGPT单次搜索成本: 预计 0.010美元/次 。 若采用2-Stage Search Summarizer 补足当前的时效、准确问题的话,成本上升至 0.066美元/次
- 服务器在线推理成本: 约为0.0035美元/1000词
- 服务器单次训练成本:140万美元/次 ,一次训练14.8天。
成本发展趋势(工程挑战)
- 数据是LLM性能的新瓶颈:与增加高质量训练数据集的大小相比,增加模型参数的数量能获得的边际收益越来越小。
- LLM的成本可能会显著下降:自GPT-3发布的两年半时间里,与GPT-3性能相当的模型的训练和推理成本下降了约80%
Google与Bing的成本收益分析
- Google预计其年均搜索量将达2.1万亿次,与搜索相关的收入将达约1000亿美元,平均每次搜索的收入为0.048美元。
- 考虑已知可行优化改进后,在搜索中融入高性能LLM的成本大约占据当前查询收入的15%
- 谷歌目前的搜索收入为1000亿美元,将高性能LLM纳入搜索会使谷歌的盈利能力减少一百多亿美元。
BING 的市场份额较低,如果微软能够成功地从谷歌手中夺取搜索市场份额,那么即使现有查询成本更高,微软仍然能够获得极高的利润。
数据来源原文: https://sunyan.substack.com/p/the-economics-of-large-language-models
释文: https://zhuanlan.zhihu.com/p/604427788
相关推荐
ChatGPT背后的经济账
ChatGPT背后的经济账
ChatGPT背后的经济账
ChatGPT背后的经济账.pdf
ChatGPT背后的经济账.rar
ChatGPT背后的经济账.pdf.zip
ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具,使用了Transformer神经网络架构,也是GPT-3.5架构,这是一种用于处理序列数据的模型,拥有语言理解和文本生成能力,尤其是...
关注ChatGPT背后的技术方案、实现细节。 |资料链接|来源|发布时间点|内容概述|整体推荐指数|技术难度指数| | :-----| :-----| :-----|...|[ChatGPT背后的经济账](https://mp.weixin.qq.com/s/aAg1ptEkQ6ahdjs-3s_g3A)|
ChatGPT发展历程、原理、技术架构和未来...ChatGPT背后的经济账 ChatGPT发展历程、原理、技术架构详解和产业未来 ChatGPT各项能力的起源 ChatGPT全景图 _ 产品+商业篇 ChatGPT研究框架(2023) ChatGPT-真格基金分享
每周银行往来账总结表.doc
《【幼儿园数学练习题】幼儿园院长账本总结范本》.doc