新型AI芯片将大语言模型能耗减半
来源:科技日报
美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。
当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。
研究团队指出,问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。
他们开发的新芯片能够借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。
研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升,这项技术或将成为绿色计算的重要推手。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》