新型AI芯片将大语言模型能耗减半
科技日报讯 （记者刘霞）美国俄勒冈州立大学科研团队研发出一种新型AI芯片，成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布，是半导体领域的重大突破，有望成为解决大语言模型高能耗问题的“绿色钥匙”。
当前，以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型，因海量参数使得算力需求激增，进而导致能源需求急速飙升。
研究团队指出，问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差，更会带来巨大的能源浪费。传统均衡器虽能纠错，但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。
他们开发的新芯片能够借助AI技术，通过训练其上的分类器识别并纠正错误，以更智能高效的方式恢复数据，从而降低能耗。与传统设计相比，新芯片能使大语言模型消耗的能源减半。
研究团队已着手开发下一代芯片，预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升，这项技术或将成为绿色计算的重要推手。
本文链接：http://knowith.com/news-3-2555.html新型AI芯片将大语言模型能耗减半
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
