cerebrassystems宣布推出全球最快ai推理解决方案
2024-10-09 【 字体:大 中 小 】

品玩8月28日讯,据siliconangle 报道,Cerebras Systems 宣布 推出全球最快的 AI 推理解决方案 Cerebras Inference。
据悉,该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token,为 Llama 3.1 70B 提供每秒 450 个 token,速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。
除了令人难以置信的性能之外,这款新型推理解决方案的定价也比流行的 GPU 云低得多,起价仅为每百万个 token 10 美分,从而为 AI 工作负载提供 100 倍更高的性价比。

猜你喜欢
网易年营收1035亿:非公认会计准则下持续经营净利润326亿
2365
股票杠杆倍数上限:揭秘最高可达几倍
2470
火箭内线支柱在关键时刻表现略显不足,个人能力有待提升_申京_比赛_防守
1065
中泰证券:给予工业富联买入评级
312
股票配资:撬动财富杠杆,高风险与高回报的博弈
2894
咸亨国际(605056SH)大股东高盛亚洲战略合计减持104%股份
7439
襄阳轴承最新公告:2023年度预亏约4200万元
6438
中国新闻周刊:你如何看待西方舆论场对于中国经济前景的判断? 北京大学
5512
7月26日,闲鱼这一深受用户喜爱的二手交易平台,在其官方渠道郑重公示
3052
中机认检(301508SZ):公司可以开展出口二手车检测业务
4034
科创板自律委建议:发行人股东将首发前股份托管于保荐机构
肖羊人的性格命运_自带_那悠悠_岁岁年年
主动量化剑指超额,富国致盛量化今日正式发行
轻松一刻:以为中国男人个个都像李小龙呢_功夫_生活_朋友
“身弱不担财”的年轻人如何逆袭?9个小技巧送给你”--王镜海_能量_风水_调整
银行零售上演“消失的利润”:透视限价背后的保息差与防套利
光大证券:给予宏达电子买入评级
国际原油期货结算价大幅收跌超35% 美油、布油4月份均大跌超17%
超千家上市公司披露年报 高额分红抢眼
4月30日好客转债下跌019%,转股溢价率2419%
