我爱技术网 > 新闻信息 > 正文
(原标题:云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降)
经济观察网讯 7月24日,云天励飞在上证e互动平台表示,公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理,其内置高效大模型推理DeepEdge200芯片,具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联,可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,预期能使大模型推理成本大幅度下降。(实习记者 李青阳 编辑 李仕静)
转载请标注:我爱技术网_SEO三人行——云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降
- 上一篇:杭钢股份:子公司拟3.74亿元投建算力服务采购项目
- 下一篇:没有了
- 搜索
-
- 2024-11-29云天励飞:IPU-X6000加速卡已适
- 2024-11-29杭钢股份:子公司拟3.74亿元投建
- 2024-11-29英伟达携手Meta推出AI服务,引领
- 2024-11-29北京大学刘若川获拉马努金奖
- 2024-11-29中汽协:销量排名前十位的MPV生
- 2024-11-29一品红:一类创新药APH01727片获
- 2024-11-29百利天恒:实控人增持公司股份 5
- 2024-11-29伟测科技:二季度稼动率逐月提升
- 2024-11-29维康药业:转让全资孙公司100%股
- 2024-11-29慕思股份:首次回购公司股份总金
- 2024-11-29事关A股!财政部、税务总局发布
- 2024-11-28事关9万亿元市场,沪深交易所出
- 2024-11-28两会视觉丨习近平看望参加政协会
- 2024-11-272023年12月财新中国服务业PMI继
- 2024-11-26光伏周报:上半年光伏装机4.71亿
- 2024-11-26未央今日播报:央行7天期逆回购
- 2024-11-26阿里电商布阵:一手反内卷,一手
- 2024-11-25应对客户集中提前还贷:银行该怎
- 2024-11-25被藏起来的提前还款入口,让借款
- 2024-11-25抖快社交,变道求生
- 2024-11-29云天励飞:IPU-X6000加速卡已适
- 2024-11-29杭钢股份:子公司拟3.74亿元投建
- 2024-11-29英伟达携手Meta推出AI服务,引领
- 2024-11-29北京大学刘若川获拉马努金奖
- 2024-11-29中汽协:销量排名前十位的MPV生
- 2024-11-29一品红:一类创新药APH01727片获
- 2024-11-29百利天恒:实控人增持公司股份 5
- 2024-11-29伟测科技:二季度稼动率逐月提升
- 2024-11-29维康药业:转让全资孙公司100%股
- 2024-11-29慕思股份:首次回购公司股份总金
- 网站分类
-
- 标签列表