当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

2个月前 (02-26)Deepseek最新资讯162

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

西宁市12345热线搭载DeepSeek大模型应用

西宁市12345热线搭载DeepSeek大模型应用

3月1日,记者从中国移动通信集团青海有限公司西宁分公司(以下简称西宁移动)获悉,西宁市12345热线平台正式搭载DeepSeek大模型应用后,通过一周测试数据分析,预计接通率和准确率将分别提升7%、1...

上海中小幼学生开学:“用DeepSeek赶作业”受关注,他们怎么看?

上海中小幼学生开学:“用DeepSeek赶作业”受关注,他们怎么看?

 2月17日,上海约225万名中小学生和幼儿迎来了春季新学期第一天。为了迎接新年后的首次相聚,中小学和幼儿园精心做了各项准备,和孩子们来一场双向奔赴的开学之约。  澎湃新闻记者注意到,开学前几天是疯狂...

阿木尔林业局举办DeepSeek交流培训会

阿木尔林业局举办DeepSeek交流培训会

近日,阿木尔林业局举办DeepSeek交流培训会,进一步探索人工智能技术赋能林业局高质量发展的新路径,全面提升干部职工人工智能应用水平,全局60余名相关工作人员参加培训。此次培训由3名业务骨干分别就如...

什么是“具身智能”?DeepSeek和专家分别如何解读

什么是“具身智能”?DeepSeek和专家分别如何解读

过去一年,我国新质生产力发展步伐明显加快。我国在全球创新指数中的排名上升到第11位,是十年来全球创新力提升最快的经济体。而今年的《政府工作报告》,对培育壮大新兴产业、未来产业,推动传统产业改造提升,激...

中国电信云南公司:携手DeepSeek赋能数字云南建设再升级

中国电信云南公司:携手DeepSeek赋能数字云南建设再升级

近日,云南多地政务、教育领域迎来智能化升级新突破。中国电信云南公司携手DeepSeek,通过AI大模型本地化部署,在教育教学、基层社会治理、政务服务等领域打造了一批具有示范效应的创新案例,为推动行业数...

DeepSeek融入闽企智能化生产

DeepSeek融入闽企智能化生产

东南网2月28日讯(福建日报见习记者 汤海波) 日前,泉州汇成针织有限公司成功打造福建省首个纺织专用设备行业深度融合国产AI大模型DeepSeek的智能化生产体系。这家位于泉州洛江的制造业企业,通过将...