直播回顾

2025年2月21日晚上9点30分，

我们迎来了新春后的首场人工智能三人行宣讲活动。

这场直播聚焦于Deepseek开源大模型，

探讨了其对AI算力、算法、数据及应用带来的新发展。

本次直播邀请到了上海赞奇的总经理俞阁总和速石科技陈琳涛，

主持人则为SRE专委会发起人 刘峰老师，

三位嘉宾围绕AI算力管理展开了深入讨论。

随着Deepseek开源大模型的发布，AI领域迎来了新的变革。

三位嘉宾从不同角度探讨了AI算力需求的变化、

端侧与推理算力的崛起、国产自主可控算力的发展，

以及人工智能在企业中的应用场景。

话题一：AI算力需求的变化

刘峰老师首先指出，AI算力始终是大模型的基础，

而DeepSeek的出现极大地推动了算力需求的增长。

俞总补充道，DeepSeek不仅降低了大模型的使用门槛，

还激发了企业和个人对AI算力的需求。

他强调，尽管基础大模型的训练需求有其上限，

但推理应用的场景正在迅速扩大，

这将带来GPU和硬件需求的爆发式增长。

陈总则从企业角度出发，

指出Deepseek的出现加速了AI算力的部署，

尤其是云厂商纷纷将资源倾斜于DeepSeek，

推动了从云端到本地的算力需求转变。

他提到，企业现在更倾向于在本地部署AI模型，

以满足特定业务场景的需求。

话题二：端侧AI与推理算力的崛起

在端侧AI与推理算力方面，

俞总认为，AI应用正从云端向端侧转移，

企业和个人用户对本地化部署的需求日益增加。

他提到个人用户可以通过本地设备（如Mac mini或4090显卡）

运行AI模型，

而企业则需要根据自身规模选择合适的AI工作站或服务器。

陈总则强调，

推理算力的崛起不仅是技术发展的必然，

也是企业降本增效的重要手段。

他指出，企业需要在本地化部署和云端API之间找到平衡，

以满足不同业务场景的需求。

话题三：国产自主可控算力的进展

在国产自主可控算力方面，

俞总表示，尽管国产GPU在性能和生态建设上仍有差距，

但在推理场景中已经具备一定的替代能力。

他提到，国产芯片的成本相对较高，

但随着技术的发展和市场的竞争，

未来有望实现降本增效。

陈总则从企业应用的角度出发，

指出国产芯片的适配和生态建设仍需时间。

他提到，尽管部分国产芯片已经在特定场景中实现了良好的适配，

但整体生态的完善还需要各方共同努力。

话题四：人工智能的学习与应用

刘峰老师分享了他们在培训领域的经验，强调了理性看待AI的重要性。

他提到，企业需要根据自身需求，

选择合适的AI模型，而不是盲目追求高性能硬件。

俞总和陈总也分别从技术和业务角度给出了建议，

强调了AI工具在提升工作效率和优化业务流程中的价值。

直播总结:

本次直播围绕Deepseek开源大模型对AI算力的影响，展开了深入讨论。

嘉宾们一致认为，DeepSeek不仅推动了AI算力需求的增长，

还加速了端侧AI和推理算力的发展。

尽管国产自主可控算力仍面临挑战，

但随着技术的进步和市场的竞争，

未来有望实现更大的突破。

我们希望通过本次直播，

帮助观众更好地理解AI算力时代的机遇与挑战。