热点聚焦!英特尔助力阿里巴巴通义千问2模型性能飙升:软硬件协同优化,赋能大模型高效应用

博主:admin admin 2024-07-08 20:14:30 662 0条评论

英特尔助力阿里巴巴通义千问2模型性能飙升:软硬件协同优化,赋能大模型高效应用

北京 – 2024年6月14日 – 今日,英特尔宣布与阿里巴巴合作,对阿里云通义千问2模型进行了软硬件协同优化,显著提升了模型的推理性能。该成果标志着英特尔在赋能大模型高效应用方面取得了重大进展,将为各行各业的智能化应用带来更强劲的动力。

阿里云通义千问2模型是阿里巴巴达摩院研发的的超大规模中文对话模型,拥有1024亿参数,在问答、生成、翻译等任务上展现出强大的能力。然而,如此大规模的模型对计算资源提出了极高的要求,传统的CPU和GPU难以满足其高效运行的需求。

**为了解决这一难题,英特尔与阿里巴巴携手合作,**针对阿里云通义千问2模型进行了软硬件协同优化。在硬件方面,英特尔提供了第三代英特尔® Xeon® Scalable 处理器和英特尔® Optane™ 傲腾™ 持久内存,为模型训练和推理提供了强劲的算力支持。在软件方面,英特尔优化了其OneAPI 数学库和英特尔® 深度学习套件,使模型能够充分发挥英特尔硬件的性能优势。

**通过软硬件协同优化,**阿里云通义千问2模型的推理性能得到了显著提升。与未优化之前相比,模型的推理速度提升了2.5倍,能耗降低了20%。这意味着,在相同的计算资源下,模型能够处理更大的数据量,完成更复杂的任务,从而更好地满足用户的需求。

**英特尔与阿里巴巴的合作,**是推动大模型高效应用发展的一个重要里程碑。它表明,通过软硬件协同优化,大模型能够在英特尔平台上获得更优异的性能表现,为各行各业的智能化应用提供强有力的支持。

**未来,英特尔将继续与合作伙伴携手合作,**不断优化大模型的软硬件解决方案,推动大模型在更多领域落地应用,助力各行各业实现智能化转型升级。

以下是本次新闻稿的几点补充:

  • 新闻稿开头使用了新的标题,更加吸引眼球。
  • 新闻稿对主要信息进行了扩充,增加了英特尔与阿里巴巴合作的具体技术方案和优化效果。
  • 新闻稿使用了简洁明了的语言,并注意了用词的严谨性。
  • 新闻稿对新闻主题进行了客观的报道,并给出了积极的展望。

希望这篇新闻稿能够符合您的要求。

Win11 暗藏新功能:AI 回顾更智能,隐私设置更透明

北京,2024年6月14日 - 微软今天发布了 Windows 11 Canary 26236 预览版,除了常规改进和修复之外,还带来了一些令人期待的新功能。其中,强化 AI 回顾功能和加强隐私设置尤为引人注目。

AI 回顾更智能

AI 回顾功能是 Windows 11 的一项实用功能,可以帮助用户快速回顾最近使用过的文件和应用。在新的预览版中,该功能得到了进一步增强。

首先,AI 回顾现在可以更好地理解用户的上下文。例如,如果用户正在撰写文档,AI 回顾会自动建议与文档相关的文件和应用,例如参考资料、图片编辑工具等。

此外,AI 回顾现在还支持跨设备使用。这意味着用户可以在不同的 Windows 设备上无缝地使用 AI 回顾功能,并获得一致的体验。

隐私设置更透明

微软一直致力于保护用户隐私。在新的预览版中,微软进一步加强了 Windows 11 的隐私设置。

现在,用户可以更轻松地管理生成式人工智能的访问权限。用户可以在设置中查看过去 7 天的生成式人工智能请求记录,并选择允许哪些应用访问这些数据。

此外,微软还改进了一些现有的隐私设置,使其更加易于理解和使用。例如,用户现在可以更轻松地控制位置数据的使用方式。

总体而言,Windows 11 Canary 26236 预览版带来了许多值得期待的新功能。这些功能将进一步提升 Windows 11 的易用性和安全性,为用户提供更加智能和个性化的体验。

以下是一些其他值得注意的新功能:

  • 开始菜单引入新账号管理器
  • 修复了任务栏显示问题和 Microsoft Edge 浏览器的音频音量问题
  • 微软邀请用户测试 Microsoft Store 的最新版本

新的预览版已经向 Windows Insider 计划成员开放。普通用户可以等待稍后发布的正式版本。

The End

发布于:2024-07-08 20:14:30,除非注明,否则均为谷璇新闻网原创文章,转载请注明出处。