顺便一提的是,AI PC上的大模型还让训练变得比想象中要简单,把本地你能看到的文件“喂”给AI助理之类的就可以了。这就解决了以往聊天机器人那种活只干了一半的“正确的废话”。譬如,通过AI生成一个报价邮件模板是很轻松的,但是,一般来说价格这种关键信息,机器人不懂那是很正常的事情,所以需要人工进行完善。如果找一个人类来处理这种事情,那提前做一份价格表是合理要求吧?报价表、FAQ等都是属于需要总结提炼的工作,然后才能更有效率地培训新人——这是传统观念。本地的AI可以让这个事情变得很简单:让它去读Outlook邮箱就好了,片刻之后它自己就从历史邮件中“学”到对应的报价。相应生成的邮件就不仅是模版级了,而是要素完善的,留给我们做的就只剩确认AI给的结果是否正确。而且这种学习成果是可以继承下来的。
三大AI引擎撑起本地大模型
信息时代,我们已经经历了几次重大的科技变革。首先是个人电脑的普及,然后是互联网的普及,再就是移动互联网。现在我们正在面对的是AI 对生产力的赋能甚至重构。我们今天讲的AI不是在数据中心里做训练或者推理的大规模集群,而是手边的PC。AIGC、视频制作等面向内容创作者的应用已经不断给予大众诸多震撼了。现在我们进一步看到的是AI PC已经可以实实在在的提升普通白领的工作效率:处理琐碎事务,做简报、写邮件、查找法条等等,并且无缝衔接式地补齐我们的一些技能短板,类似于应用我们原本并不熟悉的的Excel功能、制作原以为高大上的知识图谱,诸如此类。这一切当然不仅仅依赖于大语言模型的“智能涌现”,也需要足够强大的性能以支撑本地部署。
我们多次提到的大模型的“本地部署”,都离不开端侧强劲的AI算力。所谓的AI PC,依靠的是酷睿Ultra处理器强悍的CPU+GPU+NPU三大AI引擎,其算力足够支持200亿参数的大语言模型在本地运行推理过程,至于插图级的文生图为代表的AIGC应用相对而言倒是小菜一碟了。
CPU快速响应:CPU可以用来运行传统的、多样化的工作负载,并实现低延迟。酷睿Ultra采用先进的Intel 4制造工艺,可以让笔记本电脑拥有多达16个核心22个线程,睿频可高达5.1GHz。
GPU高吞吐量:GPU非常适合需要并行吞吐量的大型工作负载。酷睿Ultra 标配Arc GPU核显,酷睿Ultra 7 165H包含8个Xe-LPG 核心(128 个矢量引擎),酷睿Ultra5 125H包含7个。而且,这一代核显还支持AV1硬编码,可以更快速地输出高质量、高压缩率的视频。凭借领先的编解码能力,Arc GPU确实在视频剪辑行业积累的良好的口碑。随着矢量引擎能力的大幅度提升,大量内容创作ISV的演示了基于AI PC的更高效率的智能抠像、插帧等功能。
中国智能网版权所有,未经书面授权不得复制或建立镜像
Copyright 2001-2018 www.lplzn.com. All Rights Reserved