谁能想到,大模型风暴袭来,钢铁侠里的贾维斯俨然成了最忙碌的“漫威英雄”(手动狗头)。
原因无他,实在是超级助手这个概念太火爆,从手机到PC再到智能座舱,哪里都要被cue上一轮。
甚至连硬件自身的形态,都因此闪现了新的变化。
例如火爆大陆外社交媒体的AI Pin,就充分展现了什么叫“你的下一个手机,何必是手机”。
这么一个类似徽章的小玩意儿,由高通芯片驱动,内置以大模型技术为基础的智能语音助手。
虽说没有屏幕和按键,依附诸多传感器和智能“大脑”,它相像允许帮你达成打电话、写短信、发邮件、记录全国的操作。
当今,AI Pin背后的企业Humane早已拿下2.3亿美元融资,最新估值达到8.5亿美元。
事实上,不论是挤占各大手机厂商发表会最首要版面的大模型智能助手,还是AI Pin这样更彻底的硬件创意,如若我们透过现象去分析本质,就会显示,核心的变化还是:
随着大模型和AIGC技术的火爆,交互方式变革的序幕,曾经被不可逆转地拉开。
而第一波改进机遇,眼前智能终端上有所体现。
AIGC时代,交互方式变了
虽然距离真正的“贾维斯”还有不小的距离,但对于智能终端行业而言,在大模型技术的冲击之下,交互方式早已发生了两重变化:
第一重,是人与机器之间交互方式的改变;第二重,则体目下机器与机器的相互联通之上。
人机交互方式变革,在ChatGPT掀起风暴之初,就受到科技界的广泛关注。
原因很简单:从命令行,到GUI(图形用户界面),再到纯自然语言交互,最新科技的使用门槛越来越低的同时,也意味着一切应用乃至设备,都将迎来重构。
而正如移动互联网催生了如抖音这样的现象级App,“重构”背后,新的跨时代杀手级App,甚至是杀手级设备的显出,开始成为或将。
侦查行业动向,不难展现对于场上玩家而言,把握先机已然成为共识。
而最先被看好的超级助手雏形,就是智能语音助手。
像是微软,就直接用大模型驱动的Copilot,取代了Windows系统原有的语音助手Cortana。
更不用提各大手机厂商。大模型/AIGC技术驱动下的智能语音助手,俨然已成各大公布会上的新C位,取代影像成为了智能手机的最新“卷”点。
相较于已然被热烈讨论、实践的人机交互新范式,机器与机器之间交互方式的改变,较少被提及,但实际上,大模型这个“机器大脑”也现时物联网(IoT)中掀起变革风暴。
在以前,受限于物联网场景的碎片化,“一事一议”的模式很大程度上作用了AI算法应用落地的进程和有效性。
换句话说,就是各种终端传感器,缺少一个能真正统筹全局的“大脑”。
而大模型的智能呈现,恰恰加入了这一空缺,能将其他智能终端作为“感官”更好地联动起来。
2023年科技界的另一大热门话题“具身智能”,其实就是大模型与IoT设备碰撞的实例。
人类与机器的交互,机器与机器的互联,大模型时代,“万物互联”无疑有了更具象的进展。
那么,问题来了,要更慢慢通往真正的超级助手,并在新的竞争浪潮中取得先机,还有哪些重点消息需要关注?
底层技术加速交互方式变革
任何一项技术的大规模应用,不外乎可以从载体和兑现路径两方面来侦察。
对于超级助手而言,载体即智能终端,涉及硬件算力和软硬件联合技术;至于达成路径,当今最或然、也最有潜力的技术之一,就是以大模型为代表的AI技术了,而走在这样路径之下的时代,现在我们也称之为「模力时代」。
首先来看智能终端为核心的载体。
横向从终端技术来看,对于超级助手而言,算作载体最首要的衡量标准有两点,计算和连接。
计算,以芯片为代表的各设备的AI计算能力,也是能否承载超级助手的严重。
以正在在智能终端领域占据主导话语权的高通为例。
这几天,高通的端侧运行百亿模型能力又成了热门话题,还被英伟达高级AI科学家Jim Fan转发:
我们当下进入一个新时代。在这个时代,移动芯片的性能不是经过GHz来衡量的,而是通过Llama2的tokens生成速度来衡量的。大语言模型是新的智能手机操作系统!
这种AI计算能力,具体又允许分为手机和PC两方面。
一方面,以第三代骁龙8移动平台为代表的芯片,如今慢慢增强手机计算生成式AI的能力。
如高通AI引擎中最核心的Hexagon NPU,为了更好地支持AI计算,它升级了全新微架构,性能比前代快98%的同时、功耗降低40%,达成了对更多Transformer网络的支持。
加之对高通AI引擎及其他部分,如高通传感器中枢的优化,使得第三代骁龙8移动平台宣布时曾经达成让终端跑100亿参数大模型,并能以每秒生成20tokens的速度运行70亿参数大语言模型。
另一方面,以骁龙X Elite为代表的芯片,又将从手机端卷出来的AI计算能力一步步拓宽,给PC端带来一点小小的AI算力震撼。
骁龙X Elite的高通AI引擎,算力达到75TOPS。
其中光是核心Hexagon NPU,算力就达到45TOPS,为此高通特意给NPU扩大了全新的供电系统,让它能按照工作负载适配频率;同时,为了专门加速Transformer网络等复杂AI模型,还更始了微切片推理架构。
这样,PC端就能直接运行超过130亿参数的生成式AI模型,写PPT、总结、生成文案甚至无需联网就能实现;
同时AI处置速度快上4.5倍,又能兑现视频会议背景虚化、降噪、视频编辑、照片加滤镜等更丝滑的功能。
△视频编辑,一键消除背景无关对象
连接,各设备间传输数据的性能,从底层直行用意超级助手的交互能力。
对于终端设备而言,连接的需求相像有两方面,以手机、PC为代表的人机交互领域,和以物联网为代表的机器万物互联领域。
人机交互领域,需要连接硬件能供给更智能的网络性能分析、同时具备更高的传输用意。
以骁龙X755.5G调制解调器及射频系统为例,这款基带第一回集成了专用硬件张量加速器,即第二代高通5G AI处理器,AI性能相比第一代提高2.5倍。
基于此,经过分析信号完整性和信噪比,AI就能改善无线带宽、延迟,让网络性能更高效、数据传输更智能。
机器互联领域,对于连接硬件又有续航性能、成本和体积等不同的限制。
以骁龙X355G NR-Light调制解调器及射频系统为例,相比移动宽带与极低带宽的NB-IoT,这个基带极端于轻量级实现了5G的传输性能,同时续航也要更持久、成本更低,更好地适应体积更小物联网设备。
但除此之外,还有很严重的一点,即计算和连接之间兼容并济的能力。
不论是云端运行的通用大模型、依然终端以超级助手为目标的个人大模型,要想兑现二者并行,势注定要5G+AI技术的双驱动,才能在确保传输数据作用、确保使用体验的同时,保证各侧模型的稳定运行。
高通曾经在这条路上走了至少5年。
从定位智能终端设备开始,高通就一直在利用5G技术的连接能力,将更多AI技术由云端填补至终端,如同渠与水的关系相像,让“原本在数据中心才能兑现的AI功能,当下终端也能兑现”。
最早从手机的摄影、图像视频处理,到更多设备如汽车智能座舱AI的数据传输、XR上运行手势辨别等AI功能需要的低延迟,再到目下在云端和终端运行生成式AI……
高通不断用最新的AI技术快速引领终端侧的功能新意,而这每一步都离不开5G数据传输在背后的连接支持。
正是有了AI+5G打协同的能力,才能在逐步用高效连接抬高AI使用体验的同时,反过来用AI增强连接的性能,最终改变用户和终端交互的方式。
纵向从载体类型来看,这种交互方式的变革,又能通过高通AI软件栈这样的工具无缝衔接到不同种类、不同功能的终端设备中。
高通AI软件栈全面支持各种主流AI框架、不同操作系统和编程语言,来提高各类AI软件在智能终端上的兼容性。
基于这套工具包,虽然只在一个平台如手机上开发,也能在汽车、XR、PC和物联网上运行,极大加速了交互方式变革的速度。
总结来看,在各类终端万物互联的时代,AI+5G是无从或缺、相互合作的两大最紧要的基础能力,而高通恰好在这两个领域都处于领先地位,并持续引领着终端侧的技术发展。
但对于超级助手而言,智能终端核心技术发展再快,也只是视为载体,为其大规模落地做好了准备。
从超级助手最严重的达成路径——AI技术来看,我们距离最终的目标又还有多远?
我们距离超级助手还有多远?
正如《钢铁侠》中的贾维斯普遍,在「模力时代」下,大众对超级助手的想象,也是一个“统筹一切”的AI个人助理。
对此,高通产品管理高级副总裁兼AI负责人Ziad Asghar,这样描述过对于AI个人助理的想象:
在各方面,大伙儿也许都只需要1个应用就能实现所有任务,如生产力APP、娱乐APP等,再用一个AI个人助理来“统筹一切”,这即将是一场极具打倒性的变革。
正在,AI技术正迎来以大模型为代表的生成式AI爆发的阶段。
高通公司总裁兼CEO安蒙近期接受《独立报》消息时,如此强调生成式AI给终端带来的首要性:
生成式AI将赋能用户大大抬高查找文件的作用,以直观高效的方式进行视频创作和修改…将这些处理能力引入终端,人们会看到大量应用场景显现。
纵观智能手机领域,AI的发展有望开启一轮全新的增长周期。只有强有力的技术变革才能推动手机商场的变革。我们将生成式AI作为一次千载难逢的机会,基于智能手机的新一轮革新浪潮已势无法挡。
而看成“被认定是最有没准达成超级助理”的兑现路径之一,大模型距离成为这样一个超级助理,或许还有三方面的条件。
其一,思虑方式的改变,也就是进化出更强大的自主学习能力。
正如同AlphaGo从抄袭人类到超越人类相同,这部分的要紧在于教它学会自我提升,理解行动的目的。
除此之外,大模型的商讨方式也如何从“系统1”到“系统2”发生转变,从不假探讨地推断,到真正缓慢理性的切磋。
其二,功能上的增强,从单纯的文本生成进化出多模态、甚至是学会使用工具的能力。
Ziad认为,这一部分的关键,如故是需要合适的训练数据,甚至模型自身的大小并不那么紧要。像是OpenAI的GPT-3虽然有1750亿参数,但LLaMA的650亿参数能实行同等甚至更好的效果。
以多模态为例,Stable Diffusion的文生图能力,从某种意义上来说已经是多模态的,但参数只有十几亿。只要使用了合适的数据,大模型加上更多模态不是问题,而且不一定要朝着“大”的方向发展。
其三,具备定制化能力,即在终端定制专属大模型、微调出专属于个人超级助理的技术。
以眼前的大模型为例,Ziad表示,虽然能给云端大模型供给部分个人报导,算作“助理”来供给规划,终究保持见面临隐私和安全、甚至是“失忆”的问题。
因此,要想完成超级助手,一大路径就是能做出倚赖个人信息微调、达成个性化定制的终端大模型,同时不将个人新闻上传到云端,确保用户安全。
同时,用户的终端使用记录,也能让大模型在一次次“微调”中更加理解用户的意图,成为更“贴心”的超级助手。
高通早已在着手准备。第三代骁龙8的传感器中枢,正是有助于大模型在手机端完成定制化,让用户的位置、活动等个性化数据更好地为AI个人助理所用。
综上来看,未来大模型引领下的超级助手形态,或许正是一个全新的智能操作系统。
正如OpenAI大牛Andrej Karpathy所言,在这样的操作系统中,大模型的窗口和嵌入对应内存和硬盘,代码解释器、多模态、浏览器和其他AI算法是系统上的APP,大模型本身则尤其于CPU核心,负责统筹调度一切。
因此,不止是大模型,在更多场景的环境感知和交互上,要想实行超级助手,相似还需要更多AI技术支持。
以手机摄影场景为例,在AIGC生成能力之外,骁龙8Gen3芯片认知ISP中部署的语义分割、感知等基础图像AI算法,继续允许进一步增强,节省算力的同时也增强手机环境感知的能力;
与此同时,结合AI技术,还能兑现声控拍照、视频编辑、无缝加入照片等应用……
又像是XR场景中,最新推出的第二代骁龙XR2和第一代骁龙AR1平台,默认支持平面测验、深度预计、3D重建、语义理解、物体鉴识和追踪等AI算法,让智能终端的交互能力逐渐增强。
△基于第二代骁龙XR2实行的房间一键“换装”
而在物联网领域,第一代高通S7、S7Pro音频平台AI性能,最高能抬高到前代的100倍。
这样一来,不仅耳机AI主动降噪功能大幅增强,在会议、社交、游戏等不同场景获得不同的降噪能力;
附带的传感器设备也能出于AI算力得到功能提升,更稳定无误地测量脉搏、耳温等壮健数据、并进行智能分析。
至于在汽车方面,第四代骁龙座舱至尊级平台(骁龙8295),也曾经用AI技术实现更智能的座舱体验。
以搭载骁龙8295的极越01为例,搭载的智能座舱能支持舱内感知离线训练,实行算法在车端迭代。用户只需要动动嘴,座舱就能结合AI理解算法和多模态感知能力,正确get需求,并作出响应。
Ziad更是认为,5年内,AI会彻底改变人车的交互方式,举例告诉汽车想去机场、同时吃点好的、买杯咖啡,汽车就能精准辨认这3个需求,智能导航到特定的地点。
显然,不论是手机、XR、物联网保持汽车,种种智能终端设备交互方式的改变,除了自己的计算和连接能力抬高以外,终究也需要依靠AI技术的发展才能实现。
这样的路径,也正是高通长期以来坚持的AI统一路线。
高通认为,从云端、到终端、再到云端和终端连接的结合AI端,AI终将无处不在,从而开启一个全新的AI时代。
正是基于这条一以贯之的路线,高通才能在「模力时代」下率先交出答卷,将不同的终端和计算架构用AI串联起来,朝向超级助手的终极目标迈进一步。
最终的超级助手会是什么交互形态,还没有人能猜测。
但可以预知的是,只有保持拥抱和发展AI技术,才能更快地推动「模力时代」下交互方式的变革,引领智能终端产业发展。
(投诉)