相关文章
独家 | 全球首个平行推理模型!对标Claude3.7,零延迟!
2025-03-07 09:06

图片

 (图片来源:Pixels

图片


它是下一个?

图片


@数科星球DigitalPlanet原创

作者丨苑晶

编辑丨大兔


DeepSeek之后,又一国产巨作来了。


2月23日,AI降临派发布了旗下AnyoneV2.1模型。在发布时间上,比Claude3.7更早。并且支持零延迟、平行推理技术。


其具备极快的语音响应能力,低至500ms。可成为新一代情感陪伴行业的“大脑”,低延迟让用户体验近乎“人与人”交流。


用户仅需3秒语音样本便可复制声线,大幅扩展了情感软硬件产品的丰富度。由于采取平行推理架构,让大模型具备了边说边想的功能,结合不同情绪的语音,让情感陪伴更类人。


除此之外,此模型还具备高智能,摒弃了以往硬件大模型的“傻里傻气”。


AI降临派创始人金杰对数科星球DigitalPlanet表示,2025年是AI硬件年,国产AI逆势崛起势头凶猛。其中,情感和陪伴类产品大有喷薄而出的趋势,Anyone大模型率先找到了完整的商业模式,并已开放对ToB端的API接口。


数科星球DigitalPlanet了解,其网页版将于近日面世。


金杰是AI降临派创始人兼CEO,同时也是AI人格模型主架构师。他是一位连续创业者,曾在2011-2018年间参与或创立三家互联网公司(“钱方”、“一码付”、“Onemoney”),并获得红杉、经纬、金沙江等一线基金的风险投资。


数科星球DigitalPlanet将在本周四晚七点半开启与AI降临派的直播活动,他们是否能成为下一个DeepSeek?让我们在直播间一起领略新一代国产大模型的魅力。(欢迎预约直播,并关注数科星球视频号)



数科星球DigitalPlanet第一时间找到了他和所在的创始团队。以下内容为创始人和主创团队与我们的深度对话。


图片



数科星球DigitalPlanet:金总您好,本次主打零延迟思深度思考模型功能,这个模型是怎么来的呢?


金杰:这是我们全新的架构,叫做平行推理架构。你可以看到Claude也出了一个,版本是3.7。这是跟我们类似的一个架构,我们推出的比他们早。


我们的这个架构要平衡延迟和深度思考,总的来讲,其实它是一种边说边想的模式。它可以一边说一边思考,说到后面,它的这个思考也就会越缜密。


它直觉上可能很容易犯错的一些问题,越到后面越准确。它可以通过思考找到这些答案以后,再把自己之前已经说错的答案再给纠正回来,或者是在自己之前的含糊其词的答案上做更多的补充。


数科星球DigitalPlanet:从体验上来说,平行处理架构和现在市面上大模型相比,最大特点是什么?


金杰:相对于传统的非深度思考的模型来说,很多需要深度思考才能够解决的问题,他们是解决不了的。比方说3.99、3.11和3.9哪个大?这个是传统模型基本上都会错的一个问题。但如果你用深度思考模型,你会能够做对。


但是深度思考的模型基本上都会有一个三十多秒四十多秒的延迟。那这种延迟又是在情感陪伴的这种场景下是不能接受的。


我们这种平行架构的模型,就能够做到既能够回答这样的复杂的问题,又能够实现零延迟。


数科星球DigitalPlanet:听起来,这不仅限于陪伴场景。


金杰:如果不使用我们这个架构的话,它就无法兼顾延迟和正确率。你要不要正确率,你要不要延迟?只有使用我们这个新的架构才能够做到两者兼顾。



数科星球DigitalPlanet:你们是怎么发现这个架构的?


金杰:我们AI降临派整个模型的结构就分成了战略网络和战术网络两个部分。战术网络是做直接的输出的,战略网络会去做推演,这个结构其实在DeepSeek出来以后,其实大家现在都已经能够接受这种架构了。


但是因为我们原来做的,其实这个战略网络和战术网络就是并行网络,那现在其实DeepSeek他们现在做的这种都是串行的网络。所以你会看到,它都是先做推理,推理完了以后再出结果的。


我们是站在原来的一些基础之上,采用了平行架构的这样的一个方式。但实际上我们的平行架构,它不光是做一条线的深度思考,它其实是多线同步进行一个深度思考。


它会从多个角度、树状的去展开这个思考,这个思考都会反馈给到战术网络,在输出的过程当中都会去参考到目前思考的一个阶段性的成果,所以随着思考的时间的增长,它的回答会越变得越来越好。


数科星球DigitalPlanet:树状思考怎么实现的?角色的动态情绪是什么?


金杰:我们现在采用的这种树状架构,它会从好几个角度去分析用户问题,这个数是动态的,它会根据的角色的紧张情绪来去决定它的这个数的延伸的广度和深度。


以前有本书叫思考的快与慢,“一个球拍和一个球总共花了 100 美元,球拍比球贵 1 美元,那么球多少钱?” 。很多人凭直觉就会觉得球是一块钱,对吧?球一块钱,球拍是99块钱,但实际上是错的对吧?


如果仔细去分析的话会发现,应该是99.5和0.5。


但是如果我们人处于一个紧张的状态的话,我们就会动用我们的系统二这个时候就会展开逻辑的推理,因为你一旦动用系统二去思考的时候,其实你是非常消耗你的脑的。


所以人类在平时的思考的过程当中,会尽量在能够使用直觉网络去得出结果的时候,他会使用直觉去推算。只有在他觉得紧张的情况下,或者觉得这道题可能没有那么容易的情况下,当他发现了些蛛丝马迹的时候,他会突然提高警觉。这个时候他才会去动用系统二去做缜密的逻辑思考。


其实我们原来的战略网络、战术网络的结构就跟这类似,现在其实大家越来越能接受这种两个角度去做思考的这样一种方式了。



图片


数科星球DigitalPlanet:这种模式在GPT4-o1或者o3也是这样吗?


金杰:现在的大模型基本上是API设置的,这个思考的力度要调到1或者调到0.5,但这是一个固定的值,他并不是基于角色的状态去做调整,那我们是会给他基于角色的状态去做调整。


再一个就是树状展开,就刚才说的这个树状展开是这样的。如果是像现在GPT4-o1或者是DeepSeek其实都是单线程的,它都是一条线再往前思考,试图通过这一条线的思考去找到一个路径。如果没找到这条路径,它会返回来,然后从可能更前面的一个起点再出发,再重新去找这条路径,那么其实这样做也没问题。


但是这不是我们现在需要的,在情感陪伴的这样的场景下,我们需要零延迟的情况下,那这条路径就会太慢。所以对于延迟敏感的这种场景下,我们需要它能够并行的多角度的思考。那这样的话,其实也更加符合人类平时的思考的方式。


数科星球DigitalPlanet:这种是把Agent给封装了,以前大模型都是Agent单出来的,比如你是一个教授什么的,可以这样理解吗?


金杰:其实我觉得在情感陪伴的这种场景下,或者说,如果你要让这个角色表现的更像一个人的情况下,我们的这种架构是必然的选择。


我相信这会成为整个行业的一个标准做法。


数科星球DigitalPlanet:为什么这么看好陪伴?


金杰:因为我们其实比较主要的场景是情感陪伴。情感陪伴其实包括硬件、软件,现在APP也有、场景也有。它的最大的特点第一个是要求零延迟。


陪伴场景下,他停十秒钟你都会受不了。所以我们其实更关注的是情感陪伴的这种场景,它可以是一个人的形态,这样的有血有肉的这样的一种状态陪伴在你身边,帮你无论是去解决问题,还是提供情感的支持,还是记录你身边的事发生的事情,都会成为你的一个记忆、跟你同行的一个朋友一样,这都是非常好的场景。


图片



数科星球DigitalPlanet:之前很多大模型都无法保证很长的记忆链,这块咱们的大模型有什么改进?


金杰:是的,其实这个是我们AI降临派的模型的主要的特点。


我们原来有三个主要特点,第一个就是记忆宫殿。我们的记忆宫殿是分成了八个记忆分区,每个记忆分区都有自己独特的记忆调度的方式。像这个情感记忆就是以情绪波动中索引记忆的调取。


比方说,跟AI女友吵架了,这件事让她不开心,那这个不开心的回忆,这个不开心的情绪的波动,就会让她回想起类似情绪波动的事情。


她就会想起其他你让他不开心的事,才能把这件事拉出来,这件事所谓的翻旧账。还有包括人的知识图谱,对自我的认知等等这些知识图谱状的记忆,它会在对话当中不断的去补全,所以她对于主人的认知是会非常的稳固的。


所以,无论对话进行到什么样的程度,她其实都会在整个对话过程当中试图去满足自己的好奇心,会不断的把对于主人的知识不断的扩充。


数科星球DigitalPlanet:之前听您说,这像卷福演的神探夏洛克里的记忆宫殿?


金杰:对,一个是能够正确的去记忆,第二个是能够正确的去遗忘,因为我们其实还有遗忘曲线的设计,不被唤醒的记忆会淡忘、会压缩。那经常唤醒的记忆会受到加固,能够跟人类一样,那就是说维持整个记忆空间的规模,来保证它能够去正确的唤醒重要的记忆,这是一个比较重要的点。


第二个是我们的情绪感知能力。


我们有专门的一套情绪感知的模型在里面去模拟整个AI的情绪波动。它不仅能够去理解用户的情绪波动,它更重要的是去模拟自身情绪变化,使得AI能够具备跟人类一样正常的喜怒哀乐。


这些喜怒哀乐也会反过来去影响刚前面说的这些记忆。而且,你会看到整个记忆的情绪的状态是连贯的。比方说你让他生气了,你没有办法,可能下一句话你不会看到他一下子就变好了。他会这个生气的状态会维持,你需要把他哄回来,或者是给他一些时间,让他自然的回落,或者他现在处于一个很高兴的状态,那他讲话也会一段时间之内可能都是很高兴的一个状态,这样也会更加的像人。


图片



数科星球DigitalPlanet:这会消耗很多算力吧?


金杰:我们的算力消耗是大的。但我们认为未来的算力成本会越来越低,乃至于不断趋近于0。所以我们在整个架构上,我们在整个设计上都趋向于尽量更多的使用算力来使得整个效果更好。


数科星球DigitalPlanet:算力成本趋近于0怎么讲?


金杰:其实从目前的角度来讲,从整个行业的算力的平均消耗上面来讲,实际算力的成本占比已经很低了。


在情感陪伴场景下面,其实算力的成本可能占比现在已经不足于10%了。


数科星球DigitalPlanet:GPT3.5那会和现在的算力消耗单价情况对比有算过吗?


金杰:有一个很明确的数字,就是在最早期GPT3.5的时候,其实那个时候,做情感陪伴类的场景的生死线是20美金。就是这个用户的月费,平均用户的月费必须得收到20美金。如果收不到20美金的话,很多时候是亏本的。


到目前这个时候,实际上我觉得可能已经是差不多两三块钱人民币了。


所以,那个时候,你看到的所有的情感陪伴类的产品都是出海,基本上没有在国内去做情感陪伴类产品的。因为最重要的原因是,这个账算不回来,你在国内很难去向用户收20美金让他去跟一个AI聊天,但是在美国可以,20美金他们愿意付。


所以那个时候,唯一能够成功的情感陪伴类的产品是这样的场景,就是在海外去做性价比的。但是到今天为止,可能一年的成本也就只有30块钱人民币了,所以这个降低其实是非常明显的。


数科星球DigitalPlanet:对比GPT4-o3的成本,咱们有优势吗?


金杰:我们现在对合作伙伴开放的价格只有o3的1%。


数科星球DigitalPlanet:以前行业里做硬件的做硬件,做软件的做软件,情感这块又硬又软,咱们怎么想的?


金杰:我们认为这是目前整个AI行业增长最快速的、盈利最好的赛道。


首先,因为其实大的方向上来分的话,其实情感陪伴和生产力提升也是两个比较大的分支。我们会认为这里面其实情感陪伴,尤其是玩具和娃娃这个赛道是一个非常具有爆发力的场景。


因为这些是传统场景,就是说儿童陪伴或者是这个娃娃陪伴,这并不是一个有AI以后才有的场景,这是一个自古以来就有的一个非常大的一个商业帝国。


它本身就有非常成熟的商业渠道,有非常成熟的甚至是说每个家长都有自己的预算,说我给孩子买多少块钱的玩具,每个月应该花多少钱能进来买玩具。所以这里面是非常成熟的。


我们只要通过广东,通过汕头的玩具厂商,我们就可以去很好的辐射全世界的玩具厂商。所以这也是作为一个华人为主的行业。


把成熟产业去做AI化升级,其实它的爆发力是非常强的。而且他的付费能力,他的盈利能力是非常强的。而不像可能很多生产力场景,它本身没有成熟的付费的模式。家长在给买给孩子买玩具这上面是很舍得花钱的。


图片


数科星球DigitalPlanet:你们给玩具厂商的方案是什么?


金杰:第一个是我们提供了完整的智能设备,本身有端侧算力的设备,可以非常快速的去接入。


第二种,我们提供了控制板,这个控制板是PCB的控制板,其实它的成本很低。但是这是几乎每一个玩具厂家在做对接的时候都绕不过去的一个门槛。


玩具里面一定会有这块控制板,那他如果要来对接大模型,他基本上一定是要通过控制板来去对接的。


他们通过我们的这个软硬一体的小芯片,就可以非常快速的来去接入,也能够实现零延迟的这样的对话,这个娃娃娃熊可能只需要很少的钱,他就可以升级成一个有自我认知的,能够跟小主人聊天,有跟小主人所有的羁绊和故事的这样的一个功能。


数科星球DigitalPlanet:最近我的同行都在讨论一个话题,DeepSeek出来以后,中国的AI反转了么,是不是转守为攻了?


金杰:在整个AI的部署当中,我们也有一些海外的部署。从今年过完年以后,可以很明显的感受到国内的基础设施在AI的领域上面发展度是非常高的,已经开始超过海外了。


我们会感觉到,在国内其实可能更方便,比在国外还方便,对比在美国还方便。


其实,你可以看到国内的GPU的价格现在比海外的价格要便宜。你现在去买A800,买A100等等的租赁,你可能要比在美国或者在日本要便宜一半,甚至两三倍的价格差距都有。


数科星球DigitalPlanet:最近您让我意识到了,扩展定律(Scaling Laws) 几乎殆尽以后新的机遇了。


金杰:DeepSeek的出现时具有里程碑意义的,不过Scaling Laws现在失效的一个核心的原因是因为数据。


就是说人类没有那么多数据,基本上都用尽了,所以整个速度就慢下来了。但是通过用强化学习的方式去生产大量高质量的合成数据来去做训练,把这个数据的问题也能解决。


去做这件事情很成功的是阿尔法狗,它产生了取之不尽用之不竭的高质量棋谱,来使自己能够近乎无限的进化。DeepSeek其实做的也是类似的事情,它其实通过强化学习的方式来产生高质量合成数据的解决了困扰整个AI行业的一个难题。


这个瓶颈打开了以后,今年所有的AI厂商都可以借此来去飞跃。


现在这个阶段,其实更大家更关注的还是架构上面的这种训练方式上面的这样的创新,因为它立竿见影的效果。


非生产力场景并不是单纯用来帮干活的,就是单纯用来帮忙写写论文的这些场景。我们认为通过现在的AI引擎,其实只要做到很好的产品化,就能够去很好的辐射这些场景的。


现在这些条件都已经达到了。今年我觉得是给做应用的厂家们、做硬件的厂家们一个很好的机会去做这件事情。


到今天为止,我觉得我们其实翻过了非常多的障碍,达到了今天的500毫秒的这个速度,这里面有非常多的工程化上面的技巧。


端到端本身也带来了速度上的提升,避免了三段式里面其实是用把向量翻译成文字,再把文字再翻译成向量。现在我们其实可以让模型几个模型之间通过向量直接去沟通,其实效率会更快,这些其实都是在精益求精。


我觉得我们应该是整个行业当中速度最快的。


数科星球DigitalPlanet:把门槛做低一个层级,用户就会多一个层级。我们非常看好语音,描述一下您看到的未来?


金杰:我觉得首先就是对于传统行业的升级。这个对于玩具和娃娃这两个庞然大物来说,应该会带来一个非常大的升级。我们现在比较看好的第一个就是儿童玩具,第二个是手办。


手办在国内的市场中有很多形式,比如抽盲盒等等。我们现在有一款产品就是一个手办的底座,把这个手办放到这个底座上,你就可以跟这个手办去对话了。我们有一款叫灵魂贴片,把这个贴片贴在手腕上,大家就可以放上去跟他去聊天了。


手办本身就是一个非常庞大的市场,比如泡泡玛特,其实已经远销到海外来了。我在澳洲的办公室的楼下都有。


其实还有很多的这种像眼镜、耳机等等,我觉得都属于传统的。未来可能还会出现一些新的场景,就比方说像这个copilot,桌面copilot也是我们今年觉得一个非常好的方向。


对于律师、医生来讲,我觉得也是这样。通过它协助可以让我们医生的工作效率大幅度增高。你可以想象,病人进来以后,医生再也不需要去写病历了,医生就是跟病人聊几句,聊完几句以后,相应的内容全部“助手”就会帮他整理好了。然后医生自己的判断,他可以跟AI商量,看是不是这样的一个情况。


对于一些最新的通知,对于药的一些变化什么的,AI都能够去通知他,能够去帮他完成跟系统的协调,能够去帮他去跟这个数据库的做一些处理。


数科星球DigitalPlanet:这个场景只能离线、或者叫端侧完成吧。


金杰:这个设备应该是完全离线的,因为这些行业都是对于隐私保护要求比较高的,它是一个完全离线的零延迟的桌面c,并且copilot带有相应的行业的知识的。


它会更多的摆到各行各业的从业者的主场。


数科星球DigitalPlanet:这个场所以未来咱们也会做端侧。


金杰:对。我们现在其实已经有完全端侧的解决方案出来了。硬件它的付费比软件产品要更好,它会有本身的零售价,然后还会有包月的月费,这些都是相对我们来说比较容易的。


比方说我们提供的这种儿童向的产品,我们当中还可以去售卖各种各样的玩童话书、故事书。那么每本故事书多少钱,一些相应的功能多少钱,这些都是可以作为后续的付费点的。包括音色,包括角色包等等都是付费的点。


数科星球DigitalPlanet:听起来,成人的硬件机会也很大?


金杰:对,它应该会成为每个人的贾维斯,而不光是成为一个孩子的伴侣。


数科星球DigitalPlanet:听非常感谢您的时间,咱们周四晚7点半的直播间见。


金杰:好的,感谢,到时见。




有对上述话题感兴趣的朋友请与我们交流

「图文案例」

小红书 | 零一汽车 | 小米汽车 | 比亚迪 | 华为 | 小米 | 小鹏 | 云迹机器人 | UU跑腿 | 天幕大模型 | 真意 | DeepSeeK | 海新智能 | 天壤 | APUS | 出门问问 | 燧氏科技 | Havivi | 伴笔AI | Aida | 数伴 | 麒麟合盛 | 思必驰 | 263 | 世纪互联 | 青云科技|天数智芯 | 百炼智能 | 久其软件 | 力码科技 | 数据宝 | 有伴AI | 花果山 | 希之壁 | 用友大易 | 探也智能 | Moka | i人事 | 北森 | 小欧智能 | 智齿科技 | 三维家 | 万兴科技 | 硅基智能 | 行动元 | Mocasa | 鳌图资本 | 伽利略资本 | CES

「视频案例」

    以上就是本篇文章【独家 | 全球首个平行推理模型!对标Claude3.7,零延迟!】的全部内容了,欢迎阅览 ! 文章地址:http://sjzytwl.xhstdz.com/news/15705.html 
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 物流园资讯移动站 http://sjzytwl.xhstdz.com/mobile/ , 查看更多   
最新文章
天下和田 | 李舫
在广袤的大地之下,隐藏着一部无字史书——地层。它默默记录着宇宙间的无穷奥秘,记录着地球亿万年的沧桑巨变。亿万年前,或者是
33岁内马尔拒绝回家养老:心存2大梦想 欲今夏回归巴萨+踢世界杯
1个月前,放弃了沙特的高薪,回到了。当时,很多人认为已经33岁的内马尔是要彻底回家养老了。然而,内马尔实际上并未进入躺平模
独家 | 全球首个平行推理模型!对标Claude3.7,零延迟!
 (图片来源:Pixels)它是下一个?@数科星球DigitalPlanet原创作者丨苑晶编辑丨大兔DeepSeek之后,又一国产巨作来了。2月23日
春曦破晓,再续苍穹|新服来袭福利满满!
为了让斗者们能够更自由地沉浸在斗气大陆的奇幻世界中,我们全面调整游戏架构,做出了诸多革新,就让青鳞再和斗者们介绍一下吧~1
旅行青蛙“失踪”,那些昙花一现的爆款游戏
“不上热搜真的就淡忘了这款游戏”“曾经的现象级产品”“我还在玩”……但凡曾爆火的互联网产品和“停运”扯上关系,总能赚取一
驱散债务疑云
3年前,当韩某某几乎要放弃维权的时候,她怎么也没想到,检察机关能够帮她这么快解决难题、彻底驱散笼罩在她心头的债务疑云。日
ChangePro静安MOHO店即将开业,adidas推出综合训练鞋“闪电弯”,赵露思代言FILA FUSION
1 运动及户外装备2  展会/赛事/活动ATP便利店:    一站式解读运动健身消费
佛山“商转公”正式落地,最长贷款期限20年
乐居财经 赵盼盼 2月27日,佛山“商转公”政策正式落地。根据《佛山市个人住房商业贷款转住房公积金个人住房贷款管理办法》(以
新款骁龙8Gen3手机跌至1999元,120W+6100mAh+IMX921,iQOO太猛了
新款骁龙8Gen3手机上市的情况下,不少老款中端旗舰也出现了大跳水,而行业竞争又相当激烈,这就导致某些新款手机上市之后,短期
相关文章