字体
关灯
返回目录 阅读足迹 更多章节
第1080章 手机里住个AI神
第(3/3)页

“这恰恰是最大的死穴。”余大嘴双手撑在茶几上。

“目前的手机CPU和GPU架构,设计初衷是处理通用计算和图形渲染。用来跑你们这种大模型的矩阵运算,效率低得令人发指。”

“强行跑,算力确实能凑合,但功耗绝对压不住。手机几分钟就会发烫降频,电池用不了一个小时就会被抽干。”

余大嘴长叹了一口气。

“顾总,就算你们做到了参数蒸馏和量化压缩,解决了系统运存不够的难题。但它也是个吃电的怪物。”

“硬件跟不上,一切都是空谈。我们不能造一个暖手宝卖给消费者。”

面对余大嘴的纠结与无奈,顾屿脸上没有任何焦虑。

他端起早已经凉透的茶水,轻轻抿了一口。

“余总,我既然敢带着项目上门,自然准备好了全套的解决方案。”

顾屿放下茶杯,目光变得锐利起来。

“功耗痛点,现在只差一颗专属的NPU来彻底解决。”

“我的要求是,海思要为这款手机设计一款专属的核心硬件。”

顾屿直视着余大嘴的眼睛。

“让海思拿出一套专门针对Transformer架构底层算子进行硬件级加速的手机端NPU!”

余大嘴眉头微动,眼神逐渐亮起,脑子里飞速顺着这个激进的思路往下推演。

顾屿不疾不徐地抛出完整的构想:

“只要这颗NPU落地,我们就能在硬件物理层面上实现完美的‘端云协同’机制。”

他竖起一根手指,

“日常轻量级的使用场景,比如识别用户的语音指令、控制鸿蒙系统里的各个APP、做简单的日程规划和意图理解。这些任务,全部交由手机NPU硬件直驱那个十二亿参数的蒸馏版小模型。”

“因为是专芯专用,所以在端侧处理这些轻量任务时可以做到零延迟,断网可用,隐私数据绝不出端设备,而且功耗完全能压在安全线以内,手机根本不会发烫。”

接着,顾屿竖起第二根手指,

“但如果遇到复杂的重度需求,比如让AI写一份两万字的商业分析报告、进行深度的科研逻辑推理,或者需要全网检索最新的宏观数据,这已经超出了端侧轻量级模型的认知上限。”

“所以一旦判定为重度需求……”余大嘴接上话茬,

“手机的端侧模型就把指令打包装车,通过网络接口直接抛回给你们的云端天问大模型去跑?”

“没错。全量级的使用,直接连接九天服务器进行运算。”顾屿靠回沙发上,

“云端算力负责兜底高难度的全量任务,端侧NPU负责轻量级秒回和设备控制。”

“在用户眼里,没有端和云的区别切换,他们只会觉得,这台华为手机里住着一个无所不能的神。”

第(3/3)页
上一页 目录 下一章
都在看:残魂重生修仙界半岛头号玩咖!鸣龙噬恶演武,诸天除魔百无禁忌大明:从战场捡属性开创诸天大明魔王大人深不可测一夕千悟,从杂役弟子开始修仙:从提升灵根资质开始我以奥术登临神座长生修仙:从福修开始重回1982小渔村影视剧中的王牌特工玄鉴仙族重燃青葱时代混沌天帝诀凌峰半岛小行星影视:开局获得阿尔法狗全球觉醒:开局加入聊天群宅魔女我的诡异人生模拟器混沌天帝诀帝皇的告死天使武装魔女我是如何当神豪的