于国际电信同盟建立160周年之际，中国通讯学会主理的“2025世界电信与信息社会日系列勾当”在5月16日-17日时期于江西南昌召开。今日，以“AI年夜模子赋能千行百业”为主题的系列勾当之一，“AI与行业年夜模子运用专题钻研”召开。这次专题钻研聚焦“运营商AI与行业年夜模子结构”及“行业年夜模子实践与运用”两年夜板块，会聚当局机构、科研院所和行业领军企业，配合解读了全世界AI趋向与管理标的目的，切磋了AI年夜模子的技能前沿与行业实践。

高通技能公司产物治理副总裁姜波于“AI与行业年夜模子运用专题钻研”上发表了主题演讲。他论述了高通公司作为终端侧AI带领者，怎样以行业领先的终端侧AI软硬件技能、广泛的边沿营业结构及踊跃开放的生态互助，掌握AI向推理时代迈进的主要行业厘革机缘，鞭策AI运用于边沿和终端侧繁荣成长，加快AI技能与财产深度交融，赋能千行百业使用AI技能找到新的行业成长冲彩神vll破口，加快财产数字化转型，为财产成长带来全新动能。

如下是演讲内容全文：

列位佳宾各人下战书好！我是高通公司姜波。很是侥幸可以或许于国际电信同盟建立160周年之际，与各人相聚于南昌，配合切磋终端侧AI推理立异怎样鞭策智能财产迎来全新成长机缘，并加快各行业对于AI的范围化集成和用户体验的重塑。

本年年头，DeepSeek的推出激发了对于AI模子练习方式的倾覆厘革及从头评估，验证了AI行将从年夜范围练习向年夜范围推理改变的趋向，这将形玉成新的终端侧推理计较的立异及进级周期。虽然模子练习仍将于云端举行，但模子推理将向终端侧转移。

AI模子练习成本的降低与开源互助相联合，使患上更多开发者及构造可以或许开发高质量模子，而且小模子正逐渐靠近前沿年夜模子的质量。只管有人认为模子范围缩小会致使质量降落，但现实上，2024年来推出的浩繁进步前辈的AI小模子已经经具备卓着机能，可以或许到达甚至逾越一年前推出的仅能于云端运行的更年夜模子。很多主流模子系列，如DeepSeek R一、Meta Llama、IBM Granite及Mistral Ministral，均已经推出小模子版本，并于特定使命的机能及基准测试中体现精彩。

蒸馏技能是开发高效小模子的要害，它可以或许于连结正确性的同时实现常识的转移。这一技能的运用鞭策了小型基础模子的激增，此中包括很多针对于特定使命优化的模子。以DeepSeek为例，于其发布的一周内，就呈现了多种新的蒸馏模子，如通义千问及Llama蒸馏模子。颠末蒸馏的Llama模子机能显著晋升，而DeepSeek的Qwen-7B蒸馏模子的机能已经与去年开始进的GPT-4云端模子相称。

按照Epoch AI的数据，2024年发布的年夜范围AI模子中，跨越75%的模子参数于千亿范围如下。量化、压缩及剪枝等技能有助在缩小模子范围，量化能降低功耗并于不较着影响正确性的环境下加快运算，剪枝则消弭没必要要的参数。将年夜型基础模子缩减为更小、更高效的版本，不仅能实现更快的推理速率、更少的内存占用及更低的功耗，同时可以连结较高的机能程度，从而使此类模子合适于智能手机、PC及汽车等终端上部署。

患上益在高质量小模子数目的连续增长，如今，边沿和终端侧AI开发者于开发运用及AI智能体方面有着很是多样化的模子选择。从全世界规模来看，咱们既有Llama、Mistral、Phi如许的开源模子，还有有百川、Gemini Nano、通义千问等闭源模子，这傍边有一些模子也正于不停拥抱开源社区。此外，差别地域也于踊跃成长各自的AI模子，推出了各具特点的新型模子。与此同时，传统的计较机视觉及物体检测等范畴所利用的模子，于特定运用场景下依然阐扬着不成替换的作用。

跟着当前模子的成长，咱们不雅察到差别装备，包括手机、汽车、PC、XR及工业物联网装备等，于撑持的模子参数范围方面揭示出差别的能力。联合AI模子自身质量的不停晋升，终端侧AI将具有更富厚的功效，如撑持更长的上下文、提供个性化体验、实现多模态交互及处置惩罚并发模子等，这些都将极年夜地鞭策终端侧AI运用的立异与繁荣。

按照猜测，2025年中国新一代AI手机市场出货量将到达1.18亿台，占整个市场的40.7%。同时， 2025年中国AI PC市场出货占比估计将从2024年的13%年夜幅上升至37%。

作为终端侧AI的带领者，高通于人工智能范畴有着跨越15年的投入，拥有行业领先硬件及软件解决方案笼罩广泛终端，而且拥有跨NPU、CPU及GPU的卓着异构计较能力、领先的软件优化、以和能效。此外，咱们还有于全世界规模内拥有领先的终端侧结构及高达数十亿的用户装备数目，笼罩智能手机、PC、汽车、XR、边沿收集装备等等。同时，咱们也与浩繁生态互助伙伴配合鞭策AI技能的立异及运用。

2024年，高通与腾讯混元互助，基在骁龙8至尊版挪动平台，配合鞭策腾讯混元年夜模子7B及3B版本的终端侧部署。这有助在腾讯混元年夜模子为广泛的营业场景提供技能撑持，经由过程使用终端侧AI加快产物立异，并有用降低运营成本。

于硬件方面，高通持久致力在开发定制CPU、NPU、GPU及低功耗子体系，同时拥有封装技能及热设计的技能专长，这组成了咱们行业领先的体系级芯片（SoC）产物的基础。经由过程异构计较体系，高通帮忙开发者经由过程上层软件挪用硬件焦点组件举行AI加快，包括CPU、GPU、NPU及高通传感器中枢。此中，Oryon CPU面向即时性要求高的使命，Adreno GPU擅长图象及视频处置惩罚，Hexagon NPU合用在连续及泛于型使命，如计较摄影及年夜模子运用。而高通传感器中枢则针对于那些对于功耗敏感且需要始终连结于线的运用场景。

于软件东西撑持方面，咱们推出了高通AI软件栈，可让模子于终端上完成端到真个部署及优化事情。高通AI软件栈撑持所有开发者经常使用的AI框架、runtime、开发东西及操作体系。例如，咱们撑持ONNX、TensorFlow、PyTorch等主流AI框架，以和ONNX Runtime、Direct ML及TFLite等经常使用runtime，咱们也给开发者提供了高通本身开发的runtime——高通AI引擎Direct，以供开发者挪用前面先容的各类硬件模块，对于AI用例举行加快。此外，为了更好地撑持开发者，咱们去年推出了高通AI Hub，它可以或许帮忙开发者选择响应平台及开发模子、编写运用，末了于差别类型的挪动终端长进行部署。

除了了高通AI软件栈及AI Hub，咱们还有推出了高通智能体AI计划器。高通智能体AI计划器作为高通AI软件栈的主要构成部门，位在运用及AI框架和runtime之间，为终端侧所有的AI功效提供所需的协调计划，是赋能下一代智能体AI体验的要害地点。

简而言之，这是一个用在用意理解、用意分发及域办事调动的端到端解决方案，涵盖了从最初的天然语言理解阶段，包括主动语音辨认（ASR）及文本到语音转换（TTS）模块，到经由过程端侧智能体举行的用意理解及使命编排历程。于使命编排阶段，计划器可以或许挪用端侧的各类东西，并使用端侧的个性化常识图谱及当地数据，从而让使命计划更为切确及高效。此外，于完成使命计划以后，计划器还有撑持多种后续的域办事，如音乐播放、气候查询、导航及订餐等功效。

跟着AI于终端侧无处不于地运行，以运用为中央的体验正于转变。经由过程天然语言、图象、视频与手势的交互方式，AI智能体可以或许简化技能利用要领，猜测用户需求，并于终端及运用内自动履行繁杂的事情流程、举行决议计划及治理使命。也就是说，AI正于成为新的UI（用户界面），用户将再也不需要打开特定的运用步伐，AI智能体将作为新的交互方式办事在用户的所有计较终端。这不仅将转变单个运用，还有将影响零售、餐饮等行业的客户体验逻辑，成为厘革贸易邦畿的新生气力。

本年，高通公司迎来建立40周年、深耕中国市场30年的主要里程碑。已往30年来，高通一直与中国的挪动生态体系企业连结合作无懈。今朝，咱们正于联袂更广泛的互助伙伴，充实使用端侧AI于机能、效率、相应速率及隐私掩护方面的上风，配合掌握财产成长机缘。

于智能手机方面，包括小米、荣耀、OPPO、vivo于内的厂商均已经发布了搭载骁龙8至尊版挪动平台的旗舰手机产物，撑持富厚的天生式AI用例。于PC方面，估计到2026年将有跨越100款搭载骁龙X系列计较平台的PC发布或者正于开发中，笼罩华硕、宏碁、戴尔、HP、遐想及荣耀等领先厂商。同时，咱们连续与腾讯集会、有道、爱奇艺、字节跳动等ISV互助伙伴协作，为开发者提供东西及撑持，掌握AI PC的行业成长新机缘。于汽车范畴，高经由过程去于多个场所展示了基在骁龙数字底盘解决方案运行的汽车端年夜模子及天生式AI用例。如今，抱负、小鹏等中国车厂已经基在高通第四代骁龙座舱平台发布了其车真个年夜模子功效。

站于新的出发点上，高通将连续增强于可扩大硬件及软件方面的投入，并经由过程与模子厂商的合作无懈，赋能开发者于终端侧加快采用AI智能体及运用，让AI运用越发触手可和，鞭策AI技能于千行百业的运用。