让智能计算无处不在，高通ChinaJoyAIGC大会展望终端侧AI行业赋能
2024年7月26日，中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举行。 大会从技术、应用等全生态角度共同探讨了AIGC技术下的内容产业新业态和未来发展趋势，聚焦AIGC如何助力产业升级、如何提升AIGC场景应用、如何促进人机融合等。
高通技术公司副总裁兼产品、合作伙伴和技术市场全球负责人 Mike Roberts 在大会上发表了主题演讲。 他指出终端侧生成式AI已经到来，高通公司作为终端侧AI的领导者，在AI领域有着超过15年的投入，借助强大的硬件和软件支持组合、异构计算优势、以及全球范围内的领先边缘侧布局，高通的产品和技术已支持出货超过25亿台AI赋能终端，赋能广泛的行业领域和生成式AI体验，正在推动实现“让智能计算无处不在”。
以下为演讲全文：
大家好，很高兴第四次参加ChinaJoy。 我很荣幸代表高通，与大家分享我们正在如何助力让智能计算无处不在。 作为终端侧AI的领导者，高通在人工智能领域有着超过15年的投入，拥有行业领先硬件和软件解决方案覆盖广泛边缘终端，并且拥有跨NPU、CPU和GPU的卓越异构计算能力、领先的软件优化、以及能效。 另外我们还在全球范围内拥有无与伦比的边缘侧布局和高达数十亿的用户设备数量，覆盖智能手机、PC、汽车、XR、边缘网络设备等等。 同时我们也与微软、谷歌、百川、腾讯、字节跳动等众多生态合作伙伴共同推动AI技术的创新和应用。
生成式AI不仅是不可或缺的个人助手，也在众多领域展现出了巨大的商业价值。 预计每年可带来2.6万亿到4.4万亿美元的经济效益，大约相当于2023年上海GDP的5倍。 但是推动生成式AI的规模化发展面临诸多挑战。 以成本为例基于生成式AI的搜索单次推理成本是传统网络搜索的约10倍。 目前我们还处于生成式AI应用的早期阶段，新的应用不断涌现，包括图像和视频创作、文本摘要、对话聊天机器人等。 再考虑到未来需要使用AI推理的数十亿用户数，这个总体需求量就会非常惊人。 预计2024年至2028年，生成式AI相关的token生成量将增长150 倍，云端的推理需求将超过训练需求。 如果还保持当前的AI处理方式，到2030年AI可能会消耗全球3.5%的电力，这足以为上海这样的大城市供电约35年。
那么我们应如何应对这一挑战?为了实现规模化扩展，AI处理的重心正在向边缘侧转移，最终目标是实现混合AI，让云端和边缘侧终端能够协同处理工作负载，并使用高性能连接来实现更加强大、高效、优化的AI。 如果将 20% 的生成式 AI 工作负载转移到终端侧，预计到 2028 年将节省 160 亿美元的计算资源成本。
让我们分别看看终端侧和云端的AI处理。 终端侧主要支持100亿参数级别的大模型。 终端侧AI处理具备众多优势，不仅能够提高性能和效率，还能确保隐私和安全性，同时提供即时性、低时延、高可靠性和个性化的用户体验。 另一方面中心云能够支持运行参数超过千亿级别的超大模型。 在中心云上用户可以轻松地对模型进行开发、部署和训练，实现资源聚合和极致性能。
基于此，面对各个垂直领域对生成式AI用例日益增长的需求，高通推出了面向计算性能的系统级解决方案。 提供系统级解决方案的理念植根于高通公司的DNA之中，也是我们作为一家公司应对诸多挑战的关键。 这一解决方案包括我们专为生成式AI全新打造的神经网络处理器(NPU)，同时我们还将NPU与CPU、GPU整合到一起。 比如我们已经在PC端推出的高通Oryon CPU，未来还将扩展到手机、汽车等更多终端品类;另外我们推出了高通Adreno GPU，我们在这款定制化GPU上已经投入了超过十年的研发。
我们针对不同计算需求，策略性地使用适宜的处理器，从而提升系统性能，实现异构计算。 异构计算让我们能够实现最佳应用性能、能效和电池续航。 如今终端侧AI已经广泛应用于各类消费终端和各行各业，包括边缘网络设备、汽车、以及制造车辆的工业机器人等。 在此我想重点谈谈两种主要的终端类型：智能手机和PC。
我们最新的第三代骁龙8旗舰移动平台已经赋能诸多手机厂商合作伙伴推出了丰富的终端侧AI体验。 上个月我们的合作伙伴微软以及其他领先PC厂商，推出了20多款搭载骁龙X Elite和骁龙X Plus平台的最新Windows 11 AI+ PC，这些设备已经实现了实时翻译、实时转译、AI照片编辑、文本总结、写作辅助等丰富的AI功能。
让我们先从智能手机的角度来谈谈这些终端侧AI用例。 我们与合作伙伴携手在他们推出的旗舰智能手机上，为用户带来了生成式AI功能，将骁龙的AI能力直接呈现给消费者。 三星Galaxy S24系列借助终端侧AI，以先进的实时翻译功能，将手机通话实时翻译成用户首选语言，打破语言障碍，促进无缝的跨文化交流。 另外OPPO Find X7 Ultra集成了出色的终端侧AI特性，让用户能够将照片中不需要的物体或人物消除，且无需连接互联网。 荣耀Magic6系列的“智慧成片”功能则能够利用相册中的照片和文本提示生成视频。
接下来，让我们聊聊PC领域的应用。 在PC方面，我们与djay Pro等众多公司展开了合作。 djay Pro是一款全球领先的混音应用，经过我们双方的合作优化，现在可以在骁龙X Elite的NPU上运行，让用户能够利用Neural Mix实时分离和操作人声、乐器、鼓等不同音轨。
现在，让我们将目光转向汽车制造商和其他服务提供商，他们可以根据需求提供特性升级和新服务。 中国的汽车市场有着全球领先的发展速度。 在网联汽车中使用生成式AI服务，能够赋能我们的合作伙伴打造全新特性，扩展他们的产品，并为驾驶员和乘客提供更佳体验。 网联汽车能够支持各种软件定义特性和服务，也将重新定义出行体验。
高通还在引领终端侧AI在物联网领域的应用。 一个具体的用例是工厂车间，工厂车间中数据处理的低时延至关重要，因为即使是最微小的错误也需要即刻关注。 通过多模态AI助手，我们可以使用视觉、文本和语音处理为工厂车间的工人提供实时帮助。
我们还提供了高通AI软件栈这一全面的统一解决方案，以支持广泛的垂直领域和合作伙伴。 高通AI软件栈旨在帮助开发人员优化和部署AI模型，它集成了我们自主的高通神经网络处理SDK、以及模型压缩和量化工具——高通AI模型增效工具包(AIMET)。
综上所述凭借强大的硬件和软件支持组合，高通的产品和技术已支持超过25亿台AI赋能终端的出货。 随着我们不断缩小云端和终端侧AI之间的差距，未来这一数字将继续快速增长。 最后非常欢迎大家来到ChinaJoy骁龙主题馆E4参观体验。 谢谢大家!
科技赋能是什么意思
科技赋能是指利用先进科技技术和创新手段，为某个行业或领域提供强大的技术支撑，从而实现业务能力的强化和提升。
以下是关于“科技赋能”的详细解释：
1. 科技赋能的基本含义：
科技赋能是一种借助现代科技力量，推动产业转型升级、提升生产效率的方式。 它通过引入先进技术，如人工智能、大数据、云计算等，为各行各业注入新的活力，提高生产和服务的质量和效率。
2. 科技赋能的应用领域：
在各个产业中，科技赋能都发挥着重要作用。 在制造业中，通过引入智能设备和物联网技术，可以实现生产过程的自动化和智能化，提高生产效率。 在服务业，科技赋能通过提供便捷的数字化服务手段，如移动支付、在线教育等，改善用户体验。 在医疗、教育、金融等行业，科技赋能都有着广泛的应用。
3. 科技赋能的优势：
科技赋能的优势在于其强大的创新能力和效率提升潜力。 先进技术可以突破传统产业的瓶颈，实现生产模式的转型升级。 此外，数据分析能力的提升可以帮助企业精准把握市场需求，优化产品设计和服务。 最后，科技赋能有助于企业降低成本，提高竞争力。
4. 科技赋能的社会影响：
科技赋能在推动经济发展的同时，也对社会产生了深远的影响。 它促进了新旧动能转换，推动了产业结构的优化升级。 此外，科技赋能还有助于提高国家的创新能力和竞争力，促进社会的可持续发展。
总结来说，科技赋能是一种利用先进科技技术和创新手段，为各个行业和领域提供技术支撑，以实现业务强化和提升的方式。 它不仅可以提高生产效率，还可以推动产业转型升级，对社会产生深远影响。
阿里云AI平台：数据智能,AI,人工智能,解决方案
阿里云AI依托阿里顶尖的算法技术，结合阿里云可靠和灵活的云计算基础设施和平台服务，帮助企业简化IT框架、实现商业价值、加速数智化转型。 阿里云数十项AI能力，稳定、易用、能力突出，是AI技术应用、开发的不二之选。
活动：点此进入阿里云AI人工智能试用中心 1、新客户完成首次注册，填写问卷即可参与第一次抽奖 首次注册即可参与本次抽奖，奖品包含罗技鼠标和天猫50元超市卡。 2、新客户完成首次购买，填写问卷即可参与第二次抽奖 您首次购买本活动页面的产品，且付款金额>0元即可参与本次抽奖，奖品包含罗技鼠标和天猫50元超市卡。
基于语音识别、语音合成等技术，为企业在多种实际应用场景下，赋予产品‘能听、会说、懂你’式的智能人机交互体验。 1、语音识别 国内独创的字级LC-BLSTM/DFSMN-CTC建模，大幅提高了语音识别的精度。 a.一句话识别 针对时长较短（一分钟以内）的语音进行识别。 b.一句话识别 对不限时长的音频流做实时识别，达到“边说边出文字”的效果。
2、语音合成 合成音真实饱满、抑扬顿挫、富有表现力，MOS评分达到业内顶级水准。 a.录音文件识别 针对已经录制完成的录音文件，进行语音识别的服务。 b.语言模型自学习工具 一键式自主优化方案，满足了各类用户对定制化场景的需求。
3、语音分析 构建语音交互场景下的口语理解和对话系统，提供给开发者自纠错能力及对话定制能力。
构建以图像视频为媒介的产品和应用，提升商业效率或创造商业新机会，广泛应用于新零售、新媒体、新制造等领域。 1、文字识别 将图片、照片上的文字内容识别出来，直接转换为可编辑文本的功能。 a.通用卡证 包含身份证正反面识别、护照识别、银行卡识别、名片识别、户口页识别。 b.通用文档 高精度识别各行业文档和表单表格，通用于各行业的通用文字识别。
2、图像识别 可精准识别图像中的视觉内容，包括上千种物体标签、数十种常见场景等。 a.票据识别 可结构化输出行业所需的各类票据关键字段内容。 b.手写识别 支持汉字、英文、数字、标点符号四类的手写体识别。
3、人脸识别 提供人脸检测定位、人脸属性识别和人脸比对等独立服务模块。
4、视频能力 通过对视频的多维理解，视频进行智能分析、主体识别、封面生成、内容检索等高效的服务。
致力于实现人与机器之间用自然语言进行有效沟通的各种理论和方法，在客服、资讯、司法、医疗等场景有广泛的应用。 1、自然语言处理 阿里云先进的自然语义处理技术广泛应用在电商、金融、物流等行业中。 a.智能短信解析 在手机端实现智能化、富媒体的短信展现形式，增强用户体验。 b.商品评价解析 高效甄别正负面评价，当前已支持24个行业类别。
2、语义理解 为客户提供文本相似度和机器阅读理解等优质算法技术。 a.地址标准化 为企业，政府机关提供地址数据清洗，地址标准化能力。 基础服务 为各类企业及开发者提供的用于文本分析及挖掘的核心工具。
3、机器翻译 以解决全场景语言障碍为目标，覆盖全球214种语言。 自学习平台 无需算法背景，即可通过平台快速创建算法模型并使用。
4、内容安全 帮助用户降低色情、暴恐、涉政等违规风险，大幅度降低人工审核成本。
1、智能客服 随着人工智能技术不断发展，越来越多企业开始引入阿里云语音技术来搭建自己的智能客服系统。
2、信息审核 借助AI能力，有效改变了过去仅依靠人工内容审核的低效模式,极大提升内容审核的效率和准确度。
3、智能会议 随着云视频会议的快速崛起，结合语音、视觉等AI技术能力，为企业带来全新的会议体验。
4、智慧法庭 以信息化为核心的智慧法院建设,将引领司法领域的又一次技术革新,为行业带来更多价值。
5、智慧课堂 随着AI能力的引入，更好地赋能教学，有效提升教学效率，节省大量人力成本。
6、智慧医疗 帮助用户个性化定制导诊场景，避免患者盲目就医，有效提升就医体验。
7、图片搜索 结合不同行业应用和业务场景， 帮助用户在自建图库中实现相同或相似图片搜索的以图搜图服务。
8、智慧媒体 结合阿里云AI的能力，打造从内容采集、内容制作到内容展示一体化媒体解决方案。
1、金融AI AI是普惠金融的核心驱动力之—,A可以赋能金融企业节省大量人力成本提高效率，从而改善用户体验和减少信息不对称,助力金融客户实现智能化升级。 传统行业痛点： √金融行业往往需要投入大星的人力，不仅使成本居高不下之外,繁复核验猃更容易使客户不满、甚至失去客户; √传统金融机构积累的大量纸质化信息的价值尚未被完全发掘，浪费大量数据资源;
阿里云AI带来的价值： Al将成为银行沟通客户、发现客户金融需求的重要手段。 人工智能技术在前端可以用于服务客户，借助自然语言理解、语音识别等技术打造的客服系统,广泛应用于各类金融机构，提供24小时不间断的问答和营销服务;依托计算机视觉技术主要集中在支付和金融账户登录等场景,从而助力金融客户实现智能化升级。
2、教育Al 随着AI技术的引入,教育行业正在脱离单教育辅助的角色,为受教育者提供科技赋能、内容完善、效果优良的课程,结合海量优质资源覆盖终身学习场景,实现高质量教育的可持续发展目标。 传统行业痛点： √传统教育行业无法满足每一位终端用户的个性化学习; √批改系统、教学课堂存在大量资源浪费，并且准确性存在偏差;
阿里云Al带来的价值： 以学习者为中心，借助阿里云AI能力，如语音、视觉、语义分析等AI技术，更好地赋能教学、管理、学习、考试四个重点场景，有效提升教学效率，节省大量人力成本。
3、交通Al A智慧赋能交通行业,可助力交通信息广泛应用与服务,提升交通系统运行效率和管理水平,打造实时、准确、高效的城市交通智能体。 传统行业痛点： √普遍存在的车辆干扰、遮挡标识等违法行为，对此需要大量人力成本去甄别辨识; √城市交通高峰期缺乏有效预测,造成大面积拥堵;
阿里云AIl带来的价值： 通过借助AI的合理性、高效性,采集各种道路交通及服务信息，将深度学习、图像检测、机器视觉等技术应用在交通安全、文明出行、城市交通治理等场景中，可极大减少人工投入，大大提升工作效率，助力城市智能交通体系完善。
4、新零售AI 阿里云A技术渗透新零售领域,构建数据打通、场景贯通、深度触达的AlI+零售体系，利用人工智能、算法等关键技术将人与货、人与场实时结合、真正打穿，全面提升运昔效率提升消费者体验,助力零售业数字化升级。 传统行业痛点： √零售业是典型的劳动力密集型行业，在其运营、供应等环节需要大量的人力资源,通过AI辅助收银、客服、门店等场景提高效率; √随着人口红利消失，如何降低线下获客成本成为每一个零售企业必须要面对的问题;
阿里云AI带来的价值： 阿里云AI航能新零售行业各环节，基于计算机视觉、语音语义及机器学习技术,赋翁能线上及线下零售商，在精准营销、商品识别分析、消费者识别分析、无人零售、智能客服等领域中广泛应用,有效降低人力成本，提升利润空间。
5、政务Al 以阿里云AI技术为基石,把人工智能技术属性和社会属性的高度融合,辅助政府在经济、治理、民生等领域的管理变得更加精细化、智慧化,整合并高效利用政务资源,助力政务数智化转型。 传统行业痛点： √在有限的人力资源下，需要面对大量公众需求和提供完善便捷的办事服务; √海量政务信息数据，人力处理成本高、精准度低;
阿里云Al带来的价值： 将人工智能技术广泛应用到政府工作中，利用文字识别、身份认证、人脸识别、智能客服等技术，加强政务信息整合和公共需求精准预测,有效提高工作效率，为政府服务工作的不断改善提供可靠保障。
6、司法Al 阿里云A正在利用大数据和人工智能推进着—场数字化、智能化革命升级，集中AI能力服务于中国司法行业,能有效提高司法效率、保证司法公开公正、提升司法公信力等作用和价值,为行业带来更多值得期待的创新。 传统行业痛点： √存在大量繁琐的事务使法律服务效率低下,案件堆积成山; √传统法律咨询服务价格昂贵,无法有效帮助大量个体获得法律咨询;
阿里云AI带来的价值： 随着阿里云AI技术的快速发展，在智慧法庭、智能庭南等领域下,需要依托智能大数据分析、语音识别、图像视预分析等多项人工智能技术，从而实现案情要素分析、庭审语音识别自动转写、庭审行为视频分析等功能，实现在减少人力投入、提高工作效率的同时,还能够比人工做得更快、更准确。
标签： 提升内容制作效率和用户体验 大数据等科技手段在媒体行业应用广泛 人工智能 科技赋能
