业界大咖共话AI赋能与安全（附编者按、图片）

AI图像识别帮助安全监控 #生活知识# #科技生活# #人工智能应用#

　　王保平

　　工业和信息化部新闻宣传中心（人民邮电报社）总编辑

　　“AI正在深刻重塑生活、生产和社会治理方式。”

　　王兴兴

　　宇树科技创始人兼CEO、CTO

　　“希望全社会更相信、更包容在发展过程中的AI和机器人。”

　　冯俊兰

　　中国移动集团首席科学家、IEEE Fellow

　　“安全可信的人工智能是不可或缺的基础。”

　　李劲松

　　中国航信集团党委常委、股份公司副总经理

　　“共同用不断发展的人工智能和人类智能，让人民群众的生活更美好。”

　　汪玉

　　清华大学电子工程系教授、系主任，无问芯穹发起人

　　“在AI时代，用最AI的方式培养未来的AI创新人才。”

　　沈亦晨

　　曦智科技创始人兼CEO

　　“开发出更具创新性的算力和芯片，推动AI整体发展。”

　　编者按

　　当前，人工智能已步入全新发展阶段，正加速从技术探索广泛渗透进我们的生产生活。在2025中国移动全球合作伙伴大会主论坛圆桌讨论环节，6位行业专家围绕“AI for LPG”，即AI赋能生活、生产、社会治理主题，进行思维碰撞和观点交流，探讨AI重塑生产生活方式和AI安全可持续发展。

　　AI深刻改变当前的生活、生产、治理方式

　　王保平：

　　当前，AI正在重塑我们的生活方式，首先我想请冯俊兰博士谈一谈AI如何改变您的日常生活。

　　冯俊兰：

　　AI已经深入日常生活的方方面面：视频创作、个人健康、会议记录、工作研讨、活动规划等。

　　关于AI参与未来生活的形式，目前业界有四种声音。一是浪漫派，认为AI技术只是新一轮浪潮，热潮会很快过去。二是实用派，将各类新功能的AI工具用起来。三是认为AI是大象，我们只探索AI的部分维度。四是担心AI安全可控问题，如果未来AI成为超级智能或通用智能后，强通用智能是否会颠覆人类？

　　基于当前发展形态，中国移动构建了“灵犀”个人助理，我们相信个性化的通用智能是未来人工智能演进的重要路径。硅基生命应该伴随着独特的个人生命，成为个性化的合作伙伴。

　　王保平：

　　感谢冯博士的分享。最近，关于机器人运动会的新闻频频登上热搜，想请王兴兴总谈一下，机器人和具身智能将会如何影响和改变我们的生活？

　　王兴兴：

　　作为具身智能领域的代表，高性能机器人在日常生活、工业场景中的应用空间很大，比如家庭生活、服务娱乐、工业制造、物流配送等。但还需要探索实践的过程。

　　目前消费娱乐场景的落地更快一些，家庭场景、工业场景的挑战和难度会更大，因为任务复杂度更高，比如端茶倒水、洗衣做饭、日常保洁，甚至食品用品采买。无论是在技术层面还是在伦理道德层面、安全层面，都对机器人的综合能力提出了非常高的要求。单功能型机器人的普及速度可能更快，比如扫地机器人。像双臂或者偏向全身功能的人形机器人，应用速度会慢一些，主要出于安全性、价格层面等因素考虑。

　　在工业场景中，我认为最大的挑战其实是像我们和蔚来、吉利合作推动的工厂应用，在这些场景中的实践探索具有时代性。其中最大挑战源于传统自动化设备和传统工业机械臂。厂商面临直接的效率和成本问题，人形机器人能力需要迈过“临界点”，比如效率比人力更高、成本比传统机械臂更低。迈过“临界点”后才可能迎来大规模铺量。

　　今年机器人能力相比去年进步速度令人惊喜。去年很多人形机器人都走不好路，今年大部分人形机器人都可以跳舞了。所以我对人形机器人的技术进步速度非常乐观。

　　王保平：

　　在深刻改变日常生活的同时，人工智能也在深刻重塑生产经营和社会治理模式。想请汪玉教授谈谈体会。

　　汪玉：

　　清华大学很早就开始了人工智能研发，目前我们正在体系化、大规模尝试AI+教育的实践。

　　最近我们开展了一个教学实验，一是真人教师授课，二是录播课程，三是用AI制作的可互动课程，依次让学生听课并根据感受打分。最终，AI制作的可互动课程教学效果最好。为什么会有这样的结果？真人教师授课、录屏课程，学生基本没有互动，最终结果就是自学。可互动的AI课程与学生是“平等的”，学生随时打断、随时追问，围绕知识深入交互和拓展。目前清华大学学生全功能智能体学伴“清小搭”已经覆盖了300余门课程。此外，对于研究生招生的面试过程也在探索智能体的参与，促进学生不仅仅以学习知识为出发点，还要以增强能力为出发点。

　　从科研的角度看，未来AI的重要方向之一是物理世界智能，其中包含两个维度，一方面是机器人在物理世界的智能，另一方面是智能系统辅助基础新器件、新材料的研发。在这一过程中，所有的科研范式都有可能被AI深刻改变。

　　王保平：

　　有了AI的加持，航空出行也在悄然发生改变。想请李劲松总谈一下现在民航业运营和管理方式正在经历的深刻变革。

　　李劲松：

　　航空出行是AI应用落地的核心场景，这使得民航业的运营与管理方式也在经历深刻变革。中国航信一直是中国民航业信息化建设和数字化转型的基础底座与主要推动者，正与中国移动以“碳硅共生”理念推动AI渗透，融合双方在基础模型、行业经验与痛点理解的优势，助力行业升级。

　　回顾过往，中国航信在数字化与智能化方向上的实践可以总结为“三无”方向：无纸化、无感化与无线化。2007年，中国航信便推动中国民航实现机票100％电子化，彻底告别多联纸质机票，不仅大幅改善旅客出行体验，更为后续移动电子商务、旅游电子商务的发展筑牢根基。在无感化方面，AI人脸识别技术已广泛应用于各大机场，从身份验证、过检到值机、登机，中国航信提供的全流程解决方案，让旅客无须烦琐操作即可顺畅通行。以“航旅纵横”为代表的无线化集成服务，为旅客出行打造便捷高效的智能化工具。

　　AI在民航业应用所带来的影响将改变人与机器、人与数据、人与信息系统之间的交流关系、交互关系、替代关系。一是改变交流关系，比如中国航信与中国移动正在合作的民航智能客服产品，让客服从人与人的交流变成人与机器的交流，并且不断提升语音交流的准确性、便捷性和效率。二是改变交互关系，核心难题是如何解决信息系统烟囱林立、数据孤岛普遍存在。如果系统不能联动、数据不能连通，流程就很难优化，因为我们的生产作业流程已经被系统固化，像智能客服这样单一人工智能典型应用场景，实际上无法解决与生产作业系统联动的问题。我们需要的不仅仅是能看得懂、听得懂问题的客服触点、客服界面，还有能解决旅客问题、与生产作业系统交互联动的全系统智能。三是改变替代关系，就是用AI替代人的工作，比如我们和南京航空航天大学的院士团队合作研发的旅客行李智能机器人已经在青岛胶东国际机场落地应用，未来类似的场景也会被逐渐替代。

　　王保平：

　　请沈亦晨总结合您的工作经历，谈谈AI如何改变芯片设计工作和企业管理方式。

　　沈亦晨：

　　我们研发的光电芯片集成了上百亿个晶体管，以及上万个光学器件，每一个器件如何集成、每一个晶体管如何排布，是一个非常复杂的优化问题。目前AI工具在芯片设计端其实有非常大的赋能作用，通过学习大量的芯片设计案例，过去传统人工需要花费数月时间的芯片设计任务，现在可能通过AI辅助在几天内完成。此外，如何实现万卡级规模协同，是另一个非常复杂的优化任务，AI可以赋能整个算力集群的优化。我们自有的千卡服务器集群中应用的是自研的光电融合芯片，通过系统优化将算力使用率提高二至三倍，赋能芯片设计团队更快更好地设计芯片，实现“服务为AI，AI为服务”的良性反哺和正向飞轮，进一步加速整个AI和底层算力的发展。

　　确保AI稳健和可持续发展

　　王保平：

　　我想起最近阅读的《2049：未来10000天的可能》。书中提到，未来每个人都将拥有像私人秘书一样的AI助理，同时AI助理的能力将不断演进升级。最终，AI之间的交互和协作将取代人类间的交互协作。

　　在人工智能快速发展的同时，产业中也产生了对AI安全的疑虑。想请五位嘉宾共同探讨如何协同努力，确保AI的安全与可信。首先，请问沈总有何看法？

　　沈亦晨：

　　我认为AI首先需要一个稳定的算力基础，唯有保障算力基础的稳定与安全，才能确保AI自身安全稳定运行。包含底层芯片与硬件系统两个核心方面。

　　一是芯片层面。芯片在运行AI算法时，须具备足够的稳定性与安全性。需要在芯片层面设置充足冗余，在芯片测试阶段验证鲁棒性。此外，由于光器件受外界干扰更小，相较于电子器件采用新型器件（如光器件）可进一步提升稳定性，相关创新技术不仅能增强芯片运行稳定性，还可有效降低功耗。

　　二是系统层面，主要涉及服务器与集群领域。当大量芯片组成类似“巨型大脑”的运算集群时，需确保单一芯片故障不会影响整个集群的稳定运行。为此，可通过软硬件协同优化等新技术手段，提升集群中多芯片运行的稳定性。其余技术创新可聚焦于应用层与软件层做进一步展开。

　　王保平：

　　请问劲松总，中国航信作为应用方，是如何看待和解决AI安全问题的？

　　李劲松：

　　AI安全与AI发展相伴相生。从应用视角出发，AI安全可聚焦于以下三个维度。

　　可接受的安全。从理论层面看，AI不存在绝对安全，即便存在，其在实际应用中也未必具备经济性。因此，AI安全需与应用策略、市场策略紧密结合，这是保障AI安全应用的重要前提。

　　可信任的安全。当前大模型存在固有不可解释性，实现可信安全需要从技术与工具层面切入。

　　可持续改进的安全。看待AI发展与安全的关系需秉持辩证思维，不可将二者孤立割裂。最终的安全保障依赖于技术能力的进阶，因此需将AI发展同时视为安全挑战的来源与应对能力的支撑，形成安全改进的可持续循环。

　　中国航信、中国移动积累了大行业、大系统运行的丰富经验，具备应对AI安全挑战的坚实基础。关注“碳硅共生”议题，本质上是厘清人类智能与人工智能的关系：应用人工智能的核心目标是提升人类智能水平，进而增强人类应对安全风险的能力，而非将二者割裂对立。

　　王保平：

　　感谢劲松总。请问王兴兴总，在研发过程中，你们是如何解决人机协同与“碳硅共生”中的安全问题的？

　　王兴兴：

　　人形机器人因体型较大，安全性问题尤为关键。为保障安全，我们在机器人及遥控器中设置了急停按钮，可通过语音指令或其他操作触发。但急停机制触发后，可能出现机器人倾倒等直观上显得功能不健全的现象。即便如此，急停功能仍不可或缺。

　　我们在机器人物理安全层面已采取诸多措施，通过硬件与软件协同优化构建保护机制；同时，在机器人信息安全领域亦持续投入。近年来，国内外已有白帽黑客尝试破解我们的机器人系统，这些尝试帮助我们发现了产品底层漏洞。

　　客观上看，机器人行业当前面对的安全挑战与早年电脑、手机普及初期类似：新产品大规模应用阶段，难免出现病毒攻击、系统漏洞等问题。我们会第一时间针对发现的漏洞进行补救，更期望全社会能提供更多监督与支持，帮助机器人行业共同应对挑战。此外，建议推动相关法律法规完善，并探索引入保险机制，助力机器人行业构建更健全的安全保障体系。

　　王保平：

　　请问汪教授怎么看待AI安全问题？

　　汪玉：

　　我们长期从事芯片与系统研究，我认为AI安全需从系统层面统筹构建。当前我国面临底层芯片供应链安全挑战，这一问题亟待重点关注。

　　从个人用户视角出发，数据隐私保护实际矛盾尤为突出。基于此，“本地智能”模式具有重要探索价值。我们正与中国移动等伙伴合作，研究将个人数据及对应模型部署于手机终端的可行性。实现这一目标需依托关键技术支撑，例如通过模型压缩技术，将大型模型精简为适配手机终端的小型模型。

　　针对企业数据不存储于外部服务器中心的明确要求，我们通过技术手段构建数据隔离屏障，确保内部服务器与外部机器在协同工作过程中，核心数据不向外部传输。这一模式需要依托底层技术支撑，从应用层面有效降低数据与隐私泄露风险。

　　王保平：

　　冯博士，您从事“九天”大模型研发，请您向我们分享一下如何确保大模型的安全性和可信度。

　　冯俊兰：

　　“安全、可信、可控”始终是“九天”基础模型的核心特色，我们长期致力于探索如何从更原生、更本质的层面实现安全可信可控。在模型研发过程中，重点围绕“内生自证”“内生风险评估”“内生可控”三个维度展开技术攻关，力求从根源上解决模型可信性问题。

　　目前，“九天”基础模型与“九天”平台已在多行业实现落地应用，服务客户涵盖数十家世界500强企业、各类中小企业及个人用户。在落地过程中，数据隐私保护与安全保障始终是我们关注的重点。

　　“九天”平台不仅承载模型本身，更承担着连接产业数据、个人数据及各类外部环境的重要职能。因此，我们从“本质技术优化”与“外围环境防护”两个维度同步发力，持续加固安全可信的基础。此次会议前夕，“九天”平台已成功获得业界AI平台安全可信评级的最高级别。未来，我们期待与合作伙伴深化协作，共同推动AI安全可信领域的发展。

　　王保平：

　　感谢各位嘉宾围绕科研和产业实践的真知灼见以及对未来智能图景的畅想，“灵犀”智能体也为大家生成广州专属视频，请看大屏幕，祝大家广州之行愉快。

海量资讯、精准解读，尽在新浪财经APP

网址：业界大咖共话AI赋能与安全（附编者按、图片） https://www.yuejiaxmz.com/news/view/1371998

相关内容

如何实现AI赋能与安全？听听业界大咖们怎么说→
大咖说 | 揭开数智生活的多维图景！“大咖说”先导片来啦→
2025世界人工智能大会：AI科技盛宴，赋能千行百业
如何随物赋形、活色生香？跨界大咖共聊“中国人的生活美学”
人机协作时代 AI赋能共启职业新赛道
AI赋能生活：全方位创业项目指南
AI赋能创作：全面覆文章生成、编辑与优化技巧
能买咖啡能订票，支付宝发布AI生活管家App“支小宝”
AI赋能！南安探索教育数字化转型新路径
20多个AI助手亮相，体验与AI共同生活的一天！一起走进2024外滩大会

随便看看