薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

admin14小时前天气预报5

专题:中国发展高层论坛2026年年会

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长、教授薛澜出席并演讲。

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

  薛澜指出, 近期智能体发展速度极快。他解释道,如果把传统的AI大模型比作“大脑”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂”Token,将其培养成真正的个人助手。他认为,实现这一目标需要一定的前提条件,而中国目前在这方面具备许多基础优势。

  就如何应对智能体治理风险,薛澜认为, 必须始终坚持“以人为本、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全”延伸到“行为安全”,不仅要管控文本内容,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大,治理模式必须同步升级;最后,从单纯的“风险防控”转向“可信交互”,只有建立起用户对智能体的信任,才敢授权其处理订酒店、机票等关键任务。

  在具体治理举措上,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线,通过技术架构确保智能体行为可验证、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任,为创新提供秩序轨道。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度。

  第三,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能,提升人机协作能力;二是建立“就业缓冲”机制,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育”,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

相关文章

美国军方:自对伊朗军事行动以来已打击超过7800个目标

  美国军方表示,自对伊朗军事行动展开以来,美国中央司令部部队已打击超过7,800个目标。   根据美国中央司令部周三公布的数据,自2月28日冲突开始以来,美军累计已打击7,800多个目标。   美国...

小鹏汽车高管解读Q4财报:会将车载大模型从数十亿级别提升到超过200亿的级别

专题:聚焦美股2025年第四季度财报   小鹏汽车高管解读2025年Q4财报   小鹏汽车今日公布其截至2025年12月31日止第四季度及全年财务数据。2025年第四季度,小鹏汽车营收达222.5亿元...

能源设施遭袭,亚洲地区股指大幅下跌

  在卡塔尔、伊朗和阿联酋的液化天然气和石油基础设施遭到袭击后,亚洲地区股指大幅下跌,芯片领军企业三星电子和SK海力士股价回落。...

伊朗战争致石脑油短缺迫使日本多家石化企业减产 恐波及大量下游产业

  尽管市场热议可能出现的原油短缺,但日本的工业供应链面临更加迫切的冲击,所涉及的是一种鲜为人知的石油副产品 —— 石脑油。   多家日本石化企业近日宣布减产,理由是担忧中东冲突将令生产塑料的关键原料...

3月24日增减持汇总:比音勒芬披露增持情况,泰嘉股份等6股拟减持(表)

3月24日增减持汇总:比音勒芬披露增持情况,泰嘉股份等6股拟减持(表)

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!   据统计,3月24日,盘后比音勒芬披露增持情况。泰嘉股份、科泰电源、大千生态、华菱线缆、京能热力、井松智能在内的6家A股...

监管接连提示OpenClaw风险 AI安全防护站上新风口

上证报中国证券网讯(记者 操子怡)近期,国家互联网应急中心(CNCERT)联合中国网络空间安全协会发布《OpenClaw安全使用实践指南》,针对OpenClaw存在的安全风险,提出二十余项具体防护建议...