大模型进展专栏第六期|基于人类心智结构的大模型可信决策推理新范式发表时间:2025-05-29 14:25 当前大模型在可信决策推理领域面临“幻觉干扰”与“计算资源过载”的双重技术瓶颈,严重制约着智能决策系统的安全落地。如何使大模型在复杂推理过程中既保持思维严谨性又兼顾计算经济性?本期大模型进展专栏“顶会顶刊分享”栏目我们邀请了国防科技大学系统工程学院赵翔团队分享他们在国际顶级会议The Web Conference 2025(WWW 2025)上的最新突破成果——基于人类心智结构的大模型可信决策推理新范式。
论文题目:Jinzhi Liao, Zenghua Liao, Xiang Zhao. PSSD: Making Large Language Models Self-denial via Human Psyche Structure (WWW 2025) 论文地址:https://dl.acm.org/doi/10.1145/3696410.3714715 GitHub链接:https://github.com/liaozenghua/PSSD 国防科技大学赵翔团队最新发布的PSSD框架(Psyche Structure for Self-Denial),首次提出借鉴弗洛伊德心理学理论,通过模拟人类心智结构的“本我-超我-自我”三阶段协作机制,应对大模型决策推理过程中幻觉干扰与资源过度消耗的双重难题,首次实现大模型在无外部干预下对结果的自反思校对。研究创新设计了一种多智能体博弈结构,通过定制三个认知角色引导大模型进行自否定迭代。认知角色具体包括:基于直觉的本我角色,通过大模型原生能力生成多路径初始推理;规则驱动的超我角色,从方法论层面提炼正确规则指导结果改进;以脚本为中心的自我角色,联接本我和超我生成可执行脚本,进行错误定位与精准修正。此外,还利用过程数据,将所有能力微调集成在一个大模型中,以降低计算资源消耗。实验结果显示,该框架在事实推理数据集AdvHotpotQA上的EM(Exact Match)指标达到47.08%,在数学推理数据集GSM8K上的EM指标达到96.80%,在更高效的前提下领先以React和Self-Contrast为代表的多个主流方案约2个百分点。目前该成果已在The Web Conference 2025正式发表,引起社区广泛讨论,相关技术正在某智能工程中开展实现与应用验证。
图1:PSSD框架(由本我角色、超我角色和自我角色组成)
简评:这项研究为大语言模型未来迈向"可信决策推理"的目标,提供了新思路和技术参考。PSSD框架不仅能为智能问答、金融决策等高风险场景提供可信推理保障,其资源集约特性还可在战术边缘计算等资源受限场景中发挥潜在价值。
大模型进展专栏由CICC大模型与决策智能专委会主办,欢迎投稿,联系方式:lmdi123@163.com。
文字:范长俊,廖劲智,廖增华 梁星星,江禄民 编辑:张伟超,张儒清,张钊,吴贻清,邢天 审核:张国华
|