CHINESE  INSTITUTE  OF  COMMAND  AND  CONTROL

可解释性：人工智能过不去的一道坎

发表时间：2020-05-21 10:22来源：人机与认知实验室
如今，可解释性正在成为AI一道过不去的坎。去年，欧盟出台《人工智能道德准则》，明确提出AI发展方向应该是“可信赖的”，包含安全、隐私和透明、可解释等方面。
人工智能应用以输出决策判断为目标。可解释性是指人类能够理解决策原因的程度。人工智能模型的可解释性越高，人们就越容易理解为什么做出某些决定或预测。模型可解释性指对模型内部机制的理解以及对模型结果的理解。其重要性体现在：建模阶段，辅助开发人员理解模型，进行模型的对比选择，必要时优化调整模型；在投入运行阶段，向决策方解释模型的内部机制，对模型结果进行解释。比如决策推荐模型，需要解释：为何为这个用户推荐某个方案。
目前，各领域对人工智能的理解与界定因领域分殊而有不同，但在共性技术和基础研究方面存在共识。第一阶段人工智能旨在实现问题求解，通过机器定理证明、专家系统等开展逻辑推理；第二阶段实现环境交互，从运行的环境中获取信息并对环境施加影响；第三阶段迈向认知和思维能力，通过数据挖掘系统和各类算法发现新的知识。
严格意义上说，美国的人工智能技术总体上世界领先，但是一旦涉及到人机融合智能，往往就体现不出那么大的优势了，甚至不见得有领先的态势（也许中美在人机融合智能方面根本不存在代差）。究其因，人的问题。例如这次疫情，按医疗软件、硬件、医疗人员水平条件来看，美国应该比目前状况要比中国好得多，可惜应了《三体》里的一句话：弱小和无知不是生存的障碍，傲慢才是！领导人的失误和错误已让许多的先进性大打折扣，甚至荡然无存。这不禁使人联想到前几日美国《军备控制杂志》的报道可能也类似吧！美国防部2021财年申请289亿美元用于美国核武器设施的现代化建设，体现了特朗普政府战略发展重点：提升核指挥、控制和通信（NC3）基础设施的高度自动化与提高其速度和准确性，但同时也引发一个令人不安的问题，即在未来的核战争中，AI自主系统在决定人类命运方面将扮演哪种角色？当前计算机辅助决策仍处于起步阶段，容易出现难以预料的故障。机器学习算法虽擅长面部识别等特定任务，但也会出现通过训练数据传达的内在“偏见”。因此，在将人工智能应用于核武器指控方面需采取谨慎负责的态度，只要核武器存在，人类（而不是机器）就必须对核武器的使用行使最终控制权，此时，人机融合智能的真实能力将会如疫情管控一样显得异常重要。
人机融合智能，根本上就是科学技术与人文艺术、数学符号事实语言与自然经验价值语言结合的代表。时空不但在物理领域可以发生弯曲，而且还可以在智能中发生了扭曲。如果说哲学逻辑经历了世界的本源问题、研究方法问题的转向，那么上个世纪分析哲学——对人类语言工具的剖析成了人类思想上的一次“革命”，这一场以维特根斯坦为象征的哲学革命，直接诱发了以图灵机、图灵测试为代表的人工智能科技之快速发展。但金观涛老师的“真实性哲学”认为，在二十一世纪中分析哲学最终反倒将哲学束缚在了牢笼中，实际上也造成了思想的禁锢：符号不指涉经验对象时亦可以有其自身的真实性，而且这一结论对数学语言和自然语言皆可成立。与此同时，纯符号的真实性是可以嵌入到经验真实性中的；科学研究与人文研究可以成为有所统一但互不重叠且有各自真实性标准的两个领域。人类的巨大进步是让真实性本能（常识的客观性）处于终极关怀和相应价值的系统的支配之下。但是今天真实性的两大柱石正在被科学进步颠覆，真正令人感到恐怖的事情发生了：人正在无法抗拒地沦为聪明的“动物”——在一个真假不分的世界里，不会有是非，也不会有真正的道德感和生命的尊严。
人不仅是用符号的等同或包含逻辑关系来表达世界的，人的教育不等于学习与知识，而是把欲望诱导到好的方向。计算机本身是不可能跨越“理解”这个鸿沟的，只有人才可以跨越符号指向的困窘。对主体而言，符号与经验是混杂的，逻辑与非逻辑是混杂的，公理与非公理混杂在一起，数据、信息、知识混杂在一起，这也是为什么可解释性之所以困难的主要原因们。人机融合就是符号（数学）如何程度不同地嵌入主体经验（受控实验）之中，正如老子在《道德经》中说：“道生一，一生二，二生三，三生万物。”
所谓的AI，很大程度上不过是运用了计算机不断增强的计算能力，而采用这条路径对智能而言注定是错误的，人是活学活用，机是死学僵用。而人类智能就是对小样本态势感知的能力大小（多快好省）。态势感知的一个著名例子就是中医中的望闻问切，通过自然语言和数学语言之间的差别来打破心智与物理之间的分歧，进而把事实与价值统一起来。


望闻问切最早应源于《难经》第六十一难，曰：经言，望而知之谓之神，闻而知之谓之圣，问而知之谓之工，切脉而知之谓之巧。何谓也？最早使用四字联称，则应处于《古今医统》：“望闻问切四字，诚为医之纲领。”望是观察病人的发育情况、面色、舌苔、表情等；闻是听病人的说话声音、咳嗽、喘息，并且嗅出病人的口臭、体臭等气味；问是询问病人自己所感到的症状，以前所患过的病等；切是用手诊脉或按腹部有没有痞块（叫做四诊）。
人工智能可解释性之所以困难，其根本原因在于其包含的不仅仅是数学语言，还有自然语言，甚至是思维语言（所以根本不可能迈过这道坎）。而人机融合智能不但可以进行主体的悬置，还可以游刃有余地进行主体变换，在人、机、环境系统交互中真正实时适时地实现深度态势感知，有机地完成数学语言、自然语言、思维语言之间的能指、所指、意指切换，可以轻松地直奔目的和意图实现。
分享到：