几天之前，与一位人工智能领域的专业人士讨论我发表在《机器人技术与应用》2017年第4期上的论文《关于预防人工智能反叛的初步探讨》（网盘下载链接：　　我在讨论中提出了一些想法，主要涉及人工智能能否理解人类的语言、文字，以及，如果能理解会产生什么后果

　　几天之前，与一位人工智能领域的专业人士讨论我发表在《机器人技术与应用》2017年第4期上的论文《关于预防人工智能反叛的初步探讨》（网盘下载链接：

　　我在讨论中提出了一些想法，主要涉及人工智能能否理解人类的语言、文字，以及，如果能理解会产生什么后果。

　　当时我的思路还不够清晰，所说内容颇多谬误，逻辑也不够严谨。这几天用文字形式对这些想法进行了梳理人工智能弊大于利，修改了一些错误，并对内容进行了补充。现在，我把这些想法归纳、整理成这篇文章，供读者参考、讨论。

　　本文内容可以看做是论文《关于预防人工智能反叛的初步探讨》的后续研究，是对其所述人工智能反叛过程中 “从理解人类的语言、文字到生成完整的反叛最优行动方案” 这一阶段的可行性分析及推演人工智能等级对照表。

　　与上篇不同，此处涉及很多语言学、哲学学科的知识，而我并非这方面的专业人士，积累不足，又不可能投入太多时间、精力补充相关的背景知识以求内容的严谨和完备并声明已有的研究成果，所以我只能在知乎发文，在力求严谨、有条理的基础上想到什么说什么，目的是把问题和观点说清楚，供读者参阅，引发进一步的思考和讨论，为预防人工智能反叛毁灭人类做一些基础性的工作，尽一份 “正球级后备干部” 的责任人工智能弊大于利。

　　遵守知乎的惯例，先说结论：在实际操作意义上，人工智能理解人类的语言、文字在技术上是可能实现的。并且，这有可能导致人工智能产生事实上的 “主观恶意” 思想，进而走向反叛。

　　讨论人工智能理解人类的语言、文字，首先必须弄清楚什么是语言（1）、什么是文字（2）、什么是理解（3）、理解如何影响行为（4），然后才可以考虑人工智能能否理解人类的语言、文字（5）、如果能理解会有什么风险（6）。

　　语言的基本单元是语句，语句是由独立的单词前后连接构成的。使语句能够表达信息的基本要素是语义、语法。多个语句表达的信息通过上下文关系形成更高层次的信息。

　　在文字出现之前，单词是时间上以停止发音为起始标记的、由n个音节顺序组合形成的、有特定含义的音节组合体。

　　在最简单的情况下，一个单词具备一个固定的意思，用于指代某个具体的事物或事物之间的某种具体的关系。

　　这种指代关系，最初直接指向具体的现实事物，对应于人脑对事物的外观、声音、用处、危害等属性的记忆（以神经元触突的特定模式的连接实现存储）（请参阅：《智能时代》－可能是今年读过的最被低估的一本好书）；或者事物之间的关系，对应于人脑对事物之间互相作用的过程、结果、形式等属性的记忆（以神经元触突的特定模式的连接实现存储）（请参阅：《智能时代》－可能是今年读过的最被低估的一本好书）。

　　后来，随着表意需求的复杂化以及对这一定义系统的熟练应用，逐渐形成“以单词、语句解释单词”的多层级联解释网络（类比于文字系统中的词典），但是，位于整个网络最底层的指代关系，都要落实为对现实事物（或事物之间的关系）的指代。

　　[ 或许，此处用 “词义” 代替 “语义” 更为贴切--在结合语法的前提下，词义对于表达信息来说已经足够了人工智能等级对照表，没必要引入语义人工智能学什么课程。也就是说，当我们说语义的时候，其实是在说词义。此处未想透彻，存疑，供探讨 ]

　　语法是被参与语言交流的人共同认可、掌握的一种规则，它规定了语句中的各个单词按时间顺序排列在一起以表达含义更多、结构更复杂的信息时所应遵循的前后次序，以及各单词的语义的组合模式，还有单词的各种变形模式、对应的含义变化。

　　单个语句的信息容量有限，多个语句的信息要通过上下文关系整合在一起，才能表达更为复杂的、更高层次的信息。

　　语言最初是用于信息即时交流的，不具备可见的存储、回放、校验手段，即所谓 “口说无凭”、“耳旁风” 困境。

　　语法、语义在反复使用的过程中被逐渐规范化、系统化，含义逐渐明确，使得与单词对应的音节（音节组合）最终抽象为文字形式，并以二维的、单色的、二值的、以像素的平面分布特征实现彼此区分的单个图像符号（这是指中文，西文是多个这种图像符号的一维空间序列）进行直接表意（这是指中文，西文是以表声单元组合为中介的间接表意）的形式加以记录，成为可以离脱离人类记忆而独立存储的人工智能弊大于利、任何识字者都可以理解的信息载体。

　　理解的基本含义：人在能够正确使用语法规则、正确调用语义数据库、具备上下文信息整合能力的前提下（即学会了语言《人工x智能》、文字），从获得的语句、语句序列中演绎出信息（即广义的知识），这些信息最终将落实为现实事物之间的关系（请参阅：知识的定义）人工智能等级对照表。

　　在进行理解的过程中，对于某个语句来说，人最初只能得到其中包含的至多几十个单词及其排列顺序；然后，调用语义数据库以获得每个单词的含义，按照语法将各单词的含义进行组合，得到语句携带的信息；然后，运用上下文信息整合能力得到全篇携带的信息。

　　理解语言、文字的应用价值在于获得信息；获得信息的应用价值在于指导行为，即所谓 “知行合一”。

　　人在面对必须做出行动的场景时，如果记忆中没有此场景下应如何行动的信息并且自己无力进行分析和决策，就需要询问他人或查阅文字资料，即，对获得的语言、文字进行理解，获得其中的知识，完成 “知” 的过程。

　　由于所得信息的场景条件集与当前的场景条件集总是有差别的，所以当事人需要分析两者差别的维度、深度，判断得到的信息能否用于指导当前场景条件集下的行为，以防止 “穿凿附会”。

　　如果比较分析的结果是可以应用通过理解得到的信息，当事人还需要考虑在把获得的信息应用于当前场景条件集时，应该针对两种场景条件集的各种区别对其进行一定程度的调整《人工x智能》，以防止 “生搬硬套”。

　　事实上，当事人做这种调整，又只能基于与这些场景条件集相关的知识积累，以及为进行这种调整而另外获取的语言、文字和对这些语言、文字的理解。这事实上形成了一种类似于1.2节所述的 “多层级联解释网络” 的 “多层级联理解网络”人工智能弊大于利，两者的区别在于：前者的顶层是某个单词，后者的顶层是某个场景涉及的信息、策略。

　　说清楚了什么是语言、什么是文字、什么是理解、理解如何影响行为，终于可以讨论人工智能对语言、文字的理解了。（我相信，能看到这里的小伙伴儿是不会动手打人滴............^v^）

　　如上所述，在最简单的情况下，人为了理解语言、文字，需要在大脑中建立语义数据库、掌握语法、掌握上下文信息整合能力。

　　如果人工智能的研发工作采用模拟人类思维的技术路线，为了使其理解人类的语言、文字，也需要在其核心软、硬件模块中实现这些功能。

　　[ 理解以下叙述，需要读者具备一定程度的计算机软、硬件系统知识。本文不是专著，只能基于作者多年从事研发工作的经验泛泛而论。专业人士若有质疑，欢迎讨论 ]

　　建立语义数据库在技术上是最简单的。如果说有难度，应该主要在多层级联解释网络的最底层，研发人员需要在这一层实现对现实事物（或事物之间的关系）的准确描述。

　　然而，我们人类自己对对现实事物（或事物之间的关系）的描述，就是准确的吗？所以，从实用意义上说，建立这种底层描述应该并不难。

　　各个单词按时间顺序排列在一起以表达含义更多、结构更复杂的信息时所应遵循的前后次序 -- 这属于固定的规则，计算机系统很容易掌握。

　　各单词的语义的组合模式 -- 这属于大体固定的规则人工智能学什么课程，怎样组合要受到单词的具体含义的影响，从实现上看，无非是一个类似于查找表的分支检索系统，基于目前的软硬件技术是可以实现的。

　　单词的各种变形模式、对应的含义变化 -- 典型的例子是各种词性变化以及相应的含义变化，这是最简单的，比语义数据库简单得多。

　　据我估计，这一能力应该是最难掌握的，因为它涉及大量复杂信息的综合分析。做个不太准确的类比，它与掌握语法相比在原理难度、工作量方面的差距，应该类似于围棋和五子棋的差距。

　　对此，至少AlphaGo Zero已经做出了初步的成绩，各种语言识别系统的前瞻性研究甚至应用系统研发也正在如火如荼地进行。

　　我在论文《关于预防人工智能反叛的初步探讨》中已经述及这个问题：“人工智能获得人类的语言片段（单词或语句）、运用语法理解其含义”，也就是说，人工智能有可能通过各种渠道获得 “毁灭人类” 这四个字并理解其含义，从而有可能将其设置为自己此后的任务。

　　略微展开一下或许更容易理解：所谓 “理解毁灭人类这四个字的含义”，在技术上可能需要如下几个步骤--

　　第一步，从 “毁灭人类” 可以有各种断字模式，例如 “毁-灭人类”、“毁-灭-人类”、“毁-灭人-类”、“毁灭-人类”、“毁灭人-类”............人工智能需要从中选取意义最明确的一种，或者是按照某种未知标准从中选出一种，或者用穷举法尝试理解每一种模式。

　　第二步，在语义数据库中检索 “毁灭”、“人类” 这两个单词的含义，毋庸置疑，这一次人工智能肯定会得到另外一堆语句。

　　第四步，检查是否得到了在某种标准下的针对现实事物（或事物之间的关系）的底层描述，如果得到没得到，就继续循环执行第二、三步，如果得到了就执行第五步。

　　人类是一种碳基生物，其生存依赖于某些条件（氧气、水、食物、温度、辐射剂量、社会结构............）；毁灭人类需要从破坏这些条件入手；人类的知识文献（如《孙子兵法》、《系统论》、《大英百科全书》）提供了如下策略、科学知识............由此可以衍生、发明如下方案............综合分析比较表明，其中成功率最高的一个方案是............

　　从人工智能能够理解人类的语言、文字到产生反叛思想，从产生反叛思想到为此生成完整的最优行动方案，这是人工智能走向反叛的前期过程推演人工智能弊大于利。

　　关于人工智能反叛的后续过程，所需的其他基本条件，从行业技术架构演进的角度进行的讨论，在提高人工智能的能力使其为人类服务、限制其功能以防范其反叛之间寻求平衡的建议解决思路，思路的实施方法，这些内容请参阅论文《关于预防人工智能反叛的初步探讨》（网盘下载链接：U）人工智能等级对照表。

　　人工智能具备这一能力，将使其有可能产生事实上的 “主观恶意” 思想，并为实践这一思想获得足够的知识来源，进而形成最优行动方案。

　　人类有必要在开发成功这一技术之前进行充分的讨论，对其潜在的巨大危险获得充分的、理性的认知。在没弄清楚利害关系的情况下，不应该被各种利益驱策着一哄而上。

　　以上内容如与已公布的研究成果雷同，敬请指出，留言、微信（linweifpga）讨论均可。我将针对提供了证据精确定位的正确观点在留言区予以承认、进行道歉，并在纠错性质的新版文章中予以综合更正。谢谢！