2.9　当前人工智能的局限

目前，深度学习在人工智能系统研究与发展中起着至关重要的作用。遗憾的是，基于深度学习的人工智能缺乏强有力的理论基础，对深度学习的更深入研究遇到了瓶颈，至少在计算机视觉领域如此。另外，人工智能技术的性能评估主要依赖实验测试结果。因此，目前的人工智能技术在各方面尚不成熟。

在自然语言翻译方面，无论是文本翻译，还是口语翻译，机器翻译的质量远没有达到令人满意的水平。当前所有的商用文本机器翻译系统普遍存在的问题：错翻、漏翻和重复翻译比比皆是，尤其对成语、缩略语、专业术语和人名、地名、组织机构名称等的翻译问题更多；对口语而言，说话人的语气、重音、语调甚至肢体语言无法得到充分的利用，尤其当说话人的口音较重、用词过于生僻、话语主题超出先验知识范围时，译文的质量无法保障。

在自动驾驶方面，目前的辅助驾驶可以避免很多人为因素（如疲劳驾驶、酒驾等）造成的事故，使驾驶更安全。世界经济论坛预计，到2025年，自动驾驶技术将助力减少9%的交通事故。但是目前该技术还没有达到使人类可以完全不操作汽车的地步。2016年1月20日，京港澳高速发生一起追尾事故，一辆特斯拉轿车直接撞上清扫车，特斯拉轿车司机不幸身亡，大量证据表明，案发时车辆处于自动驾驶状态[25]。通过分析几起由自动驾驶车辆承担主要责任的事故可知，目前自动驾驶技术仍有缺陷，决策系统不完善，无法处理一些意外情况，还只能停留在“辅助驾驶”阶段[26]。

目前的人工智能技术主要通过学习已有样本来建立目标对象模型。因此，当目标对象与模型不符时，人工智能技术就可能出错。其在人为伪造的恶意样本情况下出错的概率更大[27，28]。

深度学习本质上是一种“暗箱”，其输出究竟是如何生成的无从解释，由此而得出的决策也让人怀疑。美国DARPA启动了“可解释人工智能”（XAI）计划，旨在创建一套机器学习技术，以此生成更具可解释性的模型。“可解释人工智能”已成为所有人工智能战略的重要组成部分。

总之，人工智能是一门集模拟、延伸和扩展人的智能的理论、方法、技术及应用系统于一体的学科。它企图了解智能的本质，并生产出一种新的能以人类智能类似的方式做出反应的智能机器。人工智能主要让机器通过模拟人类的感知行为来对已感知的外界信息或由内部产生的信息进行思维性加工，重新获取新知识，自我完善增强，从而模拟人类的行动或表达实现人和计算机之间的信息交换。

经过几十年的发展，人工智能技术已经从单纯地模拟人类智力发展到多层次地获取知识来解决问题。不过，虽然人工智能技术取得了长足的进展，也在很多领域开始有了实际应用，但在很多方面离预期还有很大的差距。特别是在处理恶意输入方面，人工智能还处于低级阶段，与人类的智能水平相差甚远。因此，人工智能理论与技术发展的道路依然很长。