人工智能统治世界？还早着呢

　　AI拥有不可思议的潜力，这一点毋庸置疑。但这项技术仍处于起步阶段，也不存在什么AI超级大国。将AI付诸使用的竞赛基本上还没有开始，特别是在商业领域。另外，最先进的AI工具是开源软件，也就是说任何人都能接触的到。

　　科技公司用很酷的演示来炒作AI，比如谷歌的AlphaGo Zero。它用三天时间学会了围棋，这是世界上最难的棋类之一，而且能轻松击败顶尖选手。还有几家公司宣称在自动驾驶汽车方面取得了突破。但别被骗了——下棋只是特例，自动驾驶汽车也仍处于试验阶段。

　　AlphaGo Zero的前身AlphaGo用生成对抗网络（generative adversarial network）来开发自己的智力。这项技术让两个AI系统通过相互对抗来相互学习，其要点在于这两个系统在开始对抗前会接受大量训练。更重要的是，它们的问题和结果都有很明确的定义。

　　和下棋或者玩街机不同，商业系统没有确定的结果和规则。它在运转时使用的数据非常有限，而且往往支离破碎、混乱不堪。同时，进行关键商业分析的不是计算机，理解计算机系统收集的信息并决定怎样予以使用是人的工作。人能处理不确定性和疑问，AI则不行。谷歌的Waymo自动驾驶汽车总共已经行驶了900多万英里（逾1450万公里），但它的正式推出还遥遥无期。特斯拉的自动驾驶系统Autopilot已经收集了15亿英里（24.15亿公里）的数据，却还不会在遇到红灯时停下来。

　　如今的AI系统都竭尽全力来模仿人脑的神经网络功能，但它们的模拟能力非常有限。它们使用的技术叫做深度学习——在你明确告诉AI希望它学什么并提供标注清晰的范例后，AI就会分析数据中的模式，并将其存储起来以备今后使用。它掌握这些模式的精确程度取决于数据的完整程度，所以你给的范例越多，AI就会越有用。

　　但这里有一个问题，那就是AI只能达到它所接收数据的水平，而且只能在给定背景的狭窄范围内对数据进行解读。它并不“理解”自己分析了什么，因此无法将其用于其他背景下的情景。另外，AI也无法弄明白因果和相关的区别。

　　此类AI的更大问题在于它学到了什么仍是个迷，或者说那是对数据的一组无法确定的反应。神经网络受训后，就连设计者也不完全清楚其运作机理。他们把这种情况称为AI黑箱。

　　企业可不能让自身机制做出无法解释的决定，因为监管部门对它们有要求，而且它们也担心自己的声誉。所以，它们做出的所有决定都必须可以理解、解释并证明其合理性。

　　接下来就是可靠性问题。航空公司已经开始安装基于AI的面部识别系统，中国也正在基于这样的系统来构建全国性监控网络。人们将AI用于营销和信用分析，还用它来操控汽车、无人机和机器人。人们训练AI对医疗数据进行分析，目的是协助甚至取代人类医生。但问题在于，在所有案例中，AI都有可能受到蒙骗。

　　去年12月谷歌发表了一篇论文，证明自己可以欺骗AI系统，让它把香蕉认成烤面包机。印度科技学院不久前做的展示也说明他们有可能让几乎所有AI系统陷入困惑，而且就像谷歌，他们甚至没有使用AI系统作为学习基础的知识。AI出现后，安全和隐私成了马后炮，就像计算机和互联网刚刚开始发展时一样。

　　顶尖AI公司通过开源工具交出了这个领域的钥匙。软件曾被视为商业机密，但开发者已经意识到把它展示给别人并让后者基于他们的代码继续构建有可能给软件带来极大的改进。微软、谷歌和Facebook已经公开了他们的AI代码，公众可以免费进行探究、改编和完善。百度也公开了自动驾驶软件阿波罗的源代码。

　　软件的真正价值在于应用，也就是你怎样使用它。就像中国打造自己的科技公司以及印度用硅谷创造的工具建立了价值1600亿美元的IT服务业一样，任何人都可以用对公众开放的AI工具制作出成熟的应用。创新现已全球化，从而创造出了一个公平的竞争环境，特别是在AI领域。（财富中文网）

　　维维克·瓦德哈是卡耐基梅隆大学工程学院的杰出研究员，他与别人合作撰写了《有人黑了你的幸福：为何科技正在夺得人类大脑控制权以及如何反击》（Your Happiness Was Hacked: Why Tech Is Winning the Battle to Control Your Brain—and How to Fight Back）一书。

　　译者：Charlie

　　审校：夏林