AI公司面临隐私问题 不少仍坚持原则拒绝商业机会

【TechWeb报道】7月8日消息，据国外媒体报道，当一家由美国中央情报局支持的风险投资基金表示对拉纳·埃尔·卡利乌比(Rana el Kaliouby)的面部扫描技术感兴趣时，这位计算机科学家和她的同事进行了一些反思——然后拒绝了这笔投资。

AI公司面临隐私问题 不少仍坚持原则拒绝商业机会

卡利乌比是波士顿初创公司Affectiva的联合创始人兼首席执行官，该公司已经对其人工智能系统进行了培训，创建了一个包含600多万张面孔的摄影库，可识别出一个人的情绪，是高兴还是悲伤、疲倦还是愤怒。

她说:“我们公司对你们监视别人的事情不感兴趣。”

由人工智能驱动的计算机视觉技术不断更新，不仅加速了自动驾驶汽车的竞争，并为Facebook和谷歌上越来越复杂的照片标注功能提供了动力。但是，随着这些能够窥探人们的“人工智能之眼”被安装在商店的收银台、警察的随身相机，以及在战场上找到了新的用武之地，科技公司正在努力平衡商业机会和道德决策，而这些决策可能会导致他们失去客户或是员工失去工作。

卡利乌比说，“不难想象，利用实时的人脸识别技术可识别撒谎行为——或者，在一个专制政权的手中，监控人们对政治言论的反应，以根除不同意见。”但是，这家从麻省理工学院一个研究实验室中走出来的小公司，已经为自己做出限制。

卡利乌比说，该公司已经避开检测“任何安保、机场，甚至是谎言检测的事项”。相反，Affectiva与汽车制造商合作，试图帮助那些外表看上去疲惫的司机保持清醒，并与消费者品牌合作，商家希望了解人们对某款产品的反应是喜欢还是厌恶。

这种不安反映出，人们对这个时刻都在监视的人工智能全视系统的能力和可能存在的弊端感到不按——就连当局也越来越渴望能使用它们。

上个月，在马里兰州安纳波利斯的一家报纸报道一起致命枪击事件后，警方说，他们在确认这名不愿合作的嫌疑人后，立即开始了面部识别。他们这样做的目的是利用一个国家数据库，其中包括过去被捕者的照片。更有争议的是，这其中还包括每个注册了马里兰州驾照的人。

向执法部门提供的初步信息显示，警方之所以利用面部识别技术，是因为嫌疑人显然是为了逃避被确定而损坏了指纹。后来那份报告被证明是错误的，警方说他们使用面部识别是因为指纹识别结果受到延迟。

今年6月，位于佛罗里达州的奥兰多国际机场宣布，计划在今年年底前，对所有进出国际航班的乘客进行面部识别扫描。美国其他几个机场已经在对一些国际航班进行扫描，但不是全部。

中国公司已经在使用智能相机来实时地记录那些乱穿马路的人。亚马逊在西雅图的新开的无收银员商店中配备了头顶摄像头和传感器，目的是通过追踪购物者拿起和放回的每一件商品，解决了店内行窃行为。

即使是最大的科技公司，对这项技术的担忧也受到了动摇。例如，谷歌最近表示，在员工抗议谷歌的人工智能技术应用到军事应用后，该公司将退出一份防御合同。这项工作涉及对来自伊拉克和其他冲突地区的无人机视频进行计算机分析。

类似对政府合同的担忧也激起了亚马逊和微软内部的不和。谷歌此后发布了人工智能指南，强调使用“对社会有益”和避免“不公平偏见”。

然而，到目前为止，亚马逊已经顶住了来自员工和隐私倡导人士日益增长的压力，他们要求其停止向警察部门和其他政府机构出售的公司强大人脸识别工具Rekognition。

自本世纪初计算机视觉技术出现突破以来，商业和政府对这项技术的兴趣迅速增长，人们使用类似大脑的“神经网络”来识别图像中的物体。2012年，在YouTube视频中训练电脑识别猫还是一项早期的挑战。现在，谷歌有款APP不仅能识别猫，还能告诉你这猫是哪个品种。

今年6月，在盐湖城举行了一场计算机视觉和模式识别领域的重要学术会议。多伦多约克大学的计算机科学家、会议的组织者迈克尔·布朗说，这原本是一个充满“书呆子”令人昏昏欲睡的学术会议，现在成为淘金热的商业世博会，吸引了很多大公司和政府机构。

布朗说，研究人员当场被给予高薪工作。但在提交给会议的数千份技术文件中，很少有涉及公众对隐私、偏见或其他道德困境的广泛担忧。他说:“对于这个原本应当重视的问题，我们可能不会进行过多的讨论。”

创业公司正在开辟自己的道路。迈阿密面部识别软件公司Kairos的首席执行官布赖恩·布雷斯基恩(Brian Brackeen)制定了一项全面政策，禁止向执法部门或政府监控部门出售该技术。他在最近的一篇文章中辩称，该技术“为道德败坏者的严重不当行为打开了大门”。

相比之下，总部位于波士顿的创业公司Neurala正在为摩托罗拉开发软件，用于警察佩戴的随身相机，它可以根据人们的穿着和长相在人群中确定一个人。首席执行官马克斯·范思哲(Max Versace)表示，“人工智能是社会的一面镜子”，因此该公司只选择有原则的合作伙伴。

他说，“我们不是那种极权主义、奥威尔式的阴谋的一员。”（编译/露天）