区分下一个物种可能需要多年的观鸟经验。然而，杜克大学的研究人员使用一种被称为深度学习的人工智能技术来训练计算机，仅用一张照片就能识别多达200种鸟类。

然而，真正的创新在于AI工具也能展现自己的思维方式，即使是不了解海雀企鹅的人也能理解。

研究小组通过给它们喂食200种鸟类(从游泳的鸭子到游荡的蜂鸟)的11788张照片，训练它们的深层神经网络(一种基于大脑如何工作的算法)。

研究人员从未在网上说过“这是喙”或“这是翅膀的羽毛”。给定一张神秘鸟类的照片，网络可以将图像中的重要图案与之前看到的典型物种特征进行对比，从而找出图像中的重要图案，进行风险猜测。

一路上，它发出一系列热图，本质上是说：“这不仅是鸣鸟，也是连帽鸣鸟，这里的特征(如蒙面头、黄腹)辐射了它。”

杜克大学计算机科学博士生陈、本科生奥斯卡李以及由杜克大学教授辛西娅鲁丁领导的预测分析实验室的其他成员领导了这项研究。

他们发现，他们的神经网络最多能在84%的时间里识别出正确的物种，而一些表现最好的人却没有透露他们是如何识别麻雀的。下一个。

鲁丁说，他们的项目不仅仅是给鸟类命名。这是关于视觉深度神经网络在查看图像时真正看到的东西。

类似的技术被用于在社交网站上标记人，在监控摄像头中发现可疑罪犯，以及训练自动驾驶汽车检测红绿灯和行人。

陆丁说，问题是大家都知道，计算机视觉的深度学习方法大多是不透明的。与传统软件不同，深度学习软件可以从数据中学习，而无需显式编程。因此，并不总是清楚这些算法在对图像进行分类时是如何“思考”的。

鲁丁和她的同事试图证明人工智能不必这么做。她和她的实验室正在设计一个深度学习模型来解释其预测背后的原因，并清楚地解释提出答案的原因和方法。当这种模式出错时，其内置的透明度使我们能够理解原因。

在他们的下一个项目中，鲁丁和她的团队正在使用他们的算法对医学图像中的可疑区域进行分类，例如乳房x光照片。如果可行，他们的系统不仅能帮助医生发现肿块、钙化和其他可能是乳腺癌征兆的症状。它还将显示它在乳房x光照相术的哪个部分，并揭示哪些特定特征与其他患者以前见过的癌性病变最相似。

陆丁说，这样，他们的网络旨在模仿医生的诊断方式。鲁丁说：“这是基于案例的推理。”“我们希望能够更好地向医生或患者解释，为什么他们的影像会被互联网归为恶性或良性。”

该团队将于12月12日在温哥华举行的第33届神经信息处理系统会议(NeurIPS 2019)上提交一份关于其发现的论文。

这项研究的其他作者包括杜克大学的Daniel Tao和Alina Barnett以及麻省理工学院林肯实验室的Jonathan Su。

引文：“看起来像：实现可解释图像识别的深度学习”，陈、奥斯卡李、丹尼尔陶、艾莉娜班纳特、辛西娅鲁丁。神经处理系统会议电子记录。2019年12月12日。