人工智能黑箱藏隐忧：如何让AI解释自身行为？

2017-04-14 16:19:47来源：cnbeta网站编辑：齐之越关键词：机器人人工智能 AI阅读量：39734

导读：在发明AI以前，人类从未开发出创造者也无法理解其运行方式的机器。我们如何与这些不可预测、无法理解的人工智能机器交流或和睦相处呢？

　　【中国智能制造网智造快讯】虽然人类并非总是能够解释清楚自己的思维过程，但我们能找到通过直觉信任和判断某人的方法。机器也有类似人类的思维吗？此前，我们从未开发出创造者也无法理解其运行方式的机器，我们如何与这些不可预测、无法理解的人工智能机器交流或和睦相处呢？

　　据TechnologyReview报道，当机器人决定走特定路线前往仓库，或无人驾驶汽车决定左转或右转时，它们的人工智能算法是靠什么做出决定的?现在，AI还无法向人们解释自己做出某项决定的理由，这或许是个需要搞清楚的大问题。

　　2016年，美国新泽西州蒙茅斯县安静的公路上出现一辆奇怪的无人驾驶汽车。这是芯片制造商英伟达的研究人员开发出的试验车，尽管它看起来与谷歌、特斯拉以及通用汽车公司研发的无人驾驶汽车没什么不同，但它展现出AI的更多力量。

　　帮助汽车实现自动驾驶堪称是令人印象深刻的壮举，但同时也让人感觉有点儿不安，因为现在我们还不是非常清楚汽车如何作出决策。汽车传感器收集的信息被直接传给庞大的人工神经网络，后者可对数据进行处理，然后发出相应指令，指挥汽车方向盘、制动以及其他系统运行。

　　表面看起来，它似乎能与人类驾驶员的反应相匹配。但是当其发生意外事件，比如撞上树或闯红灯时，我们可能很难从中找出原因。这些AI算法非常复杂，甚至就连设计它们的工程师都无能为力。现在我们还没有办法设计出这样的系统：它总是能够向人们解释为何要做出上述决定。

　　这些无人驾驶汽车的“神秘意识”正指向一个与AI有关的、迫在眉睫的问题。这些汽车算法以AI技术(又被称为深度学习)为基础，近年来其已被证明是解决诸多问题的强大工具。这种技术被广泛用于图像字幕、语音识别以及语言翻译等领域。现在，同样的技术也被期望能够帮助诊断致命疾病、做出价值数百万美元的交易决策以及无数足以改变整个行业的其他事情。

　　但是直到我们找到新的方式，能让深度学习等技术变得更容易被其创造者所理解、更容易向用户就自己的行为作出解释后，上述场景才会出现或应该出现。否则很难预测它们何时会出现故障，而且出现故障将是不可避免的。这也是英伟达无人驾驶汽车依然处于测试状态的原因之一。

　　目前，数学模型正被用于帮助确定谁该获得假释、谁应获得贷款以及谁该求职被录用。如果你能接触到这些数字模型，很可能了解它们的推理过程。但是银行、军队、雇主以及其他人现在正将注意力转向更复杂的机器学习上，它可以帮助自动决策变得更令人匪夷所思，而深度学习可能从根本上改变了计算机的编程方式。麻省理工学院机器学习教授汤米·雅科拉表示：“这个问题不仅与当前有关，更攸关未来的许多问题。无论是投资决策、医疗决策亦或是军事决策，我们都不能简单地依赖这种黑箱。”

　　已经有人提议，将询问AI系统如何得出结论或做出决定作为一项基本法律权利。从2018年夏季开始，欧盟可能要求公司向用户提供其自动化系统作出决策的理由。这似乎是不可能的，即使对于表面来看相对简单的系统来说，比如使用深度学习服务广告或推荐歌曲的应用和网站。运行这些服务的计算机已经在进行自我编程，它们正以我们无法理解的方式工作，即使开发这些应用的工程师也无法明确解释它们的行为。

　　这就引出许多令人难以置信的问题。随着技术的进步，我们可能很快就会越过一些门槛，帮助AI实现飞跃。虽然我们人类也并非总是能够解释清楚自己的思维过程，但我们能找到通过直觉信任和判断某人的方法。机器也有类似人类的思维吗?此前，我们从未开发出创造者也无法理解其运行方式的机器，我们如何与这些不可预测、无法理解的智能机器交流或和睦相处?

上一篇：求应聘者心理阴影面积迪拜警方用机器人招员工

下一篇：无人机新用途英国科学家利用其研究活跃火山

我要评论

中国生成式人工智能用户规模达5.15亿人，普及率36.5%
《生成式人工智能应用发展报告(2025)》显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，普及率为36.5%。上半年，国产生成式人工智能产品取得显著进步，在春节期间成为社会关注热点，推动生成式人工智能快速渗透。
人工智能生成式人工智能
2025-10-20 09:07:04
人工智能和物联网如何协作以实现更智能的技术
人工智能与物联网的融合代表着科技发展的新方向。物联网通过分布在各处的传感器、设备和网络基础设施，持续生成海量的实时数据。而人工智能则通过机器学习与深度学习算法，对这些数据进行分析、建模与优化。
人工智能物联网
2025-10-20 10:57:54
OpenAI联合创始人：人工智能代理真正发挥作用还需10年
OpenAI联合创始人预估，要系统解决上述所有问题，大约还需要十年时间。尽管众多投资者将2025年称为“智能体之年”，但现实发展仍面临显著挑战。广义上，AI智能体被定义为能够自主执行任务的虚拟助手，具备问题拆解、方案规划与自主实施的能力。
OpenAI人工智能
2025-10-20 10:58:05
物联网和 Agentic AI 助力未来智能医院
随着物联网(IoT)与新一代智能体人工智能(Agentic AI)的融合，这一复杂体系正在被重新定义。越来越多的医院开始引入基于实时数据的智能运营模式，使医疗体系逐步从“经验驱动”走向“数据驱动”，甚至是“自主优化”的新阶段。
医疗应用方案人工智能
2025-10-17 13:23:02
快讯|HDL与海康威视达成战略合作；特斯联与新华三达成战略合作
中国智能控制品牌河东科技HDL与安防企业海康威视宣布达成战略合作，双方产品实现互联互通，为海外用户提供更完整的智能生活解决方案；特斯联与新华三正式宣布达成战略合作，双方将集中优势资源，围绕AIoT算力平台打造及异构算力生态建设进行深度合作......
AIoT算力人工智能
2025-10-17 11:27:16
网信办、发改委：政务领域人工智能大模型13大典型应用场景
政务部门可围绕政务服务、社会治理、机关办公和辅助决策等工作中的共性、高频需求，因地制宜、结合实际，选择典型场景进行人工智能大模型探索应用。
人工智能大模型
2025-10-17 08:30:05

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。