拉塞尔：应在机器人内部预置不确定性以防备背叛

2017-05-03 09:11:44来源：新浪科技编辑：一不做关键词：机器人人工智能机器人编程阅读量：32850

导读：随着人工智能的发展，越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响，拉塞尔建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。

　　【中国智能制造网智造快讯】随着人工智能的发展，越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响，拉塞尔建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。

　　据国外媒体报道，随着人工智能的发展，越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响，甚至可能是灾难。在近日开幕的“TED2017”大会上，计算机专家斯图尔特-拉塞尔再次发出警告称，人类制造出的事物(人工智能)将可能进化得比人类更聪明。拉塞尔建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。

　　美国加州大学伯克利分校计算机教授斯图尔特-拉塞尔解释说，虽然他本人也支持人工智能的研究，但总感觉制造出一种比自身物种更为聪明的事物并不一定是好事情。拉塞尔建议，为了防止机器人接管我们人类，我们必须制造出无私心的机器人，即在它们的目标任务中存在一定程序的不确定性，应该教会它们人类价值观方面的知识。通过向人工智能系统中灌输“人类常识”，科学家必须重新定义人工智能，这样我们才能制造出有益的机器。

　　拉塞尔表示，机器人应该按照某种法则或定律去编程，就比如科幻作家艾萨克-阿西莫夫提出的机器人三定律，以防止它们在执行任务时造成无意识的伤害。艾萨克-阿西莫夫所提出的机器人三定律主要内容包括：1)机器人不得伤害人类，或因袖手旁观使人类受到伤害；2)在不违背定律的前提下，机器人必须服从人类的命令；3)在不违背及第二定律的前提下，机器人必须保护自己。因此，在为机器人编程时，就必须将利他主义、谦虚谨慎的态度以及其它一些人类价值观方面的优越性编写进去。拉塞尔认为，“这是人类与人工智能互相适应、和谐相处的步。”

　　不过，苹果Siri研发主管汤姆-格鲁伯对人类和人工智能的未来抱有较为乐观的态度。他认为，人工智能将可用于增强人类的忘记力，让人类不再会忘记任何事情。格鲁伯表示，“人工智能所带来的超人能力是不可避免的，这能够让我们记住每个人的名字，记住听过的每一首歌或者看过的任何事物。人工智能能够与人类协作，而不是许多人所担心的对抗，它们能够帮助我们人类战胜极限。如何利用这一强大的科学技术，我们有自己的选择。我们既可以让它们与我们竞争，也可以让它们与我们协作。它们只会让我们克服局限，做得更好。机器人变得越来越聪明，我们人类也会更加聪明。”

　　(原标题：人工智能专家建议向机器人灌输人类价值观以防背叛)

上一篇：日媒：中国“爆买”工业机器人需求激增

下一篇：边缘计算成5G研发重点多家上市公司布局

我要评论

人工智能在制造业的新浪潮
调查数据显示，95%的制造企业已经在AI/ML领域投入或计划在未来五年内进行投资。这一比例表明，人工智能应用在制造业中已趋于普及，并正由“试点探索”向“系统化整合”转变。
人工智能AI赋能智能制造
2025-10-21 09:25:54
中国生成式人工智能用户规模达5.15亿人，普及率36.5%
《生成式人工智能应用发展报告(2025)》显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，普及率为36.5%。上半年，国产生成式人工智能产品取得显著进步，在春节期间成为社会关注热点，推动生成式人工智能快速渗透。
人工智能生成式人工智能
2025-10-20 09:07:04
OpenAI联合创始人：人工智能代理真正发挥作用还需10年
OpenAI联合创始人预估，要系统解决上述所有问题，大约还需要十年时间。尽管众多投资者将2025年称为“智能体之年”，但现实发展仍面临显著挑战。广义上，AI智能体被定义为能够自主执行任务的虚拟助手，具备问题拆解、方案规划与自主实施的能力。
OpenAI人工智能
2025-10-20 10:58:05
人工智能和物联网如何协作以实现更智能的技术
人工智能与物联网的融合代表着科技发展的新方向。物联网通过分布在各处的传感器、设备和网络基础设施，持续生成海量的实时数据。而人工智能则通过机器学习与深度学习算法，对这些数据进行分析、建模与优化。
人工智能物联网
2025-10-20 10:57:54
物联网和 Agentic AI 助力未来智能医院
随着物联网(IoT)与新一代智能体人工智能(Agentic AI)的融合，这一复杂体系正在被重新定义。越来越多的医院开始引入基于实时数据的智能运营模式，使医疗体系逐步从“经验驱动”走向“数据驱动”，甚至是“自主优化”的新阶段。
医疗应用方案人工智能
2025-10-17 13:23:02
快讯|HDL与海康威视达成战略合作；特斯联与新华三达成战略合作
中国智能控制品牌河东科技HDL与安防企业海康威视宣布达成战略合作，双方产品实现互联互通，为海外用户提供更完整的智能生活解决方案；特斯联与新华三正式宣布达成战略合作，双方将集中优势资源，围绕AIoT算力平台打造及异构算力生态建设进行深度合作......
AIoT算力人工智能
2025-10-17 11:27:16

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。