机器人也有歧视与偏见人类当警惕AI阴暗面

2017-09-12 09:28:07来源：中国智能制造网编辑：齐之越关键词：人工智能机器人人机交互阅读量：63733

导读：近年来，除了机器伤人事件，AI的歧视与偏见问题也开始显现，人类的心灵垃圾已经污染了机器之心。

　　【中国智能制造网本站原创】近年来，除了机器伤人事件，AI的歧视与偏见问题也开始显现，人类的心灵垃圾已经污染了机器之心。除了种族、性别、健康、经济等方面的歧视，人工智能还可能把不友好的目光投向一些特殊群体。

　　近日，因两次“逃跑”而闻名的俄罗斯机器人Promobot再度成为媒体关注的焦点，因为它与前来视察其所在园区的俄罗斯总统普京握了手。这台机器人的出逃主要源于未被发现的程序错误。由于在逃跑过程中未对人类造成任何伤害，Promobot的出格行为引来诸多网友的打趣与追捧，其俨然成为网红般的存在。

　　然而，人工智能黑箱里所隐藏的错误与不足可并不总会引出这种“可爱”的行为，人类必须严肃对待AI或隐或现的阴暗面。近年来，除了机器伤人事件，AI的歧视与偏见问题也开始显现，人类的心灵垃圾已经污染了机器之心。

　　就目前情况来看，AI的歧视主要存在于种族和性别两个方面。

　　2015年，谷歌推出了一项图像识别的新应用，但很快便收到来自黑人用户的不良反馈，因为该应用将一些黑人的照片判别为“大猩猩”。更有甚者，在2016年举行的一场由AI担任裁判的选美大赛上，这位理性的评委选出的44位优胜者中，仅有一位是深色皮肤人种，而绝大多数是白人。

　　AI同样戴着歧视女性的有色眼镜。一些由AI控制的搜索引擎在投放广告时，有意更少地向女性用户展示高薪职位，而且想当然地把女性与教育类、艺术类、照护类职业联系在一起。

　　照此趋势发展下去，AI还将习得更多人类世界的歧视与偏见。在大数据、云计算等其他技术的帮助下，AI将获得并分析越来越多人类的隐私信息，并悄无声息地做出比人工更为的判断。如此一来，当健康状况较差、体质较弱的人去购买保险，当经济条件欠佳的人去分期付款购买商品，人工智能系统便有可能先于人类做出判断，无情地将弱者拒之门外。

　　除了种族、性别、健康、经济等方面的歧视，人工智能还可能把不友好的目光投向一些特殊群体。近日，斯坦福大学的一个研究团队开发出一种新的AI算法，能够根据头像照片判断一个人的性取向，准确率相当惊人。尤其是对于男性性取向的判断，在提供五张照片的情况下，准确率能达到91%。虽然该团队并未表明要将这种算法投入现实应用，但其蕴含的能力显然是种潜在威胁，可能导致同性恋人群的隐私遭到曝光，加深社会对这一群体的歧视，而AI无疑就是其中推波助澜的关键角色。

　　AI本身没有自主意识，也没有主观情绪，那么它的歧视与偏见是怎么来的呢？源头自然还是人类本身。造成AI歧视问题的原因大致有二。其一，AI的深度学习往往建立在大量既有数据的基础上，而这些来源于人类社会的数据不可避免地带有人类集体意识的各种成分，鱼龙混杂，因此人类持有怎样的偏见，则AI也自然而然有样学样；其二，从事人工智能与机器学习研究的科研人员以男性、白种人居多，女性、有色人种、少数族群占比较少，因此AI产品很容易沾染上其研究者的主流意识形态和思维特征，表现出研究者的主流好恶。

　　歧视与偏见给人类带来了怎样的痛苦与灾难、消除歧视与偏见对于人类何其之难，相信这个社会中的每一个成员都有所体会。人工智能是人类用智慧培养起来的新生儿，若是想让它更好地反哺人类，那么我们必须从当前这初始阶段就提高警惕，谨防自身的黑暗蔓延开去，污染了这张白纸。

上一篇：中国芯被热捧背后的冷思考：不做奋激的“键盘侠”

下一篇：开车不喝酒！自动驾驶汽车发展还有俩短板

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

制造业与AI“双向奔赴”成大势，共促中国“智造”升级
在人工智能浪潮席卷之下，中国制造业正迎来智能化升级的关键机遇期。制造业企业拥抱AI的意愿高涨，实践从试点应用迈向系统布局，例如宝钢利用高炉大模型优化能效、美的集团巨额投入AI研发。
制造业人工智能智能体
2025-10-23 17:02:07
德国Neura机器人中国总部落地萧山
姜永柱代表区委区政府对Neura机器人中国总部的正式启动及远道而来的领导嘉宾表示诚挚祝贺和热烈欢迎。他说，此次Neura机器人中国总部的落户，不仅为萧山具身智能产业注入了强劲动能和智能基因，更将带动上下游产业链集聚发展，助力萧山打造具有国际影响力的智能机器人产业高地。
人形机器人人工智能
2025-10-23 09:57:32
未来将由“光”书写：光纤成为人工智能经济的核心支柱
研究显示，到2030年，全球人工智能应用可能需要超过1亿英里的长途光纤和数千万英里的城域光纤。随着数据量的快速增长——预计从2020年的约64ZB增长到2030年的200ZB以上——超大规模企业正在进行创纪录的资本投入，以满足日益增长的计算和网络需求。
光纤人工智能
2025-10-23 09:01:55
早报|微软下一代AI芯片或由英特尔代工；乐聚机器人完成15亿元融资
微软已向英特尔下达其下一代AI芯片Maia 2的晶圆代工订单，计划采用18A或18A-P制程；2025年10月22日，乐聚机器人宣布完成15亿元Pre-IPO轮融资......
AI芯片晶圆代工机器人
2025-10-22 09:47:51
人工智能在制造业的新浪潮
调查数据显示，95%的制造企业已经在AI/ML领域投入或计划在未来五年内进行投资。这一比例表明，人工智能应用在制造业中已趋于普及，并正由“试点探索”向“系统化整合”转变。
人工智能AI赋能智能制造
2025-10-21 09:25:54
OpenAI联合创始人：人工智能代理真正发挥作用还需10年
OpenAI联合创始人预估，要系统解决上述所有问题，大约还需要十年时间。尽管众多投资者将2025年称为“智能体之年”，但现实发展仍面临显著挑战。广义上，AI智能体被定义为能够自主执行任务的虚拟助手，具备问题拆解、方案规划与自主实施的能力。
OpenAI人工智能
2025-10-20 10:58:05

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。