English
联系我们
网站地图
邮箱
旧版回顾



c6彩票:博九彩票:欢迎收看:2018年AI十大最尴尬

文章来源:网络    发布时间:2018-12-22  【字号:      】

人工智能已经取得了显著的进步,但事实上,刚刚起步的技术和有偏见的数据也不可避免地会产生人类未曾想到的错误。这就是为什么审查人工智能故障是必要和有意义的。

Synced最近对全年的人工智能十大“失败案例”进行了首次总结(2018 in Review: 10 AI Failures)。

0

AI人脸识别闯红灯“智障” 知名企业家董明珠躺枪

董明珠在宁波“闯红灯”被抓?原来是在过马路时公交广告上董小姐的“大头照”太明显,一下子被闯红灯人脸识别系统捕捉到,竟然误以为是真人!董小姐人在家中,却在社交媒体上不幸躺枪成了“jaywalker”。

1

那辆巴士刚好被投放了印有董明珠头像的广告。当这辆巴士行驶在宁波中山东路,经过江夏桥东一带时,恰好从中间垂直方向穿过了一条亮着红灯的斑马线,而车身广告上董明珠的照片正脸刚好对准了一侧的红灯,如果是个真人的话,TA的确是在闯红灯。高大上的AI检测系统顿时变成“人工智障”,把照片当成了真人,直接把这辆公交车拍了下来,还锁定了车身上董明珠的照片,判定此人闯红灯。该系统还从数据库里搜索,把董明珠的车身广告照片和一行「***,在江夏桥东违法闯红灯」曝光到了大屏幕上。宁波交警事后回应称,技术人员已经对该系统进行了全面升级。

CloudWalk深度学习研究员Zhou Xiang告诉Synced,问题可能出在算法缺乏实时检测上。“在这个距离进行现场探测是一项具有挑战性的工作,虽然将图像识别为真人现在非常普遍。”

Uber自动驾驶汽车杀死了一名行人

在公共道路上第一个已知的与车辆相关的自动驾驶行人死亡事件中,优步的自动驾驶SUV于3月28日在亚利桑那州的Tempe市撞倒了一名女性行人,致其当场死亡。

2

Uber发现其自动驾驶软件决定在汽车传感器检测到行人后却没有采取任何行动。根据美国国家运输安全委员会关于事故的初步报告,这是因为Uber的自动模式禁用了沃尔沃工厂安装的自动紧急制动系统。

在悲剧发生之后,Uber在北美城市暂停了自驾驾驶测试,而Nvidia和丰田也在美国停止了自驾车道路测试。事故发生8个月后,Uber宣布计划在匹兹堡恢复自驾车路试,尽管该公司的自驾车未来仍然不明朗。

IBM Watson医疗保健出现重大漏洞

根据Stat获得的内部文件,佛罗里达州Jupiter医院的一名医生评论IBM的旗舰人工智能程序Watson时写道,“这个产品很糟糕,简直就是一坨屎。”IBM最初是一个问答机器,一直在广泛的应用程序和流程(包括医疗保健)中探索Watson的AI功能。 2013年,IBM开发了Watson首个针对癌症治疗推荐的商业应用程序,该公司在过去五年中与医院和研究中心建立了许多重要的合作伙伴关系。但Watson AI Health并没有给医生留下深刻印象。一些人抱怨它对癌症治疗提出了错误的建议,可能会导致严重甚至致命的后果。

据报道,在没有显著进步的项目上花费数年后,IBM正在缩小Watson Health的规模并裁掉该部门员工的一半以上。

亚马逊AI招聘工具“性别歧视”明显

亚马逊机器学习专家发现了一个大问题:他们的新招聘引擎不喜欢女性。

据报道,亚马逊人力资源部门在2014年至2017年期间使用了支持AI的招聘软件来帮助审核简历并提出建议。然而,该软件对男性申请人更有利,因为其模型是在过去十年中提交给亚马逊的简历上接受培训的,当时雇用了更多的男性候选人。

据报道,该软件降级了包含“女性”一词的简历,或暗示申请人是女性,例如因为他们曾就读过女子大学。它对“女子象棋俱乐部队长”等含有“女子”字样的简历处以低分。据知情人士透露,它还降低了两所女子学院毕业生的评级。他们没有具体说明这些学校的名字。

亚马逊此后放弃了该大发时时彩官网软件。该公司并未否认使用该工具提出建议,但表示从未用于评估候选人。

亚马逊拒绝就招聘引擎或其面临的挑战置评,但该公司表示,它致力于工作场所的多样性和平等性。

雇主们一直梦想利用科技来扩大招聘网络,减少对人类招聘者主观意见的依赖。但是像Nihar Shah这样在卡内基梅隆大学教授机器学习的计算机科学家表示,还有很长的路要走。

他说:“如何确保算法是公平的,如何确保算法是真正可说明和可解释的,这还很遥远。”

DeepFakes将色情主角错认成《星战》Daisy Ridley

去年12月,Reddit网上出现了一些国际顶级女星——25岁《星战》女星黛丝烈尼(Daisy Ridley)的色情视频,原因竟然是是“DeepFakes”采用生成对抗网络,将明星的脸与色情视频中女性的脸进行了交换。

虽然面部交换技术已经开发多年,但DeepFakes的方法显示,任何拥有足够面部图像的人现在都可以制作他们自己非常有说服力的假视频。色请视频的创作者,就是将《星球大战》知名演员Daisy Ridley的脸与上面的色情女星交换了。

2018年,逼真的名人假视频依旧充斥着互联网。虽然这种方法在技术上并非“失败”,但其潜在的危险是严重而深远的:如果视频证据不再可信,这可能会进一步鼓励流传假新闻。

Google Photo出现了bug

Android制造商开发的这个应用程序能够帮助你整理手机上的数千照片。它还可以根据地点的不同,帮助你生成地域相册;可以通过面部识别把你家人、朋友、宠物的照片分类成不同的相册。

Google相册还包含一个相对未知的AI功能,可以自动检测具有相同背景/场景的图像,并将它们合并为单个全景图片。

一旦图片存入手机,Google相册助手就会认为这三张照片属于同一个框架。但实际上并不是。1月份,Reddit用户“MalletsDarker”在滑雪场拍摄了三张照片:两张是风景照,另一张是他朋友的照片。当谷歌照片合并这三个时,发生了一件奇怪的事情,因为他的朋友的脑袋被渲染成一个从森林中窥视出来的尖峰巨人。Google Photo尴尬作死瞬间如图:

3

这张照片使得r/funny subreddit排名前十,并获得了202k的赞成票。社交媒体称赞谷歌算法巧妙地混合了图像,同时嘲笑它在构图基础方面的愚蠢。

LG机器人Cloi在揭幕仪式上“傻掉”

1月8日应该是LG的IoT AI助手Cloi在拉斯维加斯举行的2018年国际消费电子展上首次亮相的那一天。 Cloi被呈现为一个简单而愉快的界面,能够识别控制家用电器的语音命令。然而,当可爱的机器人走上舞台进行现场演示时,观众正在观看和等待,一直等待……因为它未能回应LG市场营销主管的命令,只产生尴尬的沉默。

波士顿动力学机器人blooper

SoftBank拥有的机器人制造商波士顿动力公司今年不止一次为互联网赢得了惊喜:它的机器人SpotMini可以灵巧地用头戴式抓手臂打开门;它的人形机器人阿特拉斯现在可以做“跑酷”了—&mdas大发时时彩平台h;顺利跳过原木,跳跃一系列40厘米的步骤而不会停下步伐。

5

波士顿动力机器人Atlas

但即使是波士顿动力公司也有其不小心“哎呀”的时刻:在未来科学家和技术专家大会上首次亮相时,阿特拉斯在一个完美的演示中举起了盒子等物品。但正当表演结束准备离开uu快三分析时,这个可怜的机器人绊倒在窗帘上,笨拙地从舞台上摔下来。不过,它摔倒的样子倒也挺像人类的。

2018年AI对世界杯的预测几乎都是错误的

2018年世界杯是一年中最重要的体育赛事,高盛、德国多特蒙德技术大学、Electronic Arts、彼尔姆国立研究大学和其他机构的人工智能研究人员运行了机器学习模型,来预测多阶段比赛的结果。然而大多数都是完全错误的,只有EA——使用其视频游戏FIFA 18的新评级进行模拟——正确地支持了胜利者法国。EA游戏引擎以众多机器学习技术为后盾,旨在使玩家的表现尽可能逼真。

6

SQL服务数据科学家Nick Burns提供了一个解释:“无论你的模型有多好,它们都只是和你的数据一样好……最近的足球数据还不足以预测世界杯的表现。缺少信息和未定义的影响太多了。”

Faception声称可以从面部扫描预测智商

以色列机器学习初创公司Faception提出了有争议的说法,即其人工智能技术可以分析面部图像和骨骼结构,以揭示人们的智商,个性,甚至是暴力倾向。数据科学家Ben Snyder在Twitter上斥责该公司的技术:“那是颅相学。你只是把ML当作一个种族主义的背锅侠。“这条推文收到了超过6,500次转推送和近17,000个点赞。

7

目前甚嚣尘上的研究认为人的头部和脸部形状能够揭示性格特征,与被遗弃已久的面相伪科学有着令人不安的相似性。现在,计算机更擅长于扫描人体生理学上微小的细节,现代研究人员由此认为,他们所得出的推论更加可靠。而在另一面,批评者认为这纯属无稽之谈。他们指出,几乎没有证据表明,外在的身体特征或其他特征能够预测行为。在任何情况下,机器只会学习我们教给它们的东西,但人类是一个糟糕的老师,因为我们身上普遍存在公开的或微妙而不被承认的偏见和偏颇的思维。




(责任编辑:admin)

专题推荐


© 1996 - 2017 中国科学院 版权所有 京ICP备05002857号  京公网安备110402500047号   联系我们

地址:北京市三里河路52号 邮编:100864