这些案例告诉我们:盲目相信高科技是愚蠢的
这些案例告诉我们,盲目相信高科技是愚蠢的?你真的可以把控制权完全交给机器吗?一起来看看近期几个典型的反面案例。...
经典科幻电影《2001:太空漫游》(2001: A Space Odyssey)可能是很多读者的科幻启蒙,那么这个故事的寓意是什么?在影片中,主人公发现 HAL 9000人工智能电脑开始自主控制飞船,完全脱离宇航员的控制,同时电脑开始变得偏执、尝试杀死船上的所有人。显然,这个故事表现了作者对自动化科技的担心,当生命完全依赖于全自动系统,似乎存在很多隐患。下面IT科技网小编为大家带来几个反面案例,这些案例告诉我们:盲目相信高科技是愚蠢的
然而,自动化是人类不懈的追求,从简单的洗衣机、洗碗机到开始具有复杂算法的扫地机器人、智能家居设备以及目前火热的自动驾驶汽车,自动化开始从更多层面影响人们的生活。但是,你真的可以把控制权完全交给机器吗?一起来看看近期几个典型的反面案例。
PetNet 的失败
PetNet 是发迹于众筹平台的一款智能宠物喂食机,通过连接到WIFI网络、iOS远程控制,可以实现手动分配食物,当然,你也可以通过应用进行自动化的预设。另外,它还能通过亚马逊的Dash系统自动购买狗粮或猫粮。
听上去,PetNet 完全可以解决很多宠物主人的麻烦,实现自动化、定时定量的喂食。然而,在发售后,PetNet基于谷歌的云服务一度发生中断,时间长达10小时。也就是说,如果主人没有发现,那么在这10小时里使用它的猫咪和狗狗得不到任何食物和水。虽然PetNet官方表示并没有造成大的影响,但宠物挨饿是事实。
事后,PetNet还向用户发送邮件,通知他们确保人工喂养宠物,直至问题完全解决。试想一下,一些外出度假的家庭,完全依靠PetNet来喂养宠物,是多么不靠谱的一件事。
Nest恒温器崩溃
作为最著名的智能家居设备,Nest恒温器一直备受关注。然而,最近一周在美国各地,均发生了Nest恒温器失效的情况,事实上这已经不是第一次。Nest发布声明,声称仅有很少一部分产品发生离线情况。
虽然没有任何人受伤或是死亡,但是作为家庭中的温控中枢,Nest的不稳定无疑降低了人们的生活品质,而他们购买Nest的初衷,则是让生活更方便。
特斯拉自动驾驶死亡车祸
特斯拉最近无疑处于风口浪尖上,其自动驾驶汽车发生车祸、导致司机死亡,似乎为自动驾驶汽车的发展蒙上了一层阴影。
究其原因,目前最大的争议在于其自动驾驶模式的机制,虽然当时环境较为特殊,强烈日照致使自动驾驶系统和司机都没有发现拖挂车的白色车身、没有及时刹车,但从另一个角度来说,即便摄像头失效、雷达也应该监测到障碍车辆。这是第一个问题:自动驾驶的障碍监测系统并不能处理任何状况,但在驾驶这种高危环境下,一个小失误就会造成生命损失。
显然,特斯拉自动驾驶汽车的传感器部署并不完善,而在这种情况下,鼓励用户完全脱离驾驶的机制也是一个问题,事实上司机当时正在汽车屏幕上玩游戏,显然他过于相信自动化系统了。
不要过于依赖全自动化系统
显然,上面三个实例告诉我们,不要过于依赖全自动化系统,尤其是涉及到生命安全时。其实这是一个非常简单的道理:人会生病、产品会出现故障,你永远不能预知未来的事情。科技发展虽然迅猛,但即便是人工智能,也是人类所开发,而人类会犯错误,任何系统也是一样。
特斯拉的例子其实非常有代表性,CEO马斯克一方面积极抵制强人工智能发展,认为在众多不确定因素下,强人工智能一旦具有真正的思考能力,可能会危及人类;但另一方面,他又认为特斯拉的自动驾驶技术并没有问题,这显然是矛盾的。所以,在目前这个技术横流的时代,人类依然需要制定规则,并且始终相信,任何技术都没有人类本身来的可靠。