智能机器人引伦理忧虑 是否成未来梦魇

中国教育装备采购网2016-03-14 10:42围观71次我要分享

  阿尔法狗击败围棋世界冠军李世石,让我想起了30多年前看过的一部美国科幻电影:“未来世界”。

  这是一部描写机器人妄图统治人类的片子。未来世界的机器人认为人是变化无常的,没有理性的残暴的。他们的任务就是复制人类,最后消灭人类的原型,达到由机器人统治世界的目的。具体的工作就是在人类中输入他们的程序,听从他们的指挥。而这些复制品完全就是生物学上的人类,没有一丝机器痕迹。

  这部充满科幻意味的电影在刚打开封闭大门、改革开放不久的中国,引起很大的轰动,记得我前后看了6次,至今清楚里面的细节。

  30多年后,未来世界像是真的要来了,这就是电脑围棋阿尔法狗在前三局就以3比0击败了获得世界围棋冠军头衔最多的李世石。第三盘比赛,李世石全盘没有一点机会,赛后人们一片沉默,心情沉重。

  围棋是世界上最难,也是变化最多的棋类游戏。专家说,国际象棋的变化是10的60次方,而围棋则是之后的170个零,比全世界的沙粒加起来还要多,这就是围棋变化无穷的原因。

  如果仅仅从难度来看,电脑的聪明其实并不可怕。真正可怕的,是它能够自我编程,也就能够自我修补、自我提高。李世石第二盘结束后连夜与人研究复盘对策,殊不知阿尔法狗也没闲着,据阿尔法狗团队的工程师介绍,阿尔法狗也在自行复盘、研究、寻找最佳的着点。如果用量来计算,电脑的运算速度是人脑完全无法比拟的,量则更是李世石团队不可企及的。它的自我学习能力能够到了人类达不到的高度,这也是为什么阿尔法狗能够越战越好的原因了。比较几个月前5比0战胜欧洲冠军的棋局,人们惊叹“进步神速!”

  昨天在第四局的比赛前,几乎所有人相信阿尔法狗一定会再次轻取。但也有人警告,阿尔法狗会不会故意放水?如果阿尔法狗真的具有这样的思维,那么一定是非常危险的。讫今为止,电脑程序只是停留在逻辑思维上,如果在人类的引导下具有存在感和独立意识,则是极其危险的。因为有朝一日它将不会再臣服于人类,将用自己的价值判断力和无穷的能力,用自己的方式行事,这将会是一场灾难。

  第四局阿尔法狗输了,但愿真的是如专家所言,李世石的第78步的挖,这一人类从来没有用过的“莫名着法”让阿尔法狗看不清楚、无从应对而系统崩溃。但是阿尔法狗的主研究师赛后也说:“我们不清楚问题出在哪里,回去后将好好地研究。”这一句话也并没有给出真正的答案。

  阿尔法狗给这个世界带来了新的成就,但是也带来新的忧虑。人们担心一旦电脑机器人具有了价值判断能力,面对躺在医院里无法治愈的病人,会不会认为不能再让其消耗社会资源而拔去维持生命的管线?

  电脑机器人不好色,不贪财,没有爱好,没有喜怒哀乐的情绪变化,这正是最令人可怕之处。霍金说过一句话:“现在对人类智能的草率态度,将是人类犯的最严重和愚蠢的错误”。据悉,为应付可能出现的这类情况,谷歌和Facebook已经在考虑成立伦理小组,就像克隆技术现世后,一些国际组织和世界各国医学界达成一致意见:“严禁克隆人类”一样。

  智能机器人会不会在未来世界变成人类的灾难?这样的忧虑是否存在?当梦魇真的来临时人类能不能坚守住自己的最后一道阵地?除了拔掉电源,还能做些什么呢?

来源:央广网责任编辑:小白

相关阅读