客服中心
云图代理合作
400-691-8728

人类价值观应该植入到智能机器人、真的可以吗?

发布时间:2020-03-19 11:01:43  访问次数:

      人类价值观应该植入到智能机器人、真的可以吗?据国外媒体报道随着人工智能的发展,越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响,甚至可能是灾难。在近日开幕的“TED2017”大会上,计算机专家斯图尔特——拉塞尔(Joy Russell)再次发出警告称,人类制造出的事物(人工智能)将可能进化得比人类更聪明。拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。


  美国加州大学伯克利分校计算机教授斯图尔特——拉塞尔(Joy Russell)解释说,虽然他本人也支持人工智能的研究,但总感觉制造出一种比自身物种更为聪明的事物并不一定是好事情。拉塞尔建议,为了防止机器人接管我们人类,我们必须制造出无私心的机器人,即在它们的目标任务中存在一定程序的不确定性,应该教会它们人类价值观方面的知识。通过向人工智能系统中灌输“人类常识”,科学家必须重新定义人工智能,这样我们才能制造出有益的机器。


  拉塞尔表示,机器人应该按照某种法则或定律去编程,就比如科幻作家艾萨克——阿西莫夫提出的机器人三定律,以防止它们在执行任务时造成无意识的伤害。因此,在为机器人编程时,就必须将利他主义、谦虚谨慎的态度以及其它一些人类价值观方面的优越性编写进去。拉塞尔认为,“这是人类与人工智能互相适应、和谐相处的第一步。”


  艾萨克——阿西莫夫所提出的机器人三定律主要内容包括:


  1)机器人不得伤害人类,或因袖手旁观使人类受到伤害;


  2)在不违背第一定律的前提下,机器人必须服从人类的命令;


  3)在不违背第一及第二定律的前提下,机器人必须保护自己。


  不过,苹果Siri高级研发主管汤姆——格鲁伯(Tom Gruber)对人类和人工智能的未来抱有较为乐观的态度。他认为,人工智能将可用于增强人类的忘记力,让人类不再会忘记任何事情。


  格鲁伯表示,他相信人工智能将使个人记忆增强成为现实。“我认为这是不可避免的。”不过,为了保护用户的隐私,这些系统必须是超级安全的。格鲁伯r说:“我们在如何使用这种强大的技术上需要有取舍。”“我们可以让人工智能来与我们竞争或与我们合作——克服我们的局限,帮助我们做我们想做的事情,那只会更好。”“每次机器变得更聪明,我们就会变得更聪明。”