此外，表达某些效用将倾向于忽略其他的效用（鱼和熊掌的问题）。这里还存在一些问题：AI效用函数可能与人类的价值并不完全一致，而这些价值很难确定。AI系统由于无法像人类一样“理解”目标，故可能会被意外地分配错误的目标。艾萨克·阿西莫夫的机器人法则是人工智能安全措施最早的例子之一。阿西莫夫的法则旨在防止机器人伤害人类。
在阿西莫夫的故事中，法律问题往往是由规则之间的矛盾和人类的道德直觉和期望产生的。对于AI来说，一套切实可行的规则和目标需要包含一个随着时间的推移学习人类价值观的机制，不能只给一个程序一个静态的效用函数，因为环境和我们对环境的期望回应会随着时间而改变。这是问题的难点，也是关键点。了解更多硅谷前沿深度讯息请看 硅发布 微信公众号。
人工智能对人类的影响有哪些？
首先要肯定的是：人工智能对人类的发展有巨大的推动作用。它对人类带来的好处与坏处肯定是并存的。1、好处：①让人进一步“变懒”，自动化的结果；②让人进一步“聪明”，未知的探索范围更广；③让人“长生不老”，生物科技的发达；④让人“越走越远”，未来移民外星球；⑤让人类“越来越强”，智能时代人的创造力会变得更强。
2、坏处（或称：未知）①让人产生恐惧，不知道人工智能的未来会是什么样的；这一点就足以包含很多问题，如：机器会不会统治人类？环境会不会再次变坏？战争会不会再次爆发？会不会真的发生星球大战？等等问题。②让人“变坏”，坏人也会一直成长和思考，道、魔相长，相互推动。总之，向前发展是必然，人类的群居行为绝不会发生改变，这是本性。
人工智能会给人类带来哪些危害？
这是必然的。人类不是一直存在的，人类必然会灭亡，如同恐龙的存在和灭亡一样。人工智能的发展就是能够促使人类灭亡的极大可能之一。人工智能现在来看在很大程度上改变了人们对于它的认识，比如围棋等领域。在不长的时间内（十年之内）就有可能明显的改变人们的生活，在未来，这个领域关系到武器装备，关系到科技竞争，关系到经济发展，关系到国家民生。
人工智能对人类的害处有哪些方面？
1. 单纯的利害关系: 有利必有弊，任何事物都有两面性，人工智能也如此，有利有害也是相对来说的，比如经常用来举例的代替人工这方面，被代替下来的人可能失业，但也可能从事更高级的工作，这要看受益或受害者的发展是利大于弊还是弊大于利。2. 人工智能的安全隐患导致的害处:人工智能需要依托于大数据，程序，算法和深度学习等，但也受制于相关的人，受人控制和管理，如果人工智能被用于人类希望的正能量方向，则有益于人类，如果被用于负能量方向，则有害于人类。
文章TAG：人工智能 灭世论 反思 危害 质疑 对人工智能灭世论的质疑与反思 人工智能有哪些危害
