吾读小说网 www.wdxsw.com,永不下车无错无删减全文免费阅读!
方然有一点感同身受。
说这些话的时候,方然心里明白,人类文明岂但无需担心几十亿年后的红巨星,也不用担心几千万年后的大冰期。
因为着文明,已时日无多。
但在教授眼中,很显然,对人类文明的未来还是多少有所期许,作为严谨的学者,费曼在开口前还犹豫了一小会儿:
“这问题很宽泛,显然会涉及到诸多应用科学的领域,坦率的讲,
我觉得以你、我的专业范畴,并不太适合讨论这么一个看重实践、仰仗行动的课题……
哦,倒也未必;方,既然你是计算机相关专业的学生,那么在这方面,我倒是有一些疑点想找人讨论。
简而言之,你怎么看待这种观点:
计算机、人工智能、自动化系统的发展,对人类文明而言,是一种威胁。”
“计算机,人工智能……”
费曼教授的提问,出乎意料,方然原本还打算请教一些更“长远”的危机,譬如盖亚的气候变迁,或者恒星系的变化,因为他心知肚明,“眼前”的很多威胁,不管对人类文明、还是对他自己,都已经不成其为问题,围绕这些威胁进行的讨论,对他而言,也没有什么参考的价值。
但教授却主动提及,诸如AI、自动化这些很现实的话题,直接岔开也不太好。
说些什么好呢,一开始,方然还在盘算怎样讲比较“安全”,然后他才想到,至少以自己多年来的经验总结,理查德*费曼这样对民众持批评态度、对文明却寄托希望的人,绝无一点可能会是“同类”。
观察,调查,甚至直接交锋,都不一定靠谱,但面对教授的方然却如此肯定。
因为教授的年龄:五十有余,结合现实世界的发展轨迹而言,这时候再追寻永生,已经太晚,成功的希望极其渺茫;
更不用说若志在永生,一个人,又怎会选择理论物理为奋斗的方向。
想通了这一点,忽然间,长久以来连轴转、每天都殚精竭虑的年轻人,心生困倦,他不太想在这时候继续保持高度的警惕与伪装。
于是他便直言相告:
“不,我认为,这是杞人忧天。
时间有限,很全面的分析过程一时无法说清,但明显的事实是,现今人类世界存在的一切自动化、智能化系统,完全是由人来创造。
要说这人创造出来的工具,会反噬其主,理论上是有这样的可能性,但我却怀疑,会研究、制造出这种系统的人,他的行为动机又会是什么,难道就是为了毁灭眼前的这一切,甚至不惜搭上自己的性命?
人的一切行为,皆有动机,这是我思考的出发点。”
“哦,这是你的想法?
这想法可一点也不新颖,当然,我目前还没能找到反驳的论据。”
那么教授您难道是相信这一点吗:
人类创造的工具,会反戈一击,这岂非就是在说,未来某一天的计算机系统,会生出能权衡利弊、能寻找动机的自我意识,进而如同蛮族毁灭罗马那样,毁灭人类文明么。
方然有一点感同身受。
说这些话的时候,方然心里明白,人类文明岂但无需担心几十亿年后的红巨星,也不用担心几千万年后的大冰期。
因为着文明,已时日无多。
但在教授眼中,很显然,对人类文明的未来还是多少有所期许,作为严谨的学者,费曼在开口前还犹豫了一小会儿:
“这问题很宽泛,显然会涉及到诸多应用科学的领域,坦率的讲,
我觉得以你、我的专业范畴,并不太适合讨论这么一个看重实践、仰仗行动的课题……
哦,倒也未必;方,既然你是计算机相关专业的学生,那么在这方面,我倒是有一些疑点想找人讨论。
简而言之,你怎么看待这种观点:
计算机、人工智能、自动化系统的发展,对人类文明而言,是一种威胁。”
“计算机,人工智能……”
费曼教授的提问,出乎意料,方然原本还打算请教一些更“长远”的危机,譬如盖亚的气候变迁,或者恒星系的变化,因为他心知肚明,“眼前”的很多威胁,不管对人类文明、还是对他自己,都已经不成其为问题,围绕这些威胁进行的讨论,对他而言,也没有什么参考的价值。
但教授却主动提及,诸如AI、自动化这些很现实的话题,直接岔开也不太好。
说些什么好呢,一开始,方然还在盘算怎样讲比较“安全”,然后他才想到,至少以自己多年来的经验总结,理查德*费曼这样对民众持批评态度、对文明却寄托希望的人,绝无一点可能会是“同类”。
观察,调查,甚至直接交锋,都不一定靠谱,但面对教授的方然却如此肯定。
因为教授的年龄:五十有余,结合现实世界的发展轨迹而言,这时候再追寻永生,已经太晚,成功的希望极其渺茫;
更不用说若志在永生,一个人,又怎会选择理论物理为奋斗的方向。
想通了这一点,忽然间,长久以来连轴转、每天都殚精竭虑的年轻人,心生困倦,他不太想在这时候继续保持高度的警惕与伪装。
于是他便直言相告:
“不,我认为,这是杞人忧天。
时间有限,很全面的分析过程一时无法说清,但明显的事实是,现今人类世界存在的一切自动化、智能化系统,完全是由人来创造。
要说这人创造出来的工具,会反噬其主,理论上是有这样的可能性,但我却怀疑,会研究、制造出这种系统的人,他的行为动机又会是什么,难道就是为了毁灭眼前的这一切,甚至不惜搭上自己的性命?
人的一切行为,皆有动机,这是我思考的出发点。”
“哦,这是你的想法?
这想法可一点也不新颖,当然,我目前还没能找到反驳的论据。”
那么教授您难道是相信这一点吗:
人类创造的工具,会反戈一击,这岂非就是在说,未来某一天的计算机系统,会生出能权衡利弊、能寻找动机的自我意识,进而如同蛮族毁灭罗马那样,毁灭人类文明么。