您的位置:首页>知识>

人工智能会有良心吗

导读人工智能可以学习人类社会的道德价值观吗?人工智能系统能否在必须权衡和平衡对不同人或人群的损害和利益的情况下做出决策?AI能否培养对与错

人工智能可以学习人类社会的道德价值观吗?人工智能系统能否在必须权衡和平衡对不同人或人群的损害和利益的情况下做出决策?AI能否培养对与错的认知?总之,人工智能会有良心吗?

考虑到今天的人工智能系统,这个问题可能听起来无关紧要,这些系统只能完成非常狭窄的任务。但随着科学不断开辟新天地,人工智能正逐渐进入更广阔的领域。我们已经看到 AI 算法应用于未明确定义好和坏决策界限的领域,例如刑事司法和工作申请处理。

未来,我们希望人工智能能够照顾老人、教育我们的孩子,以及执行许多其他需要人类道德判断的任务。然后,人工智能中的良心和尽责问题将变得更加关键。

带着这些问题,我开始寻找一本书(或多本书)来解释人类如何发展良知,并说明我们对大脑的了解是否为认真的人工智能提供了路线图。

一位朋友推荐了《良心:道德直觉的起源》,作者是Patricia Churchland 博士,他是加州大学圣地亚哥分校的神经科学家、哲学家和名誉教授。Churchland 博士的书,以及我在读完《良心》后与她的一次谈话,教会了我很多关于脑科学的范围和局限性的知识。良心向我们展示了我们对大脑的物理结构和运作与人类道德意识之间的关系的理解程度。但它也向我们展示了我们还需要做多少才能真正了解人类如何做出道德决定。

对于任何有兴趣探索人类良心的生物学背景并反思人工智能与良心的交叉点的人来说,这是一本非常容易阅读的读物。

以下是良心告诉我们有关人类大脑中道德直觉发展的内容的简要概述。头脑是人工智能的主要蓝图,更好的良心知识可以告诉我们很多关于人工智能学习人类社会道德规范需要什么。

学习系统

“良心是个人对正常情况下对与错的判断,通常但并非总是反映个人感觉依附的某个群体的某种标准,”丘奇兰在她的书中写道。

但是人类是如何培养理解这些权利和错误的能力的呢?为了回答这个问题,Churchland 博士带我们回到过去,当我们的第一个温血祖先出现时。

鸟类和哺乳动物是恒温动物:它们的身体有保持热量的机制。相比之下,在爬行动物、鱼类和昆虫等冷血生物中,身体会适应环境的温度。

吸热的最大好处是能够在夜间收集食物并在寒冷的气候中生存。权衡:吸热体需要更多的食物才能生存。这一要求导致了温血动物大脑的一系列进化步骤,使它们变得更聪明。其中最值得注意的是哺乳动物大脑皮层的发育。

皮层可以整合各种信号,提取与生存和繁殖相关的事件和事物的抽象表示。皮层学习、整合、修改、回忆并不断学习。

与非常依赖环境条件稳定性的昆虫和鱼类相比,皮质使哺乳动物对天气和景观的变化更加灵活。

但同样,学习能力需要权衡:哺乳动物天生无助和脆弱。与蛇、海龟和昆虫不同,它们在地面上奔跑并在打破蛋壳时完全发挥作用,哺乳动物需要时间来学习和发展它们的生存技能。

这就是为什么他们相互依赖才能生存。

社会行为的发展

所有生物的大脑都有奖励和惩罚系统,以确保他们做的事情支持他们的生存和基因的生存。哺乳动物的大脑重新利用了这种功能以适应社交。

“在哺乳动物大脑的进化过程中,支持自我生存的快乐和痛苦的感觉得到了补充和重新利用,以激发从属行为,”丘奇兰写道。“自爱扩展到一个相关但新的领域:他者之爱。”

这种变化的主要受益者是后代。进化引发了哺乳动物大脑回路的变化,以奖励对婴儿的照顾。母亲,在某些物种中,父母双方都竭尽全力保护和喂养后代,但往往对自己不利。

在《良心》一书中,丘奇兰描述了不同哺乳动物大脑的生化反应实验奖励社会行为,包括照顾后代。

“哺乳动物的社会性与其他缺乏皮层的社会性动物(如蜜蜂、白蚁和鱼)的社会性截然不同,”丘奇兰写道。“它更灵活,更少反射,对环境中的突发事件更敏感,因此对证据也很敏感。它对长期和短期考虑都很敏感。哺乳动物的社交大脑使它们能够在社交世界中导航,了解其他人的意图或期望。”

人类社会行为

人类的大脑拥有哺乳动物中最大、最复杂的皮层。我们人类的大脑是黑猩猩的三倍,我们在 5 到 8 百万年前与黑猩猩有共同的祖先。

更大的大脑自然使我们更聪明,但也有更高的能量需求。那么我们是怎么来支付卡路里账单的呢?丘奇兰写道:“学会在火上烹饪食物很可能是关键的行为改变,它允许人类大脑远远超出黑猩猩的大脑,并在进化过程中迅速扩张。”

随着身体能量需求的供应,古人类最终能够做更复杂的事情,包括发展更丰富的社会行为和结构。

因此,我们今天在我们的物种中看到的复杂行为,包括遵守道德规范和规则,一开始是为了生存和满足能量限制的需要。

“能量限制可能不时尚和哲学,但它们像雨一样真实,”丘奇兰在良心中写道。

我们的基因进化有利于社会行为。道德规范作为满足我们需求的实用解决方案而出现。而我们人类,就像其他所有生物一样,受进化法则的约束,丘奇兰德将其描述为“一个盲目的过程,没有任何目标,摆弄已经存在的结构。” 我们大脑的结构是无数次实验和调整的结果。

“在它们之间,支持社交和自我照顾的回路,以及内化社会规范的回路,创造了我们所说的良心,”丘奇兰写道。“从这个意义上说,你的良心是一种大脑结构,通过发展、模仿和学习,你关心自己和他人的本能被引导到特定的行为中。”

这是一个非常敏感和复杂的话题,尽管脑科学取得了所有进步,但人类思想和行为的许多奥秘仍然被锁定。

“能量需求在人类道德的古老起源中的主导作用并不意味着必须贬低正派和诚实。也不意味着它们不是真实的。无论出身卑微,这些美德对我们社会人来说仍然是完全值得钦佩和值得的。它们是使我们成为人类的重要组成部分,”丘奇兰写道。

人工智能与良心

在《良心》中,Churchland 讨论了许多其他主题,包括强化学习在社会行为发展中的作用,以及人类皮层通过经验学习、反思反事实情况、开发世界模型、从类似中进行类比的深远能力。模式等等。

基本上,我们使用相同的奖励系统,让我们的祖先得以生存,并利用我们分层皮质的复杂性在社会环境中做出非常复杂的决定。

“道德规范是在社会紧张的背景下出现的,它们以生物为基础。学习社会实践依赖于大脑的积极和消极奖励系统,也依赖于大脑解决问题的能力,”丘奇兰写道。

看完《良心》后,我对良心在人工智能中的作用有很多疑问。良心会是人类人工智能不可避免的副产品吗?如果精力和身体上的限制促使我们发展社会规范和尽责的行为,那么对人工智能是否也有类似的要求?来自世界的身体经验和感官输入在智力发展中是否起着至关重要的作用?

幸运的是,在阅读了《良心》之后,我有机会与丘奇兰博士讨论这些话题。

免责声明:本文由用户上传,如有侵权请联系删除!