Week 01 - 02 - Introduction to Ethics and Ethical Reasoning视图:倍速:
第 1 / 75 页
这一页讲的是伦理推理的介绍,属于课程COMPSCI 712: AI Agency, Ethics and Society的一部分。重点是伦理推理的重要性及其在AI领域的应用。
这一页讲的是伦理推理的介绍,强调其在AI领域中的重要性。伦理推理(Ethical Reasoning)是指在复杂的道德问题中,通过逻辑和原则分析来做出合理的判断。课程COMPSCI 712: AI Agency, Ethics and Society探讨了AI技术与伦理的关系,帮助学生理解如何在AI设计和应用中考虑伦理问题。这一页的内容由Tim Dare和Daniel Wilson的材料改编,表明课程内容基于权威学者的研究成果。伦理推理在AI领域尤其重要,因为AI系统的决策可能影响个人隐私、社会公平和全球安全。例如,设计自动驾驶汽车时,如何权衡乘客安全与行人安全就是一个典型的伦理问题。这一页为后续深入探讨伦理推理的理论和实践奠定了基础。
这一页讲的是人工智能(Artificial Intelligence, AI)的定义和基本概念。AI 指的是通过计算机模拟人类智能的技术和系统,包括学习、推理、感知和决策等能力。理解 AI 的定义是后续学习的基础,因为它涵盖了机器学习(Machine Learning)、深度学习(Deep Learning)等具体领域。通过这页内容,讲者可能希望引导大家思考 AI 的广泛应用,例如自动驾驶、语音识别和图像处理等,帮助我们理解 AI 在现代科技中的重要性。
第 4 / 75 页
这一页讲的是人工智能技术的应用转化,重点是ChatGPT的开发与功能。
这一页讲的是人工智能技术如何从机器人的概念转化为实际应用,具体展示了ChatGPT这一语言模型的成果。左侧的机器人图像象征着AI技术的复杂性与潜力,右侧的ChatGPT标志则代表了这种技术在语言处理领域的具体实现。箭头表明了从抽象技术到具体应用的转化过程。ChatGPT是基于大型语言模型(Large Language Model, LLM)的系统,能够理解并生成自然语言。它的重要性在于推动了人机交互的进步,比如客服、教育和内容创作领域的应用。一个例子是,它可以帮助用户快速生成文章或回答问题,从而提高工作效率。这页的核心是强调AI技术的实用性和影响力。
这一页讲的是人工智能叙事(AI Narratives)的主题,重点关注人类对智能机器的想象历史。这本书由 Stephen Cave、Kanta Dihal 和 Sarah Dillon 编辑,探讨了人类如何通过文学、电影和文化表达等方式构建关于智能机器的叙事。这些叙事不仅影响了公众对人工智能的理解,也塑造了技术发展的方向。右侧标题“Imagining the ‘Intelligent Machine’”强调了人类在想象和定义智能机器时的创造性思维。这种想象力对于理解人工智能的社会影响以及技术伦理具有重要意义。例如,科幻电影中的机器人角色常常反映人类对技术的希望或恐惧,这些叙事能够激发对人工智能未来的深刻思考。
这一页讲的是人工智能(Artificial Intelligence, AI)的广泛定义,以及不同技术之间的差异。AI 是一个涵盖多种技术的统称,例如 ChatGPT 和银行用于评估贷款申请的软件,它们在工作原理、用途、目标用户及失败方式上有显著不同。这强调了 AI 并非单一技术,而是一个复杂的技术集合。作者通过引用书籍《AI Snake Oil》的内容,提醒我们要理解 AI 的实际能力与局限性,并学会区分不同类型的 AI 技术。这对正确使用和评价 AI 系统至关重要,例如,ChatGPT主要用于语言生成,而银行软件则关注数据分析和决策支持。
第 9 / 75 页
这一页讲的是 AI 的定义及动态性,强调 AI 的范围随着技术发展而变化。
这一页讲的是人工智能(AI)的定义及其动态性。页面上的文字“AI is whatever hasn’t been done yet”传递了一个重要观点:AI 的定义并不是固定的,而是随着技术的进步不断变化。图中展示了一个机器人吸尘器,这种设备曾经被认为是 AI 的典型应用,但随着技术的普及和成熟,它现在更多被视为一种普通的自动化设备。这说明了 AI 的动态性:当某项技术变得常规化时,它可能不再被认为是 AI,而新的未解决的问题和技术挑战会成为新的 AI 领域。这个观点提醒我们,AI 的研究和应用是一个不断发展的过程,它不仅仅是技术的集合,更是解决尚未解决问题的工具。这种动态性使得 AI 的定义具有前瞻性,也推动了技术创新。
这一页讲的是描述性陈述 (Descriptive claims) 和规范性陈述 (Normative claims) 的区别。描述性陈述用于描述世界中的事实,例如“正在下雨 (It is raining)”或“恐龙化石在所有七大洲都有发现 (Dinosaur fossils have been found on all seven continents)”。这些陈述只陈述事实,不涉及任何价值判断。规范性陈述则包含价值判断,例如“乔纳·洛穆是有史以来最好的橄榄球运动员 (Jonah Lomu was the best rugby player of all time)”或“在人行道上骑电动滑板车很危险,应该被禁止 (Riding e-scooters on the footpath is dangerous and should be stopped)”。这些陈述表达了主观观点或建议,通常涉及对某一行为或现象的评价。理解这两种陈述的区别对于分析逻辑推理和伦理讨论非常重要。例如,“独角兽不存在 (Unicorns do not exist)”是描述性陈述,而“扔掉剩饭是错误的 (Throwing away leftovers is wrong)”则是规范性陈述,因为它包含了道德判断。
这一页讲的是伦理评估(Ethical Evaluations),主要探讨在决策或行为中如何判断其伦理合理性。幻灯片列出了五个关键问题:行为是否正确或错误(Was the action right or wrong?),结果是否公平(Is the result fair?),决策是否正义(Is the decision just?),行为是否尊重他人的道德权利(Does the act respect someone's moral rights?),以及是否有害处被群体利益合理抵消(Were any harms justifiably outweighed by the benefits to a group?)。这些问题帮助我们从不同角度评估行为的伦理性。例如,在一个团队决策中,如果某个成员的利益受损但整个团队获益,我们需要判断这种损害是否可以被群体的整体利益合理化。这些评估方法对于制定符合伦理的政策或解决道德冲突非常重要,特别是在人工智能决策中,确保系统的公平性和道德性是关键。
第 17 / 75 页
这一页讲的是评估伦理主张(Evaluating Ethical Claims)。它展示了一个 Reddit 社区“Am I the Asshole?”,用于讨论日常伦理问题和行为判断。
这一页讲的是评估伦理主张(Evaluating Ethical Claims),重点介绍了一个名为“Am I the Asshole?”的 Reddit 社区。这个社区是一个供用户分享日常生活中道德困境的平台,用户可以描述自己的行为并寻求其他人的判断:他们是否在特定情境中是“不对的”。页面显示了一个帖子,讨论家庭在感恩节的计划安排问题,提出了一个典型的伦理问题:是否合理要求家人主动承担责任。社区的侧边栏介绍了其宗旨,即为那些有道德困惑的人提供一个讨论和反思的空间。通过这种方式,用户可以从不同角度审视自己的行为,同时了解他人的观点。这种平台的意义在于,它鼓励了公开的伦理讨论,让人们更好地理解行为背后的道德逻辑,并在复杂的社会情境中寻找合理的解决方案。
这一页讲的是伦理学书籍《What We Owe to Each Other》的重要性及其在道德哲学中的应用。
这一页讲的是伦理学书籍《What We Owe to Each Other》的重要性及其在道德哲学中的应用。这本书由哲学家 T.M. Scanlon 撰写,主要探讨了人们在社会中彼此间的义务和责任。这本书对现代道德哲学影响深远,尤其是在讨论契约论(Contractualism)时具有重要地位。契约论的核心思想是道德原则应基于所有理性个体都能接受的理由。幻灯片中的人物展示这本书,可能是在强调道德哲学的实践性,例如如何通过哲学思考来解决日常生活中的道德困境。举例来说,书中可能会讨论我们是否有责任帮助陌生人,以及这种责任的边界是什么。这些问题不仅是哲学研究的核心,也与个人和社会的行为规范息息相关。
这一页讲的是一艘游艇在7月5日的地理位置,具体来说,它距离好望角(Cape of Good Hope)西北方向约2600公里。好望角是南非的一个著名地标,在航海和地理学中具有重要意义。通过这一信息可以推测游艇正在进行远洋航行,可能处于大西洋的某个位置。页面右侧的地球仪图像进一步强调了地理位置的全球视角,帮助观众直观理解位置关系。这一内容可能用于说明航行进程或展示航海技术的应用。
第 22 / 75 页
这一页讲的是船只遇到海浪导致沉没的事件。主要提到海浪撞击船只并损坏船体,以及船只迅速沉没的时间。
这一页讲的是一艘名为 Mignonette 的船遭遇海浪袭击的事件。幻灯片描述了海浪撞击船只,导致船体的一块木板破裂(springing a plank),这是船只结构受损的关键原因。随后,船只在大约五分钟内迅速沉没。这一事件突出了海洋环境中自然力量对船只的威胁,以及船体结构的脆弱性。通过这样的案例,可以理解船只设计和材料选择的重要性,例如如何增强船体的抗冲击能力以应对恶劣天气。图中展示的海浪形象化了自然力量的强大,帮助观众更直观地理解事件的背景。
第 23 / 75 页
这一页讲的是他们成功启动并登上救生艇,一个13英尺长的简易敞篷小艇。
这一页讲的是他们在紧急情况下启动并登上了一艘救生艇,这艘救生艇是一艘13英尺长的简易敞篷小艇(flimsy open dinghy)。这强调了救生艇的尺寸较小且结构简单,可能无法提供足够的保护或舒适性,但在危急时刻仍然是关键的生存工具。这种小型救生艇通常用于短时间的紧急逃生,设计上更注重轻便和快速部署,而非长时间的航行能力。这张幻灯片通过文字和图像结合,突出了救生艇的外形和功能特点,帮助观众理解在危急情况下如何依靠有限的资源进行自救。
这一页讲的是海上求生中的极端行为及其文化背景。首先,幸存者在四天后被一艘德国船救起,但船上的帕克(Parker)遗体显然暴露在小艇底部,幸存者并未试图否认他们的行为。这些行为是基于一种被称为“custom of the sea”(海上习俗)的传统。这种习俗在当时船难频发、救援机会渺茫的情况下形成,允许幸存者通过抽签决定牺牲某人,以便其他人得以存活,甚至包括杀害和食人行为。这种习俗反映了在极端环境下人类为了生存所采取的道德和伦理选择。通过这个例子可以看到,文化背景和生存压力如何影响人的决策。
这一页讲的是后果论 (Consequences Approach)。Dudley 认为杀害 Richard Parker 是合理的,因为这样可以带来最佳的后果——拯救其他三人的生命。当被问及为何没有按照海上习俗抽签决定牺牲者时,Dudley 解释说他的船员拒绝抽签,而 Richard Parker 因饮用海水濒临死亡。为了拯救三人,他加速了 Parker 的死亡,并提到他们有家庭需要照顾。这种观点基于一个假设:正确的行为是能够带来最佳后果的行为。后果论强调行为的道德性取决于其结果,而不是行为本身的性质。这种伦理学方法在实际决策中常被应用,例如在资源分配或危机管理中,优先考虑能最大化整体利益的选择。
第 34 / 75 页
这一页讲的是法律与道德后果的冲突。主要讨论了英国当局对海上习俗的态度,以及对杀害 Richard Parker 的法律和道德评判。
这一页讲的是法律与道德后果的冲突,重点分析了 Dudley 和 Stephens 因谋杀罪被起诉的案例。英国当局希望通过法律手段终结“海上习俗”(custom of the sea),即在极端情况下通过抽签或其他方式决定牺牲某人以拯救多数人的做法。幻灯片提到,当局可能承认从实际后果来看,杀害 Richard Parker 是最优选择,但他们更关心这种行为背后的规则后果。如果允许通过抽签或选择无依无靠者来决定牺牲对象,这可能会引发更大的伦理和法律问题。这一案例强调了法律对道德和实用后果的权衡。例如,如果这种习俗被合法化,将可能导致对生命价值的不同对待,从而影响社会规则的稳定性。这一讨论不仅涉及法律原则,还涉及伦理学中的功利主义与义务论的冲突。
这一页讲的是在面对问题时,人们可以有不同的责任分配和依赖关系的视角。图中展示了一个人遇到汽油耗尽的情况,有两种反应方式:第一种是希望路过的人停下来帮助自己,这反映了对外部环境的依赖;第二种是提到自己与 AA 签订了合同,表明通过事先的安排解决问题的主动性。这种对比强调了个人在问题解决中的主动性与被动性之间的选择。举例来说,如果一个人提前购买了保险或服务合同,那么即使遇到问题,也能通过既定协议获得帮助,而不是完全依赖于随机的外部援助。这种视角在设计系统或解决问题时非常重要,能够帮助我们更好地理解责任的分配和资源的利用。
这一页讲的是 Virtue Ethics(美德伦理学),它关注道德品格的重要性,并通过美德的存在或缺失来理解伦理行为,比如勇气、善良、公正等。幻灯片提到一个案例:Dudley 和 Stephens 的行为是否符合伦理,不仅仅取决于他们是否产生了最佳结果或尊重了他人的权利,而是要看他们是否体现了美德。美德伦理学强调实践智慧(practical wisdom)的必要性。由于无法完全依赖道德规则或原则来指导行为,我们需要通过那些具有美德的人物的品格和判断来做出道德决策。最后提出了一个关键问题:‘What would the virtuous person do?’(美德之人会如何行动?)。这个问题帮助我们在复杂的伦理情境中找到方向。例如,在面对一个需要勇气的决定时,美德伦理学会鼓励我们思考:一个真正勇敢的人会如何选择?
这一页讲的是伦理相对论(Ethics is relative to times and places),核心观点是伦理判断并非绝对,而是依赖于特定时间和文化背景。例如,当我们说某行为是对或错时,其实是在根据该文化的道德标准进行判断,而非基于独立的绝对真理。这意味着伦理的对错没有超越文化或实践的普遍标准。幻灯片中提到的例子是关于杀害并食用船舱男孩的行为,这种行为是否正确完全取决于当时的文化规范或个人视角。这一观点的重要性在于,它提醒我们理解和尊重不同文化的伦理体系,同时也揭示了伦理学中主观性与多样性的特点。
这一页讲的是“自我否定”(self-defeating)理论。内容指出某些观点可能自身存在逻辑矛盾,例如“所有真理都是相对的”(all truth is relative)。如果这句话本身是客观真实的,那么它就成为一个客观真理,从而否定了“没有客观真理”的主张。因此,这种观点会陷入自我否定的逻辑循环。相对主义者必须接受,这句话只能在相对主义的框架内才成立,而无法作为一个普遍真理。这一理论的重要性在于帮助我们识别逻辑上的矛盾,确保观点的逻辑一致性。例如,如果一个人主张“没有绝对规则”,但同时要求别人遵守这个规则,这就是一种典型的自我否定。
这一页讲的是文化差异与道德相对主义的关系。首先,观察到不同文化有不同的实践(practices),这可能引发相对主义观点,但即使存在文化间的伦理差异,也不能得出没有普遍道德真理(universal moral truth)的结论。具体来说:第一,关于一夫多妻制(polygamy)的争议并不意味着没有事实真理,就像地球形状的争议并不否定其客观事实一样;第二,可能存在更广泛的伦理共识,例如所有社会可能都认为“无端杀戮是错误的”(gratuitous killing is wrong);第三,不同的实践未必表明不同文化有完全不同的道德规则。这些论点说明,文化差异并不必然导致道德相对主义,普遍的道德真理仍可能存在。
这一页讲的是伦理判断(Ethical Judgments)与品味判断(Judgments of Taste)的对比。主要讨论伦理判断的个人性以及法律判断的权威性。
这一页讲的是伦理判断(Ethical Judgments)与品味判断(Judgments of Taste)的对比。首先指出伦理判断具有个人性,因为我们需要自己做出决定,而法律判断则由指定机构权威性地解决。法律可以明确规定什么是合法的行为,而伦理领域没有类似的权威机构,因此对伦理的怀疑观点在某种程度上是正确的。此外,当我们在伦理问题上存在分歧时,每个人的道德观点都是由自己得出的,没有任何伦理法庭可以推翻个人的判断。换句话说,每个人对正确行为的评估在伦理方面至少与其他人一样有效。这一页强调了伦理判断的主观性和法律判断的客观性之间的差异,帮助我们理解伦理和法律在实践中的不同处理方式。
这一页讲的是相对主义(Relativism)的核心问题,并强调它的局限性不是因为其本质上自我否定,而是因为它无法准确捕捉我们实际的实践和信念。具体来说,相对主义忽略了几个重要方面:第一,我们可能会犯错(the idea that we can be mistaken),这表明人类的认知和判断并非总是正确;第二,我们之间存在分歧(that we disagree),这反映了不同观点和立场的多样性;第三,我们可以通过交流理由(that we can give one another reasons)来相互理解和说服;第四,我们在某些问题上能够取得进展(that we make progress on some issues),这说明人类的讨论和合作可以推动解决问题。这些方面构成了人类社会实践和信念的重要特性,而相对主义无法全面涵盖这些动态性和复杂性。
第 68 / 75 页
这一页讲的是 AI伦理理论的表现形式,探讨技术对人类思维的潜在控制问题。
这一页讲的是 AI伦理理论的表现形式,重点讨论技术对人类思维的潜在影响和控制问题。图中展示了一个大脑被多个“ChatGPT”标签连接的场景,暗示人工智能可能通过其功能和应用对人类大脑产生影响。右侧的文字“Control of the Brain”进一步强调了这种可能性,提出了技术伦理中的核心问题:人工智能是否会干预或操控人类的自主性和决策能力。这一主题在AI伦理中非常重要,因为它涉及隐私、自由意志以及技术对社会的长期影响。例如,若AI被广泛用于教育或决策辅助,如何确保其不会过度影响个人选择?通过这样的视觉表现,这页幻灯片引导我们思考如何在技术发展中平衡创新与伦理责任。
这一页讲的是 Moral Machine 平台及其讨论机器决策中的伦理问题。图中展示了自动驾驶汽车在两种选择中的道德困境。
这一页讲的是 Moral Machine 平台,它是一个用于公众参与和讨论机器决策伦理问题的平台。图中展示了自动驾驶汽车在两种选择中的道德困境:左侧选择保持直行会撞到路障,导致车内乘客死亡;右侧选择转向会撞到行人,导致行人死亡。这种场景旨在探讨机器如何在复杂的伦理决策中权衡不同生命的价值。关键问题包括:机器是否应该保护车内乘客还是行人?是否需要考虑行人的身份或行为,比如年龄、社会角色等?这种讨论对于设计自动驾驶系统的伦理算法至关重要,因为它直接影响公众对技术的信任和接受度。通过 Moral Machine 平台,研究者可以收集公众对不同情境的偏好,帮助改进机器决策的合理性和道德性。
这一页讲的是技术与美德伦理(Technology and Virtue Ethics)。重点是探讨技术发展对伦理和美德的影响,以及如何在技术时代构建道德框架。
这一页讲的是技术与美德伦理(Technology and Virtue Ethics)。核心内容是分析技术快速发展对伦理道德的挑战,以及如何通过美德伦理学(Virtue Ethics)来应对这些挑战。美德伦理学强调培养个人的优秀品格和道德习惯,而不是仅仅依赖规则或后果来指导行为。在技术背景下,这种方法可以帮助我们在面对复杂的技术问题时做出更具人性化和负责任的选择。例如,人工智能(AI)的应用可能带来隐私问题或偏见问题,而通过美德伦理学,我们可以培养责任感和公平意识,确保技术发展符合人类的长远利益。这一页还暗示了技术与伦理的深度融合,以及需要哲学视角来引导技术的未来发展方向。