这一页讲的是“Consent”(同意),这是 COMPSCI 712课程中的一个重要伦理主题,由 Dr Kerry McInerney讲授。幻灯片强调了同意在人工智能(AI)领域的重要性,尤其是涉及数据隐私、用户授权和伦理决策时的关键作用。页面上的图标展示了一只手托着一个盾牌和钥匙,象征着保护和授权的概念。这表明同意不仅是用户授权的体现,还与安全性和信任密切相关。在 AI 应用中,确保用户知情并主动同意其数据的使用是伦理设计的核心。例如,AI 系统在收集用户数据时,必须明确告知用户用途,并获得明确授权。这一主题提醒我们,尊重用户的同意是建立负责任的 AI 系统的基础。
第 2 / 48 页
这一页讲的是学习目标,主要围绕 AI 中的同意机制展开,包括其重要性、伦理问题及法律框架。
这一页讲的是学习目标,重点是理解 AI 中的同意(consent)概念及其重要性。首先,探讨什么是同意以及为什么它在技术和伦理层面都至关重要。其次,分析当前 AI 系统中同意的概念化和应用方式可能引发的伦理问题,例如用户数据隐私和透明度。第三,介绍关键法律法规如 GDPR(欧盟《通用数据保护条例》)和 EU AI Act(欧盟人工智能法案)对同意的规定和处理方式,帮助学生理解法律如何规范技术行为。最后,鼓励学生思考其他关于同意的替代性观点,以及在 AI 环境中同意的具体含义。这些目标为深入讨论 AI 的伦理和法律问题提供了框架,同时强调同意在技术开发中的核心地位。
这一页讲的是同意权(The Right to Consent)。重点包括权利的定义与同意如何改变法律结构。
这一页讲的是同意权(The Right to Consent)。首先,权利被定义为一种能力或权力,能够改变现有的法律安排。这意味着个人通过行使同意权,可以主动改变权利与义务的结构。具体来说,同意是一种权力,它允许个人承担新的义务,并授权他人采取原本不被允许的行为。这种权力的重要性在于,它不仅影响法律关系,还对社会行为和互动产生深远影响。例如,一个人通过签署合同表示同意,可以授权他人使用其资源或服务,而这种行为在没有同意的情况下是不可接受的。幻灯片中的循环箭头象征了同意权的动态性,表明权利和义务的结构可以因同意而不断变化。
第 5 / 48 页
这一页讲的是同意(consent)的关键标准,包括自愿性和自主性。
这一页讲的是同意(consent)的关键标准。首先,同意必须是自愿的(voluntary consent),即没有强迫或胁迫。其次,同意必须是自由或自主地进行的(freely or autonomously)。幻灯片还提到,可以向人们提供理由来帮助他们决定是否同意,但如果同意是由于胁迫或操控而达成的,那么这种同意就不能被认为是自由或自主的。举例来说,如果某人因为害怕失去工作而被迫签署协议,这种同意就不符合以上标准。这些标准强调了在任何协议或互动中,确保个人的选择权和独立性的重要性。
这一页讲的是同意(consent)的重要性,从功利主义(utilitarian)或结果论(consequentialist)的角度分析。功利主义强调“最大多数人的最大幸福”(the greatest good for the greatest number)。从这一视角看,获得同意能够带来积极的后果:人们在参与需要他们投入的活动时,如果事先给予了同意,他们会感到更幸福;同时,这也更容易让人们参与和投入。这种同意的价值在于它能够作为一种手段,帮助实现幸福效用(utility of happiness)的最大化。幻灯片中的天平图象征了权衡和公平,进一步强调了同意在道德和社会实践中的重要性。
这一页讲的是《数据女性主义》(Data Feminism)的核心观点之一,即“同意与权力”(Consent is about Power)。作者 Catherine D’Ignazio 和 Lauren F. Klein 强调数据科学中的性别平等与权力动态的重要性。Catherine 是麻省理工学院的城市科学与规划助理教授,同时领导 Data + Feminism Lab;Lauren 是埃默里大学的英语和定量理论方法教授,领导 Digital Humanities Lab。这本书探讨了如何通过数据科学的视角揭示并挑战社会中的权力不平等。幻灯片还提到该书可以通过 datafeminism.io 免费获取。这一观点提醒我们,在数据收集和使用中,必须关注权力关系,确保尊重个体的同意并避免数据滥用。
这一页讲的是版权问题和大规模数据抓取。主要内容包括《纽约时报》起诉 OpenAI 和微软,指控其使用受版权保护的文章训练 AI 模型,以及版权保护的重要性。
这一页讲的是版权问题和大规模数据抓取,重点关注《纽约时报》起诉 OpenAI 和微软的案例。《纽约时报》指控这两家公司未经授权使用其数百万篇受版权保护的文章来训练 AI 模型,这些模型随后成为直接竞争对手。这一事件凸显了版权保护在 AI 领域的重要性,尤其是在数据抓取和模型训练过程中。通过这个案例,我们可以看到,AI 技术的发展需要在创新和版权保护之间取得平衡。大规模数据抓取虽然能提高模型性能,但如果涉及未经授权使用受保护内容,就可能引发法律纠纷。举例来说,类似的情况可能发生在其他媒体或内容创作者与技术公司之间,进一步推动对数据使用规范的讨论和制定。这一页的内容提醒我们,技术进步不能以牺牲知识产权为代价,相关各方需要共同努力,确保技术发展与法律法规相适应。
这一页讲的是选择替代方案的重要性。图片中有两盏灯泡和一只手指,象征着在决策中进行选择的过程。标题“What are the alternatives?”提醒我们,在解决问题或做决定时,不能只局限于单一方案,而是要主动寻找和评估多个替代选项。替代方案的比较可以帮助我们找到更优的解决方法,降低风险或成本。例如,在技术开发中,如果一种算法效果不佳,可以考虑其他模型或方法。通过系统性地分析替代方案,我们能够更好地满足需求并提升整体效率。这一页旨在培养学生的批判性思维和灵活性,为复杂问题找到最佳解决路径。
这一页讲的是 Feminist Approaches to Consent(女性主义视角下的同意)。主要探讨同意的定义及其在社会性别平等中的重要性。
这一页讲的是 Feminist Approaches to Consent(女性主义视角下的同意)。这一主题强调同意不仅是个人行为,更是社会性别平等的重要组成部分。女性主义视角认为,同意需要在权力平衡的环境中进行,确保双方都有平等的表达和选择权。这种方法挑战传统的性别角色和权力动态,强调尊重、透明和自主性的重要性。幻灯片上的图案使用了旗帜和人物符号,象征着女性主义运动的团结和力量。这种方法对社会政策、教育和文化都有深远影响。例如,在教育中推广健康的关系观念,帮助年轻人理解和实践尊重他人意愿的行为。
这一页讲的是“Terms We Serve With”文章的主题,探讨技术公司与用户之间的权力与信息不对称问题。
这一页讲的是“Terms We Serve With”这篇文章的核心内容,重点分析了技术公司与用户之间的权力和信息不对称关系。幻灯片提到,这种不对称关系主要通过合同协议合法化,而这些协议未能为多样化群体提供公平的服务。这种现象反映了数字技术领域的结构性问题,尤其是如何影响不同群体的权利和体验。通过引入女性主义社会想象的视角,文章可能试图提出一种新的框架来重新思考技术公司与用户之间的关系。这一主题对于理解技术伦理和社会公平非常重要,尤其是在人工智能和数据治理的背景下。
第 33 / 48 页
这一页讲的是《女性主义数据宣言》(Feminist Data Manifest-No),强调拒绝简化同意、反对殖民式数据文化与监控语言。
这一页讲的是《女性主义数据宣言》(Feminist Data Manifest-No),主要围绕数据同意的伦理问题展开。首先,反对将同意简化为一次性行为,例如点击服务协议的“同意”按钮,并倡导采用 Planned Parenthood 的 FRIES 模型,即确保同意是“自愿的、可撤销的、知情的、热情的和具体的”。其次,拒绝将女性主义的集体安全话语用于合法化监控,强调安全不应被视为服从高科技殖民秩序的手段,而是通过集体安全和同意来增强韧性、减少伤害、促进团结和赋权。最后,批判殖民式的“同意伪装”,指出这种文化掩盖了暴力和强制的根源,倡导基于互惠关系的数据实践,特别是为原住民设计的公平数据政策。这一宣言强调了数据伦理的重要性,呼吁重新定义数据同意的标准,以保护个人权利和集体安全。
第 34 / 48 页
这一页讲的是毛利人和原住民的同意方式,包括个人和集体自主权的重要性,以及研究合作的伦理要求。
这一页讲的是毛利人和原住民的同意方式,强调从 te ao Māori(毛利世界观)的角度来看,同意不仅仅基于个人自主权,还需要考虑集体自主权(例如家庭 whānau 和部落 hapū 的重要性)。幻灯片提到,虽然伦理研究指南可能会表面上关注社会和文化敏感性(例如使用祈祷 karakia 或赠送礼物 koha),但这些方法可能流于形式,无法真正解决资源提取性实践的问题。此外,个人成员在某些情况下(例如基因数据的收集或传统知识 mātauranga 和口述 kōrero tuku iho 的分享)给予的同意,可能会对集体利益造成风险。最后,幻灯片强调研究应以合作的方式进行,而不是单纯的交易关系。这种合作方式能够更好地尊重原住民社区的文化和集体权益,避免损害或剥削。
第 35 / 48 页
这一页讲的是Deepfakes的主题,重点是其在AI伦理和社会中的影响。
这一页讲的是Deepfakes(深度伪造技术)的主题,主要探讨其在人工智能领域的伦理问题和社会影响。这项技术利用AI生成虚假的图像、视频或音频,常常以假乱真。幻灯片上的图标显示了一个扩音器和一个错误标记,暗示Deepfakes可能涉及虚假信息传播的问题。这一主题在课程COMPSCI 712: AI Agency, Ethics and Society中非常重要,因为它涉及AI技术的责任、隐私保护以及对公众信任的潜在威胁。例如,Deepfakes可以被用于伪造名人讲话或制造政治虚假信息,从而影响公众舆论。理解这一技术的伦理挑战对于AI开发者和政策制定者来说至关重要。
这一页讲的是Deepfake的定义。Deepfake是一种通过先进的数字技术,将源图像与目标图像结合起来生成的图像或视频。这些内容在表面上看起来非常真实,通常表现为目标人物在做一些实际上并未发生的事情或说一些他们并未说过的话。幻灯片引用了Benn在2025年的著作《Deepfakes and Democracy》,进一步强调了Deepfake的虚假性和欺骗性。这种技术的重要性在于它对信息真实性的挑战以及潜在的社会影响,例如可能用于误导公众或损害个人声誉。图中的插图展示了两个看似真实的照片,但实际上这些内容是经过合成处理的,旨在帮助理解Deepfake如何通过视觉效果欺骗观众。
这一页讲的是保护认知公共健康(epistemic public health),强调深度伪造(Deepfakes)对社会认知健康的危害。
这一页讲的是保护认知公共健康(epistemic public health),重点讨论深度伪造(Deepfakes)如何像其他形式的虚假信息一样,对社会的认知健康造成毒害。幻灯片引用了 Benn 的观点,指出即使是少量虚假信息,也足以污染我们其他的信念体系。为了应对所有图像可能是伪造的风险,极端怀疑主义成为唯一合理的应对方式,但这种怀疑主义可能让我们陷入认知孤立。尽管如此,这种怀疑能够帮助我们避免相信虚假信息,但代价是可能错过真实信息。这一观点强调了深度伪造对民主和社会信任的潜在威胁,并提醒我们在信息时代保持警惕的重要性。瓶子图像象征着虚假信息的毒性,形象化地表达了其对认知健康的危害。