这一页讲的是 COMPSCI 712 课程的第十二讲，主题为歧视与偏见（第二部分）。重点是探讨 AI 系统中的伦理问题，尤其是如何应对偏见与歧视。

这一页讲的是 COMPSCI 712 课程的第十二讲，主题为歧视与偏见（第二部分）。这一讲主要关注 AI 系统中的伦理问题，特别是偏见与歧视的存在及其影响。偏见（bias）是指算法或数据在处理过程中产生的系统性误差，可能导致某些群体受到不公平对待；而歧视（discrimination）则是这种偏见在决策中表现为对某些群体的排斥或不公。课程可能会讨论偏见的来源，例如数据集的不平衡、模型训练中的隐性假设，以及如何通过技术手段（如公平性算法）或政策（如透明度和问责机制）来减少偏见和歧视的影响。这一主题对于 AI 的社会责任和应用的公平性至关重要，特别是在涉及招聘、医疗、司法等领域时。

这一页讲的是课程的议程，包括深入探讨 Cathy O’Neil 的 WMDs、分析压迫的统治矩阵，以及社会责任工具。

这一页讲的是课程的主要议程，分为三个部分。第一部分是深入探讨 Cathy O’Neil 的 WMDs（Weapons of Math Destruction），即数学破坏性武器，重点分析算法如何在社会中产生偏见和不公平。第二部分是分析压迫的统治矩阵（Matrix of Domination），该理论揭示了不同形式的压迫如何交织在一起，例如种族、性别和阶级等多重维度的影响。第三部分是社会责任工具（Tools of Social Responsibility），讨论如何通过技术和伦理手段促进公平和社会正义。这些内容旨在帮助学生理解技术与社会的复杂关系，并培养批判性思维。

这一页讲的是 Cathy O’Neil 提出的“数学毁灭性武器”理论的三个关键特征：不透明性（Opacity）、伤害性（Damage）和规模化（Scale）。

这一页讲的是 Cathy O’Neil 在《Weapons of Math Destruction》一书中提出的关于算法和模型可能带来的负面影响的三个特征。第一，不透明性（Opacity），指的是模型是否对参与者透明，是否让人了解其运作方式及用途。如果模型是完全不透明甚至隐形的，它可能会引发信任问题。第二，伤害性（Damage），强调模型是否违背了个体的利益，是否存在不公平，甚至对生活造成伤害或破坏。例如，一个招聘算法可能因为偏见而剥夺某些群体的就业机会。第三，规模化（Scale），探讨模型是否具有指数增长的能力，能否快速扩展并影响更广泛的人群。规模化使得模型的负面影响可能迅速扩大，造成更大的社会问题。这些特征提醒我们在设计和使用算法时，要关注其透明度、公平性和潜在的社会影响。

这一页讲的是 O'Neil 对 WMD（Weapons of Math Destruction）的不透明性问题，包括模型的解释性、透明性、样本量和变量选择等方面的缺陷。

这一页讲的是 O'Neil 对数学武器（WMD）的不透明性问题，列出了几个重要原因及例子。首先，缺乏解释性（explainability）导致使用者无法理解模型得分的来源，例如 COMPAS 系统仅返回一个分数，但被拒绝保释的人无法得知具体原因。其次，透明性不足（lack of transparency），例如 COMPAS 和 Northpointe（Equivant）是专有系统，无法公开模型细节，限制了审查的可能性。第三，样本量可能不具备统计意义（statistically sound），例如教师绩效模型仅基于 20-30 名学生的信息，这样的样本量不足以反映真实情况。第四，变量选择可能是错误的代理（poor proxies），例如用学生表现来衡量教师绩效或用面部特征预测犯罪性，这些变量与目标测量值的相关性很低。此外，WMD 中的许多假设被数学伪装，未经过测试和质疑，例如假设犯罪与面部特征有内在关系。这些问题揭示了不透明性如何导致模型的偏差和潜在危害。

这一页讲的是 Cathy O’Neil 的 WMD（Weapons of Math Destruction）中的“Opacity”问题，分析算法系统的不透明性及其带来的不公平。主要包括代理信息的使用、目标与实际优化的偏差以及反馈机制的缺失。

这一页讲的是 Cathy O’Neil 的 WMD（Weapons of Math Destruction）中的“Opacity”（不透明性）问题，重点探讨算法系统如何因不透明性导致不公平的决策。首先，表格的第一行指出，有时算法使用不公正或不相关的信息作为代理变量（proxies），例如种族或收入，这可能影响决策。例如 COMPAS 问卷中虽然没有直接询问种族，但通过其他变量间接反映种族信息，并被用于判刑决策，这种做法在法律上是不允许的。第二行强调系统的目标与实际优化之间可能存在偏差，外界认为系统优化某一目标，但实际上可能是为了利润最大化，例如保险定价可能表面上针对个人情况，但实际上可能优化的是公司收益。第三行提到统计系统需要反馈（feedback）来学习错误，但某些模型缺乏这种机制，例如华盛顿学区的增值模型案例。最后一行讨论了模型如何定义自己的现实并用其结果自我证明，例如 COMPAS 系统可能通过循环逻辑加剧不公平现象，例如对黑人被告的保释决定。这些问题揭示了算法系统的不透明性如何导致系统性偏见与不公。

这一页讲的是 Cathy O’Neil 的《武器化数学》（WMD）中算法系统可能造成的损害，列举了五种原因及相关案例。

这一页讲的是 Cathy O’Neil 在《武器化数学》（Weapons of Math Destruction, WMD）中提出的算法系统可能导致的损害，具体列出了五种原因及其对应的案例。第一，系统被人为操控导致不公平，例如教师评价算法中，部分教师通过人为提高学生成绩来获取更高评分，导致诚实教师被解雇。第二，系统接受了某些不公平（惩罚性）决策的存在，例如 Northpointe 的预测模型在不同人口统计学群体间接受错误率的存在。第三，即使发现算法或数据的问题，个人无法对结果提出申诉，例如 ROCROI 的风险评分系统对某些族群加分，但当时法院系统没有提供挑战决策的途径。第四，分析工具可能被用来识别弱势群体并加以剥削，例如营利性大学通过在线广告吸引经济困难的学生，同时采用欺诈性商业行为。第五，所谓“道德覆盖”（moral override），即在系统开发和使用中隐藏人类痛苦，例如金融危机中用数字、表格和风险评分掩盖了实际的社会影响。这些案例揭示了算法系统在设计和应用中可能产生的伦理和社会问题。

这一页讲的是 O'Neil 的《武器化数学模型》(Weapons of Math Destruction, WMD)如何扩大社会不平等及其负面影响。重点包括对贫困群体的惩罚、资源不均导致的系统操控，以及正反馈循环的恶化。

这一页讲的是 O'Neil 的《武器化数学模型》(Weapons of Math Destruction, WMD)如何通过规模化处理和算法偏见对社会造成损害。第一点是这些模型倾向于惩罚贫困群体，因为大规模处理的设计通常缺乏个性化服务，而富裕群体可以通过私人服务规避算法偏见，例如在医疗领域。第二点是社会资源的不平等导致某些群体更有能力操控系统，例如金融犯罪由于行业的财富和游说力量而受到较少的监管，而对贫困社区的零容忍政策却更加严格。第三点是正反馈循环的负面影响，例如在使用 PredPol（预测警务）和零容忍政策时，针对贫困社区的小犯罪数据会生成更多数据，从而进一步加强警务力度，形成恶性循环。这张表通过列举具体例子说明了这些问题的现实表现，例如私人医疗服务规避算法偏见和警务数据的循环强化，揭示了这些模型对社会公平的深远影响。

这一页讲的是 The Matrix of Domination（支配矩阵），介绍了四个领域：结构性、纪律性、霸权性和人际性。

这一页讲的是 The Matrix of Domination（支配矩阵），这是 Patricia Hill Collins 在《Black Feminist Thought》中提出的一个框架，用来分析权力和压迫的多维度表现。表格中列出了四个领域及其描述：1. Structural（结构性）：通过法律和政策组织压迫，强调制度层面如何塑造不平等；2. Disciplinary（纪律性）：管理和实施压迫，通过执行法律和政策来维持权力结构；3. Hegemonic（霸权性）：传播压迫性观念，主要通过文化和媒体影响社会认知；4. Interpersonal（人际性）：个人层面经历的压迫，反映人与人之间的互动如何体现权力关系。这一框架强调压迫的系统性和交织性，帮助我们理解社会中的不平等如何被维持和传递。比如，结构性压迫可能通过教育政策限制某些群体的机会，而霸权性压迫则通过媒体塑造刻板印象，从而加深这种不平等。

这一页讲的是算法公平性与Algorithmic Justice League的工作，强调算法偏见问题及其影响。

这一页讲的是算法公平性问题以及Algorithmic Justice League的相关工作。幻灯片展示了一位研究者与面部识别算法的互动，背景中的屏幕显示了算法对性别的判断。这反映了算法在处理敏感信息时可能出现的偏见，例如性别或种族的错误分类。Algorithmic Justice League是一个致力于揭露和纠正算法偏见的组织，旨在推动更公平的人工智能系统。算法偏见可能导致社会不公，例如招聘、信用评分或执法中的歧视性结果。通过研究和倡导，Algorithmic Justice League提醒我们在开发和使用人工智能时需要关注公平性问题，并推动技术行业承担责任。一个例子是面部识别技术在不同种族的识别准确率上存在显著差异，这可能导致实际应用中的不公平后果。

这一页讲的是社会责任工具（Tools of Social Responsibility），包括外部力量、组织因素和个人因素的不同层级及其对应的工具。

这一页讲的是社会责任工具的分类及其应用。图中分为三个层级：外部力量（External Forces）、组织因素（Organisational Factors）和个人因素（Individual Factors）。外部力量主要通过结构性工具（Structural），如法律法规（Legal Regulation），以及纪律性/霸权性工具（Disciplinary/Hegemonic），如政策、原则、媒体和倡导团体来影响社会责任。组织因素则侧重于技术性工具（Technical Tools），如偏见审计系统（Bias Auditing Systems），用于确保组织行为符合社会责任要求。个人因素则通过人际工具（Interpersonal），例如意识培养、教学和学习活动（如书籍、纪录片、课程和工作坊），提升个体对社会责任的理解和实践能力。这三个层级共同构成了社会责任工具的框架，强调从宏观到微观的全面覆盖。

这一页讲的是媒体对人工智能技术的报道，内容涉及算法偏见、面部识别技术试验及预测儿童住院风险的AI。

这一页讲的是媒体对人工智能技术的关注与报道。从左到右分别是三篇文章：第一篇探讨算法是否能够以无偏见的方式影响我们的生活，质疑算法决策的公正性与伦理问题；第二篇揭示新西兰警方未经许可试验面部识别技术的事件，强调隐私与监管的重要性；第三篇介绍一种新西兰开发的人工智能工具，该工具可以预测儿童住院风险，但也引发了类似技术在其他场景中使用的争议。这些报道反映了AI技术在社会中应用的复杂性，既有潜在益处，也伴随伦理与隐私挑战。例如，面部识别技术可能帮助警方提高效率，但未经授权的试验可能侵犯公众隐私权。预测儿童住院风险的AI工具则展示了技术在医疗领域的潜力，同时提醒我们需谨慎处理数据偏见与伦理问题。这些案例说明了在开发和应用AI技术时，透明度和监管机制的重要性。

这一页讲的是数据科学伦理倡导组织，介绍了三个相关机构及其网站链接。

这一页讲的是数据科学伦理倡导组织，展示了三个致力于推动人工智能和数据科学伦理的机构。第一个是 Algorithmic Justice League (AJL)，它专注于算法公平性，强调技术不应只服务于特权阶层，呼吁公众参与推动负责任的人工智能。第二个是 AI Now Institute，这是一家研究机构，主要探讨人工智能的社会影响，关注技术与人权之间的关系。第三个是 Te Mana Raraunga，这个组织代表毛利数据主权网络，强调数据主权的重要性，倡导保护原住民数据的权利。这三个组织分别通过研究、倡导和社区参与推动数据科学伦理发展，相关网站链接也提供了进一步了解它们工作的途径。

这一页讲的是政府对人工智能(AI)的监管问题。主要内容包括科技领导者的呼吁、政府算法使用增加的研究结论，以及GDPR法规的指南。

这一页讲的是政府如何对人工智能(AI)进行监管的问题。首先，科技领导者呼吁政府加快对AI技术的监管，指出立法者通常无法跟上技术发展的速度，导致监管滞后。其次，研究表明政府机构对算法的使用正在增加，这引发了对监管需求的进一步关注，尤其是在确保透明度和公平性方面。此外，页面还提到了GDPR（General Data Protection Regulation）法规，这是欧盟针对数据隐私和保护的全面法律框架。GDPR为组织和个人提供了具体的指南，以帮助他们遵守数据保护要求。这些内容共同强调了AI监管的重要性，尤其是在技术快速发展的背景下，政府需要制定明确的规则以应对潜在的风险和挑战。例如，AI算法可能会影响公共政策决策，因此需要确保其透明性和公平性。

这一页讲的是欧盟人工智能法案（EU AI Act）的分类与监管框架。主要分为禁止、风险高、风险有限和风险低四类，并对应不同的监管要求。

这一页讲的是欧盟人工智能法案（EU AI Act）对人工智能系统的分类及其监管要求。图中使用了一个金字塔结构，分为四个层级：禁止类（Prohibited AI systems）、高风险类（High-risk AI systems）、有限风险类（Limited-risk AI systems）和低或最小风险类（Low or minimal-risk AI systems）。 禁止类位于金字塔顶端，包括社会评分（social scoring）、公共场所实时生物识别系统（real-time biometric identification systems）等，这些系统被完全禁止，依据法案第5条。 高风险类位于第二层，涉及产品安全法规或关键基础设施管理等领域的AI系统，这些系统受到严格监管，需遵守法案第6至51条的要求。 有限风险类位于第三层，如聊天机器人（chatbot）等直接与人交互的系统，这些系统需满足透明性要求，依据法案第52条。 低或最小风险类位于底层，包括计算机游戏中的AI或垃圾邮件过滤器等，这些系统不受任何限制。 这一分类框架帮助明确不同类型AI系统的监管重点，确保技术应用的安全性与伦理性。例如，实时生物识别系统因潜在隐私风险被禁止，而聊天机器人需透明化以保护用户权益。

这一页讲的是人工智能相关的指导原则和规范。主要包括新西兰算法宪章、政府数据分析安全指南、北京人工智能原则，以及OECD的五项AI原则。

这一页讲的是人工智能领域的指导原则和规范，旨在促进数据和算法的透明性、安全性以及负责任的使用。首先，新西兰的算法宪章（Algorithm Charter for Aotearoa New Zealand）是一个自愿性规范，帮助政府数据系统实现透明和问责。其次，新西兰统计局和隐私委员会联合制定了政府数据分析安全指南，强调数据分析的安全性和有效性。第三，北京人工智能原则（Beijing AI Principles）由北京人工智能学会发布，提出了人工智能发展的伦理和社会责任框架。最后，经济合作与发展组织（OECD）发布了五项AI原则，旨在确保人工智能的可信性和负责任的管理。这些规范和原则为全球人工智能的开发和应用提供了重要的指导框架，帮助各国在技术发展中平衡创新与伦理责任，例如通过透明的算法设计减少偏见或误用。

这一页讲的是算法审计服务和工具，包括公平性检测、社会影响研究及开源工具等。

这一页讲的是算法审计服务和工具，重点介绍了几种用于检测和减少模型偏差的工具和研究。首先，Google 的 TensorFlow 提供了“fairness indicators”工具，用于检测模型中的偏差。其次，Microsoft 的研究团队 FATE（公平性、公正性、透明性和伦理）专注于研究人工智能的社会影响。此外，IBM 开源了 AI Fairness 360 工具，帮助开发无偏差的模型。还有一篇名为《Delayed Impact of Fair Machine Learning》的论文，由 Liu 等人在 ICML 2018 上获得最佳论文奖，探讨了公平机器学习的延迟影响问题。页面还列出了两个相关资源链接：ORCAA（Algorithm Auditing for Transparency, Bias & Fairness）以及 Aequitas（Bias and Fairness Audit Toolkit），分别提供算法审计服务和偏差评估工具。这些工具和研究对于确保人工智能系统的公平性和透明性至关重要，能够帮助开发者识别潜在的偏差并采取改进措施。

这一页讲的是企业内部的AI原则与伦理委员会。重点包括微软的AI原则、Axon的伦理委员会以及谷歌取消AI伦理委员会的事件。

这一页讲的是企业如何通过内部AI原则与伦理委员会来规范人工智能技术的开发与应用。首先，微软的AI原则列出了六个核心价值，包括公平性（Fairness）、包容性（Inclusiveness）、可靠性与安全性（Reliability & Safety）、隐私与安全（Privacy & Security）、透明性（Transparency）以及问责性（Accountability）。这些原则强调AI系统应公平对待所有人，增强用户参与感，同时保证安全、隐私以及算法责任。其次，Axon公司设立了专门的AI与警务技术伦理委员会（Axon AI and Policing Technology Ethics Board），以监督其技术在执法领域的应用，确保伦理规范。最后，幻灯片提到谷歌因外界反对而取消了其AI伦理委员会，这表明伦理委员会的设立和管理可能面临社会舆论的挑战。通过这些案例可以看出，AI伦理委员会和原则的设立对于规范技术发展、提升公众信任具有重要意义，同时也需要应对外部压力和复杂的社会问题。

这一页讲的是个人承诺中的 FORTS 框架，涵盖公平、公正、可靠性、信任和社会利益五个原则。

这一页讲的是个人承诺中的 FORTS 框架，强调数据伦理实践的五项核心原则。第一，公平（Fairness）要求理解并减轻数据实践中的偏见，同时清晰传达偏见的存在。第二，开放性（Openness）提倡谦逊和透明的社区参与，以及负责任的沟通，这些都是数据伦理的重要组成部分。第三，可靠性（Reliability）强调对数据内容及其来源的全面理解，并为未来的数据用户提供支持。第四，信任（Trust）旨在建立公众对数据从业者的信心，通过负责任地使用数据和算法来促进全球范围内的信息参与。最后，社会利益（Social Benefit）将人类和生态系统的福祉置于优先位置，最大化社会利益并减少潜在伤害。这一框架为数据伦理实践提供了清晰的指导，帮助从业者在技术应用中兼顾社会责任与技术进步。

这一页讲的是数据与机器学习伦理相关的书籍推荐，涵盖偏见、社会影响和数据主权等主题。

这一页讲的是数据与机器学习伦理（Data & ML Ethics）的相关书籍推荐。这些书籍探讨了数据科学和人工智能技术在社会中的伦理问题。例如，《Weapons of Math Destruction》分析了算法如何加剧社会不平等并威胁民主；《Automating Inequality》讨论了高科技工具如何对弱势群体进行分类和惩罚；《Ethics and Data Science》提供了数据科学家在工作中需要遵守的伦理指南。《Algorithms of Oppression》揭示了搜索引擎如何强化种族歧视；《Artificial Unintelligence》强调计算机在理解世界时的局限性；《Hello World》探讨了人与机器共存的时代如何保持人性；《Indigenous Data Sovereignty》则关注原住民数据主权问题。这些书籍帮助读者了解技术与社会之间的复杂关系，提醒我们在使用数据和算法时需要关注公平性与伦理性。

这一页讲的是数据与机器学习伦理相关的书籍，列出了几本重要著作，包括《AI Ethics》和《Atlas of AI》。

这一页讲的是数据与机器学习伦理相关的书籍，重点介绍了几本具有代表性的著作。这些书籍探讨了人工智能和数据技术对社会、文化和伦理的影响。例如，《AI Ethics》关注人工智能技术的伦理框架和社会责任问题；《Tools and Weapons》讨论了数字时代技术的承诺与风险；《Atlas of AI》深入分析了人工智能的生态系统及其对社会的影响。此外，《Race After Technology》探讨技术如何加剧种族不平等问题，而《Indigenous Data Sovereignty and Policy》重点讨论了原住民数据主权及政策问题。这些书籍为理解技术的伦理挑战提供了多角度的视野，适合研究人工智能伦理的学者和从业者阅读。

这一页讲的是三个与科技伦理相关的纪录片，包括《Coded Bias》、《The Social Dilemma》和《The Great Hack》。

这一页讲的是三个探讨科技与社会问题的纪录片。首先，《Coded Bias》聚焦人工智能和算法中的偏见问题，揭示了机器学习模型可能会加剧社会不平等现象。其次，《The Social Dilemma》讨论了社交媒体的负面影响，分析其如何通过算法操控用户行为，带来心理健康问题和社会分裂。最后，《The Great Hack》深入探讨剑桥分析公司如何利用数据操控选举，揭示了数据隐私和政治操控的风险。这些纪录片通过真实案例和专家观点，帮助观众理解科技对社会的深远影响，强调了科技伦理的重要性。观众可以通过页面提供的链接进一步了解这些影片。

这一页讲的是奥克兰大学的视觉呈现与文化背景。重点包括大学标志、毛利文化元素和城市景观。

这一页讲的是奥克兰大学（University of Auckland）的视觉呈现，展示了其文化与地理背景。幻灯片左上角是大学的标志，包括校名和毛利语名称“Waipapa Taumata Rau”，体现了新西兰毛利文化的重要性。背景图中有两部分：一部分是毛利雕刻的传统艺术，象征着新西兰的原住民文化；另一部分是奥克兰市的城市景观，包括著名的天空塔（Sky Tower），代表现代化与地理位置。整体设计融合了传统与现代，突出了大学的文化多样性和地理优势。这种视觉呈现不仅表达了学校的文化认同，也传递了其国际化与包容性的价值观。例如，毛利雕刻的细节展现了新西兰原住民的艺术传统，城市景观则体现了奥克兰作为新西兰最大城市的繁华与活力。