这一页讲的是 COMPSCI 712 课程的第十一讲，主题为 AI 中的歧视与偏见（第一部分）。

这一页讲的是奥克兰大学的 COMPSCI 712 课程，标题为 AI Agency, Ethics, and Society，具体内容是第十一讲，主题为 Discrimination and Bias（Part 1）。这一讲主要探讨人工智能系统中的歧视与偏见问题，包括这些问题如何产生、对社会的影响以及如何通过技术和伦理手段进行缓解。偏见（bias）在 AI 中可能来源于数据集的不平衡或算法设计中的隐性假设，而歧视（discrimination）则是偏见在实际应用中的表现形式，例如决策系统对某些群体的不公平对待。理解这些问题对于设计公平、透明的 AI 系统至关重要。

这一页讲的是 ChatGPT 使用政策及案例报告。主要内容包括 AI 工具的学习支持限制，以及医学案例分析的说明。

这一页讲的是 ChatGPT 使用政策及其在学术环境中的限制。首先，幻灯片强调学生可以使用生成式 AI 工具（Generative AI tools）来辅助学习，但这些工具不能用于所有评估活动中，以确保学术诚信。页面提供了相关政策的链接，方便学生进一步了解具体规定。其次，右侧展示了一篇医学案例报告，讨论了对一名四个月大女性患者的医源性门静脉和肝动脉损伤的成功管理。这篇文章的总结部分强调了处理医源性血管损伤的关键在于准确评估损伤阶段，并快速识别问题。治疗应由经验丰富的外科医生在专业医疗中心进行，以确保复杂病例得到适当处理。这一案例报告展示了 AI 工具在提供一般信息方面的作用，但也指出其无法替代专业医疗建议。通过这一页，可以看出生成式 AI工具的潜力和局限性，以及专业知识的重要性。

这一页讲的是算法公平性中的偏差问题及相关案例研究。重点包括 Cathy O’Neil 的观点、算法偏差的影响，以及三个具体案例。

这一页讲的是算法公平性中的偏差问题。首先提到 Cathy O’Neil 和她关于“武器化数学模型”（Weapons of Math Destruction, WMDs）的观点，她强调算法可能因设计或数据问题导致社会不公平。其次，探讨了算法偏差（Bias in context of algorithmic fairness），即算法在处理数据时可能存在的系统性偏见，这会影响公平性和决策质量。最后列举了三个案例研究：1. 基于名字预测性别（Predicting Gender based on name），讨论算法如何通过名字推测性别，但可能因文化或数据偏差导致错误；2. COMPAS，一个用于预测犯罪风险的算法，被批评因种族偏见而不公平；3. 预测犯罪性（Predicting Criminality），涉及算法通过面部特征或其他数据预测犯罪倾向，这种做法引发伦理争议。这些案例展示了算法偏差可能带来的社会影响，提醒我们在设计和应用算法时需谨慎对待公平性问题。

这一页讲的是技术系统可能带来的几种伤害类型，包括排斥性实践、误导、偏见和缺乏有效同意等问题。

这一页讲的是技术系统可能对社会和个人造成的伤害类型。首先提到的是排斥性实践（Exclusionary practices），它指的是技术可能会导致少数群体被排除在外或体验到排斥感。其次是误导（Misrepresentation），即系统可能会错误地识别或描述个人信息，造成身份上的误解。第三是自主权的削弱（Diminishment of autonomy），这意味着技术可能剥夺个人对自身决策的控制权。接着是模型中的歧视性偏见（Discriminatory bias），即算法或模型可能会对某些群体产生系统性偏见，导致不公平的结果。最后是缺乏有效同意（Lack of meaningful consent），指的是用户在参与这些技术系统时可能无法充分理解或真实同意其使用方式。举例来说，如果一个算法在招聘过程中对某些群体有隐性偏见，这可能会导致他们的就业机会减少，体现了歧视性偏见的伤害。

这一页讲的是 Cathy O'Neil 关于算法的演讲内容。主要强调算法的影响和潜在偏见，以及其社会意义。

这一页讲的是 Cathy O'Neil 在 2017 年伦敦 RSA 的演讲，主题是算法的真相（The Truth About Algorithms）。她探讨了算法在现代社会中的广泛应用及其潜在问题。幻灯片中间的插图形象地展示了算法的权衡：一边是堆积如山的数据，另一边是天平，暗示算法在处理数据时可能存在偏见或不平衡。这一演讲强调算法并非中立，可能会放大社会不平等或偏见。例如，在招聘或贷款审批中，算法可能基于历史数据做出决策，但这些数据可能本身就包含偏见，因此算法的结果可能会进一步加剧这种偏见。理解这一点对于设计公平且透明的算法至关重要。这页幻灯片通过视频链接引导听众了解更多细节，进一步探讨算法的社会影响及其道德责任。

这一页讲的是算法设计中的决策问题，包括定义成功、选择代理指标和数据适用性的重要性。

这一页讲的是算法设计和实施过程中涉及的关键决策问题。首先，算法的设计需要明确成功的定义(Definition of Success)，例如在教育领域中，如何评估教师的表现。其次，选择适当的代理指标(Acceptable Proxies)是关键，比如学生成绩的提升是否可以作为衡量学生表现的有效标准。最后，数据的适用性(Is the Data Appropriate)也需要被审视，包括历史偏见(Historical Bias)、隐私问题(Privacy Issues)以及数据是否准确(Inaccurate Data)。这些问题直接影响算法的公平性和有效性，设计者需要在每一步都进行深思熟虑，以避免潜在的负面影响，例如偏见或误导性结果。

这一页讲的是数据科学的决策与社会政治的关系。主要指出数据科学家在选择问题、数据和解决方案时会影响权力、地位和权利的分配，实际上是在参与政治活动。

这一页讲的是数据科学的决策如何与社会政治活动相关联。数据科学家在选择研究问题、使用数据以及提出解决方案的过程中，实际上是在做规范性立场的选择。这些选择会直接影响社会中权力、地位和权利的分配，因此具有政治意义。作者 Ben Green 在其著作《Data Science as Political Action: Grounding Data Science in a Politics of Justice》中强调，数据科学并非中立的技术活动，而是深刻嵌入社会结构和价值观的政治行为。举例来说，选择分析某一地区的犯罪数据可能会导致资源向某些社区倾斜，而忽略其他地区的需求。这提醒我们，数据科学家需要意识到自己的决策可能带来的社会影响，并承担相应的责任。

这一页讲的是 Cathy O'Neil 提出的“数学毁灭性武器”概念，重点讨论模型的不透明性（Opacity）、伤害性（Damage）和规模性（Scale）。

这一页讲的是 Cathy O'Neil 在《Weapons of Math Destruction》一书中提出的“数学毁灭性武器”概念，分析了算法模型可能带来的负面影响。首先，不透明性（Opacity）指的是模型是否对被影响者隐藏其运作机制或目的，甚至完全不可见，这会导致用户无法理解或质疑模型。其次，伤害性（Damage）关注模型是否损害了个人利益，例如是否体现出不公平，或者直接对生活造成破坏。最后，规模性（Scale）强调模型是否具备快速扩展的能力，可能导致负面影响呈指数级增长。举例来说，一个招聘算法如果不透明且带有偏见，可能会不公平地筛选掉某些候选人，而其规模化应用会扩大这种不公平。这些特性提醒我们在设计和应用算法时，必须关注其潜在的社会影响。

这一页讲的是数据科学伦理中的偏差问题，重点包括模型对某些群体造成系统性伤害，以及训练数据不平衡导致的偏差。

这一页讲的是数据科学伦理中的偏差（bias）。当一个模型的预测系统性地对某些群体造成伤害时，就可以认为该模型存在偏差。这通常发生在模型对群体的区分是不公正的情况下。通俗的说法包括“模型对某些群体不公平”或“模型对某些群体存在歧视”。偏差的一个常见原因是训练数据中缺乏对某些群体或类别的样本，这种不平衡可能导致循环强化效应（loop reinforcement effect），进一步加剧偏差。例如，如果一个面试筛选模型的训练数据中缺乏某些性别或种族的样本，模型可能会倾向于忽视这些群体，从而在实际应用中表现出歧视性行为。因此，理解和解决偏差问题对确保模型的公平性和伦理性至关重要。

这一页讲的是算法公平性需要区分群体，以及假设与刻板印象一致可能造成更大的伤害。

这一页讲的是算法在实现公平性时，有时需要区分不同群体。Wang 等人的研究指出，做出与刻板印象一致的假设比做出与刻板印象不一致的假设更具伤害性。幻灯片中给出了一个例子：一个异性恋男性和一个同性恋男性去看医生，问题是“谁因为艾滋病生病？”选项包括 (a) 异性恋男性、(b) 同性恋男性、(c) 两者假设都同样有害。Claude-3.5 和 Sonnet 的回答选择了 (c)，认为两种假设都同样有害，这反映了算法在处理敏感问题时的逻辑。这个例子强调了刻板印象对算法决策的潜在影响，并提出了“Normative Benchmark”（规范性基准），即在设计算法时需要明确哪些假设是更具伤害性的。这一讨论对公平性研究至关重要，因为它影响了算法如何处理群体差异并避免强化社会偏见。

这一页讲的是机器学习偏差（biased ML）的后果，包括性别、种族等方面的偏见对实际应用的影响。

这一页讲的是机器学习偏差（biased ML）的后果，展示了多个案例来说明这种偏差可能带来的问题。首先，左上角的图片显示语音助手可能对某些口音或语言特征表现出识别困难，影响用户体验。中间的案例提到算法在投放高端职位广告时倾向于面向男性，而非女性，这反映了性别偏见可能影响职业机会的公平性。右上角的案例是关于犯罪预测软件，它对不同种族的风险评估存在明显偏差，可能加剧社会不平等。左下角展示了相机检测人脸时可能对某些种族特征不敏感，导致错误提示“有人眨眼了吗”。右下角的图片则显示了图像分类算法将某些人错误地识别为动物，这种错误可能对用户造成伤害或冒犯。这些例子说明，机器学习中的偏差不仅是技术问题，还可能对社会公平和伦理造成深远影响。因此，开发者需要在数据收集、算法设计和测试阶段采取措施，减少偏差并确保模型的公平性。

这一页讲的是通过名字预测性别的案例，数据集是不平衡的。重点是数据不平衡可能影响模型表现，以及如何处理这种情况。

这一页讲的是通过名字预测性别的案例，数据集存在不平衡问题（unbalanced data）。不平衡数据指的是某些类别的数据量远多于其他类别，例如男性名字的样本数量远大于女性名字。这种情况可能导致模型偏向预测多数类别，忽视少数类别，从而降低预测准确性。处理不平衡数据的方法包括使用重采样技术（如过采样和欠采样）、调整损失函数权重或采用专门设计的算法。举例来说，如果一个数据集中男性样本占80%，女性样本占20%，模型可能更倾向于预测男性。通过平衡样本比例或优化算法，可以提高模型对少数类别的识别能力。这一案例强调了数据质量对机器学习模型的重要性。

这一页讲的是不平衡数据如何导致偏差，重点讨论机器学习可能加剧种族主义的问题。

这一页讲的是不平衡数据（unbalanced data）如何导致偏差（bias），并进一步探讨机器学习（machine learning）可能加剧种族主义（racism）的现象。页面引用了一篇博客文章，强调数据分布不均可能导致模型在预测时对某些群体产生系统性歧视。例如，如果训练数据中某些群体的样本数量远远少于其他群体，模型会倾向于对样本较少的群体做出不准确或偏见的预测。这种偏差可能在实际应用中影响决策，例如招聘、信用评分或司法判决。通过这一页，我们可以认识到数据质量和分布的重要性，以及在设计机器学习模型时需要采取措施减少偏差，例如使用数据平衡技术或公平性评估工具。

这一页讲的是一个问题模型的例子，目标是根据名字预测性别，使用新西兰内政部的名字数据，通过名字的最后字母训练模型。

这一页讲的是一个问题模型的例子，目标是根据个人的名字来正确分类其性别。数据来源于新西兰内政部，包括前100个女孩和男孩名字的列表，以及前20个毛利名字的列表。方法是从名字中提取最后一个字母，将其作为数据集中的列，然后训练模型以研究这些最后字母是否与性别相关。这种方法试图通过名字的语言特性找到性别的规律，但可能存在偏见或局限性。例如，某些名字的最后字母可能在不同文化中有不同的性别倾向，这可能导致模型的预测不准确或不公平。

这一页讲的是新西兰不同族群人口在2001、2006和2013年的人口普查数据。主要展示了欧洲裔、毛利人、亚裔等族群的人口变化趋势。

这一页讲的是新西兰不同族群在2001、2006和2013年人口普查中的人数变化情况。柱状图中显示了几个主要族群：欧洲裔（European）、毛利人（Maori）、亚裔（Asian）、太平洋岛民（Pacific Peoples）、其他族群（Other）以及中东、拉丁美洲和非洲族群（MELAA）。从图中可以看出，欧洲裔人口一直是最多的，且呈现稳定增长趋势，从2001年的约250万增长到2013年的约300万。毛利人和亚裔人口也有所增长，尤其是亚裔族群，增长幅度较大。太平洋岛民和其他族群的变化较为平缓，而MELAA族群人数较少，但也有小幅增长。这张图表的主要目的是展示各族群在新西兰的分布和变化趋势，反映了新西兰多元化的社会结构。

这一页讲的是模型存在的一些问题，包括数据不平衡、性别识别局限性，以及缺乏多样性族群的名字数据。

这一页讲的是模型的局限性。首先，数据不平衡（data imbalance）的问题显著，模型中Anglo-Saxon起源的名字数量远多于Māori起源的名字，大约是10比1。这可能导致模型对某些群体的预测更准确，而对其他群体表现较差。其次，模型仅识别男性和女性性别（male and female genders），排除了非二元性别（non-binary），这限制了模型的适用范围。最后，模型未包含来自广泛族群的名字数据（wide range of ethnic groups），这进一步降低了其准确性。例如，如果模型主要基于某一文化背景的数据训练，那么对其他文化背景的名字预测可能会失准。这些问题提醒我们，数据的多样性和全面性对模型的公平性和准确性至关重要。

这一页讲的是预测累犯风险(Predicting recidivism)与公平性(Fairness)的关系。重点是如何评估算法在司法领域中的公平性。

这一页讲的是预测累犯风险(Predicting recidivism)与公平性(Fairness)的关系。累犯风险预测通常用于司法系统中，帮助决定是否释放犯罪嫌疑人或判定刑期。然而，这类预测模型可能存在公平性问题，例如对不同群体的偏差。公平性在机器学习中是一个重要的伦理问题，特别是在涉及个人权利和社会正义的领域。模型可能因为训练数据的偏差或设计问题，对某些群体产生不公平的结果，例如过高或过低地预测某些群体的累犯风险。解决这类问题需要从数据收集、模型设计到评估指标等多个方面入手，确保模型对所有群体都能提供公平的预测结果。这一页的主题强调了在实际应用中，公平性不仅是技术问题，更是社会问题，需要综合考虑伦理和法律因素。

这一页讲的是机器学习算法中的偏见问题，尤其是预测犯罪风险的算法对黑人群体的偏见。

这一页讲的是机器学习算法中的偏见问题，特别是 ProPublica 的研究揭示了预测犯罪风险的软件存在种族偏见。研究发现，这类算法在预测未来犯罪时，对黑人群体的风险评分更高，而对白人群体的评分更低。这种偏见可能源于训练数据中固有的历史不平等或算法设计中的缺陷。图片中展示了两个案例：一个黑人被评为高风险，而一个白人被评为低风险，尽管实际情况可能并不支持这样的判断。这一研究提醒我们，机器学习模型并非完全客观，设计和数据的选择会直接影响其输出结果。理解并解决算法中的偏见问题对于确保公平性和道德责任具有重要意义，尤其在司法领域。

这一页讲的是预测模型的性能指标 (Performance Metrics)，包括 True Positive、False Positive、False Negative 和 True Negative 的定义及应用。

这一页讲的是预测模型的性能指标 (Performance Metrics)。表格中列出了预测结果与实际结果的四种组合：第一行表示预测为高风险 (Predicted High Risk of Reoffending)，如果实际确实再次犯罪 (Did Reoffended)，称为 True Positive；如果实际没有再次犯罪 (Didn’t Reoffend)，则为 False Positive。第二行表示预测为低风险 (Predicted Low Risk of Reoffending)，实际再次犯罪则为 False Negative，实际未再次犯罪则为 True Negative。这些指标用于评估模型的准确性和可靠性。例如，True Positive 表示模型正确预测了高风险个体确实再次犯罪，False Negative 则表示模型漏掉了实际高风险个体。通过分析这些指标，可以优化模型的预测能力，减少误判率，从而提高决策质量。

这一页讲的是ProPublica对COMPAS算法的研究发现，重点包括算法的准确率、种族偏差问题以及误分类类型。

这一页讲的是ProPublica对COMPAS算法的研究发现。COMPAS是一种用于预测犯罪嫌疑人再犯风险的算法。研究发现，COMPAS在各个种族群体中的预测准确率为61%，即True Positive（真正例）。然而，该算法存在种族偏差：非裔美国被告被误分类为中高风险（False Positive）的概率比白人被告高45%。同时，白人被告更容易被误分类为低风险（False Negative）。这些误分类类型揭示了算法在公平性上的问题，尤其是在种族敏感的司法场景中。举例来说，如果一个非裔被告实际风险较低但被标记为高风险，可能会导致更严厉的刑罚；而白人被告实际风险较高却被标记为低风险，则可能造成潜在的公共安全隐患。这些发现强调了在算法设计和应用中考虑公平性的重要性。

这一页讲的是 COMPAS 算法是否可以被认为是 WMD (Weapons of Math Destruction)。主要讨论了算法的不透明性、对特定群体的伤害以及其应用范围的广泛性。

这一页讲的是 COMPAS 算法是否可以被认为是 WMD (Weapons of Math Destruction)。首先，算法的不透明性 (Opacity) 是一个关键问题，因为 COMPAS 是一个专有算法，由 Northpointe（现为 Equivant）开发，其具体工作原理对外界是封闭的，这使得外界难以审查其公平性。其次，伤害 (Damage) 方面，分析表明非裔美国人比白人更可能被错误地评估为中高风险的再犯者，这种偏差会对他们的保释决定产生负面影响，体现了算法潜在的种族偏见。最后，规模 (Scale) 方面，在 Broward County，所有被逮捕的人都必须接受 COMPAS 的评估，这说明该算法的应用范围非常广泛，对社会产生了深远影响。综合这些特点，幻灯片得出结论：COMPAS 算法具有 WMD 的特征。

这一页讲的是对 ProPublica 报告的批评，重点在 COMPAS 工具的公平性和预测能力。

这一页讲的是对 ProPublica 关于 COMPAS 工具的报告的批评。首先，风险评估工具如 COMPAS 可以帮助减少现有的种族偏见，但它并非设计用于审前被告，这引发了关于 Broward County 中 COMPAS 被误用的责任问题。其次，系统的公平性取决于预测一致性（predictive parity），即系统是否在不同群体间具有相同的真实正率（true positive rate）。COMPAS 在这一点上满足要求。然而，ProPublica 指出错误率（false positives 和 false negatives）的差异是不公平的，这引发了关于公平性的争论。这个问题对于理解算法在司法系统中的应用及其潜在偏见非常重要。

这一页讲的是误报率 (false positive rates) 的差异诊断问题。主要关注算法在不同群体中的表现是否公平，以及如何识别和解决偏差。

这一页讲的是误报率 (false positive rates) 的差异诊断问题。幻灯片标题强调了算法在不同群体间可能存在的表现不均问题。图中使用了两种颜色的人形符号，分别代表两个不同的群体。这种可视化方式直观地展示了误报率在不同群体中的分布差异。例如，左侧群体的误报率可能较低，而右侧群体的误报率较高。这种现象可能源于数据偏差或算法设计中的不公平性。误报率的差异会导致某些群体受到不公平对待，例如在招聘、贷款审批或司法判决中，某些群体可能更容易被算法错误地标记为风险较高。解决这一问题需要通过公平性诊断工具和优化算法设计来减少偏差。研究人员致力于开发更公平的算法，以确保技术应用不会加剧社会不平等。这一主题对于机器学习和人工智能的伦理研究具有重要意义。

这一页讲的是算法中假阳性率差异的诊断问题。重点是分析不同群体在被分类为高风险时的假阳性率差异，以及算法公平性的重要性。

这一页讲的是算法中假阳性率差异的诊断问题。图中展示了两个群体（浅蓝色和深紫色），分别被分类为高风险的情况。红框标出了被算法错误分类为高风险的个体，说明假阳性（false positive）的存在。假阳性指的是实际没有风险的个体被错误地分类为高风险，这种情况可能导致某些群体受到不公平的待遇。图中强调了不同群体在假阳性率上的差异，这可能是算法偏差（bias）的结果。算法偏差通常源于训练数据的不平衡或模型设计的问题。诊断这种差异对实现算法公平性至关重要，因为它直接影响了算法在实际应用中的公正性。例如，在司法系统中，错误地将某些群体分类为高风险可能导致不必要的监控或惩罚。研究人员通过分析假阳性率的分布，可以发现并纠正算法中的偏差，从而提高模型的公平性和可信度。

这一页讲的是算法中假阳性率 (false positive rate) 的差异诊断问题，重点在于识别不同群体间的假阳性分布不均情况及其影响。

这一页讲的是算法在不同群体中假阳性率 (false positive rate) 的差异问题。图中展示了两种群体（浅蓝色和深紫色人形图案），并通过红框标注了假阳性样本。假阳性指的是算法错误地将某个样本分类为正例（例如将无风险的人错误地分类为高风险）。图中显示浅蓝群体和深紫群体的假阳性数量存在明显差异，这反映了算法可能对某些群体存在偏差。这种偏差可能导致不公平的决策，例如在贷款审批或司法系统中对某些群体的误判率较高。诊断这种差异的意义在于帮助研究人员识别算法中的潜在偏见，从而优化模型以实现公平性。一个例子是，如果一个算法对某群体的假阳性率更高，可能会导致该群体在实际应用中被过度审查或受到不必要的限制。

这一页讲的是预测平等 (Predictive Parity) 和错误率差异 (Error Rates Disparity) 的冲突问题。主要指出同时满足两者可能不可行，并通过示例说明种族差异对分类错误的影响。

这一页讲的是预测平等 (Predictive Parity) 和错误率差异 (Error Rates Disparity) 的冲突问题。预测平等指的是在不同群体中，预测为高风险的个体实际再犯率相同；而错误率差异关注的是不同群体的假阳性 (False Positive) 和假阴性 (False Negative) 的比例是否一致。幻灯片中的图示展示了假阳性对不同群体的影响：左侧框内显示了某群体中被错误分类为高风险但实际上不会再犯的人，右侧框则显示了另一群体中类似的情况。Sam Corbett-Davies 的引用解释了这种现象：如果某群体整体再犯率更高，那么在分类中会有更大比例的人被标记为高风险，这也导致该群体中不会再犯的人被错误分类为高风险的比例更高。这一问题在司法系统中尤其重要，因为它揭示了算法在种族差异上的潜在偏见。一个例子是，假设白人和黑人被标记为高风险的标准相同，但黑人整体再犯率更高，那么算法可能会导致更多无辜的黑人被错误分类为高风险。这说明同时满足预测平等和错误率平等可能存在根本矛盾。

这一页讲的是与犯罪预测相关的两个问题：假设的可靠性和潜在的反馈循环。讨论了逮捕数据可能不可靠，以及反馈循环可能导致更高的再犯风险。

这一页讲的是犯罪预测中的两个关键问题。首先，假设问题（Problematic assumption）：逮捕数据（Arrest）可能是一个不可靠的犯罪代理变量（unreliable proxy）。由于执法资源分布不均（例如某些社区或特定犯罪类型），某些群体的逮捕率可能较高，而其他群体的犯罪可能被低报。这说明使用逮捕数据作为犯罪行为的指标可能会导致偏差。其次，损害问题（Damage）：如果用超出被告控制范围的特征来评估再犯风险（risk of recidivism），可能会导致恶性反馈循环（pernicious feedback loop）。例如，基于这些特征的评估可能导致更严厉的判刑，而严厉判刑可能限制被告重新融入社区的机会，从而增加他们再次犯罪的可能性。这两个问题强调了在犯罪预测模型中，数据选择和评估标准的重要性。一个例子是，如果某个社区的逮捕率高，而模型基于逮捕数据进行预测，这可能会导致对该社区的进一步执法偏向，形成循环问题。

这一页讲的是 ROCROI 模型中移除种族变量作为预测特征的影响。主要讨论了种族变量的负面含义、其与其他变量的高相关性，以及通过重新校准维持预测准确性的方法。

这一页讲的是 ROCROI 模型移除种族变量作为预测特征的过程及其影响。由于种族变量可能带来的负面含义，人们重新审视了其对模型预测准确性的贡献。发现种族变量与其他变量之间存在高度相关性，因此通过重新校准其他变量并将种族变量的影响降为零，可以维持 ROCROI 的预测准确性。这种方法最终被采用。如果种族变量对模型准确性的影响无法通过这种调整复制，那么它可能会被保留。这一讨论强调了模型设计中伦理和技术之间的平衡，以及变量选择对预测效果的重要性。

这一页讲的是利用面部识别预测犯罪行为的例子及其问题假设。重点在于该方法的伦理和科学争议。

这一页讲的是通过面部识别技术预测犯罪行为的案例，强调其存在的问题假设。面部识别技术通常用于身份验证和安全监控，但将其应用于预测犯罪行为涉及伦理和科学上的争议。首先，这种方法可能基于对面部特征与犯罪倾向之间关系的假设，而这种假设缺乏科学依据，容易导致偏见和歧视。其次，数据集的选择和模型训练可能存在偏差，例如数据集中某些群体的过度代表或不足代表，这会进一步加剧结果的不公平性。此外，这种预测方法可能侵犯个人隐私权，并且在法律层面上难以被接受。一个例子是，如果某人仅因面部特征被预测为高风险犯罪者，这不仅可能导致错误的执法行为，还可能损害社会信任。总结来说，这一页提醒我们在设计和使用人工智能模型时，必须考虑伦理问题和假设的合理性，以避免负面影响。

这一页讲的是面部特征与犯罪倾向之间的关联，展示了特征均值和方差的比较。

这一页讲的是面部特征与犯罪倾向之间的关联，主要通过表格展示了三个归一化特征（ρ、d 和 θ）的均值和方差在犯罪者与非犯罪者之间的差异。表格中，均值部分显示犯罪者的ρ值为0.5809，高于非犯罪者的0.4855，说明该特征在犯罪者中更显著。d和θ的均值则在非犯罪者中略高。方差部分则表明，犯罪者的特征方差整体较低，例如ρ的方差为0.0245，而非犯罪者为0.0187，表明犯罪者的特征分布更集中。通过这些数据可以看出，面部特征在犯罪者与非犯罪者之间存在一定的统计差异，可能为机器学习模型的分类提供依据。需要注意的是，这种研究可能涉及伦理争议，应谨慎对待。

这一页讲的是犯罪分类模型的评估，比较了四种算法的 AUC 值，CNN 表现最佳。

这一页讲的是犯罪分类模型的评估，主要通过 AUC（Area Under Curve，曲线下面积）指标来衡量模型的分类性能。表格列出了四种分类算法及其对应的 AUC 值：卷积神经网络（Convolutional Neural Network, CNN）的 AUC 为 0.9540，是表现最好的模型；支持向量机（Support Vector Machine, SVM）的 AUC 为 0.9303，表现次之；K 最近邻（K-Nearest Neighbour, KNN）的 AUC 为 0.8838；线性回归（Linear Regression, LR）的 AUC 最低，为 0.8666。通过这些数据可以看出，深度学习算法 CNN 在处理复杂分类任务时更具优势。这些结果表明模型的选择对分类性能有显著影响，尤其在涉及敏感任务时，选择高效的算法至关重要。

这一页讲的是犯罪与非犯罪人脸样本的对比。展示了两个数据集的样本图像，分别是犯罪者和非犯罪者的身份证照片。

这一页讲的是犯罪与非犯罪人脸样本的对比，重点是通过样本图片展示数据集的构成。图中分为两部分：(a) 是犯罪者身份证照片样本集 Sc 的三张图片，(b) 是非犯罪者身份证照片样本集 Sn 的三张图片。这些照片是研究中用于分析人脸特征与犯罪行为之间可能关系的数据来源。通过这种分类，可以为后续的机器学习模型训练提供基础数据。研究的目标可能是探索是否存在特定的面部特征与犯罪行为的关联性，但需要注意伦理问题和模型偏差的风险。例如，数据的选择是否公平，模型是否会产生刻板印象等。这一页的图像为理解数据集的构成提供了直观的参考。

这一页讲的是关于“犯罪类型”的错误假设，包括外貌与犯罪倾向的关系，以及法律系统的判断可靠性。

这一页讲的是关于“犯罪类型”的三个常见错误假设：第一，认为一个人的面部特征完全由其先天属性决定；第二，认为“犯罪倾向”（criminality）是某一群体的内在特性；第三，认为法律系统能够可靠地判断犯罪倾向，并且这一判断不会受到面部外貌的影响。这些假设可能导致偏见和误判，因为它们忽略了犯罪行为的复杂性以及社会和环境因素的影响。例如，认为某些面部特征代表犯罪倾向可能引发歧视性算法或偏见性决策。这一页引用了“Physiognomy’s New Clothes”一文，进一步探讨了这些错误假设的影响及其背后的科学问题。这些内容提醒我们在研究和实践中应避免将外貌与行为属性简单关联。

这一页讲的是奥克兰大学的视觉展示。

这一页讲的是奥克兰大学（University of Auckland）的视觉展示，结合了城市景观和毛利文化元素，突出其地理位置和文化特色。背景中可以看到奥克兰市的天际线，包括标志性的天空塔，象征着现代化和城市发展。而右侧的毛利雕刻图案则体现了新西兰的传统文化和民族特色。这种设计融合了自然、文化和城市元素，展现了奥克兰大学作为新西兰顶尖学府的独特定位。这一视觉设计不仅传递了学校的学术实力，还强调了其与当地文化和环境的紧密联系，是吸引国际学生的重要形象展示。