这一页讲的是人工智能的透明性（Transparency）和可解释性（Explainability）。重点是这些概念对 AI 系统的信任和责任的重要性。

这一页讲的是人工智能的透明性（Transparency）和可解释性（Explainability）。透明性指的是 AI 系统如何让用户了解其内部工作机制，例如数据处理和决策逻辑。可解释性则是指 AI 系统的输出结果是否能够被人类理解和解释。这两个概念对于增强用户对 AI 的信任至关重要，尤其是在涉及伦理问题或高风险决策的场景中。页面上的图片展示了一个机器人和人类共同工作的场景，强调了人机协作的现实性和对 AI 系统理解的需求。透明性和可解释性不仅有助于减少误解，还能帮助开发者和用户发现潜在问题。例如，在医疗诊断中，如果 AI 系统的决策透明且可解释，医生可以更好地评估其建议的可靠性，从而做出更准确的判断。这些概念是 AI 伦理和设计的重要组成部分。

这一页讲的是关于解释的议程，包括解释的定义、解释的原因、好的与坏的解释样例，以及解释、透明性与可靠性的关系。

这一页讲的是解释（explanation）的相关内容，主要分为四部分。首先是“什么是解释”，即定义和概念，可能涉及解释如何帮助理解复杂系统或信息。其次是“为什么需要解释”，强调解释的重要性，例如提升用户信任、促进决策或满足法律与伦理要求。第三部分探讨“解释的样子”，包括好的解释与坏的解释的特点，例如好的解释可能清晰、易懂，而坏的解释可能模糊或误导。最后是“解释、透明性与可靠性”，这部分可能讨论解释如何增强系统的透明性（transparency）和可靠性（reliability），例如通过清晰的因果关系或数据来源来提升信任度。这些内容对于理解人工智能模型的可解释性（explainability）非常重要，尤其在涉及高风险领域时。

这一页讲的是系统和流程的可解释性的重要性。提到了 GDPR 和新西兰的算法宪章对透明度和解释性的要求。

这一页讲的是系统和流程必须具有可解释性的重要性。首先，欧洲的《通用数据保护条例》(GDPR) 赋予个人一种权利，即可以访问自动化决策中涉及的逻辑知识。这意味着用户有权了解系统如何得出决策，从而增强透明度和信任。其次，新西兰的《算法宪章》(Algorithm Charter) 要求签署方保持透明性，明确说明算法如何影响决策。这些规定强调了在技术快速发展的背景下，确保算法和自动化系统的可解释性对于保护用户权益和促进公平的重要性。例如，在银行贷款审批中，用户如果能够理解算法如何评估其信用评分，就可以更好地接受决策结果。这些政策反映了全球范围内对技术透明性的共识。

这一页讲的是科学哲学中的演绎-法则模型(deductive-nomological model)，用于解释科学现象的原因。重点包括识别自然法则、条件以及推导结论。

这一页讲的是科学哲学中的演绎-法则模型(deductive-nomological model)，它是一种解释科学现象的方式，特别是回答“为什么”问题。以“为什么水壶里的水会在打开开关后沸腾”为例，这种模型要求首先识别相关的自然法则，例如电流通过电阻元件时会转化为热能；热量使水的内能增加从而升温；在标准大气压下水在100°C沸腾。其次，需要识别具体条件，例如水壶加热元件有电流通过；水壶中有液态水且初始温度低于100°C；水壶处于正常大气压下。最后，通过这些法则(L1, L2, L3)和条件(C1, C2, C3)推导出结论(E)，即水壶里的水会沸腾。这种模型的重要性在于它提供了一种系统化的科学解释方法，结合普遍法则和具体条件，帮助理解复杂现象。

这一页讲的是20世纪科学哲学对演绎-法则模型（D-N model）的批判，认为其不足以涵盖所有解释形式。

这一页讲的是20世纪科学哲学对演绎-法则模型（Deductive-Nomological model, D-N model）的批判。首先，D-N模型无法区分因果关系，而我们通常在寻找事物的原因时需要这种区分。其次，D-N模型无法涵盖统计学解释（statistical explanations）和基于行为主体意图（intentions of agents）的解释，这些都超出了其框架。此外，D-N模型忽略了我们在寻求解释时的多样化需求，不仅仅是“为什么”，还可能是“谁”、“什么”、“何时”和“哪里”等问题。例如，机械性解释（mechanistic explanations）可以回答“它如何工作”的问题。这些批判表明，科学哲学需要承认多种有效的解释形式，而非仅仅依赖单一模型。

这一页讲的是解释的不同层次和需求因目标而异。主要讨论了解释的深度如何根据背景和使用者需求变化，例如科学家、技师和普通用户的理解需求不同。

这一页讲的是解释可以分为不同的层次(levels)，并且解释的深度和内容会因使用者的目标(aim)和背景(context)而变化。例如，为什么鸟是黑色的？可以简单回答“因为它是乌鸦，而乌鸦是黑色的”，也可以深入探讨乌鸦为什么是黑色的，例如从进化角度、羽毛和色素的科学角度等进行分析。接着，幻灯片举了电导性的例子：化学家和物理学家会研究导电金属的自由电子如何使电流沿着导线流动；电工则更关注哪些材料导电以及接地的工作原理；而普通用户只需知道如何安全使用电器以及何时需要叫电工。这说明解释的层次和细节会根据具体需求而调整，既能满足专业人士的深度需求，也能服务普通用户的实际应用。

这一页讲的是 AI 的可解释性问题。重点包括 GDPR 和新西兰算法宪章对透明度的要求，以及解释的情境化特点。

这一页讲的是 AI 的可解释性问题，强调了目前普遍认为 AI 应该是可解释的，但关于什么是解释并没有统一的定义或满意的标准。首先，提到了 GDPR 的“访问权”（right of access），要求用户能够了解相关逻辑知识（knowledge of the logic involved）；而新西兰算法宪章（NZ Algorithm Charter）则要求通过清楚解释算法如何做出决策（how decisions are informed by algorithms）来保持透明度。从表面上看，GDPR 更倾向于机械式的解释（mechanistic explanation），即“它是如何工作的”；而新西兰算法宪章可能更关注结果的透明度。其次，解释是情境化的（contextual），不同用户需要的解释类型和深度会因其目标而有所不同。例如，一个技术专家可能需要详细的算法工作原理，而普通用户可能只需要了解决策的基本逻辑。这一页提醒我们，AI 的可解释性不仅是技术问题，也是法律和用户需求的综合考量。

这一页讲的是 OECD 的 AI 原则，强调透明性与可解释性的重要性。主要内容包括 AI 系统需具备透明性、促进公平与隐私保护，以及支持可持续发展。

这一页讲的是 OECD 提出的 AI 原则，其中特别强调了透明性（Transparency）与可解释性（Explainability）的重要性。透明性指的是 AI 系统的运行过程和决策逻辑能够被外界理解，而可解释性则要求 AI 的行为和结果能够被清晰地说明。这对于增强公众信任、减少误解以及确保技术符合伦理规范至关重要。幻灯片还列出了其他重要原则，如包容性增长（Inclusive Growth）、人权与民主价值（Human Rights and Democratic Values）、稳健性与安全性（Robustness and Security）以及问责性（Accountability）。这些原则共同构成了 AI 技术发展的伦理框架。例如，在医疗领域，透明性可以帮助患者理解 AI 诊断的依据，从而提高接受度和信任度。这些原则为 AI 的设计和应用提供了指导，确保技术能够造福社会并避免潜在风险。

这一页讲的是 AI 系统的透明性和可解释性的重要性，强调了不同场景下的责任，包括帮助理解系统能力、与利益相关者互动以及提供清晰的信息。

这一页讲的是 AI 系统需要具备透明性和可解释性（Transparency and explainability），这是 OECD AI 原则中的重要部分。幻灯片指出，AI 行为者（AI Actors）有责任提供有意义的信息，以帮助公众和利益相关者理解 AI 系统的能力和局限性。这些信息需要根据具体场景进行调整，并符合当前技术水平。具体责任包括：第一，培养对 AI 系统的普遍理解，包括其能力和局限性；第二，让利益相关者意识到他们与 AI 系统的互动，例如在工作场所中的应用；第三，在可行和有用的情况下，提供易于理解的信息，解释数据来源、输入因素、预测逻辑等，以帮助受影响者理解系统输出；第四，提供信息以支持受 AI 系统负面影响的人挑战其输出。这些原则旨在确保 AI 系统的使用更加负责任，并增强公众对 AI 技术的信任。例如，在招聘系统中，透明性可以帮助应聘者理解评分依据并减少偏见。

这一页讲的是为什么需要解释性功能，重点在于提高可用性，适应不同场景和用户需求。主要包括校准信任、突出错误和提供更多信息。

这一页讲的是解释性功能的重要性，尤其是在提高系统可用性方面。幻灯片强调了当人类需要将系统输出与其他信息结合使用时，解释性功能的作用尤为重要。通过解释，用户可以更好地校准对系统的信任（Calibrate Trust），理解系统可能存在的错误（Highlight mistakes），并获得更多的背景信息（Provide more information）。右侧的图示展示了用户在使用系统时会结合过去的经验（Past experiences）、外部信息（Outside information）以及数据（Data）来做出判断。这说明解释性功能不仅帮助用户理解系统输出，还能支持用户在复杂环境中做出更好的决策。例如，一个AI推荐系统可以通过解释推荐的依据，让用户知道它是基于用户历史行为还是外部趋势，从而提高用户对系统的信任度和使用效率。

这一页讲的是模型解释的重要性，特别是用于调试和验证。主要内容包括一个分类错误的例子，以及解释如何帮助发现模型问题。

这一页讲的是模型解释的重要性，尤其在调试和验证过程中。以一个案例为例：一只哈士奇（Husky）被错误分类为狼（Wolf）。通过解释模型的决策过程，发现模型可能依赖了错误的特征，例如图片中的雪（Snow）。表格显示了模型在解释前后的表现变化：解释前，模型错误地将 10/27 的样本归类为狼；解释后，这一错误降低到 3/27。同时，解释揭示了雪作为潜在特征的重要性，从解释前的 12/27 提升到解释后的 25/27。这说明模型可能过度依赖背景而非主体特征。通过这种分析，我们可以发现并修正模型的问题，使其更加可靠。这一案例来源于 Marco Tulio Ribeiro 等人的论文《Why Should I Trust You?》，强调了模型解释在机器学习中的关键作用。

这一页讲的是自动驾驶汽车决策的审查。重点包括：判断事故是偶然还是设计缺陷，以及模型未正确训练识别非斑马线行人。

这一页讲的是自动驾驶汽车在决策中的问题审查。首先，讨论了一个重要问题：当自动驾驶汽车发生事故时，需要明确事故是偶然事件（fluke）还是设计缺陷（design flaw）。这对于改进系统设计和确保安全至关重要。其次，幻灯片提到模型未能正确训练识别非斑马线行人（pedestrians crossing outside crosswalks），这表明模型在训练数据中可能缺乏多样性或对特殊场景的覆盖不足。右侧的图片展示了一个夜间场景，行人推着自行车穿过马路，但自动驾驶系统可能未能正确识别这一复杂场景。这说明在开发自动驾驶技术时，需要更全面的训练数据和更强的场景理解能力。举例来说，如果一个行人在非斑马线区域突然出现，系统需要能够快速判断并采取适当的行动。这一问题强调了解释性AI（Explainable AI）的重要性，以便工程师能够审查和改进决策过程，降低事故风险。

这一页讲的是解释行为的伦理意义，强调透明性与道德主体性的重要性。

这一页讲的是为什么解释行为在伦理学中非常重要，特别是为了认可数据主体的道德主体性（moral agency）。首先，透明性（transparency）和解释（explanation）是伦理实践的核心，因为它们涉及相互之间给出理由的行为，这体现了对交互对象道德主体性的尊重。其次，尊重道德主体性本身具有内在价值（intrinsically important），而不是因为它会带来好的后果（instrumentally important）。最后，幻灯片提到不同类型的解释、提供理由的动机以及什么样的解释才算充分，这取决于听众和目标。最后提出一个问题：“什么样的解释能够满足对道德主体性的认可需求？”这一问题引导我们进一步思考解释的形式和内容如何与伦理目标相契合。

这一页讲的是模型与领域理解中的不完整性问题。主要提到理解的缺失可能包括领域知识、失败状态列表、偏差的全面理解以及明确目标。

这一页讲的是模型与领域理解中的不完整性问题，强调了解释的一个重要功能是填补我们对领域和模型理解中的空白。具体来说，可能存在以下几方面的缺失：第一是领域知识不足，例如对某个特定应用场景的深入理解不够；第二是缺乏完整的失败状态列表，比如自驾车可能遇到的所有潜在问题；第三是对可能存在的偏差缺乏全面的理解，这可能导致模型在某些情况下表现不佳；第四是目标不够明确，可能导致模型优化方向偏离实际需求。这些问题直接影响模型的可靠性和解释性。举例来说，自驾车系统如果没有列出所有可能的失败状态（如传感器故障或极端天气），就可能在实际运行中出现不可预见的危险。因此，填补这些理解上的空白对于提高模型的性能和安全性至关重要。

这一页讲的是模型解释的特点与目标。重点包括解释的准确性、可理解性，以及全局解释和局部解释的区别。右侧表格列出了不同 2D-CNN 模型及其参数规模。

这一页讲的是模型解释的特点和目标。首先，好的解释需要准确反映模型的实际行为，也就是说，它能够真实地描述模型在执行什么任务。其次，解释需要使用易于理解的模块化信息（cognizable chunks），并且采用人类可读的语言，使得非专业人士也能理解。最后，解释可以分为全局解释（global explanation）和局部解释（local explanation）。全局解释是对整个模型的行为进行概述，而局部解释则专注于单个预测或输出的具体原因。右侧的表格列出了几个常见的 2D-CNN 模型及其参数规模，包括 VGG-16（134.7M 参数）、ResNet 系列（例如 ResNet-18 的参数为 11.4M），以及 DenseNet 系列（例如 DenseNet121 的参数为 7.2M）。通过表格可以看出，不同模型的参数规模差异较大，这可能影响模型的复杂度和性能。例如，ResNet-152 的参数量显著高于 ResNet-18，说明它可能更适合处理复杂任务。

这一页讲的是基于特征的解释（Feature-based explanations），分析模型如何通过特征贡献来解释结果。

这一页讲的是基于特征的解释（Feature-based explanations），它通过列举特征来解释模型的决策过程，指出哪些特征最重要以及每个特征的具体贡献。左侧的图表展示了特征贡献的排序和强度，其中红色条表示特征对结果的正向贡献，灰色条表示负向贡献。右侧的两张图片进一步说明了特征的重要性：第一张是原始图片，第二张是热力图（heatmap），通过颜色标注突出了模型关注的区域，例如羊的头部被高亮，说明该区域对分类结果贡献最大。这种解释方法在机器学习模型中非常重要，因为它帮助我们理解模型的工作原理，提升透明度，并发现潜在的偏差。例如，在图像分类任务中，基于特征的解释可以帮助我们确认模型是否关注了正确的图像区域，而不是无关的背景。

这一页讲的是特征解释在 Allegheny 儿童福利中的应用，重点分析影响儿童安置的因素。

这一页讲的是特征解释（Feature Based Explanation）在 Allegheny 儿童福利系统中的应用，分析了影响儿童安置决策的重要因素。表格列出了三个关键因素：儿童的年龄范围（Age range of child in focus）、儿童在被转介时的年龄（Age of the child in focus at time of referral）、以及转介中其他儿童的数量（Number of other children on the referral）。每个因素都有对应的数值（Value）和对决策的贡献程度（Contribution）。例如，儿童年龄小于 1 岁时，对安置决策的贡献较高，图中红色条表示其重要性。此外，页面底部提到儿童是否曾有过家庭外安置经历（Child in focus has ever had an out of home placement），并指出这对当前决策的影响显著。通过这些数据，可以更好地理解哪些特征在儿童福利决策中占据主导地位，从而优化资源分配和政策制定。

这一页讲的是模型解释中的示例方法，包括反事实例子、对抗样本和原型样本。

这一页讲的是通过示例来解释或改善模型的工作方式。主要包括三个方面：1. 反事实例子（Counterfactual Examples），即找到与原始输入最相似但分类结果不同的样本，比如右侧图中数字“0”被修改为类似“8”的样本，帮助理解模型如何区分类别。2. 对抗样本（Adversarial Examples），通过加入微小扰动使模型误判，例如下方图中“熊猫”图片加上噪声后被模型错误分类为“长臂猿”，显示模型的鲁棒性问题。3. 原型样本（Prototype Examples），用于检查模型是否基于人类可理解的概念进行分类，比如右下角展示的数字分类原型样本，帮助分析模型是否使用了合理的特征。这些方法对于提升模型的可解释性和诊断问题非常重要。

这一页讲的是神经网络的特征可视化（Feature Visualization），展示模型如何逐层理解图像。主要包括边缘、纹理、图案、部件和物体的提取过程。

这一页讲的是神经网络的特征可视化（Feature Visualization），用于揭示模型如何逐步构建对图像的理解。幻灯片中的图表展示了通过 GoogLeNet 模型对 ImageNet 数据集的训练结果，分层次地显示了网络提取的特征。从左到右分别是：边缘（Edges，conv2d0层）、纹理（Textures，mixed3a层）、图案（Patterns，mixed4a层）、部件（Parts，mixed4b和mixed4c层）以及物体（Objects，mixed4d和mixed4e层）。这些特征随着层次加深逐渐从简单到复杂，从低级的边缘和纹理到高级的物体结构。通过这些可视化，我们可以更清楚地理解神经网络的工作原理，例如它如何从原始像素中提取信息并逐步构建对图像的语义理解。这种方法对于解释深度学习模型的“黑箱”特性具有重要意义，可以帮助研究者和工程师优化网络结构或诊断模型问题。

这一页讲的是关于解释的几个关键问题，包括解释的类型、受众需求以及人类如何使用解释。

这一页讲的是关于解释（explanation）的几个重要问题。首先，它提出了一个核心问题：所有的解释是否都真正具有解释性？并提到反事实（counterfactual）示例可能更注重准确性。其次，讨论了选择哪种类型的解释（type of explanation），以及在什么情况下、针对谁选择合适的解释方式。第三，探讨了不同形式的解释如何满足不同受众或使用场景的需求，这强调了解释的适用性和针对性。接着，关注人类如何与这些解释互动并利用它们，这涉及到解释的可操作性和用户体验。最后，提出了一个综合性问题：是否可以将不同的解释形式结合起来使用，以实现更好的效果。这些问题对于设计可解释的系统和模型至关重要，比如在人工智能领域，设计一个既准确又易于理解的模型解释可以帮助用户更好地信任和使用系统。

这一页讲的是解释、透明性和可靠性的重要性，强调尊重数据主体的自主权及伦理中的透明性和解释的关键作用。

这一页讲的是解释（Explanation）、透明性（Transparency）和可靠性（Reliability）的核心概念及其伦理意义。首先，提出了在回答“为什么要解释”（Why explain?）的问题时，应增加“尊重数据主体的自主权”（Respect agency of data subjects）的必要性。透明性和解释在伦理中至关重要，因为它们是相互给予理由（Giving reasons）的核心实践，体现了对交互对象的道德自主权（Moral agency）的认可。这与第一周讨论的道德推理（Moral reasoning）相关联。此外，幻灯片提出了两个具体问题来探讨满足这种需求的解释类型，例如“为什么你为我的家庭提供降低儿童虐待风险的服务？”以及“为什么你认为我的孩子有成为 NEET（Not in Education, Employment, or Training）的风险？”通过这些例子，强调了透明性和解释不仅是技术问题，更是伦理问题，关乎对个人和群体的尊重与理解。这些概念对于设计负责任的人工智能系统尤其重要，因为它们直接影响用户信任和系统可靠性。

这一页讲的是用户对算法决策的疑问及可能的回答。主要包括三个问题：为什么被分类为某种处理方式、算法如何分类、以及算法是否可靠。

这一页讲的是用户在面对算法决策时可能提出的问题，以及如何回答这些问题。首先，用户可能会问“为什么我被分类为这种处理方式？”（Q1），答案是因为算法根据用户的数据，将其归类为最适合这种处理方式的类别。其次，用户可能会问“是什么特征导致算法这样分类？”（Q2），答案是虽然无法完全解释，但可以提供模型分析的特征及其权重。接着，用户可能会进一步问“算法是如何工作的？”（Q2a），回答是算法的工作原理较复杂，但可以提供开发过程中的一些信息。最后，用户可能会质疑“为什么认为算法是可靠的分类方式？”（Q2b），答案是因为算法经过训练和验证，输出结果在测试案例中表现出了可靠性。这些问题和回答有助于增强算法的透明度和用户信任。

这一页讲的是技术解释在某些场景中的重要性，尤其是神经网络在医疗领域的应用及其可解释性问题。

这一页讲的是技术解释在复杂场景中的作用，尤其是神经网络（neural networks）在医疗领域的应用及其可解释性问题。神经网络可以处理大量二进制数据点，模拟人类决策过程，用于分析患者数据并识别健康问题，例如通过图像数据检测糖尿病视网膜病变（diabetic retinopathy）。虽然这种方法显示了很好的效果，但如果临床医生不了解神经网络如何得出结论（例如通过图像分析预测糖尿病视网膜病变），他们可能不会信任这些建议。这就引出了人工智能的“可解释性”（explainability）问题。如果缺乏可解释性，人工智能的潜力可能无法充分发挥，临床医生可能更倾向于依赖传统的诊断和治疗方法。这说明了技术解释在实际应用中的重要性，尤其是在涉及生命健康的领域中，信任和透明度是推动技术接受的关键因素。

这一页讲的是可靠性（reliability）的重要性，以及我们在其他领域如何强调这一点。

这一页讲的是可靠性（reliability）的重要性，特别是在技术和医疗领域的应用。幻灯片展示了三个例子：传统水银温度计、电子耳温计和核磁共振成像设备（MRI）。这些设备的共同点是它们都需要高度可靠性来确保测量结果的准确性。水银温度计虽然简单，但因其可靠性被广泛使用；电子耳温计通过数字化技术进一步提高了测量的便利性和精确度；MRI设备则是一个复杂的医疗工具，依赖高精度和稳定性来诊断疾病。这些例子说明，无论是简单工具还是复杂设备，可靠性都是决定其价值和应用范围的关键因素。这一页旨在强调可靠性不仅是技术设计的核心要求，也是用户信任和使用的基础。

这一页讲的是 Reliabilist epistemologies（可靠主义认识论），强调知识的形成过程与真理的关系。

这一页讲的是 Reliabilist epistemologies（可靠主义认识论），它主要关注知识主张的基础是否依赖于形成信念的过程的 truth-conduciveness（真理导向性）。换句话说，可靠主义认为，一个人的信念是否能被视为知识，取决于产生该信念的过程是否可靠，是否能够有效地导向真理。这种认识论强调过程的重要性，而不是单纯依赖结果。例如，如果一个人通过科学实验得出的结论比通过猜测得出的结论更可靠，那么科学实验的过程就具有更高的真理导向性。这种观点在哲学和人工智能领域都很重要，因为它帮助我们理解如何评估知识的可信性以及如何设计可靠的知识获取系统。

这一页讲的是尊重个人的理念，强调可靠性证据满足 agency-respectful 的解释需求，但需要其他方式解决偏见问题。

这一页讲的是尊重个人（Respect for persons）的理念，引用了 Tim Dare 的观点：可靠性证据（Evidence of reliability）可能满足对 agency-respectful（尊重主体性）的解释需求。这种解释方式虽然重要，但它无法解决偏见（bias）等问题，因此需要其他类型的解释来应对这些担忧。幻灯片还指出，这种方法的目标是扩展解释的领域，而不是缩小它。这意味着在设计系统或提供解释时，应该考虑多样化的需求和问题，而不仅仅局限于单一的可靠性证据。例如，在人工智能决策中，除了提供模型可靠性的证据，还需要考虑公平性和透明性，以全面尊重用户的主体性。