这一页讲的是 COMPSCI 712 课程的第十讲,主题是 AI 的可信性 (Trustworthiness)。
这一页讲的是 COMPSCI 712 课程第十讲的内容,重点探讨人工智能 (AI) 的可信性 (Trustworthiness)。可信性是 AI 在伦理 (Ethics)、代理 (Agency) 和社会 (Society) 中的重要议题。可信性指的是用户对 AI 系统的信任程度,这不仅涉及技术的可靠性,还包括透明性、公正性和责任归属等方面。可信的 AI 系统能够促进用户接受并长期使用,同时减少对系统的误解和潜在风险。例如,一个透明的推荐算法能够清楚地解释其决策逻辑,让用户更容易信任其结果。这一讲可能会讨论如何设计和评估可信的 AI 系统,以及其在社会中的影响。
这一页讲的是议程内容,涵盖五个主要主题。首先是关于“Towards trustworthy and trusted automated decision-making in Aotearoa”的报告,讨论如何实现值得信赖且被信任的自动化决策。其次是代表性数据(representative data)的重要性及其在支持多样性方面的局限性,强调数据公平性对多样性研究的影响。第三个主题探讨了“trust”(信任)和“trustworthiness”(可信度)的定义及其区别,帮助理解信任的核心概念。第四个主题分析了信任与Te Ao Māori(毛利文化世界)的关系,可能涉及文化背景对信任的影响。最后一个主题讨论了信任和可信度研究对调查和研究的潜在影响,提示这些研究在实践中的应用价值。这些议题为后续深入讨论提供了框架。
这一页讲的是如何让自动决策系统(ADM)更加可信和被信任,主要通过提升用户的舒适度来实现。第一点强调以社区需求为中心,关注具体需求和社区愿望,而不是缺陷。第二点提出“Nothing about us without us”的原则,确保受影响群体有意义的参与,团队具备多样性,并帮助社区解决问题。第三点是让人们了解系统的运作,包括系统整体透明性、数据使用透明性、算法透明性以及解释性。第四点则是通过沟通提升舒适度,例如提供简单清晰的信息,创造提问机会,并重视面对面的交流(kanohi ki te kanohi)。最后一点列举了其他重要措施,包括制定明确的标准和法规、谨慎处理数据、赋予用户数据控制权、有效监控和维护ADM运行,以及开展能力建设。这些措施旨在增强社区对ADM的信任,同时确保系统的公平性和透明性。
这一页讲的是提升自动决策管理(ADM,Automated Decision-Making)系统可信度和用户舒适度的建议。首先,建议通过资金支持社区团体,让他们能够主导自己的数据和ADM项目,从基层推动信任建设。其次,建议为公共部门团队提供资金和支持,以测试和实施ADM的最佳实践,确保公共部门能够引领可信的ADM发展。第三,建立一个公共部门的ADM中心(hub),作为技术和政策的交流平台。第四,强调跨部门合作,共同开发和实施私营部门的ADM规则或最佳实践,促进标准化和透明度。第五,建议从毛利文化视角(te ao Māori perspectives)构建ADM系统,体现文化多样性和包容性。第六,建设多元化的数字化工作团队,以确保不同背景的人才参与ADM的开发。最后,提升公共部门领导者的数字技能和知识,使他们能够更好地理解和管理ADM系统。这些建议旨在通过多方协作和文化包容,增强ADM的可信度和社会接受度。
这一页讲的是健康的多重概念,主要对比了两种模型:生物医学模型(Biomedical Model)和毛利文化的健康观(Te Whare Tapa Whā)。左侧的生物医学模型强调疾病(Disease)的诊断(Diagnosis)、病因识别(Identify Etiology)和干预(Intervention),以疾病为核心,关注身体的生物学状态。右侧的毛利文化健康观通过房屋结构表达健康的四个方面:心理与情绪健康(Te taha hinengaro Mental and emotional well-being)、社会健康(Te taha whānau Social well-being)、身体健康(Te taha tinana Physical well-being)以及精神健康(Te taha wairua Spiritual well-being)。这四个方面共同支撑整体健康,体现了健康的全面性和多维度。举例来说,毛利文化认为,如果精神健康(如信仰或内心平静)受到影响,整体健康也会失衡。这一页的内容强调了不同文化和学术背景对健康的理解差异,以及多维度健康观的重要性。
第 9 / 29 页
这一页讲的是 Te Oranga Wairua 模型,用于从毛利视角理解痴呆症。模型包含五个关键要素:精神健康、护理、接受疾病、保护因素和病因。
这一页讲的是 Te Oranga Wairua 模型,它从毛利文化的独特视角出发,探讨痴呆症的理解与处理方式。模型的核心是“精神健康(Spiritual wellbeing)”,强调精神层面的健康对整体福祉的重要性。围绕核心的五个要素分别是:1)Kaitiakitanga(Caregiving):关注护理的重要性,强调家庭和社区在支持患者方面的角色;2)Aroha/Manakitanga(Acceptance of Illness):倡导对疾病的接纳,帮助患者和家庭更好地面对现实;3)Ngā Ratonga(Dementia Services):提供专业的痴呆症服务,确保患者能够获得必要的支持;4)Ngā Pūtake(Causes):分析导致痴呆症的原因,为预防和治疗提供依据;5)Ngā Rongoā(Protective Factors):探索保护因素,帮助降低患病风险或减缓疾病进展。这一模型强调文化背景和整体健康的重要性,为痴呆症患者提供更全面的支持体系。
这一页讲的是数据代表性与模型优化的关系,核心观点是即使拥有代表性的毛利人健康数据(representative health data for Māori),也不能保证模型能够针对毛利人真正重要的需求进行优化。这说明数据的代表性和模型的优化目标之间可能存在差距。毛利人作为新西兰的原住民群体,可能有特定的健康需求或文化背景,这些需求未必能直接从数据中体现出来。因此,开发者在设计模型时,需要超越数据表面,深入了解目标群体的实际需求和价值观。例如,一个健康预测模型可能拥有毛利人的数据,但如果没有考虑毛利人对社区健康或传统治疗方法的关注,模型的优化方向可能会偏离真正重要的目标。这一页提醒我们,数据的代表性只是第一步,真正的挑战在于如何将模型优化与目标群体的需求紧密结合。
第 11 / 29 页
这一页讲的是 Christoph Kelp 和 Mona Simion 对“trustworthiness”(可信性)的定义,认为它是一种履行义务的倾向。
这一页讲的是 Christoph Kelp 和 Mona Simion 在其2023年的论文中对“trustworthiness”(可信性)的定义。他们认为,可信性是一种“履行义务的倾向”(a disposition to fulfil one's obligations)。这一定义强调了可信性与责任感的关系,即一个人是否具有可靠性,能够兑现承诺并完成其应尽的义务。这个概念在伦理学和社会互动中具有重要意义,因为它直接影响到人际信任和合作的建立。例如,在团队合作中,一个可信的人会被认为是可靠的伙伴,因为他们会履行自己的职责,从而促进团队目标的实现。这一定义来自于发表在《Noûs》期刊上的论文,具体是第57卷第3期,页码667-683,进一步探讨了这一主题的哲学基础。
第 12 / 29 页
这一页讲的是新西兰可信AI的五项原则,包括公平正义、公信力与隐私、透明性、人类监督与责任以及福祉。
这一页讲的是新西兰AI论坛提出的“可信AI”五项原则,旨在促进人工智能(AI)设计、开发和部署中的创新与信任。第一项是公平正义(Fairness and Justice),要求AI利益相关者尊重适用法律、人权、毛利人权利、民主价值观以及平等与公平原则,避免对个人或群体造成不公伤害或歧视。第二项是公信力、安全性与隐私(Reliability, Security and Privacy),强调AI系统及相关数据需可靠、安全,且个人隐私在整个生命周期中受到保护,同时识别和管理潜在风险。第三项是透明性(Transparency),要求AI系统的运行和影响必须透明、可追溯、可审计,并对公众可解释,特别是在涉及人的情况下。第四项是人类监督与责任(Human Oversight and Accountability),强调技术可能对个人或群体造成伤害时,必须确保人类的适当监督,并明确责任归属。最后是福祉(Wellbeing),提倡AI设计和应用应促进社会福祉,例如健康、教育、就业和可持续发展,同时尊重毛利文化价值。这些原则共同构建了一个可信赖的AI框架,确保技术发展与社会价值相协调。
这一页讲的是信任(Trust)在毛利世界观和主流世界观中的不同定义及其核心原则。毛利世界观强调共享权力(shared power)、关系性(relationality)、互惠结果(reciprocity as an outcome)以及Tikanga(伦理与文化规范)。这些元素体现了信任是基于平等和文化尊重的互动关系。而在主流世界观中,信任更多依赖于授权(authorisation,等于能力认证)、基本关系(basic rapport)、善意意图(beneficent intent)以及正式保证(formalised guarantees,等于责任制)。表格清楚地展示了两种世界观的对比,毛利世界观更注重关系和文化,而主流世界观更强调结构化的责任和能力。此外,幻灯片还提到土著数据主权原则(Indigenous data sovereignty principles),它阐明了在信任关系中,土著社区关心的核心需求。这些原则强调了文化背景对信任构建的重要性,例如在数据管理和共享中尊重文化规范的必要性。
这一页讲的是新西兰政府于2020年7月发布的《算法宪章》(Algorithm Charter for Aotearoa New Zealand)。宪章旨在确保新西兰民众对政府机构使用算法的信心,强调通过透明度(transparency)和责任性(accountability)来展示政府在数据使用方面的承诺。然而,页面特别指出,宪章无法完全解决一些重要且复杂的议题,比如毛利数据主权(Māori Data Sovereignty)。毛利数据主权涉及毛利族群对其数据的控制权和文化保护,这是一项需要独立考量的复杂问题。通过这份宪章,新西兰政府希望在算法使用中体现伦理原则,但也承认在处理文化敏感性和数据主权问题上仍有不足。这个案例说明了在设计算法政策时,文化和社会背景的复杂性需要特别关注。
这一页讲的是一种类比关系,提出政治民调(political polling)与投票(voting)的关系类似于对人工智能态度的研究(research on attitudes to AI)与用户参与人工智能(user engagement with AI)的关系。这种类比强调两者之间的潜在因果或关联性。政治民调可以反映公众对候选人或政策的态度,它可能影响最终的投票行为。同样,研究用户对AI的态度可以帮助理解用户如何与AI互动,以及这些态度如何影响实际的使用行为。这一观点的重要性在于,它提示我们关注态度与行为之间的桥梁,尤其是在人机交互领域的研究中,这种理解可以帮助设计更符合用户需求的AI系统。例如,如果研究发现用户对AI的信任度较低,可能需要通过设计更透明的交互方式来提升用户参与度。
第 24 / 29 页
这一页讲的是调查结果的潜在影响,包括信任与不信任的测量问题,以及文化价值的体现。
这一页讲的是调查结果可能带来的影响。首先,强调在基于调查数据做结论时要谨慎,尤其是当只有少数人表达关注时,数据可能无法全面反映真实情况。其次,提出一个悖论(Catch 22),即要准确测量不信任,首先需要一个可靠的信任测量标准。第三,指出一个讽刺性结果:如果研究者本身不被信任,调查可能会呈现比实际情况更积极的结果,掩盖了真实的不信任问题。最后强调了信任(trustworthiness)的文化维度,尤其是从毛利文化(te ao Māori values)的角度来看,信任需要通过理解自身并体现文化价值来建立。这意味着我们需要从毛利人的视角履行我们的义务,展现对文化价值的尊重。这些观点提醒我们在社会研究中,信任与文化背景的重要性不可忽视。
第 25 / 29 页
这一页讲的是 General Social Survey (GSS) 关于信任的问题,探讨人们对他人信任程度的总体看法。
这一页讲的是 General Social Survey (GSS) 中关于信任的核心问题:“总体来说,你认为大多数人值得信任,还是认为与人交往时需要格外小心?”这一问题旨在调查社会中人们对他人信任的态度,是社会心理学研究中常用的指标之一。通过这个问题,研究者可以评估不同社会群体或文化背景下的信任水平。这种信任的测量对于理解社会凝聚力、合作行为以及社会资本的形成非常重要。例如,如果一个社会中大多数人认为他人值得信任,这可能意味着该社会拥有较高的社会资本和较强的合作能力;反之,如果信任水平较低,则可能反映出社会关系的疏离或潜在的冲突风险。这一问题是社会学和心理学领域中研究信任的重要工具。
第 26 / 29 页
这一页讲的是 General Social Survey (GSS) 中关于信任的问题,探讨人们是否认为大多数人值得信任或需要谨慎对待他人行为。
这一页讲的是 General Social Survey (GSS) 中关于信任的问题,具体问题是:“一般来说,你是否认为大多数人值得信任,还是认为在与人打交道时需要格外小心?” 这一问题旨在衡量人们对他人行为的总体信任度(trustworthiness)。这种调查通常用于研究社会信任水平,它反映了不同文化、社会或群体对人际关系的态度。信任是社会互动的重要基础,较高的信任度通常与更强的社会凝聚力和合作精神相关,而低信任度可能导致社会隔阂或冲突。通过这样的问卷调查,可以帮助研究人员了解社会中信任的分布情况和影响因素,例如经济状况、教育水平或社会制度等。
第 27 / 29 页
这一页讲的是 General Social Survey (GSS) 中关于信任的问题,探讨了信任与谨慎的关系。
这一页讲的是 General Social Survey (GSS) 中提出的一个关于信任的问题:总体来说,你认为大多数人是值得信任的,还是认为在与人交往时不能过于轻信?这个问题涉及两个层面的比较:一是对其他人行为的评价(trustworthiness,值得信任),二是对自己行为的评价(cautiousness,谨慎)。幻灯片强调这两种态度并不是对立的,个人可以同时既值得信任又保持谨慎。这种区分对于社会心理学研究很重要,因为它揭示了人们在社会互动中如何平衡信任与保护自己的行为。举例来说,一个人可能认为邻居值得信任(trustworthiness),但在借钱给邻居时仍保持谨慎(cautiousness)。这一问题帮助研究者更好地理解人际关系中的复杂性及其对社会信任的影响。
第 28 / 29 页
这一页讲的是《Māori perspectives on Trust and ADM》报告的建议,包括数据能力建设、公平性评估、参与算法评估等方面的六个行动方向。
这一页讲的是《Māori perspectives on Trust and ADM》报告提出的建议,重点关注如何在自动决策(ADM)领域融入毛利文化视角。首先,建议通过社区和专业网络提升毛利数据和数字能力(Māori Data and Digital Capacity),以确保毛利群体有能力参与数字化发展。其次,开发强有力的公平性评估协议(equity assessment protocols),确保算法在设计和应用中公平对待不同群体。第三,强调毛利群体在机构算法自评流程中的有意义参与(meaningful Māori participation),以提高决策透明度和文化适配性。第四,支持项目治理和算法开发中的协作伙伴关系(collaborative partnership),促进多方共同努力。第五,创建毛利价值框架(Māori values framework)和Tikanga指导原则,用以支持ADM的设计、开发、使用和维护。最后,探索涉及毛利语言(te reo Māori)、毛利文化(tikanga Māori)以及毛利知识(mātauranga Māori)的实际应用案例。这些建议旨在推动ADM领域的文化包容性和信任建设,为毛利群体提供更公平的技术环境。
第 29 / 29 页
这一页讲的是奥克兰大学(University of Auckland)的视觉展示。
这一页讲的是奥克兰大学(University of Auckland)的视觉展示,背景结合了奥克兰城市风光和毛利文化元素。画面左上角是奥克兰大学的标志,标志中包含学校名称和毛利语翻译“Waipapa Taumata Rau”,体现了学校对毛利文化的尊重和融合。背景图中可以看到奥克兰市的天际线,突出了Sky Tower等地标建筑,展示了城市的现代化与活力。同时,右侧的毛利雕刻图案象征了新西兰的传统文化,传递出学校与当地文化深度连接的理念。这种结合不仅是视觉上的美感,更体现了奥克兰大学作为新西兰顶尖学府的文化包容性与国际化视野。