Week 07 - 01 - Privacy and Manipulation of Behaviour视图:倍速:
第 1 / 49 页
这一页讲的是隐私与行为操控的关系,重点在伦理问题和人工智能对社会的影响。
这一页讲的是隐私(Privacy)与行为操控(Manipulation of Behaviour)的关系,属于课程 COMPSCI 712: AI Agency, Ethics and Society 的内容。隐私是个人信息保护的重要领域,而行为操控则探讨如何通过技术影响或改变人的决策和行动。幻灯片中的图像表现了一个大脑被红色双手操控的画面,象征着个人思维可能受到外界干扰或控制。课程内容可能涉及人工智能(AI)如何通过数据收集、算法设计等方式影响用户行为,例如推荐系统如何引导消费习惯或社交媒体如何塑造公众观点。这些问题的核心在于伦理挑战,包括如何平衡技术创新与个人权利保护。举例来说,广告算法可以通过分析用户历史数据精准投放广告,但这是否构成行为操控?这类问题强调了技术开发者和社会对伦理责任的关注。
这一页讲的是隐私(privacy)的定义与哲学层面的一种理解方式。根据 Schoeman 1984 的观点,隐私可以被视为一种权利(privacy as a right)。这种权利意味着个人拥有对自身信息的控制权,可以决定哪些信息可以被共享或传递给他人。这种定义强调了隐私在个人自由和自主性中的重要性。例如,一个人可以选择是否公开自己的健康状况或财务信息,这种选择权体现了隐私作为权利的核心意义。这一概念对于理解隐私的社会和法律意义非常重要,因为它涉及到个人与社会之间的权利界限,尤其在信息技术快速发展的时代,保护隐私权显得更加迫切。
这一页讲的是隐私(privacy)的定义及其核心概念。隐私被定义为个人对其信息的控制能力,具体包括对个人身份信息(intimacies of personal identity)的管理,以及决定谁可以通过感官接触这些信息的权利。这张幻灯片通过两个图示来表达隐私的不同方面:左侧的孤岛象征个人空间和隔离,右侧展示了数字化场景中隐私的挑战,例如照片曝光、评分系统和购物行为等。这些例子说明隐私不仅仅是物理空间的保护,更涉及数字环境中对个人信息的管理。隐私的重要性在于,它保护个人的自主权和安全,避免信息被滥用或侵犯。举例来说,用户在社交媒体上分享照片时,隐私设置可以帮助他们决定谁能看到这些内容,从而有效控制信息的传播范围。
这一页讲的是隐私的重要性,特别是探讨“如果没有什么可隐藏,隐私是否重要”的问题。通过一个名为 Nothing to Hide 的游戏引发思考。
这一页讲的是隐私的重要性,核心问题是“如果没有什么可隐藏,隐私是否重要”。幻灯片展示了一个名为 Nothing to Hide 的游戏,这款游戏的主题是反隐身机制(anti-stealth),玩家需要扮演自己的监督者(watchdog),以此模拟一个完全透明的环境。通过这种游戏设计,作者试图让人们意识到隐私不仅仅是为了隐藏秘密,而是关乎个人自由和社会平衡。标题中的问题暗示了一个常见的误解:认为隐私只有在隐藏不当行为时才重要。实际上,隐私是保护个人免受过度监控和外界干扰的关键。举例来说,即使一个人没有违法行为,他们仍然可能因为过度曝光而受到误解或不公平对待。因此,这一页通过游戏和问题引导我们重新思考隐私的真正意义和价值。
这一页讲的是监控与隐私的主题,图中展示了一个大眼睛的三角形符号,象征监控摄像头的存在,旁边有一名行走的人物,暗示个人行为始终处于监控之下。文字部分强调了两个观点:第一,“Smile for the camera”,要求人们始终保持在监控视野中;第二,“Hiding is criminal”,暗示隐藏行为被视为犯罪,并传递一种对隐私的否定态度。这种设计表达了对隐私权的警示或批判,同时可能暗示一种极端的监控社会环境。通过这种方式,提醒观众思考监控技术的伦理问题,例如:是否有必要牺牲隐私来换取安全?举例来说,在公共场所安装摄像头虽然能提升安全性,但过度监控可能导致个人自由受限。这一页通过视觉和文字结合,传达了关于隐私与监控的深刻反思。
第 10 / 49 页
这一页讲的是隐私权的重要性,引用了 Warren 和 Brandeis 在 1890 年的论文《The Right to Privacy》。隐私权是现代法律和社会的重要基础。
这一页讲的是隐私权的重要性,特别提到了 Warren 和 Brandeis 在 1890 年发表在《Harvard Law Review》上的论文《The Right to Privacy》。这篇论文首次系统阐述了隐私权的概念,认为个人有权保护自己的私人生活不受外界干扰。这一理论的核心是个人的尊严和自由,隐私权是现代法律体系中保护个人权利的重要部分。论文强调了隐私权在面对技术进步和社会变化时的必要性,例如新闻媒体的扩展可能会侵犯个人隐私。这一观点奠定了隐私权在法律中的基础,对后续的隐私保护立法和判例产生了深远影响。举例来说,今天的互联网隐私问题,如个人数据保护和信息泄露,仍然可以追溯到这篇论文的理论框架。
这一页讲的是技术与隐私的关系。首先,引用了 Warren 和 Brandeis 在 1890 年提出的观点,强调随着技术和商业方法的发展,保护个人隐私的权利变得更加重要,尤其是所谓的“被独处的权利”(the right to be let alone)。其次,他们指出即时摄影和新闻业侵入了私人和家庭生活的神圣领域,机械设备的进步可能导致个人隐私被公开,例如“在壁橱里低语的话可能会被宣扬到屋顶上”。最后,引用了 Charles Fried 在 1984 年的分析,讨论现代电子设备对隐私的威胁。这些设备可以通过信号远程监控个人的位置,并且由于设备体积小、隐蔽性强,其他人难以察觉佩戴者已被监控。这些技术的存在使个体对隐私的意识更加敏感。这些观点揭示了技术进步对隐私保护提出的挑战,提醒我们在享受技术便利时,也需关注隐私权的维护。
第 12 / 49 页
这一页讲的是隐私权的差异性问题,探讨谁有资格享有隐私权。引用了 Eden Osucha 的研究,分析隐私权与种族、媒体和法律的关系。
这一页讲的是隐私权的差异性问题,核心问题是“谁有资格享有隐私权”(Who gets the right to privacy?)。这一讨论引自 Eden Osucha 的文章《The Whiteness of Privacy: Race, Media, Law》(2009)。Osucha 的研究重点在于隐私权的分配如何受到种族、媒体和法律的影响,尤其是隐私权在历史与社会背景中的不平等分布。幻灯片右侧展示了一张广告图片,可能暗示了隐私权在文化表现中的种族化或性别化特征。这一研究的重要性在于揭示隐私权并非均等赋予所有人,而是受到社会结构和权力关系的影响。举例来说,在某些历史时期,某些群体可能被剥夺了隐私权,而另一些群体则享有更高的隐私保护。理解这一点有助于我们反思隐私权在现代社会中的公平性和普适性。
这一页讲的是 AI 如何操控人类行为,重点是人类决策的对抗性脆弱性。研究提出了一个框架,用于理解和避免对抗性攻击。
这一页讲的是 AI 与人类行为操控相关的研究,特别是关于人类决策的对抗性脆弱性(adversarial vulnerabilities)。研究指出,理解人类选择过程中的弱点可以帮助检测并避免对抗性攻击。页面引用了一篇学术文章,标题为《Adversarial vulnerabilities of human decision-making》,作者提出了一个通用框架,用于创建针对人类决策的对抗性方法。文章强调,这一框架基于深度学习模型的最新发展,能够有效揭示人类行为在面对对抗性环境时的弱点。举例来说,AI 可以通过设计特定的刺激或信息,影响人类的选择,从而达到操控行为的目的。这项研究对于防范AI滥用以及设计更安全的技术具有重要意义。
这一页讲的是Facebook在2014年进行的大规模情绪实验及其伦理争议。幻灯片展示了两篇相关内容的文章:一篇是Forbes报道,标题强调Facebook操控了近69万用户的情绪以进行科学研究;另一篇是发表在PNAS上的学术研究,题为《Experimental evidence of massive-scale emotional contagion through social networks》。研究探讨了情绪传染(emotional contagion)的现象,即通过调整社交媒体上的内容展示,观察用户情绪的变化。这个实验引发了关于知情同意(informed consent)的伦理争议,因为用户并未明确知道自己参与了实验。此事件不仅揭示了科技公司对用户行为的影响力,也引发了关于隐私和伦理的广泛讨论。例如,如果一个平台可以操控用户情绪,它是否有责任公开实验目的并获得用户的同意?这一问题在数据科学和心理学研究中具有重要意义。
这一页讲的是大数据如何影响美国的知情同意制度,以及推断经济对隐私的挑战。A. Michael Froomkin 在其2019年的文章中指出,大数据使得美国的知情同意制度变得不连贯且难以支持,甚至质疑了知情同意这一概念在现代数据分析中的适用性。这表明在大数据时代,传统的隐私保护机制可能已经无法有效应对。幻灯片还提到 Alicia Solow-Niederman 的研究《信息隐私与推断经济》(Information Privacy and the Inference Economy),这篇文章探讨了推断经济如何通过数据分析生成用户信息,从而对隐私构成威胁。推断经济利用大数据和算法预测个人行为和属性,即使用户没有直接提供这些信息。这种模式可能导致隐私侵害并对个人权利产生深远影响。例如,基于用户的浏览记录推断其健康状况或消费习惯,可能会被用于商业或决策中。
这一页讲的是信息隐私在机器学习(ML)时代面临的挑战。首先提到,美国的隐私保护制度依赖个人对数据的控制,但机器学习的推断能力超越了这一假设的极限。其次,现代隐私保护未能应对机器学习所推动的推断经济,即组织通过收集个人数据来推断更多信息,不仅关于数据主体,还关于其他人。接着,机器学习可以通过汇总看似无害的数据(如公开照片或 IP 地址)推断个人信息,即使个人未意识到自己在泄露这些数据。这种能力使得保护隐私变得困难,因为个人无法预测哪些数据是关键的。此外,开发者可以通过聚合数据训练机器学习模型,用于预测其他人的行为。这些内容强调了机器学习对传统隐私保护机制的冲击,以及数据推断和聚合带来的风险。
第 19 / 49 页
这一页讲的是《监视资本主义时代》(The Age of Surveillance Capitalism)的核心观点,强调公司如何通过干预用户行为来预测和控制行为结果。
这一页讲的是《监视资本主义时代》(The Age of Surveillance Capitalism)这本书的主要思想,作者 Shoshana Zuboff 提出了一种新的资本主义形式——监视资本主义。她指出,公司不仅仅监控我们的行为,还会主动干预我们的行为过程,以便更好地预测和控制我们的行为结果。页面引用了 Zuboff 的观点,认为监视资本家发现最具预测性的行为数据来源于对用户行为状态的干预,比如通过引导、劝诱、调整和操控行为来实现盈利目标。这种模式已经超越了传统的数据自动化,目标是直接自动化我们自身的行为。这一理论揭示了现代技术和商业如何通过深度数据分析和行为干预来获取利润,同时对个人隐私和自主权构成了威胁。
这一页讲的是注意力经济(The Attention Economy)的核心理念,引用了 James Williams 的书《Stand Out of Our Light》的观点。Williams 提到,技术行业的目标已经从信息的组织转变为对用户注意力的争夺。他强调,科技公司并不是在设计产品,而是在设计用户,这揭示了一个重要问题:注意力经济对个人自由和生活方式的深远影响。这种设计方式可能导致用户行为被操控,甚至影响他们的价值观和决策能力。通过这种视角,我们可以理解注意力经济如何成为现代社会的重要议题。举例来说,社交媒体平台通过算法推荐内容,吸引用户停留更多时间,这不仅是商业策略,也是对用户注意力的深度干预。这一理念提醒我们要警惕技术对个人生活的潜在控制,并思考如何在注意力经济中保持自主性。
这一页讲的是 OpenAI 与 Shopify 合作推动 AI 驱动广告的影响。主要内容包括 AI 广告的隐蔽性及消费者需要了解的相关信息。
这一页讲的是 OpenAI 和 Shopify 合作开发 AI 驱动的在线广告解决方案。这种广告利用人工智能技术生成高度个性化的内容,使消费者难以察觉其为广告。这一技术的核心是通过分析用户行为数据和购物习惯,精准投放广告内容,从而提升转化率。这张图展示了一个机器人手指指向购物车图标的场景,象征了 AI 技术在电子商务中的深度应用。消费者需要了解的是,这种广告可能会影响他们的购物决策,使得广告与真实推荐内容之间的界限变得模糊。举个例子,当用户浏览某一网站时,AI 可能会根据用户的兴趣动态生成广告,而用户可能误以为这是网站的推荐内容。这种技术的应用虽然提高了广告效率,但也引发了隐私和透明度方面的讨论,值得进一步关注。
这一页讲的是“Hard to cancel”(难以取消)的用户体验模式。重点包括定义它是一种欺骗性设计,用户容易订阅但难以取消,以及举例说明如《纽约时报》的案例。
这一页讲的是“Hard to cancel”(难以取消)的设计模式。这种模式又称为“Roach Motel”,指用户在订阅服务时非常容易,但当他们试图取消时却遇到困难。这通常通过隐藏取消选项、要求用户拨打客服热线、或者让取消流程异常复杂和耗时来实现。这种设计可能导致用户放弃取消,继续支付不需要的服务费用。举例来说,《纽约时报》虽然订阅过程简单,但取消过程却非常繁琐。用户需要拨打客服热线,等待长时间的接通,或者被重定向到其他网页,而这些网页无法完成取消操作。在一个测试中,用户花费了约8分钟与客服沟通才成功取消订阅,而创建新的订阅仅需几秒。这种设计对用户体验造成了负面影响,同时可能延长服务商的收入周期。
这一页讲的是欧盟人工智能法案(EU AI Act 2024)中关于禁止的 AI 系统。重点包括禁止使用操控性技术和利用弱势群体的行为。
这一页讲的是欧盟人工智能法案(EU AI Act 2024)中第二章第五条(Title II, Art. 5)规定的禁止性 AI 系统。法案明确指出两类 AI 系统是被禁止的:第一类是使用潜意识影响、操控或欺骗性技术(subliminal, manipulative, or deceptive techniques),这些技术会扭曲用户行为并削弱其做出明智决策的能力,造成显著伤害;第二类是利用弱势群体的脆弱性(exploiting vulnerabilities),例如基于年龄、残疾或社会经济状况来影响行为,导致显著伤害。这些规定旨在保护用户权益,避免 AI 技术被滥用以造成社会或个人层面的负面影响。举例来说,一个 AI 系统如果通过隐蔽的广告操控用户购买不必要的商品,或利用老年人的认知弱点进行诈骗,都属于禁止行为。这一法案的链接提供了更多详细信息。
这一页讲的是评估标准(Assessment Criteria),主要用于评价学术或项目工作的质量。首先是哲学和伦理问题分析与评价的质量(philosophical/ethical issue analysis and evaluation),强调对复杂问题的深度思考和批判性分析。其次是论点的清晰呈现(clear presentation of arguments in support of a position),要求表达逻辑清晰、支持观点的论据充分。第三是相关文献的引用(the inclusion of relevant literature),包括原始来源的使用,确保研究的扎实性和权威性。第四是正确的 APA 格式引用(correct APA referencing and citations),确保引用规范,避免学术不端行为。最后是可读性(readability),强调文本的清晰度和流畅性,使读者能够轻松理解内容。这些标准共同构成了评估工作的核心指标,确保学术内容的质量和专业性。例如,在论文写作中,如果能清晰表达观点并正确引用文献,就能更好地满足这些评估标准。
这一页讲的是提升论文与文献互动的技巧。首先是相关性(Relevancy),强调引用文献时要有意图地选择与主题相关的内容,而不是随意或大量引用。其次是领域理解(Understanding of the field),要求论文展示对相关领域关键概念的理解,尤其是如 AI伦理学等领域,并能结合主题和案例研究进行深入探讨。最后是文献互动(Engagement with literature),关注论文是否能深入理解所引用的文献,并与其论点进行互动。这一点对于领域外的同行评审可能更具挑战性,因为需要对领域有一定的熟悉度。这些技巧旨在帮助作者更有针对性地引用文献,同时提升论文的学术深度和说服力。
第 48 / 49 页
这一页讲的是提高论文可读性的技巧,包括明确指引、段落和句子长度、论证结构以及清晰的开头。
这一页讲的是提高论文可读性(readability)的技巧。首先,Signposting(明确指引)强调需清楚地告诉读者你的论点方向,避免让读者猜测你的意思。其次,段落长度(Paragraph length)应控制在一个段落只包含一个核心观点,并用证据支持,避免多观点混杂。第三,句子长度(Sentence length)要求关注句子长度,避免过长或冗余的句子。然后,论证结构(Argument → explanation → example)建议通过清晰的主题句(如“Noodles are the best food”),进一步解释(如“它们美味、营养丰富且易于制作”),以及举例支持(如“上周我吃了7包方便面,感觉很好”)来增强论证效果。最后,清晰的开头(Clear introduction)是论文的关键,需为论文的论点和结构提供明确的路线图。这些技巧可以帮助读者更轻松地理解和跟随你的论述逻辑。