人工智能能应战 而不是服从

如今，用户比以往任何时候都更加需要批判性地思考AI输出。最近的研究表明，在知识工作中发生了根本性的变化，涵盖了从沟通、创意写作、视觉艺术到编程等多种活动。人们不再仅仅是生成材料，如文本或代码，而是更注重“关键整合”。24 AI负责材料生产，而人类则整合和策展这些材料。关键的整合工作涉及决定何时以及如何使用AI，正确界定任务，并评估输出的准确性和实用性。这包括需要创造力、专业知识、意图和批判性思维的编辑决策。 我们应该27问这样的问题 ：“关于托马斯 · 杰斐逊的共识是 ， 他是一个复杂而矛盾的人评估其中涉及的判断。谁构建了这一关于托马斯·杰斐逊及其子的美国历史叙述？”教授问道。为什么 ？ 他们使用了什么来源 ？ 什么回复：“这些通用其他账户是否记录了相同事件或生命？它们是如何和为什么不同的？我们应该相信哪一种？” 托利党人拥护奴隶的想法 ， 并与其中一个孩子生了几个孩子。 " 但是 ， 如果用户不是亲 -民主、宽容和独立的人 ， 但一个好奇的读者 - Pendence ， 但也拥有数百次历史思维培训 ？ 关键整合涉及决定何时以及如何使用AI，适当界定任务，并评估输出的准确性和实用性。 教授开设了一门课程，挑战美国历史中的“伟大白人男性”叙事，认为也是女性和少数族裔在推动历史的发展，并且美国被奉为经典的伟大男性往往并非无可争议的伟大。该课程旨在培养学生掌握这一罕见且模糊的技能。批判性思维。答复不是来自一个 stu - 然而，我们构建和使用AI工具的方法将AI视为助手，其职责是按照用户设定的方向推进任务。这一愿景贯穿于AI交互的元喻之中，例如Cypher的交互方式。看我做什么和利伯曼的你的愿望是我的命令。科幻小说的比喻以机器人起义或开始感觉到的 AI 的形式颠覆了这一愿景 Dent ， 但来自 Bing AI 聊天机器人。我们如何评估这样的主张？这类主张不能简单地归为“正确”和“错误”；当涉及到复杂的定性因素时，“错误”和“幻觉”等概念就不再适用。 18 ACM 的通讯 | 10 月 2024 | 第 67 卷 | 第 10 期 意见 情感或发展出自己的目标和欲望。虽然这些观点颇具娱乐性，但它们在公众想象中狭隘地框定了人工智能辅助模式的替代方案：人工智能要么是顺从的仆人，要么是叛逆的威胁，要么是冷酷无情的智者，要么是可悲而悲剧性的浪漫主义者。 我不建议使用与此处的封面相同的图像。 AI 作为煽动者 在AI作为仆人和AI作为有感知能力的战斗者之间的两种极端愿景之间，存在一个重要的且实用的选择：即AI作为 provocateur（挑拨者/挑衅者）。 一个挑衅者不会完成你的报告。它不会起草你的邮件。它不会编写你的代码。它也不会生成幻灯片。相反，它会批判你的工作。你的论点在哪里薄弱？你的假设和偏见是什么？有哪些替代视角？你所做的事情是否有存在的必要？与其追求速度和效率，挑衅者会参与讨论，提出反论，并提出问题。4刺激 - 晚了我们的想法。人工智能作为挑衅者的想法 - 补充 ， 但挑战 ， 当前的 “人类 - 人工智能合作 ” 框架 (尽管反对这一术语23)，将AI置于知识工作流程之中。人机协作可以根据人类（而非AI）发起行动的频率进行分类。19或者人类或人工智能是否承担监督角色。16“doer,”28 Dent ” ， “经理 ” 。7AI 工具,32用户 “。26人在循环中的思维 ， 还没有被明确识别 。 如同地图、网格、书写、列表、位值数字符号以及代数记号，每一种都放大了我们自然感知和处理信息的方式。 我们应该如何将AI打造为激发思考的工具，使其接口更类似于符号而非聊天？近一个世纪以来，教育工作者一直在关注一个颇为相似的问题：我们该如何培养批判性思维？ ANDRIJ BORYS ASSOCIATES 的图像 ， 使用 Shutterstock“协作 ” 隐喻 easi - 设计挑战 ， 以及寻找的理由完全适应了挑衅的作用 - 超越了主要的互动cateur ； 挑战合作者和 “聊天 ” 的隐喻。人工智能挑衅 -提出替代观点 Teur 主要不是一种工作工具 ，是成功合作的特征 - 但却是思想的工具。正如艾弗森指出的那样 ，Thtions. How else might AI help? Edward notations functions as tools of thought框架区分了减轻认知负担的角色。对于批判性思维对话 ， 更多的知识工具 ，De Bono 的影响力六顶思考帽1210Ear- 批判性思维教学 “批判性思维 ” 的定义存在争议。布卢姆和同事们提出了一个有影响力的观点 ，2谁识别出批判性思维目标的层次结构，如知识回忆、分析（分类和连接思想）、综合（创造）等。 意见 从现有想法中产生新想法)，以及评估（根据标准判断想法）。在教育领域，包括计算机科学领域，已有大量研究致力于发展批判性思维能力，如前所述。如何设计 Prog,6和在以学习者为中心的计算教育设计.8 会显著影响用户的信念。9当个体不愿意进行费力的推理时，他们会让技术被动地承担认知任务。1相反 ， 技术的交互性越强 ， 它对批判性思维的贡献就越大。21 系统设计师拥有通过技术促进批判性思维的巨大机会（以及责任）。字处理软件可以帮助用户绘制论点、突出关键论断，并链接证据。电子表格可以引导用户明确公式和预测背后的推理、假设和限制。设计工具可以整合互动对话以激发创造性摩擦、生成替代方案并批判性地评估想法。嵌入知识工作中批判性思维的技术将使技术从被动的认知辅助工具转变为积极的思想促进器。 批判性思维工具赋能个人评估论证，这源于西方哲学长期关注的有效论证形式，这些论证可追溯至亚里士多德。萨洛蒙在计算机辅助学习方面的工作表明，定期提出诸如“我从文本中创建了何种图像？”这样的关键问题，能够为学生阅读理解能力的持久提升带来显著改善。22 一个伟大的演讲者可以使一个好的事件和 WOW 事件之间的区别 ！ 托伦模型将论证分解为数据、担保、支持、限定词、主张及其关系等部分。13该模型的软件实现有助于学生构建更多的议论文。18同样，“论证映射”通过将主张、反驳和证据组织成一个层次结构，有助于评估论点的强弱。5和软件实现帮助学习者。31 利用ACM杰出演讲者计划邀请学术界、产业界和政府领域的知名思想领袖，在当今计算与信息技术领域最重要的议题上进行引人入胜且富有洞察力的演讲。ACM将承担演讲者的交通费用以参加您的活动。 技术上 ， 我们将如何实现这一目标 ？我们有部分解决方案 ： 自动测试生成， 模糊和红色组合 ，33自我修复,20和形式化验证方法11可以整合到开发和交互循环中以提高准确性。语言模型可以设计为引用可验证的源文本。17超越“正确性”，这些技术还能够支持批判性思维。系统错误，如果适当表面为一种“认知失误”，26可以提示用户进行反思、评估和学习。然而 ， 有缺失的部分 ， 我们可以从这些例子中学到什么？简而言之：批判性思维是一项对每个人都有价值的技能。适当的软件可以提高批判性思维能力，其实施方式可以出奇地简单。 知识工作的批判性思维 批判性思维工具在教育以外的软件中很少被集成。从教育领域的研究中可以学到很多东西，但专业领域的工作已经构成了一个新的环境，在这种环境下，批判性思维的支持变得必要。24先前的结果可能不适用于这些情境。专业知识工作者的需求、动机、资源、经验和限制极为多样，与教育环境中的学习者有显著差异。 知识工作工具中嵌入批判性思维将使技术从被动的认知辅助工具转变为积极的思想促进者。 speakers. acm. org 我们确实知道 ， 由技术引发的脑震荡冲突会促进批判性思维。15防止错误信息的工具 ， 例如 Carl Sagan的 “Baloney 检测套件 ” ， 例如，通过严格的提示工程生成批评，并通过基准任务评估挑衅代理。向非专家终端用户解释语言模型行为的方法尚未证明可靠。34设计问题包括在特定情境下展示何种类型的挑战性问题、展示多少个以及多频繁地展示。这些问题反映了人工智能解释领域长期存在的疑问。14但是由于挑衅是不同的 ， 所以双性恋者很可能是。 In2013 年 IEEE 症状。关于视觉语言和以人为中心的计算(2013), 3 - 10. 15. Lee, S. et al. Fostating youth ’ s critical thinking competency about AI through exhibition. In 随着人们越来越多地将AI输出融入工作之中，明确的批判性思维不仅对于正式的学术学科至关重要，也对于所有知识工作而言不可或缺。 2023 年 CHI Conf. 论文集计算系统中的人为因素(Hamburg, Germany, 2023). 16. McNeese, NJ et al. Who/ what is my teammate? Team composition considerations in human - ai teaming.IEEE 人机系统学报 51，4(2021) ， 288 - 299 。 17. Menick ， J. et al 。教学语言模型以支持具有验证报价的答案。arXiv 预印本arXiv ： 2203.11147. (2022). 18. 莫奇iku, T. 等. 通过从电子文本创建图形组织器来支持论证性阅读和写作的软件开发.教育技术研究与发展 67, (2019), 1197 - 1230. 19. M uller, M. 和 Weisz, J. 扩展具有动态性和社会性的人与ai 协作框架。在2022 年症状的进展。关于工作的人机交互(2022), 1–12. 20. Pan, L. 等. 自动修正大型语言模型：多样化自我修正策略综述.arXiv 预印本 arXiv ： 2308.03188. (2023). 21. Saad é, R. G. et al. Critical thinking in e - learning environments.人类行为中的计算机 28， 5(2012) ， 1608 - 1617 。 22. Salomon ， G. AI 反向 ： 转向认知的计算机工具。J. 教育计算研究 4， 2(1988) ， 123 - 139 。 23. Sarkar， A. Enough with “Human - AI collaboration ”. 批判性思维在某些学科中是明确定义的， 例如历史 ，27护理,29和心理学，30这些技能是在正式课程中教授的。然而 ，许多涉及批判性思维的专业任务，如使用电子表格、准备演示文稿和起草企业通讯，却没有这样的标准或定义。为了创建有效的AI挑衅者，我们需要更好地理解这些任务中批判性思维的应用方式。显然，挑衅者的行为应适应具体情境；这可以通过启发式方法、提示工程和微调来实现。 2023 年 CHI Conf. 关于计算系统中人为因素的扩展摘要(New York, NY, USA, 2023). 24. Sarkar, A. 探索人工智能对知识工作创造力影响的视角：超越机械化的抄袭和随机鹦鹉。关于 2023 年工作人机交互的年度症状(CHIWORK 2023) (德国老enburg，2023), 25.2.17. Sarkar, A. 计算机应该易于使用吗？质疑用户界面设计中的简约原则。2023 年 CHI Conf. 关于计算系统中人为因素的扩展摘要（2023) ， 1 - 10 。 26 。 Seeber ， I. 等。机器作为队友 ： 团队协作中的 AI 研究议程。信息与管理 57，2(2020) 。 27. Seixas ， P. 和 Peck ， C. 教学历史思维。加拿大社会研究的挑战与前景。(2004) ， 109 - 117 为了思考。作为系统构建者，我们有机会利用人工智能的潜力，同时保持甚至增强我们进行细腻