DESIGN
THINKING LAB
← 返回往日所见

DAILY LENS / 2026.11.06

今日所见

今天的四条观察,首先走进澳大利亚的老年照护服务:当算法给出的支持等级不符合现场评估,专业人员却不能直接修改,所谓“人在环里”究竟还保留了多少判断权?另外三条发生在教育和知识创造的边界。大学生对同伴使用 AI 的想象远高于他们报告的自身使用情况;随机实验发现借助 AI 完成复杂任务,并不意味着知识已经学会;而 AI 模拟科研资助评审时,不寻常的研究想法可能更难被选中。 系统可以帮助人完成判断,但谁有权纠正它、检验它,以及拒绝让它决定下一步?

01

当算法评估老人需要多少照护,现场人员为什么不能改?

让专业人员参与评估流程,并不等于赋予他们纠正算法错误的权力。

澳大利亚联邦申诉专员于10月26日公布老年照护评估调查,指出政府使用的 Integrated Assessment Tool(IAT)及相关制度存在透明度和人工监督问题。IAT 根据评估信息自动决定老人可以获得的居家照护支持等级。申诉专员指出,在现行法律框架下,即使自动生成的决定在临床上不合适,也不能由评估人员直接覆盖修改。11月初,相关研究机构进一步呼吁建立自动化决策登记、审计和独立监督机制。这里涉及的是自动化决策算法,不能未经证实将它称为生成式 AI。

一位老人实际需要多少帮助,可能涉及身体能力、住宅条件、家庭支持和日常风险。标准化工具可以提高评估的一致性,却不一定能完整表达每个人的生活。如果评估人员在现场看见了表格没有捕捉到的问题,却只能接受系统给出的等级,专业知识就无法充分进入最后的决定。老人和家属还可能需要通过较长的申诉程序重新解释自己的处境。真正的问题不只是机器有没有犯错,而是制度有没有为纠错留下可执行的道路。

对于公共服务设计,这意味着服务蓝图不能停在“系统给出结果”。还需要画出发现异常、补充证据、人工复核、修改决定、通知当事人的后续路径。每一步都应说明谁有权限、需要什么材料、需要等待多久。学生也可以把同样的方法用于校园资助、住宿分配或其他需要分类判断的服务。一个真正以人为中心的系统,不只是允许人输入信息,还允许人的真实处境改变结果。

↗
02

学生认为同学都在用 AI 走捷径,公平感如何被改变?

一个人对别人正在做什么的判断,即使不准确,也可能真实地改变自己的学习行为。

10月30日,达特茅斯学院发布首轮 Dartmouth AI Survey。调查包含1,003名美国大学生的加权样本,以及1,533名达特茅斯学生。在美国大学生样本中,11%自报使用AI寻找习题答案,却有49%认为同伴会这样做;8%自报直接复制、只少量修改AI文字,却有50%认为同伴会这样做。另有70%认为AI已影响课外作业的公平性,39%表示因同伴使用AI而感到使用压力。与此同时,61%也表示会用AI帮助理解困难概念。

这组数字不能用来计算真实作弊率。问卷记录的是自我报告和对同伴行为的估计,敏感行为可能被低报,学生也可能高估其他人的使用程度。但两种回答之间的落差仍然值得关注:当一个学生相信周围的人都借助机器轻松完成作业,他可能开始觉得独立思考反而吃亏。即使这种印象没有得到证实,它也可能影响学习选择。技术于是改变的不只是个人效率,还有课堂里的相互信任和努力是否被公平看见的感受。

对设计思维教育来说,单纯规定“可以使用AI”或者“不得使用AI”可能不够。课程需要让学生知道哪些步骤鼓励协作、哪些判断必须自己形成,以及什么证据能够说明学习真正发生。例如,学生可以使用AI帮助整理资料,但仍需亲自解释为什么选择某个设计挑战、放弃另一个方案。教师评价的重点也应从工具使用次数转向问题理解和判断依据。当学习规则不够清楚,人们可能开始按照想象中别人的行为,而不是自己的学习目标作决定。

继续阅读|Dartmouth AI Survey 官方原始调查

↗
03

AI 帮人完成任务,为什么不等于真正学会?

工具在场时表现出来的能力,未必能够在工具撤离后保留下来。

10月26日,《Nature Human Behaviour》发表 Emma Wiles 等人的随机对照试验。研究招募487名管理咨询顾问,让部分参与者接受使用 ChatGPT 的培训并借助它完成超出既有专业能力的数据科学任务。AI辅助组在三项任务上的表现优于对照组,但没有达到专业数据科学家的水平。更重要的是,研究者在随后不允许使用 ChatGPT 的技术知识测试中,没有发现AI辅助组获得显著知识提升的证据。11月3日,《Nature》刊发的学术来信进一步强调,应当分别测量有AI与没有AI时的学习表现。

这一发现把“做成”和“学会”清楚地区分开来。学生使用AI可以完成一张复杂的数据图、提出完整的设计机制,甚至制作出能运行的原型;这可能是有价值的协作成果,却不自动证明他理解其中每一个条件。反过来,要求所有任务都必须独立完成也不合理:现实中的设计师本来就依赖软件、同事和外部知识。关键在于课程目标究竟是交付可用成果,还是让某种判断能力真正留在学生身上。两者都值得,但需要不同的评价方式。

设计思维课堂可以保留一项很小的“双轨检验”:允许学生与AI共同完成设计蓝图,同时在汇报时请他不看屏幕,解释一项关键选择、指出方案最可能失败的条件,或根据新的使用者证据调整定义。这样不必否定人机协作,也能看见哪些知识已经成为学生自己的能力。一次成功交付说明人和工具共同完成了工作;真正学会多少,还需要在没有工具时单独检验。

继续阅读|Nature Human Behaviour 原始随机试验

↗
04

AI 评审偏爱熟悉的方案,谁来保护不寻常的想法?

评价系统越追求稳定一致,越需要检查它是否会遗漏难以归类的新方向。

11月3日,《Nature》报道科研资助评审中使用AI可能带来的保守性问题。其依据是一项8月27日发表于《Scientometrics》的研究:Diogo Machado 分析2021年提交奥地利科学基金会的139份真实研究申请,使用GPT-4o在同一学科内两两比较,模拟哪些方案会获得资助。模型与实际人工资助决定约六成一致;在存在分歧的申请中,人工评审认为更具新颖性的方案,更容易获得人的支持却被模型排除。这是一项模拟比较,并不是资助机构实际按照AI决定拒绝了这些项目。

一项真正新的研究,可能缺少成熟先例,甚至无法被传统学科框架轻易归类。若评价者主要依靠过去成功申请的语言与结构判断质量,那么“看起来可靠”和“值得冒险探索”就可能逐渐混在一起。人工评审当然也会保守,研究并未证明机器天然反对创新;样本只来自单一资助机构、特定年份和一种模型设置。但它提醒我们,评价工具不是完全中性的筛选器。它所熟悉的表达方式,可能影响什么样的想法更容易被看见。

设计课堂尤其需要防止这一点。AI很擅长指出方案是否完整、逻辑是否清楚、表达是否规范;但一个陌生的空间机制、一种尚未验证的材料用法,可能恰恰因为不够成熟而值得继续探索。可以要求AI分别评估可行性、证据完整性、新颖性与待验证风险,而不是直接给出一个综合分数。对于最不寻常的方案,保留一次由学生和教师共同讨论的机会。好的评价不是只找到最像成功案例的答案,也要为尚未被证明的可能性留出位置。

↗

今日沉淀

让机器帮助我们判断,也要保留人纠正错误、检验能力和保护新想法的权力。

← 返回往日所见