校园 AI 工具: 政策起步参考

Overview

AI 工具已经成为学生与教职员工日常生活的一部分。KCSIE 2025 已反映出与 AI 相关的风险 —— 包括生成图像、用聊天机器人进行诱拐 (grooming),以及学业上的不当使用。本条目提供一份冷静的起步立场,以及一段可供学校改写并纳入可接受使用政策的示例段落。

Key points

• •生成式 AI 是工具,不是主体 —— 输出结果的责任仍由教职员工与学生承担。
• •针对儿童的深伪 (deepfake) 裸露图像在英国属于违法行为。请在行为规范政策中明示这一点。
• •聊天机器人 (chatbot) 可能被用于诱拐、操纵或误导 —— 应将其视为接触类 (contact) 风险。
• •在未获得明确保证和数据保护审批前,不得将学生数据输入面向消费者的 AI 工具。
• •员工出于备课、批改或行政工作使用 AI,必须遵守数据保护规则。
• •抄袭与学术诚信相关的政策需要新增明确的 AI 条款。

Practical steps

1. 1

   就当前学年的 AI 立场制定一份一页纸的全校共识。

2. 2

   在面向学生与员工的可接受使用协议中加入 AI 条款。

3. 3

   对员工进行培训: 深伪 (deepfake) 风险,以及当有人举报相关图像时如何处理。

4. 4

   更新行为规范政策,涵盖 AI 生成的霸凌或性内容。

5. 5

   通过通讯简报与家长沟通 AI 议题 —— 学生在用什么,以及需要留意哪些问题。

6. 6

   在该技术快速变化的阶段,每学期审阅一次本立场。

Warnings

• !不要把学生的个人数据输入公共 AI 工具 —— 这构成数据保护 (GDPR) 违规。
• !不要默认「AI 检测器」是可靠的 —— 它们会产生误报,也会出现漏判。
• !对政策尚未明确禁止的诚实 AI 使用行为,不要直接处罚 —— 应先澄清,再考虑追责。

Checklist

• 全校 AI 立场已达成共识并对外公布
• 可接受使用协议已新增 AI 条款
• 员工已接受深伪 (deepfake) 应对流程的培训
• 行为规范政策已覆盖 AI 生成的有害内容
• 任何涉及学生数据的 AI 工具均已通过数据保护审批
• 本学年已就 AI 议题向家长进行过沟通
• 学术诚信 / 家庭作业政策已相应更新

External sources

• Generative AI in education — Department for Education
• AI and online safety — UK Safer Internet Centre
• IWF on AI-generated child sexual abuse imagery — Internet Watch Foundation