携手并进：学校对人工智能的拥抱与学生面临的风险增加相关

人工智能在学校中的应用与风险

当前人工智能在学校中的使用现状
大多数教师、学生和家长报告已使用人工智能，其中个人使用比工作或学校使用更普遍。高收入家庭和城市/郊区地区的使用率更高，可能存在人工智能鸿沟。教师和学生在人工智能使用方式上存在差异，使用频率与对技术的担忧程度相关。

主要风险
随着学校使用人工智能的增加，学生面临以下风险：

• 数据泄露或勒索软件攻击；
• 技术支持的性骚扰和欺凌；
• 人工智能系统运行故障；
• 学生与技术的困扰性互动。

具体问题与趋势

1. 课堂中的人工智能应用

   • 85%的教师报告在过去一年中使用人工智能，学校政策正转向允许使用。
   • 教师对人工智能的潜在益处认可度随使用方式增加而提高，但与家长在退出选项和总体担忧上存在分歧。
   • 人工智能的使用引发了对教学质量、师生关系、学生批判性思维和违规使用影响的质疑。

2. 聊天机器人和学生互动

   • 大多数学生报告与人工智能（如聊天机器人）进行过互动，其中31%使用学校提供的设备或工具。
   • 教师和家长担忧人工智能对学业、亲子关系和心理健康的影响，学生使用频率较高（56%每周至少一次）。

3. 人工智能与个别教育计划（IEP）

   • 超过一半的持证特殊教育教师使用人工智能辅助IEP/504计划，学生和家长多数认为这是可行的。
   • 残疾学生更频繁与人工智能互动，但更关注人工智能使用的风险。

4. 人工智能素养培训

   • 85%的教师和86%的学生报告使用人工智能，但培训进度未能跟上技术普及。
   • 近半教师和学生对学校提供的培训表示有帮助，但缺乏对风险（如系统故障应对）的指导。

5. 深度伪造（Deepfake）和非自愿亲密影像（NCII）

   • 学校在处理深度伪造/NCII方面仍滞后，教师缺乏应对指导，但相关资源提供比例在增加。
   • 学生和家长的应对建议包括严厉惩罚和教育/修复途径。

6. 学生活动监控

   • 学生活动监控软件的负面影响（如处罚、法律接触、身份暴露）持续存在，但未加剧。
   • 监控个人设备的学生更易受影响，但总体后果未显著恶化。

7. 学生隐私

   • 人工智能使用加剧了数据隐私担忧，使用率高的学校更易发生数据泄露（70%的教师报告）。
   • 长期存在的学生安全和非学术用途的数据收集引发家长担忧。

8. 性别多元学生与隐私

   • 学校在性别多元学生姓名/代词变更的家长通知政策上存在差异，LGBTQ+学生和家长更反对通知政策。
   • 46%的教师报告学校收集移民学生信息，17%的信息被移民执法部门获取。

结论
人工智能在学校中的应用日益广泛，但伴随数据安全、欺凌、隐私和公平性等风险。学校需加强培训、完善政策，平衡技术优势与学生权益保护。