欢迎来到进口食品商务网!

我们对人工智能学校监控的调查总结如下

2025-03-13 16:52 来源:本站编辑

成千上万的美国学校正在转向人工智能监控技术,全天候监控学生账户和学校发放的笔记本电脑和平板电脑等设备。

其目标是保证儿童的安全,特别是在心理健康危机和校园枪击威胁的情况下。机器学习算法检测欺凌、自残或自杀等问题的潜在指标,然后向学校官员发出警报。

但这些工具引发了关于隐私和安全的严重问题。事实上,当《西雅图时报》(Seattle Times)和美联社(Associated Press)合作调查学校监控情况时,记者们无意中通过记录请求获得了近3500份敏感的、未经编辑的学生文件。这些文件的存储没有密码,也没有防火墙,任何拥有链接的人都可以阅读它们。

以下是此次调查的主要结论。

像加格尔这样的监控技术并不总是安全的

当《西雅图时报》和美联社记者向华盛顿的温哥华公立学校提交了一份公共记录请求,寻求有关监控工具Gaggle标记的内容的信息时,隐私和安全风险变得明显起来。有约1500个地区使用Gaggle,它是众多提供监控服务的公司之一,其他公司还包括GoGuardian和security。

Gaggle保存了触发每次警报的数字活动的截图。学校官员不小心向记者提供了链接,没有意识到这些链接没有密码保护。这些文件中的学生公开了他们个人生活中最私密的方面,包括自杀企图。

在得知无意中泄露给记者的记录后,Gaggle更新了系统。现在,72小时后,只有登录了Gaggle账户的人才能看到这些截图。加格尔说,这项功能已经在开发中,但还没有向每个客户推出。

该公司表示,在这72小时内,这些链接必须可以在没有登录的情况下访问,这样学校的紧急联系人——他们经常在深夜通过手机收到这些警报——就可以迅速做出反应。

没有独立研究表明监控技术能提高安全性

监控技术对安全的长期影响尚不清楚。没有独立研究表明它能显著降低学生自杀率或减少暴力。兰德公司(RAND)在2023年的一份报告中发现,人工智能监控的好处或风险只有“很少的证据”。

该报告的合著者、人工智能伦理研究员本杰明·布德罗说:“如果你没有适当数量的心理健康咨询师,发布更多的警报实际上并不能改善自杀预防。”

专家警告说,拥有表达情感的隐私对儿童的健康发展很重要。但数字监控的支持者指出,学校电脑并不是这种无限自我探索的合适场所。

LGBTQ+学生尤其容易受到伤害

倡导者警告说,监控软件对LGBTQ+学生构成了独特的风险。在温哥华学校公布的记录中,至少有六名学生在写了关于自己是同性恋、变性人或患有性别焦虑症的文章后,可能会向学校官员出柜。

当北卡罗来纳州的达勒姆公立学校(Durham Public Schools)试行Gaggle时,一名LGBTQ+倡导者报告说,一个关于自残的Gaggle警报导致一名学生向家人出柜。另一名学生担心会失去对老师的信任。该委员会投票决定停止使用这项技术,认为不值得冒险破坏与成年人的关系。

父母通常不知道他们的孩子正在被监视

接受本文采访的家长表示,他们孩子的学校要么没有披露使用了监控软件,要么在冗长的技术使用表格中隐瞒了这一披露。即使家长们知道监控的存在,学校也可能拒绝让他们退出。

“想象一下,在一个你在电脑上所说的一切都被政府监控的世界里长大,”蒂姆·赖兰(Tim Reiland)说。他曾游说自己孩子所在的俄克拉何马州奥瓦索市的学区,让他的孩子选择不使用Gaggle,但没有成功。“你只需要接受它,然后继续前进。我们创造的是什么样的成年人?美联社的教育报道得到了多个私人基金会的财政支持。美联社对所有内容全权负责。在AP.org上找到美联社与慈善机构合作的标准、支持者名单和资助范围。

中国进口商网声明:未经许可,不得转载。