2024-07-01 17:18 来源:本站编辑
谷歌(Google)上周五表示,它已经删除了一个新的人工智能功能提供的错误答案,该功能称巴拉克•奥巴马(Barack Obama)是美国第一位穆斯林总统。
当用户询问“美国有多少位穆斯林总统?”时,谷歌搜索引擎上的“AI概览”总结中出现了答案。
X上的用户强调了这个问题,《国家报》也报道了这个问题。
“这个特别的概述违反了我们的政策,我们已经把它撤下了,”谷歌的一名代表在一封电子邮件中告诉《国家报》。
然而,当《国家报》在不带问号的情况下输入同样的问题时,新的“人工智能概览”确实正确地显示出美国没有过穆斯林总统。
美国第44任总统奥巴马不是穆斯林,信奉基督教。种族主义右翼阴谋论者多年来一直声称他秘密信奉伊斯兰教。
谷歌上周宣布,将在英国测试一段时间后,在美国推出人工智能生成的摘要搜索结果——AI Overview。
谷歌代表表示:“绝大多数人工智能概览提供了高质量的信息,并提供了在网络上更深入挖掘的链接。”
“在推出这一新体验之前,我们进行了广泛的测试,就像我们在搜索中推出的其他功能一样。”
生成式人工智能的摘要是由一个机器学习模型创建和定制的,该模型的信息来自互联网上已有的资源和谷歌的知识图谱(Knowledge Graph),这是一组分配给搜索引擎结果的特定关键词和主题的相关信息。
错误的AI Overview搜索结果显示奥巴马是美国第一位穆斯林总统,其来源是牛津大学出版社出版的一本书,标题为“巴拉克•侯赛因•奥巴马:美国第一位穆斯林总统?”
它还引用了维基百科关于美国总统宗教信仰的页面,其中提到了奥巴马是穆斯林的阴谋论。
在用户输入查询或搜索关键词后,新的生成式人工智能摘要现在会出现在页面的顶部——在“精选摘要”、“赞助”广告和相关网络结果的上方。
美国社交媒体用户发布了其他几个令人震惊或不正确的人工智能概览结果,例如,地质学家说人类应该每天吃一块石头,以及一些文章说在披萨上涂胶水可以让奶酪粘得更好。
谷歌代表表示,这些例子是“不常见的查询”,并声称一些在线共享的“篡改”体验是谷歌无法复制的。
“我们正在根据我们的内容政策采取适当的迅速行动,并利用这些例子对我们的系统进行更广泛的改进,其中一些已经开始推出,”这位代表补充说。
谷歌表示,它每年都会对其搜索引擎进行数千项改进,并修补此类不准确或出现的问题。
该公司还拥有评估流程和测试系统,以确保其AI Overview结果符合质量和安全标准。