2024-07-03 10:21 来源：本站编辑
周二，OpenAI的一群现任和前任员工发表了一封公开信，警告称，世界领先的人工智能公司缺乏必要的透明度和问责制，无法应对该技术带来的潜在风险。
这封信对人工智能的安全风险提出了严重的担忧，“从进一步巩固现有的不平等，到操纵和错误信息，再到失去对自主人工智能系统的控制，可能导致人类灭绝。”
包括一名来自谷歌深度思维(Google DeepMind)的员工在内的16个签署者警告称，人工智能公司“有强大的财务动机来避免有效监管”，这些公司的自我监管不会有效改变这一点。
信中写道:“人工智能公司拥有大量非公开信息，包括其系统的能力和局限性、保护措施的充分性，以及不同类型伤害的风险水平。”
“然而，他们目前只有薄弱的义务与政府分享这些信息，而没有与公民社会分享。我们认为不能指望他们都自愿分享信息。”
信中还说，这一现实意味着，只有公司内部的员工才能通知公众，联署者呼吁制定更广泛的举报人法律来保护他们。
信中说:“广泛的保密协议使我们无法表达我们的担忧，除了那些可能无法解决这些问题的公司。”
据《纽约时报》报道，OpenAI的四名现任员工匿名签署了这封信，因为他们担心遭到公司的报复。
约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也签署了这份备忘录，他们经常被称为人工智能的“教父”，并批评人们对人工智能的危险缺乏准备。
OpenAI在一份声明中反驳了这些批评。
一份声明称:“我们为我们提供最强大、最安全的人工智能系统的记录感到自豪，并相信我们解决风险的科学方法。”
“我们同意，考虑到这项技术的重要性，严格的辩论是至关重要的，我们将继续与世界各地的政府、民间社会和其他社区合作。”
OpenAI还表示，它有“员工表达担忧的途径，包括匿名诚信热线”，并新成立了一个由董事会成员和高管领导的安全与保障委员会，包括首席执行官萨姆·奥特曼。
对OpenAI的批评最初是在《纽约时报》上发表的，与此同时，围绕奥特曼对公司领导能力的质疑也越来越多。
OpenAI推出了一系列新产品，但该公司坚称，这些产品只有在经过全面测试后才会向公众发布。
近日，一款人形聊天机器人的发布引发了争议，好莱坞明星斯嘉丽·约翰逊抱怨说，这款聊天机器人的声音与她的声音非常相似。
此前，她曾拒绝了奥特曼的邀请。
