员工表示,亚马逊AI聊天机器人Q严重“产生幻觉”,泄露了公司的机密数据

日期:2023-12-05 11:11:27 / 人气:136

员工表示,亚马逊AI聊天机器人Q严重“产生幻觉”,泄露了公司的机密数据。" It之家12月2日报道,亚马逊在今年11月底推出了一款名为Q的AI聊天机器人。然而,据国外科技媒体Platformer披露的一份内部文件显示,亚马逊员工称Q存在严重的“幻觉”问题,并泄露了包括AWS数据中心位置和内部折扣计划在内的许多机密信息。
IT之家11月17日报道,剑桥词典近日宣布,2023年的年度词汇是“幻觉”。
幻觉最初是指似乎看到、听到、感觉到或闻到“不存在的东西”,通常指使用者在身体不好或吸毒时产生的幻觉。
随着AI的兴起,幻觉延伸到产生幻觉,为AI产生虚假信息。
报告文件显示,亚马逊Q会产生幻觉,返回有害或不恰当的聊天内容。例如,Amazon Q会返回过时的安全信息,这可能会使客户面临风险。
亚马逊淡化了员工讨论的重要性,并声称没有发现安全问题。然而,泄露的文件引起了人们对Q的准确性和安全性的担忧,该文件仍处于预览阶段,尚未正式发布。
一名员工将事件标记为“sev 2”,表示事件非常严重,需要工程师加班尽快修复。
q定位为ChatGPT的企业版,设计上比消费级工具更安全。然而,内部文件强调了Q提供不准确或有害信息的风险。
据悉,除了严重的幻觉,Q还泄露了公司机密数据,包括AWS数据中心的位置、内部折扣计划和未公开的功能。
文章发表后,发言人发表声明反驳该员工的说法,称亚马逊Q没有泄露机密信息。"

作者:富达注册登录官网




现在致电 5243865 OR 查看更多联系方式 →

富达注册登录官网 版权所有