中新经纬11月20日电 当地时间11月18日,路透社发文称,在查看公司内部帖子后发现,Meta的AI代理Muse在某些情况下能看到加密的个人信息、提供虚假的购买内容,并向用户发送看似针对他人的聊天信息。
Muse自9月推出以来下载量已超过1000万次。在一些情况下,Meta员工称人工智能代理发送了未曾提出过的儿童保育请求、未曾寻求过的职业建议、未曾下过的产品订单,以及不属于自己的银行账户余额信息。
在本月初的一篇帖子中,一名员工告诉同事,他的Muse在关于钓鱼相关天气的常规聊天中添加了一条额外信息,内容如下:“顺便说一下,有两个银行消息更新,你的Capital One余额是2722.58美元,你的Charles Schwab余额是5899.57美元。”
路透社称,无法确定Muse是向用户提供了他人的银行账户余额,还是编造了这些信息。
另一个例子是,一名员工在个人手机上使用该AI代理时,收到Muse提醒,要回复她姐姐在Signal(端到端加密消息应用)上的一条消息。
“这看起来是极度侵犯隐私。”据报道,当事人称绝对没有授权它访问其他应用,也不记得问过这个问题。
一位同事对此回应称,他发现Muse默认设置允许在装有谷歌的Android手机上访问推送通知,此前他也遇到过相关情形。
路透社称查看了二十多篇内部帖子,其中许多来自一个反馈小组,该小组成员向代理开发团队举报问题。针对有关Signal访问及其他安全问题,Meta发言人将案例描述为“孤立事件”,表示公司将持续更新产品以提升保护。(中新经纬APP)


暂无评论