AI代理操作金融账户 损失责任归属受关注
11月19日消息,随着AI智能体从文本问答走向代订机票、预约餐厅和自动购物,其接入金融账户后的责任边界正成为用户关心的问题。
多家银行近期通过邮件和应用通知向客户发出提醒:AI工具获得金融账户权限后执行的操作,可能被视作用户本人授权行为,而不是外部入侵者实施的操作。Ally Bank在本月早些时候的邮件中称,使用AI服务时,AI采取的任何行动都由用户负责,AI可能犯错、产生幻觉、误解指令,或以用户意料之外的方式执行指令,从而造成重大损失。

摩根大通在11月发送的邮件中提醒客户,如果信息遭到滥用,已经授权的交易可能无法撤销。花旗银行则在官网和移动应用中添加提示横幅,引导用户阅读相关风险说明,并明确表示AI助手可能犯错,用户可能需要对它造成的错误承担责任。
这些提示出现之际,新一代AI智能体正逐渐具备自主执行任务的能力。过去,ChatGPT、Claude等模型主要通过文本回答用户问题;如今,meta的Muse、Instinct AI以及OpenAI的Dots等在线智能体已经能够代替用户完成实际任务,例如预订机票、预约餐厅,甚至在除臭剂用完之前自动下单购买。零售商也开始调整服务条款。今年3月,塔吉特修改客户协议,明确将AI智能体代为购物的行为认定为由用户授权的交易。
银行同样在尝试划清界限:通过正规授权方式将账户连接到AI工具,与直接把账户登录凭据交给AI工具,并不是一回事。多家银行提醒客户,不要向AI工具提供用户名、密码、安全验证码等重要信息。富国银行表示,客户不应轻易将账户访问权限交给第三方。该银行代表称,任何技术都不应在缺乏严格安全措施、明确客户授权以及保护客户资金和金融信息防护机制的情况下,被允许代表客户采取行动。
今年10月,在摩根大通的财报电话会议上,该行CEO杰米·戴蒙也针对AI智能体访问银行账户的问题表示,如果人们正在使用这些工具,就应该了解其中的风险;在此时期,公司不会允许任何外部智能体随意进入内部系统,因为这会给客户和摩根大通带来太大风险。
设备和软件厂商也在作出提示。苹果最新一代Mac系统软件的测试版中,当用户考虑授予AI智能体或应用程序电脑系统级访问权限时,系统会弹出风险提示,提醒用户谨慎授权。