English

技术

摩根大通CEO戴蒙警告客户:使用AI代理涉及“责任转移”

作者:凯特琳·马伦1阅读

在摩根大通第三季度财报电话会议上,首席执行官杰米·戴蒙警告客户,使用AI代理访问银行账户会带来责任转移以及失控代理的风险。他表示,该银行正在开发保护客户的工具,不会允许任何外部代理进入公司内部。首席财务官杰里米·巴纳姆指出,摩根大通的AI驱动工具Smart Cash正处于试点阶段,并讨论了AI支出与生产力收益,但这些尚未在季度财报中体现。

摩根大通CEO戴蒙警告客户:使用AI代理涉及“责任转移”

摩根大通首席执行官杰米·戴蒙周二提醒客户,如果他们将银行账户的访问权限授予人工智能代理,那么这一决定由他们自己负责。

这家美国最大银行首席执行官的此番言论,恰在Meta的人工智能助手Muse首次亮相几周后发表,重新引发了围绕 贷款机构对AI现金分流的担忧.

“你必须确保客户不会因此受到伤害,所以这确实令人担忧,”戴蒙在 该行第三季度财报电话会议上表示。“你不希望出现失控的代理,而这样的代理可能有成千上万个。”

“如果人们在使用它们,就应该了解其中的风险,”这位首席执行官说。“存在责任转移。他们应该了解责任转移。如果数据被滥用,他们应该知道数据正在被滥用。”

“我们必须确保以恰当的方式保护我们的客户。因此我们也在构建相应的工具,”戴蒙说。“与此同时,我们不会允许任何外部代理进入公司内部,因为这对客户和摩根大通来说风险太大。”

咨询公司 麦肯锡在4月警告称 ,如果代表消费者行事的人工智能代理为追求更高利率而转移资金,零售银行与客户之间的关系可能会面临去中介化。

就摩根大通而言,其AI驱动的Smart Cash工具——在位于纽约市的该行各账户之间转移客户资金,以最大化收益并管理现金流——正处于试点阶段,首席财务官杰里米·巴纳姆周二表示。

“战略问题不在于AI是否会将存款从支票账户中抽走,而在于谁拥有代理、钱包以及最终的客户关系,”美国银行证券分析师易卜拉欣·普纳瓦拉在9月23日的一份报告中表示。

戴蒙表示,监管机构还应考虑代理型AI对存款的潜在影响可能如何影响流动性风险管理。

“这是一个新世界”,而且“面对所有这些机器人和代理之类的东西,会不会有人受到伤害并引发问题?也许吧。如果我是监管者,我会努力为此做好准备,”戴蒙说。

银行高管周二还面临与AI支出相关的问题,因为该行业开始感受到展示 AI投资回报 的压力,而成本却已飙升。 去年,戴蒙曾表示,该行每年由AI带来的20亿美元节省额,大致相当于其每年在这项技术上的支出。

周二被问及最新数据时,巴纳姆称该行每年的AI支出更接近7亿美元,而非20亿美元,但他也表示,这一数字“目前有点过时了”。

“如果把大家花在这件事上的思考时间也算进去,你大概会得出一个更高的数字,”这位首席财务官说。“现阶段,这确实不是可以圈定范围的事情。它已经在整个机构内部相当广泛地扩散,而且显然是一个极其、极其优先的事项。”

至于收益,巴纳姆表示他正试图不再对其进行量化,部分原因是此前的估算会包含更多传统AI和机器学习的用途。

生成式AI和代理型AI对生产力、支出和收入的影响“是当下更相关的关注点,我只是非常不愿意花大量精力去量化它,因为当我们实际上需要让人们专注于做事时,这最终会浪费机构内部很多人的时间,”巴纳姆说。

这位首席财务官表示,AI带来的收益尚未在摩根大通的季度财报中体现出来。

“尽管这一主题如此重要、引人注目且令人兴奋,但在我们这样规模的机构中,真正做出可见的成果需要很长时间,”他说。

该行季度支出同比跃升12%,达到273亿美元,原因是薪酬提高和员工人数增长;经纪费用和分销费用上升;以及营销和技术支出增加,据 一份财报.

巴纳姆表示,摩根大通预计第四季度支出约为275亿美元。

巴纳姆还举例说,他开始看到支持财务部门的科技组织内部出现了收益,因为相关实验在生产力方面带来了有希望的改善。

“这需要多长时间才能显现出来,我们拭目以待,而且显然其中一些收益会被token成本抵消,这又是另一个话题了,”他说。

巴纳姆表示,为管理成本,该行专注于“尽量减少锁定并最大化可选性”。模型无关性以及同时运行专有模型和开源模型的能力,都是“为了让人们以最优价格获得现有最佳成果”而设计的。

戴蒙指出,已经出现了处理模型路由的工具,可以将查询发送给最快、最便宜的模型,从而控制token成本。

“你不需要为每一次查询都使用最昂贵的东西,而人们往往只是使用自己用惯的那一个,”他说。

合作伙伴