人工智能、信任与服务不足群体——与联邦银行高级副总裁Paula Grieco的访谈

保拉·格里科是联邦的高级副总裁。

---

发现顶级金融科技新闻和事件！

订阅FinTech Weekly的新闻简报

被摩根大通、Coinbase、黑石、Klarna等高管阅读

---

金融人工智能还有很长的路要走——不仅在速度、准确性或监管方面，还在于它如何赢得信任。尤其是对于那些在新技术推出时并不传统上处于第一线的人来说。

在FinTech Weekly，我们一直在关注联邦的工作****，这是一个专注于为低收入和中等收入（LMI）家庭建立财务安全的非营利组织。他们的实地工作，在我们最近的社论中探讨，揭示了一个明显的紧张局势：虽然LMI用户愿意接受聊天机器人等工具，但他们仍在等待真正能为他们服务的体验——而不仅仅是为其他人重新包装的功能。

本周，我们深入探讨。

我们与保拉·格里科，联邦的高级副总裁进行了交谈，以了解使人工智能对弱势社区有效且安全所需的真正因素。从设计原则到赢得信任，从副驾驶到聊天机器人疲劳，她分享了为何意图比单纯的创新更为重要。

这是对包容性金融科技可能——以及应该——是什么样子的深入和深思熟虑的看法。

请阅读下面的完整采访。

---

2.  联邦最近与摩根大通的合作提供了关于人工智能在改善LMI家庭财务安全方面的关键见解。该研究中最令人惊讶或影响深远的发现是什么？

我们的研究揭示了人工智能，特别是聊天机器人，提供个性化指导和支持低收入社区的巨大潜力——前提是聊天机器人在设计时充分考虑到这一群体的需求和视角。

两个关键发现：

*   客户通常将聊天机器人视为改善他们财务状况的积极工具。我们的数据表明，57%的受访者表示使用聊天机器人改善了他们的财务状况。研究还表明，收入低至中等的（LMI）人群希望拥有信用建立、预算和债务管理等功能。

*   受访者重视与聊天机器人交流的无判断空间，可以提出敏感的财务问题，而无需担心与人类代表面对面交流时可能伴随的羞愧或自我意识。

3.  您如何看待会话人工智能在金融服务领域的发展，特别是对于弱势社区？

理想情况下，下一代由生成性人工智能驱动的聊天机器人将是更好地支持这些家庭财务活动的AI财务助手，并赢得通常对金融系统和在线数据共享持谨慎态度的人群的信任。金融服务提供商有重大机会为他们的聊天机器人提供更复杂、细致和以行动为导向的能力。

当客户现在使用金融聊天机器人时，他们主要在寻求账户信息或尝试解决问题。我们全国调查的受访者中，使用聊天机器人获取财务建议和教育、产品推荐、申请信用或贷款以及开设或关闭账户的比例不足20%。然而，我们的研究发现，对于能够协助这些类型银行操作的聊天机器人有需求。在开发聊天机器人时专注于这些类型的功能可能会增加这些客户的使用和实用性。

对于那些尚未准备好直接向消费者推出生成性AI财务副驾驶的银行和金融机构，这项技术可以支持客户代表等银行员工在互动过程中为客户提供更好、更准确和更及时的响应。

4.  在确保人工智能驱动的金融工具对黑人、拉丁裔和女性主导家庭公平有效方面，有哪些最大挑战？

对于所有新兴技术，必须有意图地努力确保低至中等收入者的需求在开发过程和设计决策中得到包含。我们发现，与金融机构的私营/慈善合作早期有助于为这些努力建立动力。通过建立证据基础，我们也帮助构建业务案例。

我们已经看到关于增加赢得信任的设计指导的显著潜力，这可以使会话AI支持财务健康，而不会大幅增加成本。

5.  根据您的研究，金融服务提供商在整合AI以支持LMI用户时应该考虑哪些关键设计原则？

联邦创建了《金融人工智能为善指南》，为服务LMI人群的金融服务提供商提供可操作的设计指导。我们基于与金融机构、聊天机器人提供商和生活在LMI人群中的人们的全面研究，制定了这些建议。

该指南围绕四个主要设计目标组织。我将为每个目标提供一两个示例：

2.  赢得信任：在使用聊天机器人时，我们研究的多数受访者的首要关注是安全性。在这里，金融机构可以通过提前传达银行采取的安全措施以及让用户控制所存储的数据来强调数据安全。
4.  驱动参与：使用户知道这些工具能为他们做什么以及何时做，通过创建清晰的功能说明来实现。此外，追求“智能主动性”。例如，集成在最有用时弹出的聊天机器人，而不显得过于强势或激进，以免给人造成垃圾信息的感觉。
6.  增加价值：预见客户的需求。有限的实体分行访问为聊天机器人完成客户可能需要去银行办理的小动作提供了机会。通过允许用户开启和关闭自动化财务功能，以及包括在余额低于某个阈值时暂停自动资金移动的“安全网”功能，平衡自动化和控制。
8.  改善可及性：提供与客户基础相匹配的多语言支持和指导，并专注于移动友好的功能。我们的研究表明，超过一半的受访者更喜欢通过手机访问银行服务。

6.  您能分享任何成功案例或案例研究，展示会话AI如何显著改善LMI个人的财务健康吗？

我们知道，在我们的实地测试研究中，57%的用户表示使用金融聊天对他们的财务状况产生了积极影响。虽然这些早期结果令人鼓舞，但生成性人工智能工具仍处于初期阶段，我们的持续研究将继续建立其在改善LMI个人财务健康方面的有效性的证据基础。

7.  在实施人工智能驱动的金融工具时，金融机构应注意哪些风险或意外后果？

重要的是，低收入人群不应被排除在外。当金融机构开发工具时，理解服务低收入客户群的固有机会和方式至关重要。

有许多机构专注于人工智能驱动工具的固有风险和后果，以及大型语言模型的偏见和准确性。除此之外，我们希望确保一个主要关注点得到解决：财务建议与用户个人财务状况的相关性。金融机构通过确保他们提供的信息准确，并且有真实的透明度，可以增加客户参与度并赢得客户的信任。

人工智能为低收入人群提供了前所未有的机会，以获得传统上无法获得的建议和工具，无论是投资工具还是个人财务管理。这些工具可以为低收入人群及其独特情况量身定制。这是金融服务提供商拓展客户基础的巨大机会。

8.  金融机构如何衡量人工智能驱动工具对用户财务安全和福祉的实际影响？

财务健康的基本要素：使用这些工具时，储蓄是否增加，债务是否减少，信用评分是否改善？

我们还可以调查与聊天机器人互动的体验——信任是否增加？对能够改善财务健康的产品是否产生了更大的兴趣？在建议方面，接受建议后是否采取了行动？

银行还可以在与聊天机器人互动的消费者组与未互动的消费者组之间进行A/B测试，以查看它们之间是否存在可测量的差异。

9.  人类监督在金融服务的人工智能工具部署中发挥什么作用，提供商如何在自动化和人类支持之间找到正确的平衡？

增加赢得信任的一个方法是确保在互动的适当时刻有一个人可供访问。客户面对面的银行员工使用副驾驶的方式在这方面是有益的。在需要时能够接触到真人会增加对人工智能工具的信任和体验。

使用会话AI将使客户服务代表更好、更迅速地满足客户和会员的复杂需求，同时在互动的关键时刻提供人性化的接触。

透明度对于建立任何互动中的信任也至关重要。例如，您应该知道您是与聊天机器人交谈还是与真实的人交谈。

10.  展望未来，您认为在接下来的五年中，人工智能在金融包容性方面最令人兴奋的机会是什么？

生成性人工智能代表了会话AI支持的下一个发展，提供个性化和上下文敏感的参与，水平更接近人类支持，而不是今天大多数金融聊天机器人的决策树结构。生成性人工智能在金融领域的初步应用主要集中在后台应用程序上，为客户服务代理提供支持。识别生成性人工智能如何在金融环境中提供个性化支持的规模是推动该领域发展的关键机会。

建立赢得信任将对生成性人工智能的更广泛采用尤为关键，而我们的实地测试和焦点小组的参与者对其持更为怀疑的态度，超过传统聊天机器人。然而，在金融服务应用中提供更高级别支持的潜在好处使生成性人工智能成为金融领域最令人兴奋的技术。那些能够开发值得信赖和可靠的生成性人工智能支持的公司将处于这一新客户关系构建时代的前沿。

我们还看到一些具体机会，例如能够提供全面的财务指导，量身定制满足个人需求的副驾驶和个人助手，您可以称之为个人财务教练。我们还预计会话AI的进展将在促进工人财务健康方面发挥重要作用，提供信息和指导，以帮助他们应对复杂的员工福利体系。

11.  您如何看待像联邦这样的非营利组织在塑造金融服务中人工智能责任使用方面的角色演变？

历史上，新技术的设计侧重于高收入消费者的采用，同时忽视了LMI家庭的需求。通过我们的“人人享有新兴技术”（ETA）倡议，我们专注于确保财政脆弱人群的需求得到理解、可见、纳入相关对话并融入解决方案。我们正处于扩展人工智能的关键拐点，认为继续研究和识别人工智能如何积极影响这一人群是紧迫的。

目前在这个主题上存在的研究和采用相对较少，我们采访的一些提供商提到需要进行更大规模的研究，以建立可以在内部用以支持这种设计的证据。我们正在迎接这一挑战，产生有影响力的研究和实地测试，展示生成性人工智能如何支持生活在LMI家庭的财务健康，并为更积极地为这一弱势消费者群体设计提供商业案例。

展望未来，包容性技术设计的系统影响将取决于金融服务主要参与者如何规模化应用这些洞察。对我们而言，推动包容性设计的规模化将取决于利用我们的研究与更大组织合作，寻求利用人工智能进步来支持客户和员工的财务健康。

12.  您对希望在利用人工智能的同时保持客户信任和透明度的金融机构有什么建议？

LMI家庭更希望直接与人接触，但面对面对分行的访问最少。这一差距突显了人工智能提供这种个性化支持的关键机会，而低收入家庭正是他们所追求的，而无需增加分行或客户支持人员的数量。

然而，为了推动更广泛的采用，金融机构必须赢得并建立低收入人群对聊天机器人的更多信任——这其中一部分是特定于聊天机器人体验的，而另一部分是随着人工智能技术获得更多接受和整体安全性与质量的改善而行业普遍存在的。

人们在与聊天机器人互动时的主要关注点是安全和隐私。总体而言，人们对会话AI能否有帮助、保护他们的数据或为他们的最佳利益而行动表示缺乏信任。尽管许多商业人士对人工智能的潜力感到兴奋，但生活在LMI人群中的人们可能会更怀疑，因为这是一项尚未向他们展示直接价值的新技术。

透明的数据政策、令人安心的品牌和信息，以及在需要时保持与人类代理的联系作为后备选项，都将有助于建立和赢得信任。通过生成性人工智能开发有用且个性化的互动，超越聊天机器人今天提供的基本信息，如账户余额和近期交易，也将有助于展示这项技术的价值。

强调赢得信任的概念也很重要。目标不仅仅是说服人们信任聊天机器人，而是要真正以这样的方式设计聊天机器人，以使这种信任是有依据的。