Растущая зависимость банков от чат-ботов для решения задач по обслуживанию клиентов беспокоит наблюдателей за потребителями

НЬЮ-ЙОРК (AP) – Можете ли вы доверять Эрике, Сэнди или Эми в том, что они будут все больше контролировать части вашей финансовой жизни, не предоставляя вам неточную информацию или не отправляя деньги не туда?

Именно об этом спрашивает Бюро финансовой защиты потребителей в отчете, опубликованном во вторник, в котором бюро излагает ряд опасений по поводу растущего использования чат-ботов банками для обработки обычных запросов на обслуживание клиентов.

CFPB обеспокоен тем, что банки или компании, обслуживающие кредиты, могут сократить штат сотрудников по обслуживанию клиентов и передать все большее количество рутинных задач ИИ. Кроме того, регулятор заявляет, что плохо спроектированные чат-боты могут противоречить федеральным законам, регулирующим сбор долгов или использование личной информации.

«Если компании плохо используют эти услуги, существует большой риск массового вреда для клиентов», — сказал Рохит Чопра, директор CFPB, в интервью Associated Press.

В течение нескольких лет банки обрабатывали все больше и больше запросов на обслуживание клиентов с помощью чат-ботов, часто с женскими именами, такими как Сэнди из Сантандера, Эми из HSBC или Ино из Capital One.

Bank of America управляет самым большим и успешным финансовым чат-ботом под брендом Erica. Эрика — последние пять букв в Америке — теперь обрабатывает сотни миллионов запросов в год от клиентов BofA.

Первоначально банковские чат-боты использовались для выполнения базовых запросов, таких как изменение адреса или номера телефона клиента, сообщение клиенту, где находится ближайшее отделение или какой маршрутный номер может быть на его счете. Но поскольку банки вложили миллионы в эти услуги, чат-боты стали особенно сложными, способными понимать полные предложения или даже помогать клиенту переводить деньги или оплачивать счета.

По оценкам CFPB, примерно четыре из каждых 10 американцев взаимодействовали с банковским чат-ботом в прошлом году, и эта цифра, как они ожидают, будет расти.

Банки готовятся развернуть еще более продвинутые услуги, подобные ИИ. Сообщается, что JPMorgan Chase разрабатывает планы по использованию ChatGPT и искусственного интеллекта, чтобы помочь клиентам выбирать подходящие инвестиции. Банкиры Bank of America могут использовать Erica для создания профилей клиентов и потенциально рекомендовать им продукты.

Хотя эти услуги могут сэкономить клиентам минуты или часы ожидания, чтобы связаться с человеком и задать обычный вопрос, агентство обеспокоено тем, смогут ли эти чат-боты справиться с нюансами и сложным характером законов о защите прав потребителей, не предоставляя клиентам неточную информацию.

«Существуют федеральные законы, которые дают клиентам права, когда дело касается долгов или оспаривания транзакций, и если агенты по обслуживанию клиентов заменяются чат-ботами, это может создать проблемы, если это программное обеспечение предоставит им неточную информацию», — сказал Чопра.

Бюро также обнаружило, что пожилые клиенты или клиенты, чей основной язык не является английским, могут оказаться в «петле» обслуживания клиентов и не иметь возможности связаться с агентом-человеком.

«Снова и снова мы обнаруживали жалобы на клиентов, которые застревали в зацикленных спорах с роботом или получали неверную информацию», — сказал он.

Чопра, как в своей нынешней должности директора CFPB, так и ранее в качестве члена комиссии Федеральной торговой комиссии, неоднократно выражал обеспокоенность тем, что банки и компании могут нарушать законы о защите прав потребителей, если они плохо внедряют алгоритмы или программное обеспечение искусственного интеллекта. Поступало множество сообщений о чат-ботах Microsoft, Google и других компаний, которые при появлении соответствующего запроса использовали предвзятый язык.