Os bancos Goldman Sachs, Citigroup, JPMorgan e outras empresas de Wall Street estão alertando os investidores sobre novos riscos do uso crescente da inteligência artificial, que vão desde “alucinações” do software, passando pela disputa de talentos, até o uso por criminosos cibernéticos, o que deve levar a mudanças nas leis globais que regulam o tema.
Os perigos recentemente incluem modelos de IA falhos ou não confiáveis, aumento da concorrência e novas regulamentações que restringem o uso de IA. O JPMorgan, por exemplo, disse que a IA pode causar “deslocamento da força de trabalho”, algo que pode afetar o moral e a retenção da equipe, aumentando a disputa pela contratação de colaboradores com as habilidades tecnológicas necessárias, de acordo com o relatório do banco.
Os bancos têm reconhecido os riscos relacionados à IA em seus relatórios anuais nos últimos dois anos, mas novas preocupações estão surgindo à medida que o setor financeiro adota cada vez mais a tecnologia por meio de seu próprio software ou ofertas de terceiros. Se os bancos não se mantiverem atualizados com os últimos desenvolvimentos de IA, eles correm o risco de perderem clientes e negócios, alertaram as instituições em seus relatórios anuais. Mas o uso crescente de IA também os expõe a riscos de ataques cibernéticos e uso indevido.
“Ter esses mecanismos de governança corretos em vigor para garantir que a IA esteja sendo implantada de uma forma segura, justa e protegida –isso simplesmente não pode ser ignorado”, disse Ben Shorten, líder de finanças, risco e conformidade da Accenture para bancos e mercados de capital na América do Norte. “Esta não é uma tecnologia plug-and-play.”
Os bancos correm o risco de pilotar tecnologias que podem ser construídas usando conjuntos de dados financeiros desatualizados, tendenciosos ou imprecisos. O relatório anual do JPMorgan disse que há perigos em desenvolver e manter modelos que tenham o mais alto nível de “qualidade de dados”.
O Citigroup disse que, ao implementar IA generativa em partes selecionadas do banco, há riscos de resultados “ineficazes, inadequados ou falhos” produzidos para seus analistas. Os dados também podem estar incompletos, tendenciosos ou imprecisos, o que “pode impactar negativamente sua reputação, clientes, clientes, negócios ou resultados de operações e condição financeira”, de acordo com seu relatório anual de 2024.
GERANDO INTEGRAÇÃO
O Goldman Sachs disse que, embora tenha aumentado seu investimento em ativos digitais, blockchain e IA, o aumento da concorrência representa riscos para a integração de tecnologias de IA em tempo hábil o suficiente para aumentar a produtividade, reduzir custos e dar aos clientes melhores transações, produtos e serviços, de acordo com o último relatório anual da empresa. Isso pode afetar a atração e retenção de clientes, disse o Goldman.
As empresas financeiras também correm o risco de manter a privacidade dos dados e a conformidade regulatória em um ambiente que é “menos certo e em rápida evolução”, disse Shorten. Em 2024, a Lei de Inteligência Artificial da UE entrou em vigor, estabelecendo novas regras sobre o uso de sistemas de IA na região, onde muitos bancos dos EUA têm operações.
“Esta lei estabelece regras para colocar no mercado, colocar em serviço e usar muitos sistemas de inteligência artificial na UE”, disse Shorten. “A perspectiva para os EUA e o mercado dos EUA é menos clara.”
Os bancos estão usando uma combinação de suas próprias ferramentas de IA e aquelas adquiridas de provedores externos. O Citigroup está lançando um conjunto de ferramentas que podem sintetizar informações importantes de registros públicos. O Morgan Stanley Debrief está assumindo tarefas rotineiras com uma interface semelhante ao ChatGPT. E a divisão de private-wealth do Goldman está usando IA para avaliar portfólios e analisar dezenas de posições subjacentes, disse o diretor de informações Marco Argenti.
“É muito importante adotar uma abordagem responsável e realmente aplicar controles para que você se proteja de potenciais imprecisões e alucinações”, disse ele na semana passada, na conferência Bloomberg Invest, em Nova York.
O CEO do JPMorgan, Jamie Dimon, disse que a IA pode ser o maior problema com o qual seu banco está lidando. Em sua carta anual aos acionistas, ele comparou o impacto potencial da IA ao da máquina a vapor e disse que a tecnologia poderia “aumentar praticamente todos os empregos”.
Representantes dos bancos se recusaram a comentar além das divulgações de IA em seus relatórios anuais.
À medida que os bancos recorrem cada vez mais à IA, os cibercriminosos estão fazendo o mesmo –e estão se tornando cada vez mais sofisticados em seu uso, de acordo com Shorten. A pesquisa global mais recente da Accenture com 600 executivos de segurança cibernética no setor bancário descobriu que suas equipes estão lutando para acompanhar os esforços de adoção de IA de suas organizações. Entre os entrevistados, 80% acreditam que a IA generativa está capacitando os criminosos mais rápido do que os bancos podem responder.
O Morgan Stanley disse em seu último relatório anual que a IA generativa, o trabalho remoto e a integração de tecnologia de terceiros podem representar um risco à privacidade dos dados. Os riscos introduzidos pelo uso da IA durante o trabalho em casa exigirão que as empresas estabeleçam regras para evitar problemas, disse Shorten.
“Essas medidas só vão aumentar em criticidade”, disse ele, “pois os invasores estão sendo habilitados por essa tecnologia mais rápido do que os bancos conseguem responder.”