Riscos de governança podem estar ocultos por trás da produtividade! Goldman Sachs (GS.US) limita o uso de ferramentas avançadas de programação com IA para funcionários não técnicos

De acordo com o aplicativo de notícias financeiras Zhihui Caijing, segundo reportagens, o Goldman Sachs (GS.US), após avaliar preocupações relacionadas à produtividade e riscos, proibiu parte de seus funcionários de utilizarem ferramentas avançadas de inteligência artificial (IA) voltadas para programação. Isso indica que este gigante de Wall Street, após meses promovendo ativamente a aplicação de IA, começou a redefinir os limites de uso de certas ferramentas de IA.

De acordo com as reportagens, durante os meses anteriores, banqueiros do Goldman Sachs vinham utilizando no trabalho ferramentas desenvolvidas pela Anthropic e pela GitHub, empresa da Microsoft (MSFT.US). Porém, conforme as diretrizes internas atualizadas pelo banco em outubro, agora a permissão para o uso dessas ferramentas está restrita ao grupo de engenheiros.

Essa mudança já provocou insatisfação entre parte dos funcionários. Pessoas a par do assunto revelaram que alguns operadores anteriormente utilizavam essas ferramentas de IA para acelerar tarefas como monitoramento do fluxo de transações dos clientes, modelagem de mudanças de mercado e posições, bem como criação de conteúdos escritos e gráficos, motivo pelo qual se sentiram frustrados com a restrição repentina de acesso às ferramentas.

Vale notar que essa abordagem contrasta de forma clara com a atitude positiva do Goldman Sachs em relação à IA em julho deste ano. Na época, Marco Argenti, diretor de informação do Goldman Sachs, falou publicamente sobre o chamado “vibe coding”, ou seja, funcionários sem formação técnica utilizavam ferramentas de IA para desenvolver software ou soluções por conta própria. Segundo o modelo daquela época, operadores, banqueiros e outros colaboradores mais familiarizados com as necessidades de negócios podiam inicialmente criar soluções com IA rapidamente, e depois repassar esses resultados aos cerca de 12 mil engenheiros da empresa para aprimoramento e aplicação prática.

A vantagem desse modelo reside em diminuir a barreira para funcionários não técnicos desenvolverem software, ao mesmo tempo em que permite à equipe de engenharia obter necessidades de negócio mais claras. Para operadores e banqueiros, eles não precisavam aguardar a fila do departamento de engenharia e podiam, com IA, montar um protótipo, validando rapidamente se uma ideia tinha valor real.

No entanto, com o avanço das capacidades dos agentes de codificação com IA, esse modelo também trouxe novos riscos: códigos gerados por IA podem acabar sendo usados diretamente para processar informações de clientes, dados de transações ou sistemas internos, sendo que os usuários podem não ter conhecimento suficiente em engenharia de software para identificar falhas de segurança, erros lógicos ou problemas de permissão de dados nos códigos.

Para um banco global rigorosamente regulamentado, tais riscos são especialmente sensíveis. IA generativa não apenas pode produzir respostas erradas, como também envolve potenciais vazamentos de dados sensíveis, segurança cibernética, propriedade intelectual, confiabilidade dos resultados do modelo e registro regulatório. Por isso, as instituições financeiras precisam buscar um equilíbrio entre aumentar a produtividade dos funcionários e manter o controle de risco.

A nova política do Goldman Sachs reflete, na realidade, uma mudança maior na forma como Wall Street está aplicando IA. Nos últimos dois anos, as instituições financeiras geralmente viam a IA generativa como uma ferramenta importante para elevar a produtividade dos colaboradores. Com a evolução rápida de soluções como Claude, ChatGPT e vários agentes de codificação com IA, essas ferramentas deixaram de ser simples geradores de texto e passaram a construir código, analisar dados, executar tarefas automaticamente e até criar fluxos de trabalho completos como “agentes inteligentes”.

Contudo, quanto mais poderosa a IA, mais complexos se tornam os desafios de governança para as empresas. Reportagens recentes apontam que o uso interno de ferramentas de IA generativa não aprovadas está criando o chamado problema de “shadow AI” nas empresas. Os principais riscos enfrentados incluem perda de controle sobre dados confidenciais, incidentes de segurança da informação, erros ou vieses nos resultados do modelo, questões de propriedade intelectual e ausência de registros confiáveis para decisões importantes.

Por isso, em vez de simplesmente proibir o uso de IA pelos funcionários, cada vez mais empresas começam a adotar abordagens de governança segmentadas, como classificar diferentes cenários de uso de IA conforme a sensibilidade dos dados, consequências de erros e importância das decisões de negócios, estabelecendo diferentes permissões para diferentes grupos de funcionários. Sob esse ponto de vista, ao destinar ferramentas avançadas de programação como Claude Code e GitHub principalmente para engenheiros, o Goldman Sachs pode ser visto como realizando uma transição de sua governança de IA de um modelo de “experimento aberto” para uma “gestão especializada”.