Quase metade do código gerado por assistentes de Inteligência Artificial contém vulnerabilidades de segurança. Esse dado, aferido de forma independente por pesquisadores da Universidade de Nova York e por um dos maiores laboratórios de segurança de software do mundo, deveria estar no centro das discussões de qualquer time de engenharia que usa IA para código hoje.
E, no entanto, as conversas sobre desenvolvimento de software com IA ainda giram, com frequência, em torno de produtividade: quantas linhas por hora, qual o ganho de velocidade, como reduzir o tempo de entrega de features. Mas o problema principal é: o que está sendo entregue junto com esse código?
Ao menos 8 em cada dez desenvolvedores já usam alguma forma de assistência por IA no trabalho. Estimativas recentes indicam que entre 40% e 46% do código enviado para repositórios corporativos tem participação de IA. Em algumas das maiores empresas de tecnologia do mundo, esse percentual ultrapassa 50%. É uma transformação de escala histórica no modo como software é produzido, e isso aconteceu sem que a maior parte das organizações tivesse políticas, processos ou controles à altura da velocidade de adoção.
O que a pesquisa diz sobre segurança no desenvolvimento com IA
Quando múltiplos estudos independentes chegam ao mesmo lugar por caminhos diferentes, é difícil atribuir o resultado a viés metodológico. O estudo mais citado na área, conduzido por pesquisadores da Universidade de Nova York e publicado no IEEE Symposium on Security and Privacy, analisou mais de 1.600 programas gerados por um dos assistentes de código mais usados do mercado em 89 cenários de teste. Resultado: aproximadamente 40% dos programas eram vulneráveis, chegando a 50% em linguagens como C.
O relatório GenAI Code Security 2025 da Veracode, que testou mais de cem modelos de linguagem em 80 tarefas de codificação, encontrou que 45% das amostras falharam em testes de segurança, com falhas em categorias clássicas do OWASP Top 10. Em Java, a linguagem mais utilizada em ambientes corporativos, a taxa de falha chegou a 72%.
O que esses dados revelam não é que IA é incapaz de gerar código seguro. É que IA gera código otimizado para o critério que o desenvolvedor especificou no prompt — e segurança raramente está explicitada. O modelo não sabe, a menos que instruído, que aquele campo de input precisa de sanitização, que aquela query precisa ser parametrizada, que aquela dependência tem um CVE aberto.
A confiança equivocada que agrava o problema
Há um componente comportamental no risco de segurança no desenvolvimento com IA que os dados técnicos sozinhos não capturam. Um estudo do grupo de criptografia de Stanford pediu a 47 desenvolvedores que completassem cinco tarefas de programação segura, metade com acesso a um assistente de IA e metade sem. Os que usaram IA produziram código significativamente menos seguro em quatro das cinco tarefas.
O que não era esperado foi a correlação com confiança: os desenvolvedores com o código mais inseguro avaliaram sua confiança no assistente em 4 de 5. Os com o código mais seguro deram nota 1,5 de 5. A relação entre confiança na IA e qualidade do resultado foi inversa. Quanto mais o desenvolvedor acreditava que a ferramenta estava certa, menos revisava, menos questionava e mais vulnerabilidades acabavam em produção.
Quando o código vaza antes de rodar
A vulnerabilidade introduzida no código gerado é apenas uma das dimensões do risco. Há outra, menos discutida mas igualmente grave: o que vaza no sentido contrário, do desenvolvedor para a ferramenta. Quanto mais rico é o contexto fornecido ao modelo, melhor é a sugestão de código — o que incentiva os desenvolvedores a colar no prompt trechos de código real, esquemas de banco de dados, variáveis de ambiente e arquivos de configuração. Em ferramentas que não garantem contratualmente onde os dados são armazenados, essas informações deixam a organização sem rastro e sem controle.
Há ainda o fenômeno do slopsquatting: assistentes de IA frequentemente recomendam bibliotecas que não existem, e quando atacantes registram essas bibliotecas fictícias como pacotes reais contendo malware, qualquer desenvolvedor que aceite a sugestão sem verificar instala código malicioso na infraestrutura da empresa.
A pauta migrou, mas a maioria ainda não sabe
O debate sobre desenvolvimento de software com IA nas organizações mais maduras mudou. A pergunta não é mais "devemos usar?", mas "como governamos o uso?". Levantamentos recentes mostram que apenas cerca de um em quatro organizações tem políticas formais para uso de IA no desenvolvimento de software. O Gartner estima que mais de 40% dos projetos de IA agêntica serão cancelados antes de chegarem a produção, não por limitações técnicas, mas por incapacidade das organizações de estabelecer controles adequados.
O que governança de desenvolvimento com IA significa na prática
O OWASP Top 10 para aplicações de modelos de linguagem catalogou os riscos específicos de sistemas que usam IA Generativa para gerar e revisar código. Entre os dez riscos listados, cinco têm relação direta com desenvolvimento de software: injeção de prompt, tratamento inseguro de saídas, envenenamento de dados de treinamento, divulgação de informações sensíveis e riscos de cadeia de fornecimento. O NIST publicou um perfil específico de gestão de risco para IA Generativa. Para organizações com certificações de segurança, a ISO/IEC 42001 traz um sistema de gestão de IA com 38 controles certificáveis, compatível com a ISO 27001.
A superfície de risco criada pelo desenvolvimento de software com IA não é abstrata. Ela está nos repositórios, nos pipelines de CI/CD e nos sistemas em produção construídos mais rápido do que nunca e revisados com menos atenção do que deveriam. A pergunta que vale fazer antes do próximo sprint é: em quantos dos seus repositórios há código que nenhum humano leu com atenção suficiente para perceber que havia um problema?