Inteligência artificial e o papel da governança nas organizações

Fonte da imagem: banco de imagens Adobe Stock

Conceituação e Impacto na Governança

No contexto da governança corporativa, a IA é definida como o uso de tecnologias computacionais para processar grandes volumes de dados, identificar padrões e gerar análises preditivas, conteúdo (o que difere os LLM dos algoritmos de IA preditivos), ou recomendações por meio de algoritmos estatísticos. O objetivo central é apoiar a tomada de decisão humana, elevar a eficiência e mitigar riscos.

A IA já impacta funções essenciais, como:

• Auditoria e Compliance: Detecção de anomalias contábeis e previsão de riscos operacionais.
• Conselho de Administração: Ganhos de produtividade e melhor monitoramento através de relatórios mais claros.
• Setores Específicos: Na saúde, algoritmos auxiliam em diagnósticos, exigindo que o conselho supervisione a segurança clínica e a explicabilidade dos modelos.

Apesar do avanço tecnológico, a responsabilidade pelas decisões permanece integralmente com os gestores, operadores (no caso dos atores com função técnica nas operações) e conselheiros humanos. A supervisão deve abranger todo o ciclo de vida dos algoritmos, do desenho à obsolescência.

A Ruptura Ontológica: Agência sem Inteligência

Um ponto fundamental é a distinção entre agência (capacidade de agir e atingir objetivos) e inteligência (compreensão semântica e intencionalidade). Os Grandes Modelos de Linguagem (LLMs) possuem sucesso na forma (sintaxe), mas falham no significado (semântica).

Tratar a IA como um colaborador inteligente é considerado um “erro de categoria” que gera riscos fiduciários. Conselheiros devem entender que a IA opera por probabilidade estatística, agindo como “papagaios estocásticos” que repetem padrões de suas bases de treinamento sem compreensão real.

Os Cinco Cenários da Governança Artificial (Hilb, 2020) [1]

A evolução da IA na liderança corporativa é dividida em cinco estágios de “inteligência sinérgica”:

1. Inteligência Assistida: Automação de tarefas burocráticas e processamento de dados operacionais.
2. Inteligência Aumentada: Uso de modelos preditivos para superar a capacidade analítica humana em decisões estratégicas.
3. Inteligência Amplificada: Tomada de decisão conjunta onde o humano atua como “pastor de IA” (AI Shepherd), garantindo que o algoritmo não desvie do propósito ético.
4. Inteligência Autônoma: Delegação de decisões a sistemas autônomos. Representa um risco de violação do dever de diligência, pois falhas podem ser catastróficas e sem aviso prévio.
5. Inteligência Autopoiética: Cenário futurista de autoevolução da IA, que permanece no campo da especulação científica, pois a governança exige valores humanos e política, dimensões onde a estatística é nula.

Implicações Regulatórias e Fiduciárias

O ambiente regulatório está em rápida evolução. No Brasil, a LGPD exige transparência no tratamento de dados, e o PL nº 2.338/2023 (Marco Legal da IA) propõe obrigações de explicabilidade para sistemas de alto risco. O artigo 153 da Lei das S.A. impõe o dever de diligência; ignorar os riscos da IA pode, portanto, configurar omissão fiduciária.

Agenda Propositiva para o Conselho

Para uma governança transformadora, o conselheiro deve atuar como um arquiteto de perguntas qualificadas através de quatro pilares:

1. Literacia Digital como Dever de Competência: A ignorância tecnológica deixou de ser uma opção neutra para se tornar uma falha no dever de diligência. Conselheiros devem buscar letramento digital (digital literacy) suficiente para desmistificar a “caixa preta” da IA e subsidiar suas decisões colegiadas com elementos concretos.
2. Ação: O conselho deve promover sessões de educação continuada e, se necessário, trazer especialistas externos para o colegiado, garantindo que o debate não seja refém do “technobabble” (jargão técnico) da gestão ou de consultores. Adicionalmente, o conselheiro deve, cada vez mais, investir em sua própria formação, participando de eventos periódicos e cursos de formação no Brasil e no exterior que abordem os temas de interesse.
3. Desenvolvimento de competências e “pastoreio”: A própria organização deve fomentar a criação de “pastores/supervisores de IA” (AI Shepherds) em todos os níveis, não só no conselho. Isso exige o desenvolvimento de novas competências: a capacidade de curar, auditar e validar resultados gerados por máquinas. A transformação da IA é, antes de tudo, uma transformação cultural e de competências humanas.
4. Ação: Em ação conjunta das áreas de tecnologia e pessoas da organização, com o acompanhamento do conselho ou do Comitê de Pessoas, desenhar programas de formação de “supervisores de IA” na organização de tal forma que a cultura digital se dissemine e se torne natural na empresa.
5. Estratégia: Entre o FOMO (Fear Of Missing Out) e o ROIC: O conselho deve atuar como o fiel da balança entre o medo de ficar para trás (FOMO) e a responsabilidade financeira. A adoção de IA não deve ser um fim em si mesma, ao mesmo tempo que a não adoção adequada desse conjunto de ferramentas pode ser prejudicial aos negócios.
6. Ação: Exigir análises rigorosas de ROIC (Retorno sobre o Capital Investido) para projetos de IA. A pergunta chave não é “Como podemos usar IA?”, mas “Qual problema de negócio a IA resolve e qual o custo de oportunidade de não a utilizarmos?”. A sobrevivência do negócio pode depender da IA, mas sua falência pode advir de investimentos maciços sem retorno claro.
7. Supervisão do Ciclo de Vida: O Combate ao “data drift“. Diferente de um software tradicional, a IA não é estática e a responsabilidade do conselho não termina no ‘Go-live’ da implementação. Os dados que alimentam os modelos flutuam (data drift) refletindo mudanças na sociedade e no mercado: dados de treinamento originais tornam-se obsoletos, e a performance do modelo degrada. Um modelo treinado com dados de 2023 pode tomar decisões desastrosas em 2026, caso não seja acompanhado, atualizado e revalidado periodicamente. O conselho sempre deve questionar se o modelo ainda reflete a realidade atual do consumidor.
8. Ação: Instituir rotinas de auditoria algorítmica. O conselho deve demandar relatórios periódicos não apenas sobre os resultados financeiros da IA, mas sobre a sua “saúde técnica”: o modelo continua calibrado e com desempenho equivalente ao longo do tempo? Os dados de treinamento ainda são representativos? A manutenção do sistema é tão vital quanto sua aquisição.
9. Radar Regulatório e Ético: Com a regulação (como o PL 2.338/2023 no Brasil e o AI Act na Europa) avançando a conformidade é um alvo móvel. Além disso, a ética deve ser tratada como gestão de risco reputacional e um valor institucional.
10. Ação: Monitorar a “personalidade de risco” dos modelos adotados. Ferramentas de IA podem carregar vieses implícitos que conflitam com os valores da organização. O conselho deve garantir que a eficiência algorítmica não custe a equidade ou a conformidade legal.

Conclusão

A Inteligência Artificial oferece ao conselho a oportunidade de ampliar sua inteligência (cenário de IA Aumentada), mas exige em troca uma ampliação de sua responsabilidade. O futuro da governança corporativa não pertence à máquina, mas ao conselheiro preparado para supervisioná-la, questioná-la e, quando necessário, vetá-la em nome dos valores da organização.

Competências do conselheiro no universo digital

[1] HILB, Michael. Toward artificial governance? The role of artificial intelligence in shaping the future of corporate governance. Journal of Management and Governance, [s. l.], v. 24, n. 4, p. 851-870, 2020. DOI: https://doi.org/10.1007/s10997-020-09519-9.

Fernando Lopes Alberto, Adriana Adler, Domingos Laudisio, Isadora Sbrissa De Campos, Nelson Rubino de Azevedo Neto, Alvaro Taiar Junior, Claudia Gurfinkel, Daniel Yin Shang Lau e Luiz Alberto Oliveira De Luca são membros da Comissão de Futuro da Governança. Esse artigo foi produzido no âmbito do projeto #496, da mesma comissão.