O uso da inteligência artificial no cotidiano das pessoas e, consequentemente, a forma como vem sendo incorporada aos negócios evoluíram de maneira muito acelerada, cenário que traz reflexões necessárias.
É evidente que a IA passou a fazer parte da rotina de profissionais que a utilizam para atividades simples, como pesquisar, analisar informações, produzir conteúdos e revisar documentos, mas também para executar, com poucos comandos, tarefas que habitualmente exigiriam muito mais tempo de trabalho.
Ocorre que, diante da velocidade dessa transformação e das facilidades proporcionadas pelas plataformas e recursos de IA disponíveis no mercado, a utilização da tecnologia no ambiente de trabalho, em muitos casos, começou antes mesmo de as empresas decidirem formalmente como, quando e para quais finalidades ela poderia ser utilizada.
Diante dessa realidade, cabe perguntar se as estruturas de governança das empresas estão acompanhando essa transformação.
Quando a tecnologia passa a ser uma questão de governança
A presença cada vez maior da IA nas empresas traz, contudo, questões que vão além dos ganhos de eficiência, especialmente quando o uso envolve o compartilhamento de dados e informações da organização com plataformas cujos critérios de tratamento nem sempre são conhecidos por quem as utiliza.
Da mesma forma, à medida que a IA passa a apoiar análises e influenciar decisões, seus resultados podem produzir efeitos concretos para a empresa. Nesse aspecto, é importante lembrar que a tecnologia pode fornecer subsídios para uma tomada de decisão, mas não assume a responsabilidade por ela.
Portanto, é nesse ponto que a discussão passa a ser também uma questão de governança. É necessário compreender onde e para que a IA é utilizada, quais riscos decorrem de cada uso e quais deles exigem maior controle e supervisão.
Quanto maior o impacto que o uso da IA produzir, maior deverá ser o cuidado com os critérios para sua utilização, com a supervisão das pessoas envolvidas e com os controles aplicáveis. Assim, governar a IA não significa necessariamente restringir seu uso, mas compreender os riscos envolvidos para definir de que forma a tecnologia poderá ser utilizada de maneira responsável.
Como estruturar a governança de IA
Diante dessa realidade, o caminho não parece estar simplesmente em proibir o uso da IA. As ferramentas estão amplamente disponíveis e já fazem parte da rotina das pessoas, inclusive fora dos ambientes controlados pelas empresas. Por outro lado, deixar sua utilização inteiramente a critério de cada profissional também pode expor a organização a riscos que muitas vezes sequer são conhecidos.
Estruturar uma governança de IA começa, portanto, por conhecer como e para quais finalidades a tecnologia está sendo utilizada. A partir desse mapeamento, é possível avaliar os riscos de cada aplicação e estabelecer critérios sobre o que pode ser utilizado livremente, o que exige maior supervisão e quais usos não devem ser admitidos.
Nesse processo, uma política de uso de IA é um instrumento importante, mas não suficiente. Governança pressupõe também definir responsabilidades, estabelecer processos de aprovação e controle, orientar sobre o uso e compartilhamento de dados, acompanhar os resultados produzidos pela tecnologia e manter evidências das decisões e avaliações realizadas.
Essa estrutura também não precisa significar a criação de novas instâncias dentro da organização. Dependendo do porte e da complexidade da empresa, essas responsabilidades podem ser incorporadas às estruturas já existentes de gestão, riscos, compliance, jurídico, privacidade, segurança da informação e às próprias áreas de negócio.
O equilíbrio entre governança e inovação
Diante da velocidade com que a inteligência artificial vem sendo incorporada aos negócios, estabelecer uma estrutura de governança não deve significar criar barreiras à inovação. Ao contrário, conhecer como a tecnologia é utilizada, estabelecer responsabilidades e definir critérios e limites permite que a empresa explore suas possibilidades com maior segurança e consciência.
Governança, nesse sentido, não significa impedir que a empresa assuma riscos, mas permitir que ela conheça e avalie os riscos que está disposta a assumir. A maturidade das organizações no uso da IA, portanto, será demonstrada pela capacidade de compreender onde e como a tecnologia está sendo utilizada, avaliar seus impactos e assumir a responsabilidade pelas escolhas realizadas com seu auxílio.
O principal desafio que a inteligência artificial apresenta hoje às empresas é o de encontrar o equilíbrio entre aproveitar as oportunidades de uma tecnologia que continuará evoluindo e construir estruturas capazes de acompanhar essa evolução. A governança não deve frear a inovação. Quando bem estruturada, deve ser justamente o que permite que ela avance de forma consciente, responsável e sustentável.
Artigo escrito por Vanessa Tertuliano Naunapper, Vanzin & Penteado Advogados
