A adoção da inteligência artificial nos Tribunais de Contas tem apresentado diferentes percursos de abordagem. De início, deve-se considerar que a IA é uma expressão particular do uso da tecnologia que há muito integra a realidade desses órgãos de controle externo, proporcionando múltiplas vantagens com implicações bastante positivas para a ação fiscalizadora, especialmente na fase de instrução inicial dos processos.

Textos precedentes já as evidenciaram com grande competência: economia de recursos, agilidade e racionalização dos processos, qualidade intrínseca, segurança e consistência do trabalho inclusive a liberação e potencial realocação de esforços das pessoas. A ênfase das análises sobre o uso da IA tem recaído sobre a sua expressão instrumental e orientada para resultados, preponderantemente sob o ponto de vista técnico.

É lugar comum ao se abordar a IA fazer um quase imediato retorno à busca da capacidade natural das pessoas de pensar e resolver problemas de modo criativo. Eis, a propósito, um estreito conceito de inteligência.

Pretende-se aqui, então, destacar uma dimensão ainda não alcançada por esta tecnologia, e que é própria do ser humano, especialmente atuando no território da justiça de contas, a saber: a capacidade de realizar juízos refletidos e situados. Pronunciar-se sobre um tema com a complexidade de um ato administrativo, inclusive em suas implicações, exige que as deliberações nas diferentes etapas da ação de controle se processem de modo consistente, entre outros, com os valores do interesse público, da dignidade e da justiça.

Nessa linha, e ciente de que fora do contexto original, resgata-se a célebre frase da obra “O Grande Ditador“ (1940), de Charles Chaplin (1889-1977): “Não sois máquinas! Homens é que sois!”. Busca-se, com isso, colocar em relevo as capacidades humanas mais essenciais e distintivas necessariamente insertas na ação de controle. Nessa linha, do mesmo gênio do cinema podemos resgatar a crítica explicitada nos minutos iniciais do filme “Tempos Modernos“ (1936), retratando o risco da submissão das pessoas à máquina em nome da eficiência, da produtividade e do resultado. Postura que apequena o sujeito em nome de valores que não o representam em substância. É preciso preservar o lugar do humano no trabalho.

É certo que a IA proporciona importantes análises e sínteses de dados e informações, mas não alcança a capacidade de produzir um juízo consciente do caso. Para isso, às pessoas que atuam no campo do controle, é crescentemente necessária a capacidade crítico-reflexiva de extensão radical. Essa competência refere-se àquela em que o sujeito corajosamente pratica o percuciente esforço de voltar-se para si e examina os fundamentos valorativos e pressupostos do próprio pensamento. Exercício este, a propósito, condição para um juízo esclarecido e contextualizado. Sem isso, eleva-se o risco da desumanização e perda do significado substantivo do trabalho –a que a imagem da esteira móvel alude na crítica contida em “Tempos Modernos”.

E em se tratando de controle público, esse pensar de alcance radical precisa incidir sobre os fundamentos dos atos e fatos administrativos em busca do que seja o justo, o bom e o certo; este, como se sabe, território da ética. Ética implica –independentemente da corrente que se tome– sempre uma capacidade de examinar não somente o objeto, mas a si mesmo em suas fundações valorativas. Não se confunda, portanto, ética com moralidade. A ética (pensamento crítico-reflexivo) examina a moral (padrões de conduta socialmente construídos). Assim, impõe-se a questão: quem examina e controla a IA, particularmente nas implicações éticas do conteúdo que produz?

Tem-se, assim, nestes tempos de tecnologia em ascensão, não somente a necessidade, mas antes a excepcional oportunidade de efetivamente nos voltarmos ao humano; reconhecendo a centralidade da subjetividade, vez que tudo passa pelo juízo do sujeito, e pouco de fato se ampara na frieza do objeto que alimenta a crença no tão propalado quanto ingênuo valor da objetividade.
O pensamento crítico não só produz conceitos em resposta aos esforços de problematização, mas os reexamina e redefine. Para se tomar como exemplo as tecnologias de IA que produzem textos, conceitos como é o caso da autoria se transformam pela relativização de certos valores, destacando outros a orientarem a ação das pessoas no trabalho.

Leia mais no texto original: (https://www.poder360.com.br/opiniao/implicacoes-eticas-da-inteligencia-artificial-no-controle-externo/)