O serviço público deverá adotar sistemas de Inteligência Artificial ao longo dos próximos anos, na medida em que a análise de dados e capacidade preditiva dos modelos de linguagem permite a governos uma visão ampliada da realidade de seus países, estados ou municípios. Entretanto, um alerta válido é para que não entremos na zona de conforto: as decisões sobre alocação de recursos e políticas públicas devem permanecer sempre sob controle dos seres humanos.
Muito tem se comentado a esse respeito. Especialistas afirmam que a gestão pública se qualifica a partir do momento em que, por meio de sistemas de IA, consegue identificar problemas com muita antecedência, resolvê-los de forma criativa e acompanhar melhor as tendências sócio-econômicas do território administrado.
Ocorre que, embora tudo isso possa ser muito positivo, gestão pública envolve necessariamente o ato decisório. E neste momento a questão é sempre humana, demasiadamente humana. O que escolher? Onde alocar o recurso? Qual política pública adotar para cada área da sociedade? Que orientação escolher? Quais os objetivos e critérios de avaliação?
Nada disso poderá jamais ser respondido a contento pela IA. Não que ela não vá produzir uma resposta. A questão é que a resposta que o sistema dará dificilmente traduzirá as sensibilidades humanas, individuais e coletivas, que precisam estar na base de todo o processo decisório público.
Do contrário, estaremos simplesmente aceitando ser governado por máquinas digitais de simulação de pensamento, uma espécie de tecnocracia autônoma que certamente descambaria para um autoritarismo digital autossuficiente e auto-confirmatório. Uma situação da qual seria complicado sair.
Portanto, neste momento em que os sistemas de Inteligência Artificial estão ainda ganhando terreno, precisamos nos vacinar contra essas possibilidades. Uma regra essencial deveria ser a de privilegiar a capacidade humana de tomar decisões e fazer escolhas com ética e princípios, muito mais do que apenas com eficácia.
Outra vacina contra os perigos atuais é a adoção cada vez maior de práticas de participação social na gestão pública. Com mais orçamento participativo, conferências nacionais, audiências públicas e outros instrumentos de democracia participativa, poderemos manter equilibrado o jogo entre seres humanos e sistemas digitais no exercício do poder. Sempre lembrando que, ao final, a República é uma organização da vida de humanos, o que por si só deveria bastar para mantê-la para sempre sob controle dos seres humanos. Por mais arriscado que isso, historicamente, também venha sendo.