Enviesamento – enquadramento e uma solução realista e democrática-liberal

O enviesamento algorítmico fere a objetividade da aplicação dos sistemas inteligentes a cada circunstância, e gera discriminações sociais. Há diversos procedimentos técnicos para o minorar. Mas a escolha entre estes depende do enquadramento desse problema, e de pelo menos duas pressuposições teóricas. Nestas linhas, apontarei o rumo da solução que decorre de um quadro teórico, aquele em que abordo eticamente esta nova tecnologia, apontando, assim também, os primeiros alvos de uma crítica a esse rumo.

Num passo ainda pré-ético desse enquadramento, uma vez que concebamos a “inteligência” da IA conforme o paradigma comportamentalista – normalmente enquadrado numa abordagem funcionalista aos processos mentais –, podemos distinguir três momentos no processo desta tecnologia:

      1)        Extração e coleção de dados – o input da função.

      2)        Tratamento dos dados, conforme a estrutura do algoritmo (p.e. conexão de sucessivas camadas de “neurónios”), até à produção de algum modelo ou padrão que constituirá a função a executar nas circunstâncias a considerar.

      3)        Inferência (as abdutivas apenas por aproximação estatística) de outputs nas circunstâncias, ou conjuntos de dados que as caracterizam, a que o modelo se aplique – esses resultados podem retropropagar-se ao 2.º momento, numa aprendizagem do sistema.

Em conformidade, podemos orientar a análise ética estritamente deste processo tecnológico – isto é, abstraindo-o das condições materiais e sociais da sua implementação, e do que a IA faz na globalidade desse processo e destas suas condições – em ordem a questões com significado ético que se coloquem em cada um desses três momentos.

Uma delas é a do enviesamento. Tomemo-lo num sentido moralmente neutro, significando a simples determinação prévia de um processo para um desvio deste último a favor de alguns resultados. Um dos modos em que isto se verifica naqueles dois primeiros momentos da inteligência artificial é logicamente necessário. Ou assim alguns o julgamos – por esta discutibilidade, deixo esse modo, e a questão de como lidar com ele, para a próxima crónica. Consideremos agora o modo contingente de enviesamento algorítmico, ainda que historicamente recorrente, em virtude do enviesamento social.

A saber: i) é um facto que as sociedades se organizam regularmente de forma não equitativa, pelo menos em alguns dos parâmetros organizacionais; ii) os dados extraídos da sociedade refletem essas discriminações; iii) o modelo obtido na base desse conjunto de dados apresentará algum enviesamento correspondente. Na gíria técnica, garbage in, garbage out.

Posto isso, configuram-se três estratégias para se controlar (evitar?) discriminações nas circunstâncias a que o modelo se aplique:

      A)       Síntese artificial dos dados oferecidos ao algoritmo (no 1.º momento do processo técnico), corrigindo a informação sobre as discriminações de género, raça etc. que se verifiquem socialmente.

      B)       Assunção dos dados, mas exigindo (no 2.º momento) que o sistema venha a satisfazer condições de equidade na sua operação – “fairness algorítmica” –, p.e. utilizando apenas casos comparáveis, conforme variáveis estabelecidas como relevantes, entre os diferentes grupos sociais.

      C)      Regulamentação da utilização das inferências apresentadas pelos algoritmos no 3.º momento processual.

Essas estratégias distinguem-se pelas respetivas implicações teóricas: a última (C) visa e respeita uma realidade – i.e. admite-se aí algo não só independente, mas mesmo condicionador de qualquer conhecimento seu. Nesse horizonte, as prescrições visam primeiramente limitar o desequilíbrio do poder.

A estratégia A assume o termo “realidade” para designar o mero resultado de uma projeção ou construção subjetiva (universal, ou relativa a grupos sociais). As prescrições constituem-se como a orientação dessa construção.

A estratégia intermédia (B) não desmente a informação da realidade, mas condiciona a sua coleção e tratamento para se obter um modelo que implemente os preceitos éticos ou ideológicos de quem controla o treino algorítmico.

Sobre estas questões, aqui direi apenas que, pela minha parte, enjeito o construcionismo implicado por A, tomo como possível o realismo (na linha pragmática de C.S. Peirce), e enjeito o paternalismo institucionalizado assumido por A e B. Logo, sigo a estratégia C. Fica a nota, porém, de que todos quantos aspiramos a alguma justificação na escolha entre aquelas estratégias nos comprometemos com uma argumentação, primeiro, sobre o significado do velho termo “realidade”, segundo, sobre a origem e eventuais limites do poder institucional.

Aqueles de nós que assumimos essas teses realista e democrática-liberal, perante o problema do enviesamento algorítmico dado o enviesamento social, aceitaremos sempre os dados extraídos da sociedade. Para cuidarmos de os enquadrar eticamente mediante procedimentos técnicos de

      a)        monitorização dos métodos de extração de dados, em vista de estes serem tão representativos ou fiéis quanto possível;

      b)       regulação da tomada de decisões com base nos produtos algorítmicos – no 3.º momento do processo técnico –; para cuja produção poderemos admitir – numa intervenção no 2.º momento – condições elementares de fairness algorítmica que reforcem o desiderato (a), desde que estabelecidas de forma transparente; e

      c)        auditoria regular das consequências das decisões tomadas, para confirmar ou reajustar o sistema.

In Tek Notícias, Opinião, 02/09/2026