Da necessidade do enviesamento algorítmico

“Não há almoços grátis”. Esta frase é famosa nos meios económicos, pelo menos entre quem assume o mercado como a estrutura determinante do valor de bens e serviços. Vi na Wikipédia que remonta a estabelecimentos americanos, no séc. XIX, que “ofereciam” comida desde que os clientes comprassem as bebidas (caras). Se não é verdadeiro, é bem encontrado. Mas, além daqueles meios, é uma máxima de vida para todos nós que, radicalmente, concebemos cada coisa não como peça de um jogo combinatório ilimitado – p.e. incluindo a combinação de maior rendimento com menor trabalho, menor investimento e repúdio da tecnologia –, mas como tendo alguma essência que condiciona essas relações ulteriores. Pois este condicionamento essencial resulta frequentemente em contrariedades entre algumas coisas, de modo que umas só são realizáveis pelo preço da negação de outras. Não restringimos, assim, à matemática o Teorema No Free Lunch de D. Wolpert e W. Macready.

O qual conclui que, se se considerar o conjunto de todos os problemas de otimização igualmente prováveis, nenhum algoritmo é, em média, superior a outro. Ou seja, não é logicamente possível um algoritmo universal para a resolução perfeita de qualquer problema.

Esta ilegitimidade teórica de uma pretensa universalidade, ou valor absoluto, de algum algoritmo, ou seja, de um processo de racionalidade discursiva, inscreve-se, aliás, na conceção clássica de pensamento que aqui tenho assumido. A saber, essa discursividade depende, logicamente, de intuições ou de axiomas que, se obtêm justificação completa, esta não se processa discursivamente – ou seja, escapa ao plano da racionalidade mecanizável. Pelo que o enviesamento algorítmico é necessário, correspondendo aos princípios que sejam impostos ao discurso racional.

Isso não implica que, especialmente em circunstâncias bem delimitadas ou para problemas específicos, não seja possível avaliar algum modelo algorítmico como melhor do que os alternativos. Mas essa avaliação pressupõe i) uma delimitação da circunstância dada (i.e. traçar o limite entre o que lhe é próprio e o que a ultrapassa ou é despiciendo à consideração do que está aí dado), ii) o reconhecimento de uma condição problemática nessa circunstância, e iii) o estabelecimento dos parâmetros de satisfação da condição “resolvido”, que orientarão o consequente processo desde o equacionamento à proposta de uma, assim dita, “solução”. Ora, como Karl Popper bem apontou na sua crítica à pretensão de uma observação neutra – que não seria mobilizada e orientada por quaisquer interesses ou preconceitos prévios –, as posições iniciais do método do conhecimento melhor justificado – o “científico” – são sempre enviesadas por algumas pressuposições. Por exemplo, o enviesamento algorítmico começa nas opções sobre o que se constituirá como dado das circunstâncias naturais ou sociais, e sobre aqueles que deverão ser extraídos destas.

De forma que eventuais consensos sobre o valor de algoritmos se constituem como consensos (que se podem vir a quebrar) na admissão de enviesamentos comuns. Não representam a inexistência destes.

Em suma, o enviesamento algorítmico é metafísica, lógica, e metodológica ou praticamente necessário. Por consequência, esforços para o eliminar são quiméricos. Dadas a perda de objetividade e as discriminações sociais que dele resultam, as questões com sentido que se colocam são:

      A)       Como se escolhem os enviesamentos com que quereremos viver?

      B)       Como nos poderemos defender e minorar os vícios dos enviesamentos que assumirmos?

Para isso, à partida e em geral, no Ocidente temos à mão os princípios concetuais e éticos que nos têm facultado o reconhecimento dos problemas que nos têm perturbado coletivamente, e as respetivas equações e resoluções que construíram a civilização que os outros consideram ou onde querem viver. Numa palavra – que abre toda uma outra discussão –, é prudente enjeitar a oikofobia que Roger Scruton começou a denunciar no século passado.

Em particular, limitar-me-ei a repetir a conclusão cuja argumentação esbocei na crónica anterior: devemos focar as nossas intervenções normativas na aplicação e utilização dos sistemas inteligentes. Enjeitando, a seu montante, a inclinação, hoje bastante sugerida, para uma síntese artificial de dados ideologicamente “purificados”. Outrossim, importa cuidar dos métodos de extração de dados, para que estes sejam representativos, e de os modelos construídos na sua base facultarem informação sobre as dimensões que julgarmos relevantes na realidade em que nos encontramos.