Ética na IA (2): a inteligência do que as coisas “inteligentes” fazem (1)

Contra a tese da neutralidade moral da tecnologia, admiti aqui que as coisas (materiais ou virtuais) fazem algo. De forma que a condição moral do que fazem lhes é intrínseca. No entanto, essa condição pode ser balizada ou enquadrada conforme o âmbito daquilo que cada tipo de artefactos precisamente faz. No caso dos atuais algoritmos inteligentes, este âmbito é o da referência do predicado “inteligência”, cuja satisfação distingue esses artefactos.

Bombe, Bletchley Park

Para o esclarecermos – e assim podermos delimitar ou mesmo orientar uma abordagem ética a esta tecnologia –, julgo que uma entrada frutuosa será nos afastarmos do Alan Turing de 1950, quando propôs uma IA capaz de aprender simplesmente com base em muitos dados, após o sucesso da máquina
de descodificação em Bletchley Park (e porventura contando com o drama íntimo pela reação social e institucional à sua homossexualidade). Para começarmos por retomar o artigo de 1936, em que o matemático e tecnólogo inglês argumentou que o raciocínio lógico-matemático se distingue entre uma dimensão “intuitiva” e outra do “engenho” do discurso dos enunciados. Apenas esta última é passível de mecanização de alguma operação de símbolos. Turing seguiu então a axial obra de Kurt Gödel, cinco anos antes, que distingue, em correspondência ao par anterior, a verdade dos enunciados e a sua demonstração lógica. Sendo esta última impossível, apenas mediante as regras de um sistema (como o da aritmética), para todos os enunciados admitidos como verdadeiros nesse sistema.

O lógico e matemático austríaco recolocou-nos, assim, na clássica análise do pensamento por Platão e Aristóteles, que distingue o intelecto, na formulação de referências nucleares, e a razão, que discorre a partir delas.

Mas nem sequer a estrita discursividade racional se afigura inteiramente mecanizável. Além das inferências dedutivas, indutivas e por analogia, no fim do séc. XIX, C.S. Peirce distinguiu as inferências abdutivas. As quais prescindem da garantia de certeza própria das deduções, e assumem uma grave falácia destas últimas (a da Afirmação da consequente) como meio para a geração de hipóteses ou conjeturas. Ou seja, são as inferências que constituem o pensamento criativo. Ora, a abdução implica tanto as experiências significativas do pensador, com as respetivas cargas emocionais, quanto os contextos em que este se encontra, os quais condicionam a constituição e tratamento dos problemas que ele se proponha resolver. Estes fatores concretos, qualitativos e valorados não se afiguram redutíveis a símbolos e/ou operações gerais. Logo, o pensamento criativo transcende qualquer mecanização.

O caso da Bombe, em Bletchley durante a II Guerra Mundial, apenas ilustra que, uma vez que a intuição faculta axiomas ao engenho racional, este pode discorrer, formalmente, na base daqueles. Mas, como o Turing de 1936 bem apontou, a intuição não só não garante a verdade dos enunciados propostos como axiomas, como mesmo estes podem vir a revelar-se falsos mediante o processo de demonstração discursiva. O trabalho da intuição, para lá do engenho, nunca se fecha ou dispensa.

Resta a questão de por que o Turing de 1950 terá abduzido a conjetura de uma inteligência estritamente formal, livre de qualquer emocionalidade relativa ao contexto e às experiências de vida – uma conjetura que tem sido assumida com tanto entusiasmo quanta, me parece, ingenuidade crítica por todos os tecnófilos em IA desde então. Talvez os biógrafos desse grande pensador apresentem informações que permitam testar aquela minha abdução de que o anseio pelo horizonte de uma tal inteligência terá resultado da dramática experiência pessoal acima mencionada.

Em qualquer caso, testes como esse implementam-se no que, no âmbito da reflexão sobre métodos propriamente científicos, se chama o contexto da justificação. A assunção daquela conceção de inteligência por Turing, em 1950, constitui-se antes no contexto da descoberta (propostas de explicações). Mas, para ser justificada e, assim, se constituir como “científica”, terá de derrubar os Teoremas da Incompletude (Gödel) cujo centenário celebraremos daqui a meia década, bem como o Turing de 1936 que discorreu na base deles, além de dissolver a lógica de Peirce.

Em suma, o que hoje estamos justificados em dizer é que a obra dos atuais algoritmos “inteligentes” se reporta a uma parcela da racionalidade que, por sua vez, constitui uma parcela do que a análise do produto do pensamento revela sobre a constituição deste último. Embora com um poder computacional incrivelmente superior ao do Homo sapiens, trata-se apenas de uma parcela de uma parcela, dependendo, logicamente, precisamente das parcelas que a transcendem.

A saber, se bem percebo, os algoritmos da IA clássica manipulam símbolos dedutivamente, pelo que se restringem às operações para que são programados. Enquanto algoritmos da IA moderna fazem generalizações, previsões e induções bayesianas na base de muitos dados – de modo que a força das suas inferências padece do Problema da Indução que nos ensombra desde David Hume –, ou fazem analogias, cuja certeza é igualmente relativa. Precisando em relação aos segundos, nomeadamente os modernos algoritmos conexionistas (com estruturas equivalentes à dos nossos cérebros) ou os que aprendem evolucionistamente uma vez incorporados em robôs (numa “aprendizagem” agora da espécie, não de cada espécime), não descobrem propriamente por inferências lógicas os padrões, e as tomadas de decisão e comportamento, que produzem. Mas a justificação destes produtos é lógica. Logo, não escapam à anterior classificação do que a IA atual faz.

Para concebermos, então, a inteligência que leve a cabo essa obra, pelo menos enquanto lidamos apenas com as atuais IAs Específicas adiando a preocupação com uma IA Geral ou até alguma Superinteligência, uma boa abordagem será a do funcionalismo (na versão fisicalista). Creio que nos ajudará a esclarecer quer o que esses algoritmos fazem, enquadrando uma reflexão ética sobre esta obra, quer a própria dificuldade ou embaraços da conceção dessa coisa, dita “inteligência”, com que os – e nos – caraterizamos. Mas já ultrapassei o limite de palavras que me impus nesta série de crónicas sobre ética na IA, pelo que remeto essa conceção, e uma introdução aos problemas morais que se lhe colocam, para uma próxima oportunidade.

in Tek Notícias, Opinião (13/05/2026)