Tecnologia, ser humano e mundo - Aberturas

O enviesamento algorítmico fere a objetividade da aplicação dos sistemas inteligentes a cada circunstância, e gera discriminações sociais. Há diversos procedimentos técnicos para o minorar. Mas a escolha entre estes depende do enquadramento desse problema, e de pelo menos duas pressuposições teóricas. Nestas linhas, apontarei o rumo da solução que decorre de um quadro teórico, aquele em que abordo eticamente esta nova tecnologia, apontando, assim também, os primeiros alvos de uma crítica a esse rumo. Num passo ainda pré-ético desse enquadramento, uma vez que concebamos a “inteligência” da IA conforme o paradigma comportamentalista – normalmente enquadrado numa abordagem funcionalista aos processos mentais –, podemos distinguir três momentos no processo desta tecnologia:       1)         Extração e coleção de dados – o input da função.       2)         Tratamento dos dados, conform...

A Ciência de dados e a IA moderna requerem a extração maciça de dados. Para a proteção dos titulares destes últimos, a UE adota uma abordagem cujo sucesso, porém, requer a consideração das respetivas (da abordagem) limitações e condições teóricas. Em geral, o Regulamento Geral sobre a Proteção de Dados (RGPD, Art. 12.º – 15.º) exige o acesso dos titulares a informação significativa sobre a “lógica subjacente” à procura de dados pessoais, sobre o destino destes e como serão tratados; assim como a faculdade dos titulares objetarem à extração; em caso da admissão desta, o acesso ao resultado do tratamento da informação, e a possibilidade de requererem o seu apagamento ulterior. Mas, na prática, a prescrição de imperativos gerais não é suficiente. Além de grupos mais vulneráveis, em época de inovação tecnológica, a maioria de nós terá dificuldade em exercer aqueles acessos. Como, aliás, sugere o Relatório de 2024 (n. 4.1) sobre a aplicação do RGPD. Em compensação, esse Regulamento adota,...

Uma reflexão ética sobre a IA, tal como esta se faz hoje, começará, logicamente, pelas condições de possibilidade dessa tecnologia. Além das que partilha com outras tecnologias – produção de energia elétrica etc. –, viso aqui uma condição que lhe é específica: a extração de quantidades maciças de dados. Como fotografias de rostos, tempos de abertura de uma página online, ou manobras de condutores nos seus automóveis. Seja apenas para lhes conferir significado conforme regularidades estatísticas que se reconheçam neles – pela Ciência de dados –; seja mesmo para que sistemas computacionais se ajustem em conformidade com essas regularidades, de forma a realizar melhores generalizações ou previsões em novas situações – aprendizagem automática desses sistemas. Essa extração é imprescindível a estas tecnologias. Mas facilmente viola direitos que se reconheçam às pessoas, singulares ou coletivas, sobre informações próprias a essas últimas. Ou seja, a implementação da IA pode enfrentar o p...

Para refletirmos eticamente sobre o que é feito, antes temos de reconhecer isso que se faz. Nestes reconhecimentos, distinguimos a natureza da obra ou o âmbito em que é feita, e o processo pelo qual é feita. Relativamente a algoritmos “inteligentes”, na crónica anterior delimitei o âmbito da sua obra no subconjunto não criativo da racionalidade inferencial, que por sua vez constitui um subconjunto do pensamento geral. Cabe agora explicitar a forma do seu processo, ou seja, conceber a inteligência que estes artefactos implementam. Comecemos pelos desiderata que deverão ser satisfeitos por qualquer conceção de inteligência que possa integrar um modo artificial. Talvez possamos concordar no requisito de que, pelo menos:            i .   A inteligência seja neutra em relação às estruturas que a implementem, sejam estas biológicas, inorgânicas, ou até nem físicas.          ii .    A inteligência em geral, assim, será con...

Contra a tese da neutralidade moral da tecnologia, admiti aqui que as coisas (materiais ou virtuais) fazem algo. De forma que a condição moral do que fazem lhes é intrínseca. No entanto, essa condição pode ser balizada ou enquadrada conforme o âmbito daquilo que cada tipo de artefactos precisamente faz. No caso dos atuais algoritmos inteligentes, este âmbito é o da referência do predicado “inteligência”, cuja satisfação distingue esses artefactos. Bombe, Bletchley Park Para o esclarecermos – e assim podermos delimitar ou mesmo orientar uma abordagem ética a esta tecnologia –, julgo que uma entrada frutuosa será nos afastarmos do Alan Turing de 1950, quando propôs uma IA capaz de aprender simplesmente com base em muitos dados, após o sucesso da máquina de descodificação em Bletchley Park (e porventura contando com o drama íntimo pela reação social e institucional à sua homossexualidade). Para começarmos por retomar o artigo de 1936, em que o matemático e tecnólogo inglês argumentou ...

Num raro momento de perplexidade moral, 007 , agente ao serviço de Sua Majestade, pergunta ao armeiro que lhe otimizara uma arma se essa profissão não o incomoda. Ao que o outro responde: “ Mr. Bond, as balas não matam. É o dedo que puxa o gatilho.” Esta cena de O Homem da Pistola Dourada foi a minha introdução à tese da neutralidade moral da tecnologia. Ponderosa, mas, creio, errada. Essa tese implica que a moralidade se reporta à agência ou capacidade de fazer algo e que os artefactos técnicos não têm agência. A primeira condição será pacífica, mas a segunda não. Em sentido forte, “agência” significa a capacidade de, perante comportamentos alternativos que sejam possíveis, escolher os valores para ponderar essas alternativas, aplicar os valores assumidos, decidir, e causar o comportamento correspondente. Se essa agência se verifica, pelo menos por ora, será exclusivamente humana. Já no sentido fraco de intervenção na determinação e promoção dos comportamentos, ainda que porventura...