Mensagens

A mostrar mensagens com a etiqueta IA e ética - enviesamento

Da necessidade do enviesamento algorítmico

Imagem
“Não há almoços grátis”. Esta frase é famosa nos meios económicos, pelo menos entre quem assume o mercado como a estrutura determinante do valor de bens e serviços. Vi na Wikipédia que remonta a estabelecimentos americanos, no séc. XIX, que “ofereciam” comida desde que os clientes comprassem as bebidas (caras). Se não é verdadeiro, é bem encontrado. Mas, além daqueles meios, é uma máxima de vida para todos nós que, radicalmente, concebemos cada coisa não como peça de um jogo combinatório ilimitado – incluindo combinações como maior rendimento, com menor trabalho, menor investimento e repúdio da tecnologia –, mas como tendo alguma essência que condiciona essas relações ulteriores. Pois este condicionamento essencial resulta frequentemente em contrariedades entre algumas coisas, de modo que umas só são realizáveis pelo preço da negação de outras. Não restringimos, assim, à matemática o Teorema No Free Lunch de D. Wolpert e W. Macready. O qual conclui que, se se considerar o conjunto de ...

Enviesamento – enquadramento e uma solução realista e democrática-liberal

Imagem
O enviesamento algorítmico fere a objetividade da aplicação dos sistemas inteligentes a cada circunstância, e gera discriminações sociais. Há diversos procedimentos técnicos para o minorar. Mas a escolha entre estes depende do enquadramento desse problema, e de pelo menos duas pressuposições teóricas. Nestas linhas, apontarei o rumo da solução que decorre de um quadro teórico, aquele em que abordo eticamente esta nova tecnologia, apontando, assim também, os primeiros alvos de uma crítica a esse rumo. Num passo ainda pré-ético desse enquadramento, uma vez que concebamos a “inteligência” da IA conforme o paradigma comportamentalista – normalmente enquadrado numa abordagem funcionalista aos processos mentais –, podemos distinguir três momentos no processo desta tecnologia:       1)         Extração e coleção de dados – o input da função.       2)         Tratamento dos dados, conform...

Smart cities (2): os enviesamentos da IA e uma preocupação com a liberdade individual

Imagem
Portugal Smart Cities Summit Sobre atuais projetos autárquicos que omitam o tema da “cidade inteligente” saberemos que, na melhor hipótese, se orientam rumo ao passado. Na pior hipótese, estarão a abrir a porta a interferências dos detentores dos cargos executivos, sejam políticos ou técnicos, nas vidas da generalidade dos munícipes e visitantes dos concelhos, a um ponto que eventualmente nos aproxime do 1984 de George Orwell. É com este risco que nos pre-ocuparemos nestas linhas. Na última semana, adotei  aqui  a definição das cidades inteligentes como a “imersão nas estruturas urbanas (…) de sistemas de sensores (…) que permanentemente recolham informação, a qual será classificada por inteligência artificial [IA], investida da responsabilidade de tomada de decisões”. Mas, como bem questionou João Moniz também  nestas páginas  já há pouco mais de 2 anos, “quem é que vai definir os critérios de recolha de dados, e posteriores algoritmos de análise?” (Um “algoritmo”...