Tecnologia, ser humano e mundo - Aberturas

Para refletirmos eticamente sobre o que é feito, antes temos de reconhecer isso que se faz. Nestes reconhecimentos, distinguimos a natureza da obra ou o âmbito em que é feita, e o processo pelo qual é feita. Relativamente a algoritmos “inteligentes”, na crónica anterior delimitei o âmbito da sua obra no subconjunto não criativo da racionalidade inferencial, que por sua vez constitui um subconjunto do pensamento geral. Cabe agora explicitar a forma do seu processo, ou seja, conceber a inteligência que estes artefactos implementam. Comecemos pelos desiderata que deverão ser satisfeitos por qualquer conceção de inteligência que possa integrar um modo artificial. Talvez possamos concordar no requisito de que, pelo menos:            i .   A inteligência seja neutra em relação às estruturas que a implementem, sejam estas biológicas, inorgânicas, ou até nem físicas.          ii .    A inteligência em geral, assim, será con...

Contra a tese da neutralidade moral da tecnologia, admiti aqui que as coisas (materiais ou virtuais) fazem algo. De forma que a condição moral do que fazem lhes é intrínseca. No entanto, essa condição pode ser balizada ou enquadrada conforme o âmbito daquilo que cada tipo de artefactos precisamente faz. No caso dos atuais algoritmos inteligentes, este âmbito é o da referência do predicado “inteligência”, cuja satisfação distingue esses artefactos. Bombe, Bletchley Park Para o esclarecermos – e assim podermos delimitar ou mesmo orientar uma abordagem ética a esta tecnologia –, julgo que uma entrada frutuosa será nos afastarmos do Alan Turing de 1950, quando propôs uma IA capaz de aprender simplesmente com base em muitos dados, após o sucesso da máquina de descodificação em Bletchley Park (e porventura contando com o drama íntimo pela reação social e institucional à sua homossexualidade). Para começarmos por retomar o artigo de 1936, em que o matemático e tecnólogo inglês argumentou ...

Num raro momento de perplexidade moral, 007 , agente ao serviço de Sua Majestade, pergunta ao armeiro que lhe otimizara uma arma se essa profissão não o incomoda. Ao que o outro responde: “ Mr. Bond, as balas não matam. É o dedo que puxa o gatilho.” Esta cena de O Homem da Pistola Dourada foi a minha introdução à tese da neutralidade moral da tecnologia. Ponderosa, mas, creio, errada. Essa tese implica que a moralidade se reporta à agência ou capacidade de fazer algo e que os artefactos técnicos não têm agência. A primeira condição será pacífica, mas a segunda não. Em sentido forte, “agência” significa a capacidade de, perante comportamentos alternativos que sejam possíveis, escolher os valores para ponderar essas alternativas, aplicar os valores assumidos, decidir, e causar o comportamento correspondente. Se essa agência se verifica, pelo menos por ora, será exclusivamente humana. Já no sentido fraco de intervenção na determinação e promoção dos comportamentos, ainda que porventura...

Em dezembro passado, o Parlamento e o Conselho Europeus inauguraram mundialmente a regulamentação da produção e implementação da Inteligência Artificial (IA). Ainda que a aplicação desse diploma seja progressiva. Como está expresso no website oficial da Comissão Europeia (CE, página “ AI Act ”), no desenho desse regulamento foi adotada uma abordagem baseada nos riscos da IA. Isto é, considerando o produto (multiplicação) do grau de prejuízo atribuído a certos resultados desses sistemas tecnológicos pela probabilidade de tais resultados ocorrerem – assim, se a probabilidade de uma certa ocorrência até for baixa, mas se considere enorme a gravidade desse resultado, o risco deste será alto. Este tipo de avaliação de tecnologias costuma fazer-se em três momentos: o reconhecimento ou estimativa (ing. assessment ) dos riscos, a avaliação ( evaluation ) destes últimos, e a sua gestão. Creio que o maior risco que corremos com essa abordagem se joga nas condições desse terceiro momento que ...

No fim do ano passado, os órgãos institucionais da União Europeia acordaram o EU AI Act , que regula a implementação de algoritmos de inteligência artificial (IA). Assim começamos a institucionalizar formalmente esta novidade na história da Terra que é a perda pelo Homo Sapiens da exclusividade de procedimentos “inteligentes” (ao nosso nível). A qual detivemos desde que, muito antes de termos lançado a forma civilizada de vida, se extinguiram outros hominídeos que se nos comparavam. Um regulamento como esse implica logicamente a determinação do estatuto moral da IA. O qual, no entanto, dada precisamente a novidade dessa forma de inteligência, não é límpido. No caso das tecnologias clássicas, desde as pedras lascadas do Homo habilis aos nossos robôs programados, a intuição mais comum sobre o seu estatuto moral será a do armeiro, num 007 , que declara ao célebre agente de Sua Majestade que quem mata não é a arma, nem o técnico que a constrói, mas quem puxa o gatilho. Essas tecnologias se...

Na Ásia, América e Europa está em curso a dotação de “inteligência” às cidades. Um caso de participação nesse movimento global, e assim também de ilustração do conceito “cidade inteligente”, é a iniciativa Aveiro Tech City com os seus diversos projetos e atividades.   Os benefícios potenciais dessas tecnologias são entusiasmantes. Mas a primeira condição da sua realização será enjeitarmos, desde o início, a atitude “tecnomágica” que atribui à tecnologia a virtualidade de resolver sem custos tendencialmente quaisquer problemas ou limitações humanas. Contra a tecnomagia, na IA daqueles processos digitais reconhecem-se os enviesamentos humanos e as incongruências que  aqui introduzi há dias. Os quais (enviesamentos), como também aí procurei assinalar, põem particularmente em risco a liberdade “negativa” (ausência de imposições) dos habitantes destas cidades, enquanto todavia podem facultar uma maior liberdade “positiva” (capacitação) destes últimos. Neste período de reflexão c...

Portugal Smart Cities Summit Sobre atuais projetos autárquicos que omitam o tema da “cidade inteligente” saberemos que, na melhor hipótese, se orientam rumo ao passado. Na pior hipótese, estarão a abrir a porta a interferências dos detentores dos cargos executivos, sejam políticos ou técnicos, nas vidas da generalidade dos munícipes e visitantes dos concelhos, a um ponto que eventualmente nos aproxime do 1984 de George Orwell. É com este risco que nos pre-ocuparemos nestas linhas. Na última semana, adotei  aqui  a definição das cidades inteligentes como a “imersão nas estruturas urbanas (…) de sistemas de sensores (…) que permanentemente recolham informação, a qual será classificada por inteligência artificial [IA], investida da responsabilidade de tomada de decisões”. Mas, como bem questionou João Moniz também  nestas páginas  já há pouco mais de 2 anos, “quem é que vai definir os critérios de recolha de dados, e posteriores algoritmos de análise?” (Um “algoritmo”...

Neste período de reflexão sobre os nossos concelhos e de correspondentes projetos a médio ou a longo prazo, será preocupante passar em silêncio o tema das Smart Cities . Entre as quais, em Portugal, se distingue a iniciativa Aveiro Tech City .   “Cidade inteligente”   Esta expressão designa a imersão nas estruturas urbanas, públicas e eventualmente privadas, de sistemas de sensores físicos (ex. câmaras) e virtuais (ex. contagem de intervenções em páginas digitais) que permanentemente recolham informação, a qual será classificada por inteligência artificial, investida da responsabilidade de tomada de decisões. Seja pela construção de raiz de cidades inteligentes, como o PlanIT Valley que esteve previsto para o concelho de Paredes, ou como a cidade The Line anunciada no início deste ano pelo príncipe saudita Mohammed bin Salman. Seja por uma imersão gradual das tecnologias de informação e comunicação (TIC’s) inteligentes, como está acontecendo em Amesterdão desde 2009....