Smart cities (3): influência e contestabilidade das tecnologias

Na Ásia, América e Europa está em curso a dotação de “inteligência” às cidades. Um caso de participação nesse movimento global, e assim também de ilustração do conceito “cidade inteligente”, é a iniciativa Aveiro Tech City com os seus diversos projetos e atividades. 

Os benefícios potenciais dessas tecnologias são entusiasmantes. Mas a primeira condição da sua realização será enjeitarmos, desde o início, a atitude “tecnomágica” que atribui à tecnologia a virtualidade de resolver sem custos tendencialmente quaisquer problemas ou limitações humanas. Contra a tecnomagia, na IA daqueles processos digitais reconhecem-se os enviesamentos humanos e as incongruências que aqui introduzi há dias.

Os quais (enviesamentos), como também aí procurei assinalar, põem particularmente em risco a liberdade “negativa” (ausência de imposições) dos habitantes destas cidades, enquanto todavia podem facultar uma maior liberdade “positiva” (capacitação) destes últimos.

Neste período de reflexão crítica sobre as cidades e de projetos estruturantes para as mesmas, como serão quaisquer projetos de tecnologias urbanas inteligentes, todos quantos nos posicionamos em algum ponto do espectro entre aqueles dois modos do valor “liberdade” deveremos assim procurar uma condição que se constitua qual mínimo múltiplo comum de ambos.

 

Capacitação vs. restrição, e contestabilidade

 

Na CEPE/IACAP Joint Conference 2021: The Philosophy and Ethics of Artificial Intelligence, no passado mês de julho, Sage Cammers-Goodwin reconheceu essa tensão entre o aprimoramento das ações ou até capacitação (liberdade positiva) dos habitantes de cidades inteligentes pela intermediação destas tecnologias, e uma substancial redução da liberdade negativa das pessoas igualmente possível aos sistemas tecnológicos inteligentes.

Essa investigadora propõe a condição de “contestabilidade” como o mínimo múltiplo comum que invocamos acima, a aplicar onde possível. Esta condição é constituída pelas admissões, tanto pelo sistema quanto por cada utilizador, de que nenhuma das partes é suficiente para reconhecer e avaliar cada situação dada, e para decidir aí a ação mais adequada. Uma vez que esta ação implica as intervenções das duas partes, cada uma destas potencia o conjunto ao promover e participar na ação, mas mantém a respetiva liberdade de evitar esta última.

Esta condição, porém, não será unívoca. Cada designer técnico e, principalmente, cada decisor político – nomeadamente cada eleitor – terá de decidir o nível de contestabilidade que será requerido em geral, ou porventura para cada tecnologia urbana inteligente.

 

Níveis e cláusulas de liberdade tecnológica

 

Particularmente em relação aos sistemas com aprendizagem autónoma (i.e. os sistemas que desenvolvem por si próprios os algoritmos que implementarão), podemos graduar a requisição de contestabilidade conforme os 4 níveis apresentados por Paul de Laat na mesma Conferência.

No menor nível de decisão pelo utilizador – posicionamento mais positivo do que negativo no referido espectro da liberdade – admitir-se-ão as decisões do sistema tecnológico urbano sempre que os resultados forem satisfatórios.

Nos quadros da UE, tende-se a exigir mais uma cláusula – numa posição no espectro ao lado da anterior no sentido negativo: o modelo de aprendizagem autónoma de cada tecnologia urbana inteligente também tem de ser explicável aos agentes interessados e/ou afetados.

Aumentando ainda o grau de contestabilidade por parte dos utilizadores do sistema, de Laat argumentou que esses processos de decisão, além de satisfatórios e explicáveis, devem ser interpretáveis por pessoas com literacia comum. Por exemplo, mediante balanced scorecards (“indicadores balanceados de desempenho”: definição dos objetivos e medição dos resultados).

Enfim, para a maior preservação possível da liberdade negativa dos habitantes de cidades inteligentes, simplesmente se recusarão sistemas com aprendizagem autónoma, tendo os sistemas que ser sempre programados e operacionalizados por seres humanos, com fiscalização independente.

Pela minha parte, também tendo para o 3º nível (tanto quanto possível). Mas estendendo ainda a cláusula da interpretabilidade ao reconhecimento social dos tipos de impacto ou de efeitos que cada uma dessas tecnologias terá nos seus utilizadores. Por isso procurei salientar esses impactos logo no 1ºartigo desta trilogia.

Qualquer que seja o nível requerido de contestabilidade, porém, tanto designers, quanto decisores políticos, quanto cada utilizador das tecnologias, devemos ter em conta os modos como quaisquer destas últimas nos impactam ou nos influenciam – os modos como causam os seus efeitos nos respetivos utilizadores. Para o que nos poderá ser útil o sistema de eixos proposto por Nynke Tromp et al. (2001).

 

Força e visibilidade da influência tecnológica

 

Segundo esses autores, uma tecnologia pode apresentar-se aos utilizadores com maior ou menor visibilidade (percetibilidade), e pode influenciar estes últimos com mais ou menos força.

Por exemplo, os rails separadores entre os lados de uma autoestrada são muito percetíveis e muito impositivos (fortes). Neste esquema concetual, essa tecnologia diz-se “coerciva”. Dispõe-se no 1º quadrante de um sistema de eixos ortogonais que represente a articulação daquelas duas dimensões (visibilidade nas abcissas, força nas ordenadas). Na sua utilização, estas tecnologias podem não ser de todo contestáveis. No entanto, a sua visibilidade faculta uma contestabilidade política da respetiva implementação.

Quando as tecnologias igualmente forçam os utilizadores, mas implícita ou impercetivelmente, esses autores designam-nas “decisivas”. Dispõem-se no 2º quadrante deste sistema de eixos. Nas cidades inteligentes, será o caso de sistemas de reconhecimento facial em espaços públicos, com suposta interpretação de emoções, e consequente classificação social, económica ou política dos transeuntes e utilizadores – p. ex. o sistema chinês de “crédito social”. Só uma sua visibilização, por transparência das instituições públicas e por uma literacia sociotécnica dos cidadãos que lhes permita acompanhar e avaliar os sistemas tecnológicos, facultará alguma sua contestabilidade ao menos política.

As tecnologias dispostas no 3º quadrante – “sedutoras” – são mais contestáveis pelos seus utilizadores do que as anteriores, dada a fraca força com que se apresentam a esses últimos. Todavia, por serem pouco percetíveis, podem furtar-se à sua avaliação por esses utilizadores.

O aumento da literacia sociotécnica poderá, entretanto, deslocar essas tecnologias para o 4º quadrante: o das tecnologias “persuasivas”. Onde se dispõem aquelas cuja força é insuficiente para impedir o seu evitamento pelo utilizador, e a sua visibilidade é suficiente para que este se aperceba delas – p. ex. o risco contínuo pintado entre duas faixas de uma estrada.

Em tempo de pré-campanha autárquica, assim saibamos desenhar e avaliar quaisquer tecnologias urbanas, em particular as ditas “inteligentes”, conforme as respetivas visibilidade e força de impacto sobre os utilizadores satisfaçam o nível de contestabilidade que, democrática e participadamente, estabeleçamos como padrão.

artigo (aqui revisto) atribuído ao Notícias de Aveiro, agosto/setembro 2021 

Smart cities (2): os enviesamentos da IA e uma preocupação com a liberdade individual

Portugal Smart Cities Summit

Sobre atuais projetos autárquicos que omitam o tema da “cidade inteligente” saberemos que, na melhor hipótese, se orientam rumo ao passado. Na pior hipótese, estarão a abrir a porta a interferências dos detentores dos cargos executivos, sejam políticos ou técnicos, nas vidas da generalidade dos munícipes e visitantes dos concelhos, a um ponto que eventualmente nos aproxime do 1984 de George Orwell. É com este risco que nos pre-ocuparemos nestas linhas.

Na última semana, adotei aqui a definição das cidades inteligentes como a “imersão nas estruturas urbanas (…) de sistemas de sensores (…) que permanentemente recolham informação, a qual será classificada por inteligência artificial [IA], investida da responsabilidade de tomada de decisões”.

Mas, como bem questionou João Moniz também nestas páginas já há pouco mais de 2 anos, “quem é que vai definir os critérios de recolha de dados, e posteriores algoritmos de análise?” (Um “algoritmo” é uma sequência de instruções de procedimentos, p. ex. a regra de 3 simples, as receitas de culinária etc. Os algoritmos que constituem a IA distinguem-se por poderem ter muito mais passos e, principalmente, por trabalharem conjuntos incomensuravelmente maiores de dados à entrada).

 

Da inteligência e da artificialidade da "IA"

 

Talvez carregando demasiado nas teclas mas de forma significativa, numa recente entrevista ao The Guardian, a investigadora Kate Crawford disse que a IA não é propriamente “artificial” ou não natural – pois o seu processamento implica muito trabalho humano, recursos naturais etc. – nem “inteligente” no sentido humano do termo – que (lembremos desde Howard Gardner e António Damásio até Aristóteles) é bem mais complexo e abrangente do que a mera computação de dados. Na qual, então, os artefactos eletrónicos são muitíssimo mais poderosos do que os cérebros animais.

De qualquer modo, são possíveis enviesamentos humanos da IA em quaisquer destes seus momentos: i) os tipos de dados relevantes para cada caso são escolhidos por seres humanos; ii) a rotulação dos dados obtidos, i.e. a interpretação do seu significado, é feita por seres humanos (em IA com capacidade de aprendizagem, apenas no modo dito com “supervisão”); tal como somos nós, na IA sem aprendizagem autónoma, que iii) desenhamos os algoritmos e iv) os “treinamos” (os desenvolvemos ou apuramos); enfim, v) a avaliação dos resultados de qualquer tecnologia é ainda (!) humana.

Em alternativa, a IA com capacidade de aprendizagem desenvolve por si própria algoritmos complexos na base de algoritmos elementares. Mas então não se dirá que os resultados são objetivos ou neutros, dir-se-á apenas que as suas regras escapam ao controlo e mesmo à compreensão humana – como o AlphaGo Zero no jogo do go.

Daí decorrem intervenções humanas e/ou equívocos técnicos no funcionamento de cidades inteligentes, como nestes dois casos: no exercício de algoritmos que calculam a probabilidade de crime em determinados contextos e que podem espoletar o envio preventivo de polícia, além de haver testemunhos de preconceitos sociais na seleção dos dados que serão significativos de situações de perigo, a IA tem falhado em interpretações como a de certos comportamentos como dança ou como combate – cf. entrevista de Crawford sobre leitura facial de emoções, classificação racial etc. Os algoritmos de gestão do tráfego escolhem as melhores rotas, mas estas diferem conforme o valor primordial escolhido pelos operadores humanos seja ou a maior rapidez da deslocação, ou a menor emissão de CO₂ etc.

De tudo isso decorre a imperiosidade de uma reflexão ético-política sobre a utilização de IA em estruturas urbanas e do acompanhamento crítico desta utilização, por todos nós que pretendemos salvaguardar algum nível de liberdade individual na utilização das estruturas urbanas, e assim sustentamos a democracia liberal.

 

O “espectro de Berlin”

 

O nosso problema – dos democratas liberais – nessa salvaguarda, é que “liberdade” parece ser o nome de um campo de posições políticas onde nos encontramos, mas onde também nos diferenciamos. Para nos concertarmos nesse campo, podemos usar o seu mapa delineado por Isaiah Berlin no célebre ensaio Two Concepts of Liberty (1969). Nomeadamente, os conceitos de liberdade “negativa” e liberdade “positiva”. A primeira é constituída pela mera ausência de imposições humanas externas sobre cada indivíduo. A segunda é constituída pelas condições de possibilidade da abertura de um leque de alternativas, e da capacidade pessoal de escolha e implementação de alguma delas.

Mas tomemos o caso do limite institucional da velocidade na estrada: a liberdade negativa da sua ausência reduz a liberdade positiva das vítimas dos acidentes causados por altas velocidades; assim como a preservação desta segunda liberdade, pela imposição de um limite, reduz a anterior. Entretanto, qualquer liberdade, nomeadamente a negativa, implica alguma liberdade positiva – sem alternativas, ou sem escolha, ou sem implementação da alternativa escolhida, não fará sentido usar a palavra “liberdade”. Assim como não diremos que um tal empoderamento pessoal que oriente absolutamente o agente constitui este último como “livre”.

Entre essas duas noções estende-se, pois, um espectro ao longo do qual todos quantos tomamos a liberdade individual como valor político último – aquele que em caso nenhum poderá ser violado – de cada vez escolhemos onde nos posicionar.

Em relação a projetos estruturantes como os das cidades inteligentes, cabe-nos então procurar alguma condição que todos possamos admitir qual mínimo múltiplo comum aos valores da liberdade negativa e da liberdade positiva.

Mas este texto já vai longo para a procurarmos aqui. Hoje registemos que a construção das cidades inteligentes – que certamente cada vez mais constituirão o habitat construído das sociedades mais poderosas – requer a participação crítica da generalidade dos seus habitantes, para que possamos conviver nelas usufruindo todos do melhor da sua “inteligência”. Na próxima semana, voltarei a estas páginas para um esboço daquele mínimo múltiplo comum.

 

NOTA – Abriu recentemente no Porto a exposição Totalitarismo na Europa, que alerta para as brutais consequências dos totalitarismos comunista, fascista e nazi. Em boa hora o Instituto + Liberdade e a Associação Comercial do Porto a trouxeram a Portugal! Recuando do séc. XX, na Europa incluiríamos o totalitarismo do Antigo Regime… Mas, numa prospeção antes do futuro próximo no séc. XXI, teremos de nos preocupar também com a novidade civilizacional facultada por tecnologias como a que abordamos acima.

adaptado de Notícias de Aveiro, 26/08/ 2021

Smart cities (1): impactos sobre os habitantes

Neste período de reflexão sobre os nossos concelhos e de correspondentes projetos a médio ou a longo prazo, será preocupante passar em silêncio o tema das Smart Cities. Entre as quais, em Portugal, se distingue a iniciativa Aveiro Tech City.

 

“Cidade inteligente”

 

Esta expressão designa a imersão nas estruturas urbanas, públicas e eventualmente privadas, de sistemas de sensores físicos (ex. câmaras) e virtuais (ex. contagem de intervenções em páginas digitais) que permanentemente recolham informação, a qual será classificada por inteligência artificial, investida da responsabilidade de tomada de decisões.

Seja pela construção de raiz de cidades inteligentes, como o PlanIT Valley que esteve previsto para o concelho de Paredes, ou como a cidade The Line anunciada no início deste ano pelo príncipe saudita Mohammed bin Salman. Seja por uma imersão gradual das tecnologias de informação e comunicação (TIC’s) inteligentes, como está acontecendo em Amesterdão desde 2009. Esta cidade constitui também um exemplo inverso à planificação top-down, tendencialmente paternalista e até autoritária que os projetos anteriores parecem ilustrar, tendo antes adotado uma orientação bottom-up, patente em iniciativas como a plataforma Amsterdam Smart City.

As tecnologias “imersivas” têm efeitos tanto nos seus utilizadores quanto no mundo que aqueles habitam. Mas consideremos aqui apenas os impactos que já se verificam empiricamente sobre os habitantes de cidades inteligentes. Cuja informação foi reunida por Steven Dorrestijn e Hans Voordijk num artigo publicado na revista Urban Research & Practice, 14 (1), com base nas categorias formuladas pelo primeiro desses autores para interpretar as nossas interações com a tecnologia em geral. Ao que me apercebo, esta é uma abordagem em falta ou pelo menos alguma carência neste tempo inicial da implementação do projeto Aveiro STEAM City que, no seio da iniciativa municipal acima referida, versa particularmente a formação de utentes e de quadros com competências necessárias ao aproveitamento dessas tecnologias. Já na edição deste jornal no dia 2 deste mês, Eduardo Natividade salientou precisamente “uma perspetiva das cidades inteligentes (…) centrada na dimensão humana”. Para cuja explicitação crítica, creio, a análise de Dorrestijn e a sua recolha de informação com Voordijk são particularmente úteis.

 

TIC’s inteligentes na cidade: interações e impactos verificados

 

O modo de interação mais verificado entre os atuais sistemas inteligentes urbanos e os respetivos utilizadores é o da disposição das tecnologias, na sugestiva designação de Dorrestijn, “before-the-eye” dos utilizadores.  Esta expressão designa a interação cognitiva, em que o utilizador se apercebe ou interpreta o sentido de uma tecnologia e decide em conformidade as suas ações.

O primeiro impacto da tecnologia “diante-dos-olhos” é a orientação dos utilizadores. Nas cidades inteligentes, é o caso da gestão do tráfego pela informação das melhores rotas e velocidades seja em função da fluidez, seja em função da emissão de gases poluentes etc., conforme a hierarquia de valores dos decisores autárquicos. Também é o caso da disponibilização do cálculo de probabilidades em cada zona de comportamentos que os legisladores classifiquem como criminosos etc.

Outro tipo de impacto, mais intrusivo do que a mera orientação, é a persuasão de comportamentos. Nos exemplos anteriores, pela ativação de semáforos, ou pela ordem de envio preventivo da polícia.

Com a orientação e a persuasão, a tecnologia influencia ainda o estilo de vida. Nos mesmos exemplos, primeiramente conforme o valor da eficiência do tráfego, ou conforme o valor da sustentabilidade ambiental, e conforme o valor da segurança pública.

O segundo modo de interação que também se verifica entre as atuais TIC’s inteligentes urbanas e os habitantes e utilizadores dessas cidades é o que o filósofo neerlandês designou “to-the-hand”: a disponibilidade da tecnologia aos respetivos utilizadores, que normalmente ajustam os respetivos comportamentos ao design dos artefactos sem sequer refletirem ou decidirem sobre isso.

Nesta interação com a tecnologia que está à-mão, um primeiro impacto é o da coerção dos utilizadores. É o caso das comuns lombas contra a velocidade, ou do comando direto do sistema inteligente sobre cada veículo autónomo.

Outro impacto neste modo de interação é o da “incorporação” de tecnologias inteligentes quais extensões do corpo humano, mas que alteram as nossas rotinas práticas. Por exemplo, pela utilização de interfaces digitais, desde códigos QR acionados com smartphone até a implantação de dispositivos subcutâneos.

Enfim, a interação com tecnologias inteligentes à-mão provoca impactos subliminares. Como a sensação de se estar interconectado globalmente, ou o deslizamento do sentido de “cidadania” de uma participação ativa para uma mera responsividade consciente.

 

Outros impactos e liberdade

 

São de esperar outros modos de interação mais indireta e correspondentes tipos de impacto sobre os habitantes das cidades inteligentes. Nomeadamente, condições próprias a cada contexto com tecnologia imersiva, algum determinismo desta sobre as pessoas, e prováveis efeitos colaterais. Bem como impactos sobre as nossas conceções mais utópicas, mais distópicas, ou ambivalentes e porventura ambíguas sobre a civilização que vivemos.

No entanto, nos esperados projetos e debates autárquicos sobre a imersão de TIC’s inteligentes nos nossos concelhos, poderemos começar pelos impactos próprios às interações diretas de que já existem verificações empíricas. Particularmente, em relação à óbvia possibilidade de controlo da generalidade das pessoas pelos operadores dessas tecnologias.

Além de outros impactos sempre possíveis em projetos públicos ditos de “Potencial Interesse Nacional”, como o PlanIT Valley – nomeadamente nos orçamentos de Estado e dívida pública, por um lado, e em contas offshore de alguns donos do Estado, por outro… Mas outras pessoas comentarão melhor estes outros impactos. Aqui, ainda neste período de pré-campanha autárquica, voltaremos antes à relação entre as cidades inteligentes e a liberdade dos seus habitantes.

  

originalmente in: Notícias de Aveiro, 10/08/2021