A extração de dados e o problema da privacidade

Uma reflexão ética sobre a IA, tal como esta se faz hoje, começará, logicamente, pelas condições de possibilidade dessa tecnologia. Além das que partilha com outras tecnologias – produção de energia elétrica etc. –, viso aqui uma condição que lhe é específica: a extração de quantidades maciças de dados. Como fotografias de rostos, tempos de abertura de uma página online, ou manobras de condutores nos seus automóveis.

Seja apenas para lhes conferir significado conforme regularidades estatísticas que se reconheçam neles – pela Ciência de dados –; seja mesmo para que sistemas computacionais se ajustem em conformidade com essas regularidades, de forma a realizar melhores generalizações ou previsões em novas situações – aprendizagem automática desses sistemas.

Essa extração é imprescindível a estas tecnologias. Mas facilmente viola direitos que se reconheçam às pessoas, singulares ou coletivas, sobre informações próprias a essas últimas. Ou seja, a implementação da IA pode enfrentar o problema da oposição entre uma sua condição de possibilidade e o valor conferido à privacidade.

Este último é particularmente relevante numa cultura ancorada na conceção cristã do ser humano como pessoa individual: capaz de assumir valores, de os aplicar e de tomar decisões próprias. Vejam-se, a este propósito, os §§ 102 ss. da recente encíclica Magnifica Humanitas. Mas também no meio empresarial europeu se verifica uma preocupação com a proteção dos dados das organizações, como revelou recentemente o Eurostat.

Ainda que a um nível minimalista, a privacidade não é ignorada em regimes coletivistas, como o conservadorismo autoritário europeu (p.e. o Estado Novo português) ou o confucionismo. Esse problema apenas não se colocará em totalitarismos, sejam os dedicados à construção de um Homem Novo, como poderia ser um regime de húbris tecnocrática, ou como os nossos velhos conhecidos comunismo, fascismo ou fundamentalismo religioso (ou que fosse agora fundado na Teoria Crítica da Raça e na Desconstrução Sistémica), sejam quaisquer tiranias.

Em conformidade, nas sociedades que preservam a democracia liberal e a antropologia que lhe subjaz, precisamos de determinar um critério do justo equilíbrio entre os benefícios da IA e a perda de privacidade. Determinando:

• Como se justifica o valor da privacidade: intrínseca ou instrumentalmente? – só no primeiro caso ele será absoluto. E qual é a sua posição, na hierarquia de valores, em relação aos que constituem aquela tecnologia como benéfica?

• O que se deve fazer? – em relação ao direito à privacidade, é comum estabelecer como crucial o princípio do consentimento informado, pelos visados, de acesso às respetivas informações pessoais; mas…

• 
  Até que ponto se deve intervir: as atuais regras que preservam a privacidade em geral serão suficientes, ou será necessário um enquadramento específico da IA? Neste caso, há que avaliar a suficiência de cada diploma legal, como o Regulamento Geral sobre a Proteção de Dados (Parlamento Europeu, 2016) – este último garante, na prática real, o respeito pelo referido consentimento? Ou, ainda a montante da recolha de dados, garante a explicabilidade da formulação do problema a resolver, e o não enviesamento da seleção da informação relevante para isso? Há dúvidas sobre tais garantias.

• Importa ainda determinar o tempo útil para alguma intervenção ética, por incompleta que esta seja, para além do qual qualquer enquadramento moral e jurídico (das atuais IAs Específicas), porventura enfim teoricamente perfeito, estará já ultrapassado (p.e. por uma IA Geral).

• Bem como quem deve assumir exatamente que intervenções: parlamentos ou governos, administrações públicas, as próprias empresas tecnológicas, as famílias e os utilizadores em geral?

Duas últimas notas para o reconhecimento e um consequente equacionamento do problema da privacidade em IA:

Este problema não se esgota à entrada, ou no input da Ciência de dados e da aprendizagem automática. Também à saída, ou no output destes processos se joga a privacidade das pessoas. Nomeadamente, pela manipulação destas últimas que a informação recolhida faculta.

Em cada ato de consentimento joga-se, de facto, uma responsabilidade coletiva: a informação prestada por alguém pode ser usada para descobrir padrões, e informação não consentida, sobre o próprio ou sobre terceiros. Além de que, em cada recolha de dados, aumenta a diferença de poder entre governos e grandes empresas, por um lado, e as pessoas comuns, por outro.

in: Tek Notícias, Opinião, 18/06/2026