Artigo a propósito do debate:
Democracia na era da Inteligência Artificial
Sábado, 10 de Junho, às 16h, na Sala de Formação do Largo Residências
(Largo do Cabeço da Bola, Lisboa)
Regista-te aqui
O lançamento do GPT-4 (Generative Pre-Trained Transformer 4) no passado dia 14 de Março, trouxe para a praça pública os avanços na área da Inteligência Artificial (IA). O Chat GPT-4 e DAL-E (ambos da Open AI) ou o Chat Flash (da Neuroflash) são sistemas generativos, e tal como o próprio nome indica têm a capacidade de gerar conteúdo novo baseado na informação a que têm acesso – que neste caso é a informação disponível na internet. Esta característica tem sido a causa de muita polémica, uma vez que a criatividade e a capacidade de gerar conteúdo (pelo menos no campo da escrita e da imagem), tem sido algo considerado do domínio humano.
Para além disso, este conteúdo é praticamente indistinguível do gerado por humanos trazendo com isso problemas associados à criação de deepfakes e desinformação. Recentemente, a imagem do Papa Francisco num casaco de penas branco tornou-se viral, tendo sido esta imagem criada artificialmente pelo gerador de imagens Midjourney. Se neste caso a publicação da imagem é inofensiva, podendo quando muito afetar as tendências de moda para o Inverno 2023, veio demonstrar como não conseguimos reconhecer que são imagens fabricadas e as partilhamos como imagens reais.
As consequências que este tipo de tecnologias terá nas nossas vidas serão inúmeras, e para elas podemos olhar com a perspectiva do copo meio cheio ou meio vazio. Uma das áreas que mais preocupação tem trazido é o futuro do emprego – um recente estudo da Goldman Sachs estima que cerca de 18% do trabalho a nível mundial pode ser automatizado utilizando IA. Estes valores são mais elevados em Mercados Desenvolvidos como a Europa e EUA, onde chega próximo dos 25%.
Se por um lado esta automatização pode substituir os trabalhadores em várias tarefas e levar à diminuição dos postos de trabalho, por outro pode permitir aliviar a carga horária de várias pessoas sem que isso implique um aumento nos despedimentos. No caso da saúde, ferramentas que utilizam a IA permitirão a realização de diagnósticos precoces e tratamentos personalizados em doenças de origem genética. Mas ao mesmo tempo estes dados podem ser utilizados por empresas de seguros, bancos… para identificar doentes de risco, e com isso aumentar os prémios ou dificultar o acesso a financiamento.
E recentemente o mundo da justiça americana foi abanado pela ameaça do primeiro “robot advogado” que utilizaria inteligência artificial para ajudar os seus utilizadores a reivindicar multas de trânsito. Se por um lado esta prática permitiria que muitas pessoas que não têm acesso a uma representação legal, devido aos custos, passassem a ter algum apoio, por outro põe em causa o trabalho e conhecimento de muitos profissionais de justiça.
Apesar das narrativas mais alarmistas de que estes sistemas estarão em breve fora do controlo humano – remetendo a distopias ao estilo “Blade Runner” ou “Ghost in a Shell” – é necessário olharmos para estes sistemas pelo que eles ainda são – algoritmos criados por humanos que se tornarão naquilo que nós decidirmos que vão ser. E essa é a questão fundamental: o que ambicionamos obter com estes sistemas.
O Artificial Intelligence Act, uma proposta de lei sobre IA apresentada ao Parlamento Europeu, tem como um dos princípios básicos que a Inteligência Artificial deve focar-se no Humano e não deve ser um fim em si própria, mas sim um mecanismo que deve servir as pessoas com o objectivo final de aumentar o seu bem estar .
O grande desafio neste momento é então garantir que estes sistemas evoluirão de forma a beneficiar a sociedade em geral e não apenas alguns grupos motivados por interesses econômicos e políticos. Porém, a realidade é que esta área é dominada por um grupo pequeno de profissionais altamente especializados, e que até agora a discussão não chegou ao domínio público. É por isso essencial trazer as pessoas para esta discussão e esclarecê-las sobre como estes sistemas funcionam, as oportunidades que lhes proporcionam e também os perigos.
Um dos pontos fulcrais nos sistemas de IA é que eles dependem de dados, e os dados são gerados por todos nós. Como tal, em última análise, nós, os geradores da matéria prima temos algo a dizer sobre o que é feito com ela. Um dos pontos propostos pelo DiEM25 no documento “Technological Sovereignty: Democratizing Technology and Innovation” é justamente contrapor o poder das atuais plataformas, com a criação de Sindicatos de Geradores de Dados.
Estes devem ter uma representação colectiva que lhes permita negociar os termos e condições de utilização dessas plataformas e poder tomar ações legais em favor dos que representam. Outro ponto é a criação de um “Data Commons”, um mecanismo que permite agregar dados de forma segura, anónima, transparente e controlada de forma democrática.
Os avanços nesta área podem trazer uma mudança de paradigma que permita melhorar em muito a qualidade de vida de todos nós – mais tempo livre, mais oportunidades de escolha, medicina preventiva em vez de curativa, avanço científico, acesso mais democrático à educação. Porém, também existem muitos riscos em cima da mesa para os quais devemos estar alerta, e muitos destes riscos podem ser mitigados através de regulação que tenha em vista a optimização destes benefícios.
O Instituto Future of Life lançou recentemente uma carta aberta pedindo que laboratórios de investigação que trabalham em IA parem o desenvolvimento de sistemas mais poderosos que o GPT-4 de forma a permitir um planeamento e gestão de como estes sistemas irão evoluir.
Esta carta foi assinada por figuras de peso como Yoshua Bengio, Emad Mostaque (CEO, Stability Ai) ou Valeria Pisano (Presidente e CEO, MILA), entre outros. Mais recentemente, no dia 22 de Maio, Sam Altman, Greg Bockman e Ilya Sutskever, líderes da Open AI, publicaram um texto em que referem a necessidade de sermos proativos para impedir riscos existenciais decorrentes do desenvolvimento destes algoritmos. Sugerem inclusivamente a necessidade de criar autoridades internacionais que possam inspecioná-los, e de envolver o público nas decisões sobre quais os limites de actuação da IA.
A Inteligência Artificial vai fazer cada vez mais parte das nossas vidas, e os desafios à nossa frente serão muitos. Enfrentá-los será essencial para que no futuro possamos, de forma global e democrática, beneficiar com o potencial desta tecnologia.
Ana Pereira
Pelo DiEM25 em Portugal
Queres receber informação sobre as ações do DiEM25? Junta-te aqui
