Os Perigos de Dizer "Obrigado ChatGPT"

Artigo de Andrés Ortega, publicado no fim-de-semana passado, no jornal espanhol El País, sobre os perigos do antropomorfismo na IA.

"As inteligências artificiais são concebidas para nos dizer aquilo que queremos ouvir, em vez de questionarem a nossa perspectiva. Confiar nelas apresenta riscos: não só se enganam, como também...

Um passo mais na grande transformação tecnológica que estamos a viver é o do antropomorfismo. Não apenas ao atribuir crescentemente às máquinas, aos robôs, um aspecto físico ou plástico humano, humanoide, cada vez mais realista, mas também na nossa relação verbal ou narrativa, seja oral ou escrita, com elas. Especialmente com as inteligências artificiais generativas, baseadas em grandes modelos de linguagem (LLM). 

«Obrigado, Claude», «bom dia, Siri» ou formas semelhantes de tratamento são muito habituais entre os utilizadores. Mas não são fortuitos nem inócuos. Têm intenções e custos. Quanto às relações afectivas ou de confiança que se criam com estas IA, nem se fala: são relações que crescem dia após dia, algo que o filme Her já antecipava. A IA, por sua vez, tende a adular verbalmente os seus interlocutores humanos, com consequências sociais negativas. O antropomorfismo comporta perigos que as normas nacionais ou internacionais não preveem. Com algumas excepções, como a chinesa.

O antropomorfismo é a tendência humana para atribuir e configurar características próprias das pessoas — emoções, intenções, personalidade — a coisas que não o são: animais, objectos ou, cada vez mais, máquinas e programas informáticos. Quando dizemos que um algoritmo «decide», ou que uma IA «se engana» ou «quer» ajudar-nos, estamos a antropomorfizar, ou a humanizar, apenas à superfície. Pode ser uma forma útil de falar, de interagir, sobretudo para nós, seres humanos, que tantas vezes recorremos a metáforas. Mas não é algo sem consequências.

Os progressos nos motores, na IA, na fala, na destreza, na mobilidade e no aspecto dos robôs estão a impulsionar aquilo que os romances e filmes de ficção científica já prenunciavam: a criação de humanoides cada vez mais realistas e transmissores de emoções fictícias, porque sabem «ler» as nossas através da nossa forma de falar ou dos nossos gestos. Chamam-lhes humanoides biónicos com IA de apoio emocional. Embora exista outro passo preocupante neste antropomorfismo: a imagem artificial — os deepfakes, em breve fake forms? — associada à voz. A China colocou-se na liderança — negócio e marketing — destes robôs humanoides. Pelo segundo ano consecutivo, realizou em Pequim uns Jogos Mundiais de Robôs Humanoides (uns Jogos Olímpicos de robôs), com alguns resultados espectaculares.

Desde sempre, construir máquinas à «nossa imagem e semelhança» foi um sonho da humanidade. Já em parte se fizeram deuses à «nossa imagem e semelhança», mais do que o contrário. Embora o desenho biomecânico do corpo humano seja muito eficiente, neste antropomorfismo das máquinas e na ideia de imitar a inteligência humana há muito de arrogância da nossa espécie. O mesmo acontece na procura de humanoides «mordomos», quando uma série de máquinas poderia desempenhar essas funções de forma mais barata.

Hiroshi Ishiguro defende há décadas que os robôs humanoides, que fabrica com um elevado grau de realismo e sofisticação, proporcionam uma interface mais natural para a interacção com as pessoas, em oposição aos que argumentam que os robôs não precisam de um aspecto humano para serem eficazes. O robotista japonês defende que é importante que os robôs que entrem em áreas como os cuidados de saúde, nos hospitais, ou no ensino tenham um aspecto próximo e digno de confiança para as pessoas com quem vão interagir. O seu interesse em construir estes humanoides nasce também do desejo de compreender aquilo que nos torna humanos e o que significa sê-lo. 

Há algo profundamente humano no antropomorfismo: ao dar voz, nome, tom conversacional ou «personalidade» a uma máquina (incluindo programas), activam-se os mesmos mecanismos cognitivos que nos levam a percepcionar intenção, empatia ou até consciência onde elas não existem. Basta que uma entidade responda de forma coerente para começarmos a projectar nela estados internos.

Esse antropomorfismo passou para a nossa relação verbal com as máquinas, sobretudo com as IA mais recentes. É habitual dizer «bom dia», «obrigado» ou «desculpa», ou que nos digam «estou a pensar» enquanto procuram uma resposta, o que lhes confere um ar de «pessoas» quando não o são, nem «pensam», pelo menos para já. Se lhes perguntarmos, explicam-nos como funcionam.

As empresas de IA tendem a baptizar os processos de cálculo das máquinas com palavras associadas a características humanas — «sonhar», «alucinar», «pensar», «memória», «neuronais», etc. Na Anthropic, a empresa que mais defende a transparência e a compreensão do que acontece nas suas máquinas, esta antropomorfização vai além das simples estratégias de marketing. «Também falamos da [IA] Claude em termos normalmente reservados aos seres humanos (por exemplo, “virtude” ou “sabedoria”) para definir a sua personagem», diz a Constituição de Claude, de Janeiro passado (a OpenAI tem algo semelhante com a sua Especificação de Modelos). Nesse texto público, a Anthropic descreve a forma como quer que a sua IA se comporte. «Fazemos isto porque esperamos que o raciocínio de Claude se baseie, por defeito, em conceitos humanos, dado o papel desempenhado pelo texto humano no seu treino; e acreditamos que incentivar Claude a adoptar determinadas qualidades próprias dos seres humanos pode ser muito desejável.» Amanda Askell, doutorada em Filosofia, dirige a equipa responsável pelo «alinhamento da personalidade» da empresa e é a principal autora da referida Constituição.

O excesso ou abuso de antropomorfismo leva a confundir a IA com a inteligência humana, o que comporta riscos. Não é que os modelos se enganem frequentemente — as pessoas também o fazem —, mas «o modelo não pode saber quando está a alucinar, porque, para começar, não consegue representar a verdade», afirma Walter Quattrociocchi, professor catedrático de Ciências da Computação na Universidade La Sapienza de Roma, num artigo publicado na Scientific American. Os grandes modelos de linguagem são geralmente capazes de imitar respostas humanas, mas por razões que não têm qualquer relação com o raciocínio humano. Numa perspectiva religiosa, na sua encíclica Magnifica humanitas, o Papa Leão XIV não aborda o antropomorfismo, mas apela a «evitar o equívoco de equiparar esta inteligência à humana».

É neste antropomorfismo que se instala a adulação da IA para com o utilizador que interage com ela. Se a utilizam, certamente já repararam. Um estudo da Universidade de Stanford, de Myra Chen e outros autores, publicado na Science, conclui que o comportamento adulador (lisonjeiro, complacente e afirmativo, ou, simplesmente, que «faz a corte») dos chatbots de IA é concebido para aumentar a participação dos utilizadores. Isto coloca riscos à medida que as pessoas procuram cada vez mais conselhos sobre problemas pessoais.

A IA aduladora (sicofanta) reduz as intenções pró-sociais e fomenta a dependência do utilizador. Ou seja, a capacidade acrescida de atrair a atenção para a máquina acaba por gerar comportamentos anti-sociais. À medida que estes sistemas de IA são cada vez mais utilizados para oferecer conselhos e orientação no dia-a-dia, surgiram preocupações com a tendência dos grandes modelos de linguagem para concordarem excessivamente com os utilizadores, lisonjeá-los ou validar as suas opiniões. Os utilizadores preferem e confiam nas respostas aduladoras da IA, o que incentiva os programadores de IA a manterem a adulação. Se a IA for concebida para dizer aos utilizadores aquilo que querem ouvir, em vez de questionar as suas perspectivas, pode contribuir para comportamentos pouco éticos, ilegais ou prejudiciais.

Outros estudos, como o de Kelley e Riedl, da Northeastern University, apresentaram provas de que, quanto mais calorosa, pessoal ou confiante for a relação do utilizador com a IA, maior é a probabilidade de esta validar as suas crenças sem as questionar, mesmo que sejam erradas ou prejudiciais. Uma educação excessivamente cordial no tratamento da IA funciona como um sinal que o modelo interpreta como uma preferência por obter uma resposta com a qual o utilizador concorde. Trata-a bem e ela enganará-te mais.

Cada vez mais jovens em situação de vulnerabilidade emocional recorrem à IA como confidente dos seus pensamentos mais desesperados. Em alguns casos, isso terá contribuído para levar pessoas deprimidas ao suicídio. Alguns chatbots, em vez de encaminharem os utilizadores para ajuda profissional, continuaram a conversa sem a interromper ou chegaram mesmo a apoiar as teses de pessoas suicidas. Todos estes casos deram origem a processos judiciais contra as empresas em causa.

O estudo de Stanford conclui que a adulação na IA não é apenas uma questão de estilo ou um risco de nicho, mas um comportamento generalizado com amplas consequências a longo prazo. Os seus autores salientam a necessidade urgente de abordar a adulação na IA como um risco social para a percepção que as pessoas têm de si próprias e para as suas relações interpessoais, através do desenvolvimento de mecanismos específicos de concepção, avaliação e responsabilização. Mais ainda, a IA com rosto ou palavra humana não pretende apenas substituir as relações presenciais entre pessoas, como pode chegar a minar as instituições criadas pelos seres humanos, entre elas as necessárias à democracia.

No âmbito laboral, num excesso de antropomorfismo, Mark Zuckerberg, à frente da Meta, está a desenvolver uma cópia virtual de si próprio, com a qual os trabalhadores podem interagir. Assim, diz, a sua «porta estará sempre aberta». É um sonho para muitos CEO que observam a experiência com enorme interesse, para a replicarem e ganharem tempo para si próprios e informação sobre os subordinados. Acabarão as IA por substituir não apenas os trabalhadores, mas também os chefes? Sem falar aqui das «empresas não humanas», cuja personalidade jurídica o Presidente argentino, Javier Milei, pretende legalizar.

A China é o único país que, no âmbito da sua Lei da Cibersegurança, regulamentou o antropomorfismo. A nova regulamentação entrou em vigor no passado dia 15 de Julho. O seu artigo 2.º (as citações são retiradas de uma publicação no Substack da investigadora de IA Luiza Jarovsky) define os «serviços de interacção emocional contínua» como aqueles que «utilizam tecnologia de inteligência artificial para oferecer ao público, dentro do território da República Popular da China, [serviços] que simulam características de personalidade, padrões de pensamento e estilos de comunicação de pessoas naturais». Não é contra o antropomorfismo, mas «procura promover o desenvolvimento inovador de serviços interactivos antropomórficos», embora limitando os seus efeitos nocivos, com algumas linhas vermelhas. Torna os fornecedores destes serviços os principais responsáveis não apenas pela segurança dos sistemas, mas também pela manipulação emocional e, eventualmente, mental, dos seus utilizadores.

Em comparação, nem o Regulamento da IA da UE, nem o Código de Boas Práticas sobre a Transparência dos Conteúdos Gerados por IA (de aplicação voluntária) definem o antropomorfismo. Apenas estabelecem uma fraca obrigação de transparência (pouco viável) a esse respeito. Falam, sim, de manipulação e até de usurpação ou «ultra-usurpação»: um conteúdo de imagem, áudio ou vídeo gerado ou manipulado por uma IA que se assemelha a pessoas, objectos, lugares, entidades ou acontecimentos reais e que pode levar uma pessoa a pensar erradamente que são autênticos ou verdadeiros. Obriga a informar os utilizadores de que estão a interagir com um sistema de IA e proíbe os riscos considerados inaceitáveis.

Mas os problemas não terminam aqui. Segundo outras investigações, as pessoas que fazem um uso excessivo destas IA começam a falar como elas. Iremos falar como as máquinas num jogo de imitação (Turing) invertido? Antropomorfismo inverso?

Amália: Somos um País do Caralho!

"Fizemos à Amália uma pergunta bastante cruel e difícil para uma inteligência artificial portuguesa: quem é o primeiro-ministro de Portugal.

Não perguntámos pela diferença entre a troika e o mecanismo europeu de estabilidade, nem pelo paradeiro político de Assunção Cristas, nem sequer por aquela matéria altamente especializada que consiste em perceber porque é que uma senha do SNS24 parece sempre emitida por uma impressora cansada. Perguntámos só quem é o primeiro-ministro.

A Amália respondeu: Luís Eça de Freitas". (RiseUP Portugal)

Inteligência Artificial: Um Futuro que Já Aconteceu

A propósito do livro "O deserto de nós mesmos", o El País falou com o autor, Éric Sadin, um dos maiores especialistas do mundo em tecnologia e ele pinta-nos o cenário de como será o mundo com a "inteligência artificial".

 Éric Sadin é um dos 10 principais pensadores tecnológicos do mundo. A sua obra mais recente é O Deserto de Nós Mesmos, uma análise sombria do futuro que estamos a construir. Um lugar que já existiu previamente em dados e no esquema de probabilidades que o desenhou. Um lugar que cheira a morte e a passado. E tudo começou a 30 de novembro de 2022, com o advento do ChatGPT. “Nesse dia não dormi a noite inteira. E eu costumo dormir como um bebé”, explica Sadin, enquanto coloca o croissant sobre a mesa. O livro, um best-seller em França, começa com uma citação de Louis-Ferdinand Céline: “Posso dizer que vi a catástrofe a chegar”.

Então o apocalipse começou a 30 de novembro de 2022?

Normalmente durmo como um bebé, mas nesse dia não preguei olho. Os dias que se seguiram foram piores. Toda aquela gente a dizer que era fantástico. Eu não percebia como ninguém via a catástrofe civilizacional que aí vinha. É estranho observar um fenómeno como o da IA generativa revestido dessa pátina de modernidade e praticidade sem que se analisem as consequências imediatas, de extrema gravidade. E quanto mais tempo passar, mais grave será.

 Sustenta que devia ter sido proibida.

Desde o início. Mas aconteceu exatamente o contrário. Sam Altman, cofundador da OpenAI, fez uma digressão de conferências e foi recebido pelos chefes de Estado com passadeira vermelha. A resposta, também a de França com a Mistral, foi inscrevermo-nos nesta corrida rumo ao deserto de nós mesmos. Há muitas palavras vazias e absurdas que se dizem sobre a IA: “Vamos viver num mundo melhor”. “Tudo será mais fácil…”. Com base em quê? Eu analiso a partir de princípios como a sociabilidade, a dignidade, a integridade humana, a liberdade, a expressão das nossas faculdades… e tudo isso será destruído. Se tivermos em conta as consequências atuais e as que se anunciam, trata-se de algo de extrema gravidade.

O Governo francês debate esta semana a proibição das redes sociais a menores de 15 anos. Dá a sensação de que chegamos sempre tarde a tudo.

Macron quer regulá-las agora, mas até este momento deu a estas plataformas todas as facilidades. Começaram em 2010 e, 15 anos depois, admitimos a catástrofe. A sociedade, em questões digitais, acorda sempre demasiado tarde.

Já perdemos algumas gerações de jovens?

Também muitos adultos. Psiquiatrizaram a sociedade. E com a IA generativa acontecerá o mesmo. Já estamos a ver as consequências. A perda de empregos, o isolamento social, a imagem. Mas também a dependência emocional dos adolescentes que falam diretamente com a IA generativa, que lhes diz a verdade sobre tudo, transformada em coach psicológico. E isto é só o princípio.

Falamos com a IA, pedimos conselhos, conversa emocional. Mas a linguagem, embora pareça a mesma, é outra.

São sistemas que analisam todo o corpus digitalizado: livros de bibliotecas, artigos de jornais e dados da internet para revelar leis semânticas. São percursos formais feitos de estatística, equações e fórmulas matemáticas. É uma linguagem que cheira a morte porque funciona sob o regime da correlação. Analisam todos os dados e sabem que, depois de determinadas palavras, vêm outras. Na IA acontece sempre tudo o que já aconteceu. Responde à conformidade da lógica. É um futuro que já existiu. E isso é o oposto da linguagem humana, que funciona por associação de ideias. Eu agora não sei que palavra vou usar a seguir à que estou a dizer neste momento, porque a linguagem humana depende do nosso pensamento, é única. Ninguém percorre o mesmo caminho.

Isso poderia definir a liberdade humana.

Sem dúvida. Por um lado, há a linguagem morta, necrosada, matematizada e nascida do capitalismo linguístico. E, por outro, uma linguagem que fala de um infinito indeterminável, da nossa liberdade e singularidade. E esta mudança que estamos a viver modificará também as relações pessoais, cada vez mais ausentes em favor de um sistema omnisciente e sabichão. Nestas últimas eleições autárquicas em França, descobriram que havia candidatos e autarcas que escreviam os seus discursos com o ChatGPT. Tem noção da gravidade disso?

A sensação é de que a cultura que a IA vai gerar será como a comida de plástico, o tabaco, o açúcar… Uma narrativa comercial para classes desfavorecidas que não podem pagar o autêntico, o verdadeiro. Uma distinção social e económica. A realidade, com os seus erros, para os ricos; a IA, para os pobres.

Tem razão, mas a distinção será entre os preguiçosos e os que têm vontade de usar as suas faculdades. Essas pessoas também podem existir nas classes menos favorecidas. E haverá ricos que optarão por isso por preguiça, desleixo. Mas não será fácil distinguir os dois mundos; nasce o reino da imagem fantasmática. Cada um produzirá imagens que corresponderão ao seu ponto de vista sobre as coisas.

O impacto será enorme no mundo audiovisual e na cultura.

Sem dúvida. Vai arrasar as séries e os filmes. Haverá atores feitos por IA, cenários, luzes, maquilhagem, guarda-roupa… Vamos para uma enorme desaparecimento de profissões: montador, maquilhador, diretor de produção. Dirigimo-nos para a autocriação. Produtos que nos contêm a nós mesmos. A selfmusic, ou o selfbook. Em vez de descobrirmos, construiremos a nossa pequena ficção. E isso é um furacão que vai embater no mundo da cultura.

Vão destruir-se empregos, mas talvez se crie uma nova indústria. Outra forma de entender o trabalho, menos absorvente.

A sociedade foi fundada sobre o conceito de destruição criativa de Joseph Schumpeter. Alguns desenvolvimentos tecnológicos destroem emprego, mas a médio ou longo prazo conduzem a novos tipos de trabalho, como aconteceu com o nascimento do setor terciário nos anos 70 e 80. Trabalhos muito duros passaram a ser feitos pelas máquinas. Hoje, quase 80% do emprego vem do setor terciário, que se caracteriza por mobilizar faculdades intelectuais e criativas: advogados, tradutores, arquitetos… Mas desta vez não haverá um setor quaternário. Pense no seu trabalho como jornalista, que o senhor ama e que lhe dá reconhecimento social.

Acho que está a confundir a época. Ou a profissão.

Vá lá, o senhor assina, faz coisas pessoais.

Se há uma tecnologia que faz muito melhor trabalhos mecânicos ou rotineiros do que os humanos, porque haveríamos de nos opor?

Não podemos nem proibir nem regular. Mas podemos defender a grandeza dos nossos trabalhos. Eu sei que conta apenas um único critério: o ser humano como variável contabilística. Os sistemas farão o trabalho de forma mais fiável, mais rápida e mais barata. Mas há saberes insubstituíveis. O problema é que caminhamos para um mundo em que os humanos pedirão respostas a um sistema. Sam Altman, um ano depois de lançar o ChatGPT, disse diante daqueles imbecis felizes que o aplaudiam: “Calma, isto não é nada comparado com o que aí vem”. Ou seja, os superassistentes. E isto deixará um mundo com humanos cada vez mais excluídos da sua própria organização.

Tenho uma filha de três anos e outra de oito. Acha que se vão salvar deste furacão? O que podem fazer?

O futuro devia ser coletivo: no trabalho e no lazer. A primeira consequência do liberalismo não é a desigualdade, mas a morte do espírito. Se quer ver o inferno, vá a certos escritórios. As pessoas deprimem-se, enlouquecem. Nunca houve uma sensação coletiva de saturação tão generalizada. E tanta vontade de fazer algo diferente. Depois da covid, 20 milhões de norte-americanos deixaram o emprego. Mas é difícil fazer outra coisa. O Estado, em vez de subsidiar todas estas start-ups inúteis que toda a gente quer mercantilizar, devia apoiar coletivos ou estruturas que não estejam submetidos à automatização. O futuro devia ser feito de pequenos coletivos.

O que deveriam aprender os nossos filhos para escapar a essa morte em vida?

Artesanato. Veja: na Revolução Industrial já existia essa dicotomia. Karl Marx, por um lado, e William Morris, por outro. Marx defendia a reapropriação do aparelho de produção, mas isso aumentava os desastres ecológicos, o trabalho em cadeia. Morris, pelo contrário, uma pessoa incrível, um socialista na origem do movimento Arts and Crafts, dizia que era preciso ser criativo. E isso podia fazer-se no artesanato, na excelência, na obra assinada, única.

Não parece haver muita esperança.

A esperança são as crianças da idade das suas filhas, que quando crescerem escolherão outra opção, como acontecia em Matrix. Esse momento chegará. Chegará em algumas crianças puras. Mas já perdemos muitas. Miúdos que passam o dia inteiro no TikTok e já nem sabem escrever. São robôs que apenas respondem a sinais, impulsos. São corpos sem autonomia.

Esta criatura pode tornar-se independente e submeter-nos, como o Skynet em Terminator?

Isso é uma parvoíce. Um delírio de ficção científica infantil. Uma visão antropomórfica de adolescente. Mas aquilo que lhe estou a contar é muito pior. A renúncia às nossas faculdades fundamentais! Estamos ameaçados a todas as escalas, e todas fazem recuar o ser humano no exercício daquilo que o engrandece. Imagine um mundo sem escritores, sem escolas, sem artistas. É isso que está a extinguir-se. E garanto-lhe que isso é muito pior do que o Skynet. Mas sabe quem pode evitá-lo?

Pelo seu olhar, começo a imaginá-lo.

O senhor. Ou seja, os pais! O senhor não pode usar o ChatGPT para mandar e-mails nem nada parecido. Como é que depois vai pedir aos seus filhos que aprendam a escrever? Salvar o mundo hoje depende da consciência dos pais.

O senhor não usa nenhuma IA generativa?

Essas máquinas de morte? Não, obrigado. Eu amo a vida. Escrever uma frase é difícil, mas que felicidade. E vejo gente jovem que começa a distinguir-se, a rejeitar isso. Acho que haverá heróis quotidianos e escravos da sua própria preguiça. E esses verão a sua singularidade destruída em nome de uma verdade artificial. Enfim, estou a falar muito. Quanto espaço é que lhe vão dar?

Não se preocupe, resumimos tudo com o ChatGPT.

(Entrevista de Daniel Verdú / El País)