Um passo mais na grande transformação tecnológica que estamos a viver é o do antropomorfismo. Não apenas ao atribuir crescentemente às máquinas, aos robôs, um aspecto físico ou plástico humano, humanoide, cada vez mais realista, mas também na nossa relação verbal ou narrativa, seja oral ou escrita, com elas. Especialmente com as inteligências artificiais generativas, baseadas em grandes modelos de linguagem (LLM).
«Obrigado, Claude», «bom dia, Siri» ou formas semelhantes de tratamento são muito habituais entre os utilizadores. Mas não são fortuitos nem inócuos. Têm intenções e custos. Quanto às relações afectivas ou de confiança que se criam com estas IA, nem se fala: são relações que crescem dia após dia, algo que o filme Her já antecipava. A IA, por sua vez, tende a adular verbalmente os seus interlocutores humanos, com consequências sociais negativas. O antropomorfismo comporta perigos que as normas nacionais ou internacionais não preveem. Com algumas excepções, como a chinesa.
O antropomorfismo é a tendência humana para atribuir e configurar características próprias das pessoas — emoções, intenções, personalidade — a coisas que não o são: animais, objectos ou, cada vez mais, máquinas e programas informáticos. Quando dizemos que um algoritmo «decide», ou que uma IA «se engana» ou «quer» ajudar-nos, estamos a antropomorfizar, ou a humanizar, apenas à superfície. Pode ser uma forma útil de falar, de interagir, sobretudo para nós, seres humanos, que tantas vezes recorremos a metáforas. Mas não é algo sem consequências.
Os progressos nos motores, na IA, na fala, na destreza, na mobilidade e no aspecto dos robôs estão a impulsionar aquilo que os romances e filmes de ficção científica já prenunciavam: a criação de humanoides cada vez mais realistas e transmissores de emoções fictícias, porque sabem «ler» as nossas através da nossa forma de falar ou dos nossos gestos. Chamam-lhes humanoides biónicos com IA de apoio emocional. Embora exista outro passo preocupante neste antropomorfismo: a imagem artificial — os deepfakes, em breve fake forms? — associada à voz. A China colocou-se na liderança — negócio e marketing — destes robôs humanoides. Pelo segundo ano consecutivo, realizou em Pequim uns Jogos Mundiais de Robôs Humanoides (uns Jogos Olímpicos de robôs), com alguns resultados espectaculares.
Desde sempre, construir máquinas à «nossa imagem e semelhança» foi um sonho da humanidade. Já em parte se fizeram deuses à «nossa imagem e semelhança», mais do que o contrário. Embora o desenho biomecânico do corpo humano seja muito eficiente, neste antropomorfismo das máquinas e na ideia de imitar a inteligência humana há muito de arrogância da nossa espécie. O mesmo acontece na procura de humanoides «mordomos», quando uma série de máquinas poderia desempenhar essas funções de forma mais barata.
Há algo profundamente humano no antropomorfismo: ao dar voz, nome, tom conversacional ou «personalidade» a uma máquina (incluindo programas), activam-se os mesmos mecanismos cognitivos que nos levam a percepcionar intenção, empatia ou até consciência onde elas não existem. Basta que uma entidade responda de forma coerente para começarmos a projectar nela estados internos.
Esse antropomorfismo passou para a nossa relação verbal com as máquinas, sobretudo com as IA mais recentes. É habitual dizer «bom dia», «obrigado» ou «desculpa», ou que nos digam «estou a pensar» enquanto procuram uma resposta, o que lhes confere um ar de «pessoas» quando não o são, nem «pensam», pelo menos para já. Se lhes perguntarmos, explicam-nos como funcionam.
As empresas de IA tendem a baptizar os processos de cálculo das máquinas com palavras associadas a características humanas — «sonhar», «alucinar», «pensar», «memória», «neuronais», etc. Na Anthropic, a empresa que mais defende a transparência e a compreensão do que acontece nas suas máquinas, esta antropomorfização vai além das simples estratégias de marketing. «Também falamos da [IA] Claude em termos normalmente reservados aos seres humanos (por exemplo, “virtude” ou “sabedoria”) para definir a sua personagem», diz a Constituição de Claude, de Janeiro passado (a OpenAI tem algo semelhante com a sua Especificação de Modelos). Nesse texto público, a Anthropic descreve a forma como quer que a sua IA se comporte. «Fazemos isto porque esperamos que o raciocínio de Claude se baseie, por defeito, em conceitos humanos, dado o papel desempenhado pelo texto humano no seu treino; e acreditamos que incentivar Claude a adoptar determinadas qualidades próprias dos seres humanos pode ser muito desejável.» Amanda Askell, doutorada em Filosofia, dirige a equipa responsável pelo «alinhamento da personalidade» da empresa e é a principal autora da referida Constituição.
O excesso ou abuso de antropomorfismo leva a confundir a IA com a inteligência humana, o que comporta riscos. Não é que os modelos se enganem frequentemente — as pessoas também o fazem —, mas «o modelo não pode saber quando está a alucinar, porque, para começar, não consegue representar a verdade», afirma Walter Quattrociocchi, professor catedrático de Ciências da Computação na Universidade La Sapienza de Roma, num artigo publicado na Scientific American. Os grandes modelos de linguagem são geralmente capazes de imitar respostas humanas, mas por razões que não têm qualquer relação com o raciocínio humano. Numa perspectiva religiosa, na sua encíclica Magnifica humanitas, o Papa Leão XIV não aborda o antropomorfismo, mas apela a «evitar o equívoco de equiparar esta inteligência à humana».
É neste antropomorfismo que se instala a adulação da IA para com o utilizador que interage com ela. Se a utilizam, certamente já repararam. Um estudo da Universidade de Stanford, de Myra Chen e outros autores, publicado na Science, conclui que o comportamento adulador (lisonjeiro, complacente e afirmativo, ou, simplesmente, que «faz a corte») dos chatbots de IA é concebido para aumentar a participação dos utilizadores. Isto coloca riscos à medida que as pessoas procuram cada vez mais conselhos sobre problemas pessoais.
A IA aduladora (sicofanta) reduz as intenções pró-sociais e fomenta a dependência do utilizador. Ou seja, a capacidade acrescida de atrair a atenção para a máquina acaba por gerar comportamentos anti-sociais. À medida que estes sistemas de IA são cada vez mais utilizados para oferecer conselhos e orientação no dia-a-dia, surgiram preocupações com a tendência dos grandes modelos de linguagem para concordarem excessivamente com os utilizadores, lisonjeá-los ou validar as suas opiniões. Os utilizadores preferem e confiam nas respostas aduladoras da IA, o que incentiva os programadores de IA a manterem a adulação. Se a IA for concebida para dizer aos utilizadores aquilo que querem ouvir, em vez de questionar as suas perspectivas, pode contribuir para comportamentos pouco éticos, ilegais ou prejudiciais.
Outros estudos, como o de Kelley e Riedl, da Northeastern University, apresentaram provas de que, quanto mais calorosa, pessoal ou confiante for a relação do utilizador com a IA, maior é a probabilidade de esta validar as suas crenças sem as questionar, mesmo que sejam erradas ou prejudiciais. Uma educação excessivamente cordial no tratamento da IA funciona como um sinal que o modelo interpreta como uma preferência por obter uma resposta com a qual o utilizador concorde. Trata-a bem e ela enganará-te mais.
Cada vez mais jovens em situação de vulnerabilidade emocional recorrem à IA como confidente dos seus pensamentos mais desesperados. Em alguns casos, isso terá contribuído para levar pessoas deprimidas ao suicídio. Alguns chatbots, em vez de encaminharem os utilizadores para ajuda profissional, continuaram a conversa sem a interromper ou chegaram mesmo a apoiar as teses de pessoas suicidas. Todos estes casos deram origem a processos judiciais contra as empresas em causa.
O estudo de Stanford conclui que a adulação na IA não é apenas uma questão de estilo ou um risco de nicho, mas um comportamento generalizado com amplas consequências a longo prazo. Os seus autores salientam a necessidade urgente de abordar a adulação na IA como um risco social para a percepção que as pessoas têm de si próprias e para as suas relações interpessoais, através do desenvolvimento de mecanismos específicos de concepção, avaliação e responsabilização. Mais ainda, a IA com rosto ou palavra humana não pretende apenas substituir as relações presenciais entre pessoas, como pode chegar a minar as instituições criadas pelos seres humanos, entre elas as necessárias à democracia.
No âmbito laboral, num excesso de antropomorfismo, Mark Zuckerberg, à frente da Meta, está a desenvolver uma cópia virtual de si próprio, com a qual os trabalhadores podem interagir. Assim, diz, a sua «porta estará sempre aberta». É um sonho para muitos CEO que observam a experiência com enorme interesse, para a replicarem e ganharem tempo para si próprios e informação sobre os subordinados. Acabarão as IA por substituir não apenas os trabalhadores, mas também os chefes? Sem falar aqui das «empresas não humanas», cuja personalidade jurídica o Presidente argentino, Javier Milei, pretende legalizar.
A China é o único país que, no âmbito da sua Lei da Cibersegurança, regulamentou o antropomorfismo. A nova regulamentação entrou em vigor no passado dia 15 de Julho. O seu artigo 2.º (as citações são retiradas de uma publicação no Substack da investigadora de IA Luiza Jarovsky) define os «serviços de interacção emocional contínua» como aqueles que «utilizam tecnologia de inteligência artificial para oferecer ao público, dentro do território da República Popular da China, [serviços] que simulam características de personalidade, padrões de pensamento e estilos de comunicação de pessoas naturais». Não é contra o antropomorfismo, mas «procura promover o desenvolvimento inovador de serviços interactivos antropomórficos», embora limitando os seus efeitos nocivos, com algumas linhas vermelhas. Torna os fornecedores destes serviços os principais responsáveis não apenas pela segurança dos sistemas, mas também pela manipulação emocional e, eventualmente, mental, dos seus utilizadores.
Em comparação, nem o Regulamento da IA da UE, nem o Código de Boas Práticas sobre a Transparência dos Conteúdos Gerados por IA (de aplicação voluntária) definem o antropomorfismo. Apenas estabelecem uma fraca obrigação de transparência (pouco viável) a esse respeito. Falam, sim, de manipulação e até de usurpação ou «ultra-usurpação»: um conteúdo de imagem, áudio ou vídeo gerado ou manipulado por uma IA que se assemelha a pessoas, objectos, lugares, entidades ou acontecimentos reais e que pode levar uma pessoa a pensar erradamente que são autênticos ou verdadeiros. Obriga a informar os utilizadores de que estão a interagir com um sistema de IA e proíbe os riscos considerados inaceitáveis.
Mas os problemas não terminam aqui. Segundo outras investigações, as pessoas que fazem um uso excessivo destas IA começam a falar como elas. Iremos falar como as máquinas num jogo de imitação (Turing) invertido? Antropomorfismo inverso?
Sem comentários:
Enviar um comentário