Burrice Artificial (2)

 

Burrice Artificial

 A começar a dar os primeiros passos a usar o ChatGPT e a perceber o porquê de ser considerado um enorme plágio e de não conseguir passar num exame de história. 

Não existe "inteligência", existe sim milhões de dados, muitas vezes errados, e uma resposta num segundo, sem o espírito crítico de um humano.

"Nenhum preço é demasiado elevado a pagar pelo privilégio de possuir a si mesmo" (Kipling)

ChatGPT - Risco de Extinção da Humanidade

Tenho lido dezenas de artigos de opinião sobre a Inteligência Artificial, quer artigos nacionais quer estrangeiros. Já ouvi também um ou outro programa sobre o assunto. Até fui rever o filme I.A. do Spielberg. Mas esta reportagem "A Próxima Palavra" de Isabel Meira na Antena 1 acho que é obrigatório ouvir.

"Agora poderia perguntar ao Chat GPT como fazer uma reportagem sobre o Chat GPT. Mas não o vou fazer.

"Quantas mais palavras conhecemos mais somos capazes de dizer o que pensamos e o que sentimos" (Saramago)

O silêncio quase absoluto aconteceu na vida de Catarina durante dez dias. 

"Quando a pessoa fica sem nada, ou seja, fico só eu comigo própria, sem qualquer outro estímulo. Catarina tem 26 anos, acaba de regressar de um retiro de silêncio em Espanha. 

"Uma pessoa entrega o telemóvel, não pode ler, não pode falar com os outros. São dez dias de meditação em silêncio, não é aceite sequer trazer cadernos para escrever. A pessoa tem que acordar às 4, 4 e meia começa a primeira meditação, depois duas horas de meditação e pequeno-almoço, um bocadinho de descanço, três horas de meditação, almoço, quatro horas de meditação lanche, não tínhamos jantar, eram duas peças de fruta, mais três horas dormimos. Esta rotina tem que ser mantida. Foi muito duro. 

Escolho falar sobre o silêncio e penso: "porquê falar do silêncio numa reportagem sobre o Chat GPT? A rádio não lida bem com o silêncio. O Chat GPT nunca fica em silêncio. Qual é o lugar do silêncio na vida?

Pequeno-almoço, almoço, jantar. Estava sempre com um livro ou um filme. Não podia estar comigo própria com os meus pensamentos no silêncio. Não para mim não existia. Tinha de ocupar a minha mente sempre com informação. Precisava de estar constantemente a consumir este tipo de informação.

O Chat GPT em particular foi treinado para uma coisa muito simples, que é prever a próxima palavra numa sequência de palavras. 

O que é que é diferente nestes modelos de linguagem? Eles foram treinados com grandes volumes de dados, quase com a internet toda, não é exatamente coma  internet toda mas com grande parte. Só para ter uma ideia o ChatGPT foi treinado com dados que, se um de nós fosse a ler durante 24 horas por dia demoraria cerca de 5 mil anos a ler. 

Esta noção da abrangência não é consensual. A investigadora Joana Gonçalves de Sá, um dos nomes mais destacados no estudo sobre enviesamentos e desinformação fala sobre desertos de dados e desconstrói a ideia de que o mundo está todo representado na internet. 

"Por exemplo, quando se diz "toda a internet" uma pessoa pensa logo em todas as redes sociais. Não é verdade. Tem uma grande preponderância duma rede social em particular, que se chama Reddit que se sabe que tem uma muito maior participação de jovens dos Estados Unidos. Portanto há uma grande sub representação da forma como pensam e falam e agem, esses jovens que estão nessa rede social. Que é uma minoria da população. Porque a internet também é enviesada e porque os sítios da internet escolhidos para treinar o modelo muitas vezes só porque os dados são disponíveis também são enviesados, estes modelos são naturalmente enviesados. Estes vão transmitir uma cultura particular, uma ideia particular, valores particulares e é muito mais fácil pensarmos que, se toda a gente está a usar esta ferramenta vai haver uma uniformização do tipo de informação a que eu tenho acesso e até quase do tipo de estrutura de pensamento e de comunicação a que eu posso chegar. 

A partir do momento que nós criamos um modelo de linguagem que fala como nós que faz o discurso estruturado que até pode usar vocabulário ou mais académico ou mais cuidado ao que nós tipicamente vemos na discussão do café, ainda mais credibilidade pode ter a informação que lá está. E existe muitas vezes a ideia que é muito difícil de combater que as coisas que são mais intuitivas ou que parece que fazem sentido, que é lógico, são erradas. Mas é fácil usar esse tipo de enviesamento de nós pensarmos "ah faz sentido" ou é provável para nós acharmos que é real. O que estes modelos de linguagem é provável. Portanto nós com facilidade podemos pensar que é real. 

E agora com o ChatGPT, escrevemos mais ou menos?

O filósofo e linguista norte-americano Noam Chomsky tem sido uma das vozes mais críticas considerando, numa das muitas entrevistas em que falou sobre o tema, que o ChatGPT serve apenas para evitar aprender e é basicamente uma forma de plágio de alta tecnologia. 

No senado norte-americano o presidente executivo da Open Ai foi questionado sobre o impacto do ChatGPT no mercado de trabalho. Aconteceu em todas as revoluções tecnológicas, normalizou-se diz Altman. O argumento é: muitas tarefas vão ser automatizadas com ganhos para os seres humanos. É uma espécie de mantra que tem acompanhado o norte-americano de 38 anos em digressão mundial. Sam Altman diz-se otimista mas pede aos governos que avancem com a regulação. Admite, por exemplo, que os modelos podem ser usados para manipular resultados eleitorais. O maior receio, diz, é que as tecnológicas causem um dano significativo ao mundo. 

Quatro meses depois de ter lançado o ChatGPT a Open IA apresentou o GPT4 e fez outra coisa para mostrar que já é tão bom ou melhor que os humanos em algumas profissões: passou o exame de admissão à Ordem dos Advogados norte-americana. 

A grande maioria destas revoluções que nós estamos a viver na era digital estão a ser lideradas por empresas privadas quase sem controlo nenhum dos Estados. 

Eu acho que é a primeira vez da era moderna em que nós estamos a desresponsabilizar-nos, nós cientistas e nós os Estados de ser atores muito participativos muito ativos em algo que é uma revolução científica e tecnológica. Portanto, estas empresas estão a conseguir fazer isto porque podem porque têm financiamento para ter acesso a estes dados, para ter capacidade computacional para os fazer e, eventualmente, até para toda a parte da curadoria humana. O ChapGPT depois tem humanos a corrigir não é? E eu não conheço centro de investigação nenhum que tenha este tipo de recursos. 

Para ilustrar o impacto que o fenómeno ChatGPT pode ter na sociedade a investigadora faz uma comparação simples: Nós lançarmos produtos destes para o mercado sem estarem regulados é quase como nós lançarmos medicamentos sem os testarmos antes. 

Eu tenho dado muitas vezes o exemplo da revolução industrial. Entre a descoberta da máquina a vapor e a primeira legislação a limitar o trabalho infantil nas fábricas passaram 70 anos. E esta primeira legislação ainda dizia coisas do tipo "crianças de 9 anos não devem trabalhar mais de 12 horas por dia. Coisas que para a nossa sensibilidade de agora são chocantes. E eu acho que quase sempre que aparece uma destas tecnologias e uma revolução tão grande nós temos um período que eu vou chamar a "idade negra" do desenvolvimento dessa tecnologia. Nós vamos fazer todas as coisas que nos vamos arrepender agora. E estamos a fazê-las muito rapidamente. Mas agora é a altura em que estamos a ter as crianças a morrer nas minas de carvão. 

Sam Altman avisa: se correr mal pode correr muito mal. E a tradução pode ser "risco de extinção da humanidade"