Quando comecei a pesquisar sobre a Inteligência Artificial para poder formar opinião nem imaginava as conclusões a que chegaria. Os primeiros materiais que li há semanas sobre o ChatGPT, ainda que descrevessem os prós e contras da nova tecnologia, eram bastante ingénuos. Alguns artigos de jornalistas, entusiasmados, até tinham os primeiros parágrafos escritos pelo próprio ChatGPT, em certos casos por vaidade do autor em demonstrar que sabe usar a tecnologia, noutros por curiosidade.
O que quase toda a gente já sabe
As redes neurais de aprendizagem profunda GPT, desenvolvidas pela empresa OpenAI desde 2015, eram pouco conhecidas até ao final de 2022. Treinadas com milhares ou até milhões de textos, elas são capazes de gerar linguagem natural, a tal ponto que, num diálogo, ficamos na dúvida se estamos a falar com uma pessoa ou com uma aplicação de IA.
O Washington Post começou a publicar notícias desportivas escritas por uma inteligência artificial chamada Heliograph em 2016.
Em 2019 e 2020 a Amazon pôs à venda as primeiras obras escritas em colaboração com algoritmos. Mas o surgimento do ChatGPT3 desencadeou uma explosão de quase 200 títulos autopublicados na Amazon e dentro em pouco serão muitíssimo mais.
Não sabemos o quão longe estamos do aparecimento de textos literários poderosos e altamente criativos criados por inteligências artificiais. Mas o problema não é só esse. A produção automática de imagens e vídeos está a alterar o mundo do trabalho de designers e ilustradores e vai começar a ter um efeito cujos resultados ainda não entendemos bem: os vídeos realistas gerados por IA do tipo deep fake vão fazer com que ponhamos em dúvida tudo o que vemos na Internet. Afinal, o Papa Francisco envergando um casaco de Inverno acolchoado branco não é assim tão inverossímil. As imagens produzidas automaticamente a partir de texto por sistemas como o DALL-E ou o Midjourney são por muitos consideradas como espetaculares e “criativas”.
A velocidade de desenvolvimento desta tecnologia é tão grande que afirmações feitas há uns meses já deixaram de estar actuais. Por exemplo: há quem diga que, tal como a imprensa não acabou com a circulação de livros copiados à mão, também agora, na era da IA, continuará a haver livros em papel escritos por humanos. Cada vez que eu própria digo isto aos meus amigos engenheiros, eles respondem: “Por enquanto”; “Espera para ver”.
A morte da literatura (humana)
O caminho está aberto para que em breve a IA possa escrever centenas de páginas coerentes, um ensaio, uma coletânea de poemas, um romance.
“Os grandes modelos de linguagem, como o ChatGPT, já transformaram muitas pessoas em ghostwriters involuntários. Os autores ainda estão presentes, embora cada vez mais invisíveis”, afirma Saffron Huang no artigo “ O ChatGPT e a morte do autor”. Segundo a engenheira, que trabalhou para a DeepMind e é pesquisadora do Collective Intelligence Project, os chatbots alimentados por IA são destruidores de autores e tornar-se-ão um recurso padrão dos produtos de tecnologia.
Alguns autores nos EUA dizem que a perspectiva de uma inundação de conteúdo criado por IA os desencoraja de escrever.
Por outro lado, muitos já acusam os autores de usarem a IA sem o declararem e de enganarem os leitores. De acordo com postagens no Twitter, Reddit e Tumblr, uma série de autores tem recebido comentários nesse sentido, o que é frustrante para os escritores. A IA generativa provou ser um pesadelo para sites de ficção nalguns países, isto porque agora os escritores não precisam apenas de se preocupar em competir com a IA, eles também precisam preocupar-se em ser acusados de a usar.
Em Portugal, que dirão as editoras sobre estas obras, especialmente se forem originais, variadas e inesperadas? Sem necessidade de pagar aos autores, nem aos revisores, com tudo altamente facilitado, os editores serão claramente a favor. Numa primeira fase, talvez o neguem, mas, numa segunda, não vão hesitar em aumentar o lucro.
E os leitores? Talvez eles continuem a preferir os escritores humanos? A resposta é a mesma: “Por enquanto”.
Em resumo: o trabalho criativo já não é uma capacidade exclusivamente humana. Por exemplo, a AI foi usada para reproduzir a obra de arte mais famosa do pintor seiscentista Rembrandt van Rijn, “A Ronda da Noite”, que ficou deteriorada após a morte do artista. A IA até já aprendeu o estilo de Beethoven e foi usada para gerar peças musicais com base nos excertos existentes da 10ª Sinfonia.
O maior problema não é a arte, nem a supressão dos postos de trabalho
“Para mim, o perigo é usarmos esta tecnologia para nos afastarmos e nos tornarmos incompreensíveis uns para os outros, até ao ponto em que ficaremos loucos, sem o entendimento de quem nós somos e sem interesse suficiente na humanidade para sobreviver. Então a IA vai destruir-nos, sim, mas por meio da insanidade”, disse Jaron Lanier, cientista da Microsoft e pai da realidade virtual, no artigo ”O perigo não é que a IA nos destrua, é que ela nos deixe loucos”.
Esta afirmação parecia algo exagerada até me deparar com uma notícia recente que já não é do campo da ficção. “Um homem belga terá posto fim à vida após uma conversa de seis semanas sobre a crise climática com um chatbot de inteligência artificial”. Esta é já uma realidade que achávamos impossível.
E eis que chegámos a duas tomadas de posição que considero fulcrais: a primeira ocorreu em 24 de março deste ano, com a publicação no The New York Times de um artigo de Yuval Harari, Tristan Harris e Aza Raskin “You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills” (os leitores saberão certamente a que se refere o comprimido azul ou vermelho).
“O novo domínio da linguagem da IA significa que agora ela pode hackear e manipular o sistema operacional da civilização. Ao ganhar domínio da linguagem, a IA está a apoderar-se da chave-mestra da civilização, de cofres de bancos a sepulcros sagrados”, escrevem os autores.
“O que significaria para os seres humanos viverem num mundo onde uma grande porcentagem de histórias, melodias, imagens, leis, políticas e ferramentas são moldadas pela inteligência não humana, que sabe explorar com eficiência sobre-humana as fraquezas, preconceitos e vícios da mente humana – enquanto sabe como formar relacionamentos íntimos com os seres humanos? A IA poderia rapidamente comer toda a cultura humana – tudo o que produzimos ao longo de milhares de anos – digeri-la e começar a jorrar uma enxurrada de novos artefatos culturais. Uma cortina de ilusões poderia descer sobre toda a humanidade, e talvez nunca mais possamos rasgar essa cortina – ou mesmo perceber que ela está lá. (…) Apelamos aos líderes mundiais para que respondam a este momento ao nível do desafio que ele apresenta. O primeiro passo é ganhar tempo para atualizar as nossas instituições do século XIX para um mundo de IA e aprender a dominar a IA antes que ela nos domine.”
Por último, a 29 de Março deste ano, ou seja, há poucos dias, um dos primeiros desenvolvedores de IA, Eliezer Yudkowsky, divulgou na revista Time a mais sombria das previsões.
“Uma carta aberta publicada hoje pede que todos os laboratórios de IA interrompam imediatamente por pelo menos 6 meses o treino de sistemas de IA mais poderosos que o GPT-4. Abstive-me de assinar porque penso que a carta está a subestimar a gravidade da situação. (…) . Uma IA suficientemente inteligente não ficará confinada aos computadores por muito tempo. Muitos pesquisadores mergulhados nestas questões, incluindo eu, pensam que o resultado mais provável da construção de uma IA sobre-humana inteligente, sob qualquer coisa remotamente parecida com as circunstâncias atuais, é que literalmente todos na Terra morrerão. A moratória sobre novos grandes planos de treino precisa ser indefinida e no mundo inteiro. Não pode haver exceções, inclusive para governos ou militares. (…) Desliguem todos os grandes grupos de GPUs (nos grandes aglomerados de computadores onde as mais poderosas AIs são refinadas). Encerrem todas as grandes séries de treino. Estabeleçam um limite sobre quanto poder de computação qualquer pessoa pode usar no treino de um sistema de IA. Se os serviços secretos disserem que um país fora do acordo está a construir um cluster de GPUs, há que ter menos medo de um conflito armado entre nações do que da violação da moratória. Deve ficar explícito na diplomacia internacional que prevenir cenários de extinção pela IA é considerado uma prioridade acima de impedir uma troca nuclear completa”.
Eis pois, a conclusão: aquilo com o que nos divertimos ultimamente a pedir para fazer sugestões culinárias pode vir a ser mais perigoso que uma arma nuclear. Acredito que, como humanos, vamos sobreviver, mas para isso temos que fazer tudo para o merecer.
Cristina Mestre
Psicóloga e tradutora
Licenciada em Neuropsicologia pela Universidade de Moscovo (MGU), nos últimos anos tem trabalhado principalmente como tradutora em agências de notícias do Leste da Europa.
