Uma das possibilidades mais perigosas de desenvolvimento da inteligência artificial e, ao mesmo tempo, uma ideia muito desejada pelos regimes autoritários e autocráticos, pode vir a ser o «assistente personalizado».
Há vários anos que a Siri, a assistente de IA da Apple, estava inativa no meu telemóvel sem que me tivesse suscitado curiosidade em utilizá-la. No fundo, creio que depois de a configurar há uns anos, simplesmente me recusei a usá-la. Já o Copilot apareceu no browser sem eu pedir nada. Cerca de uma semana depois, ele começou a tratar-me pelo nome, embora eu não lho tivesse dito. Logo em seguida, a uma simples pergunta sobre gramática, fez um resumo de um material sobre política que eu tinha num separador. Daí concluí que ele tinha acesso total a tudo o que eu tinha guardado no computador. Nada que eu não intuísse, mas a demonstração ao vivo foi um bocadinho perturbante.
Assistentes e agentes de IA não são a mesma coisa. Com a democratização do código aberto, tem havido uma proliferação massiva de agentes de IA. Uma única pessoa pode criar dezenas de agentes para trabalhar para ela praticamente de graça enquanto fica descansada a saborear o seu whisky e a verificar a conta bancária. Mas essa não é a variante mais preocupante.
Uma das possibilidades mais perigosas de desenvolvimento da inteligência artificial e, ao mesmo tempo, uma ideia muito desejada pelos regimes autoritários e autocráticos, pode vir a ser o «assistente personalizado». Único para cada pessoa, moldado de acordo com as suas características psicológicas, pode revelar-se simultaneamente assistente, o amigo mais próximo, o motor de busca, o professor, o confidente e o propagandista — tudo isto adaptado às especificidades de um utilizador concreto.
Não está longe o dia em que estes sistemas fiquem ligados aos serviços secretos digitais, permitindo a estes últimos determinar o grau de lealdade para com o governo ou o eventual perigo que cada cidadão possa representar (na China isso já acontece). Numa comunidade totalmente atomizada, o assistente ou agente de IA irá, muitas vezes, conhecer o utilizador e as suas necessidades melhor do que ele próprio: ser ao mesmo tempo psicólogo e até médico — realizando, com a ajuda de sensores, um controlo constante do organismo. Mas também pode funcionar como delator de quem não aceite as narrativas oficiais.
Além disso, modificações como a capacidade do assistente de ter traços antropomórficos adaptados a um utilizador específico facilitarão muito o acesso à alma humana, tornando os avatares digitais, para muitos, os melhores e, muitas vezes, únicos amigos e interlocutores, dispostos a ajudar e a responder a qualquer hora do dia ou da noite. Acabaremos por lhes revelar os pensamentos mais recônditos e até mesmo aquilo que ainda não tivemos tempo de perceber por nós próprios. E o facto de tudo o que dizemos e fazemos ser instantaneamente processado e analisado com base em centenas de parâmetros como sejam a lealdade ao sistema, satisfação, eficácia da assimilação de teses propagandísticas selecionadas individualmente, ou ainda a necessidade de aplicar «medidas de influência individuais» a quem cometeu uma infração — tudo isto pouco interessará aos cidadãos bem-intencionados, convencidos de que os problemas nunca os atingirão. Ou, pelo contrário, com medo de que a máquina leia os seus pensamentos secretos e mentiras através de indicadores corporais, olhos, expressões faciais, batimentos cardíacos e pressão arterial, alguns esforçar-se-ão deliberadamente por não reagir a “temas fracturantes”. O que acontecerá num ambiente de controlo total, aparentemente amigável, mas extremamente cruel?
A propósito, não será possível fugir do sistema — a necessidade de pelo menos um mínimo de interação diária com o «amigo-confessor» todos os dias, ou talvez semanalmente — isso pode vir a ser estabelecido por lei. Claro que por bons motivos — para que o sistema possa registar regularmente os indicadores físicos dos cidadãos em prol da sua saúde física e realizar breves conversas, com o objetivo de avaliar a saúde mental.
E certamente todos os dissidentes que recusarem esse “controlo elementar e necessário” serão declarados “negacionistas” ou algo semelhante por não conseguirem suportar uma breve e simples conversa com um avatar informático amigável. E a sociedade compreenderá e aprovará isso, pois já aconteceram coisas parecidas na História. O que se pode opor a este quadro de um campo de concentração digital, que regista pensamentos e ações de cada um como nem mesmo Orwell sonhou? Apenas a auto-organização e correntes humanas de cidadãos que possuem um objetivo comum: o desejo de liberdade de pensamento e liberdade de vida.
Temos que contrariar as tecnologias que penetram nas almas, nos lares e nos corpos das pessoas. Elas precisam de espaço para a sua própria liberdade, para dela poderem dispor, seja de forma medíocre, seja de forma útil, mas segundo a sua própria vontade e não a de outrem.
Ver também:
Declaração de Kazan: uma agenda globalista sob a capa da multipolaridade – The Blind Spot
Inteligência artificial em operações militares: uma máquina de matar – The Blind Spot
Seremos a última geração livre? Pergunte a Davos – The Blind Spot
Os governos acham que somos parvos? – The Blind Spot
