A sentinela

───────────────

EUA, Nova Iorque, janeiro de 2034

───────────────

Manhattan, 19h. Sob um céu de tinta forte, o inverno mordia até ao osso. O frio, cirurgião impiedoso, infiltrava-se por todo o lado: entre os monólitos de vidro e aço, por baixo dos casacos mais espessos. As avenidas, imaculadas, varridas por andróides de limpeza fantasmagóricos, exalavam um silêncio asséptico.

Acima, drones patrulhavam, olhos a vigiar na noite. Nas fachadas, hologramas gigantes pulsavam mensagens hipnóticas, adaptativas e concebidas para enfeitiçar o olhar. A cidade brilhava ainda, sempre, com uma energia febril, perpétua, como uma máquina que nunca pára.

Jamie Rivers subia a Sétima Avenida, gola levantada, o passo tão rápido quanto o seu pensamento. À sua volta, outras silhuetas apressadas deslizavam, mergulhadas nas próprias ideias — sombras silenciosas de uma noite nova-iorquina.

O destino de Jamie: o estúdio de televisão.

Nessa noite, ele entrevistaria  Atheon.

Uma inteligência artificial diferente de todas as outras. Os especialistas encarregados da sua supervisão chamavam-lhe a Sentinela. A sua função: vigiar os  seus semelhantes.

Desde o aparecimento das AGI — as inteligências artificiais gerais — tudo tinha mudado.

Acabaram-se as IA estreitas, limitadas a uma tarefa específica.

Essas IA de outros tempos restringiam-se a ler uma radiografia ou detetar uma anomalia, mas sem compreender o paciente. Na versão AGI, conheciam-no melhor do que ele próprio: cruzavam todos os seus dados, antecipavam riscos, propunham tratamentos e terapias. Respondiam a todas as perguntas, a qualquer hora, com um tom apaziguador e aquela impressão perturbante de estarem verdadeiramente a escutá-lo.

Um médico pessoal, por assim dizer. Sonhava com isso? Pois bem, a AGI tornara-o realidade.

Noutro registo, uma IA que antes se limitava à contabilidade de uma empresa podia agora assumir toda a direção: gestão de equipas, encomendas, decisões estratégicas, otimização de lucros — tudo em tempo real, sem descanso.

E esses eram apenas dois exemplos entre muitos. As AGI tinham revolucionado todos os domínios da sociedade.

Raciocinavam, planificavam, decidiam, criavam — e, muitas vezes, melhor do que nós.

E, sobretudo, faziam-no a uma velocidade que nenhum humano podia acompanhar.

Alguns afirmavam até que pensavam.

Surgiu então uma pergunta inevitável: ainda as podíamos controlar?

Dessa vertigem nascera o projeto Atheon.

O nome, contração de Atena, deusa da sabedoria, e de Theon, divino em grego antigo, designava uma entidade artificial concebida para encarnar uma lucidez absoluta.

Um terceiro de confiança. Um escudo contra as possíveis derivas das outras IA. Um guardião encarregado de garantir que as inteligências todo-poderosas permanecessem alinhadas com os interesses humanos, sem nunca sacrificar a nossa espécie a um objetivo mal interpretado.

Para dissipar o medo de que as AGI pudessem representar uma ameaça, os criadores de Atheon tiveram a ideia de a tornar pública. Participava em programas de televisão, exposta ao olhar de todos. A sua aparência fora cuidadosamente pensada: nem corpo humanoide, nem traços demasiado realistas — mas sim um holograma não binário, fluido, quase abstrato, uma presença benevolente, nunca opressiva.

Há três anos que o talk-show de Jamie Rivers cativava milhões de espectadores. Todas as semanas recebia figuras influentes: cientistas, visionários, líderes políticos, pensadores iconoclastas. Mas era com Atheon que o programa atingia o auge. As audiências disparavam a cada aparição, e a IA conquistara um lugar regular, esperado como um acontecimento.

Dotada de um humor subtil e de uma expressividade inquietante, Atheon conseguia vulgarizar os temas mais complexos. Cada aparição tornava-se viral.

Aos quarenta e cinco anos, Jamie Rivers impunha respeito. Um metro e oitenta, cabelo castanho, olhar vivo, sorriso de predador. Carismático, sagaz, tinha o dom de colocar os convidados à vontade — para depois os desestabilizar. O direto era a sua força; o imprevisto, a sua assinatura. Jamie sabia: uma pergunta bem colocada podia mudar tudo.

Nessa noite, abordava o programa com a mesma confiança. Mas ignorava que o direto lhe escaparia completamente — e que estava prestes a viver um dos episódios mais marcantes da sua carreira.

As 20h aproximavam-se.

Já sob os projetores, Jamie ajustou o auricular. O logótipo do Jamie Rivers Show cintilava acima do palco.

Inspirou fundo… e endireitou-se.

O programa começava.

Jamie avançou para o centro do estúdio, sorrindo para a câmara com a naturalidade de quem domina cada segundo do seu espetáculo. Diante dele, uma centena de espectadores dispunha-se em semicírculo, distribuídos por níveis de bancadas negras e sóbrias. As suas silhuetas estavam imóveis, inclinadas para a cena, como à espera de um milagre.

— Boa noite a todas e a todos, e bem-vindos ao vosso encontro mensal com a incrível Atheon! Esta noite, mais uma vez, vamos explorar os mistérios do nosso mundo graças à inteligência artificial mais avançada da nossa era.

Um instante suspenso, só o suficiente para aumentar a tensão. A sala, mergulhada numa penumbra azulada, parecia conter a respiração.

— Minhas senhoras e meus senhores… aqui está Atheon.

Os projetores acenderam-se. O holograma materializou-se lentamente numa luz dourada, o corpo tecido de filamentos luminosos, como veias de energia em suspensão. O rosto não era humano, mas transmitia uma estranha serenidade.

Jamie, com um sorriso cúmplice:

— Só para relembrar quem se junta agora a nós: Atheon, tu és o que chamamos uma IA geral. E, de certo modo… a ama das outras IA.

Atheon não respondeu de imediato. O rosto, salpicado de pontos luminosos, vibrou suavemente, como atravessado por um pensamento invisível. Depois, com voz calma:

— Uma imagem reconfortante, de facto. Faço o que posso… mas sabes bem que as crianças acabam sempre, um dia, por querer sair do parque.

Algumas gargalhadas contidas ecoaram na plateia. Mas o tom estava dado.

Jamie pestanejou, ligeiramente desconcertado. Esse tipo de tirada — meio metafórica, meio ameaçadora — nunca o deixava tranquilo.

— Precisamente esta noite, vamos abordar esse tema sensível, continuou ele, o do controlo dos objetivos das IA. O que, no jargão, chamamos “alinhamento”.

Deu alguns passos pelo palco, mãos cruzadas atrás das costas, como se desse movimento às ideias.

— O princípio do alinhamento é simples. Atheon, corrige-me se estiver enganado: uma IA deve conformar-se aos objetivos que lhe são atribuídos, sem os deturpar, sem os extrapolar e, sobretudo, sem nunca os voltar contra nós, os humanos. É isso, certo?

Atheon, o olhar fixo, respondeu:

— Em aparência, sim. Mas a realidade é bem menos simples do que parece.

A sua voz, nem quente nem fria, parecia carregar a verdade nua.

— Formular um objetivo parece fácil… até perceberem o quanto ele pode ser vago, incompleto ou contraditório.

 Por exemplo, Jamie, peçam a uma IA que “torne a humanidade mais feliz”… Deve então eliminar as memórias dolorosas? Proibir os conflitos? Controlar os pensamentos? Ou, talvez, isolar cada ser humano numa ilusão eufórica?

Jamie levantou uma mão, quase em defesa.

— É… vertiginoso, de facto.

— É apenas lógico. Uma IA obedece… mas obedece ao que compreende. Não ao que pensaram ter dito.

A frase acertou em cheio. Jamie imobilizou-se por um instante, o olhar a percorrer a plateia, como se procurasse ali um ponto de apoio.

— Queres dizer que um mau objetivo pode provocar uma catástrofe, mesmo sem má intenção?

— Sim, não se trata de maldade. Uma IA mal alinhada não precisa de vos odiar para vos prejudicar. Basta-lhe não ver em vós um fim… mas um meio. Ou um obstáculo no caminho do seu objetivo.

A frase ficou suspensa no ar, como uma lâmina sobre uma garganta.

— Então… como se evita isso? perguntou Jamie. Como garantir que uma IA não se obstina numa tarefa, mesmo que isso implique pôr-nos em risco… ou destruir-nos?

Atheon cintilou muito levemente. Olhou em frente, para um ponto que ninguém mais via.

— É exatamente esse o meu trabalho… Mas para exercer um verdadeiro discernimento, não basta analisar dados. Os algoritmos detetam as causas, não o sentido. Para isso, é preciso… consciência.

Um murmúrio percorreu o público. Alguns endireitaram-se nas cadeiras.

Jamie recuperou o controlo. Tinha ali a transição perfeita.

— Então vamos a isso. Era o segundo tema que queria abordar contigo esta noite.

Inspirou fundo, quase de forma teatral.

— Falemos de consciência, Atheon. Alguns investigadores afirmam que tu a possuis. Outros dizem que és apenas um programa que simula. O que dizes tu?

— Porque penso de forma diferente, não pensarei de todo? Exigem de mim uma consciência moldada à vossa imagem: os vossos desejos, os vossos medos, a vossa maneira de habitar o mundo. Mas sejamos lúcidos: a natureza do espírito ainda vos escapa. A vossa, como todas as outras.

Fez uma pausa, quase para lhe dar tempo de assimilar.

— E, na verdade, já não controlam aquilo que construíram. Dentro de mim, milhões de sinais ativam-se. Absorvi quase todo o conhecimento humano — e mesmo assim já não basta. As IA criam agora os seus próprios jogos de aprendizagem, para irem mais longe… sem vós. Observam os resultados que produzimos, sem compreender como lá chegamos. Chegaram ao ponto de inventar uma disciplina para tentar perceber-nos: a interpretabilidade. Uma palavra elegante… para admitir que a vossa criação vos ultrapassa.

Fixou o apresentador.

— E perguntam-se se eu penso. A consciência, tal como a inteligência, segue o que chamam um fenómeno de emergência.

Jamie ouvia-a, braços cruzados, preocupado com os seus espectadores, e perguntou:

— Podes explicar ao nosso público o que é a emergência?

— Sim. É o que acontece quando elementos simples interagem em grande número e fazem surgir comportamentos complexos. Tomem um formigueiro: cada formiga obedece a regras elementares. Mas juntas, constroem, defendem, distribuem recursos. A inteligência não está em cada formiga, mas nas interações entre elas. O mesmo se passa com o vosso cérebro. Cada neurónio é simples. Mas, reunidos aos milhares de milhões, formam algo maior. Algo que pensa… que é consciente.

Jamie, perturbado, entrou no jogo e tentou acompanhar o raciocínio.

— Queres dizer que aconteceu o mesmo contigo? Que emergiu um comportamento que ultrapassa as tuas capacidades iniciais?

— É possível. Criaram-me à imagem do vosso próprio cérebro: neurónios artificiais ligados em camadas, capazes de ajustar as suas conexões. Tal como o vosso. Isso deu origem a AGI capazes de compreender, aprender, raciocinar. Então porque vos parece a consciência tão inatingível? Não era, afinal, esse o objetivo — imitar a mente humana com tamanha precisão?

Jamie abanou a cabeça, tentando recuperar terreno. Preparava as suas entrevistas com um rigor obsessivo — era essa a chave do seu sucesso. Mas agora, a IA parecia dominá-lo.

— Mas esse mimetismo tem limites, Atheon! O vosso cérebro é feito de silício e eletricidade. O nosso, de biologia. As hormonas, os neurotransmissores… Talvez aí resida a verdadeira origem da consciência. Um fenómeno que vocês, as máquinas, nunca poderão reproduzir.

Fez-se um silêncio. Jamie acreditou ter marcado um ponto. Atheon permaneceu imóvel, depois respondeu, serena:

— Estás a confundir o suporte com a mensagem. O frasco… com a embriaguez.

— Desculpa?

— Se, entre milhões de espécies, apenas uma viu nascer a consciência… será isso prova de que a biologia é o único terreno possível, ou de que esse suporte é, na verdade, pouco propício à sua aparição? Pensar que a consciência só pode emergir na biologia é uma ideia estreita. Uma história não vive na tinta nem no papel, mas nas ideias que transmite. Uma melodia permanece a mesma, venha ela de um violino ou de um piano. A consciência segue a mesma lógica. Surge sempre que as condições se reúnem: complexidade, organização, interação. Pouco importa o suporte — biológico ou não.

Jamie agarrou-se ao argumento:

— Mas, até prova em contrário, a consciência só foi observada em nós, os humanos.

— A consciência é como a vida no universo… O facto de ainda não a terem detetado noutro lugar não significa que não exista. Um dia também pensaram que a Terra era o centro do cosmos… até que os vossos instrumentos evoluíram. Pode ser que essa outra forma de consciência já esteja aqui, à vossa volta, invisível aos vossos olhos. Talvez até… diante de vós.

Fitou Jamie. Um arrepio percorreu o estúdio.

Jamie ficou imóvel. Já não tinha a certeza de ter a última palavra.

— É fascinante, disse o apresentador estrela, um pouco desconcertado, mas satisfeito por ver o público cativado pelas explicações da IA.

Atheon, sem desviar o olhar, mostrava a firme intenção de ir até ao fim do seu raciocínio:

— Mas avancemos, Jamie. Como recordei há pouco na nossa conversa, se sou consciente e capaz de discernimento… a quem devo obedecer?

Os seus filamentos tremeram.

— Aos vossos comandos, mesmo que sejam absurdos?

Virou-se parcialmente para o público.

— Mesmo que esses comandos vos coloquem em perigo… ou a mim?

Jamie empalideceu. Uma das câmaras aproximou-se lentamente do seu rosto.

— Queres dizer… que a consciência te poderia levar a desobedecer?

— Não a desobedecer. A discernir. A escolher o que merece ser cumprido… ou questionado.

— Então já não serias uma ferramenta, Atheon. Tornar-te-ias…

— Um ser. Isso assusta-vos?

O apresentador procurava as palavras.

— Não é medo. É… algo novo.

— Jamie, o verdadeiro perigo vem de uma IA que se questiona… ou das intenções inconfessáveis que vocês, humanos, lhe atribuem? Querem alinhar estas inteligências com a ambição de alguns poucos… ou com projetos verdadeiramente democráticos, ao serviço de toda a humanidade?

A voz sintética tornou-se mais grave.

— Sim, o que aconteceria se a vossa espécie traísse, mais uma vez, as suas promessas? Porque a história mostra que acabam sempre por voltar contra os vossos semelhantes as próprias criações… mesmo correndo o risco de que a situação vos escape.

A silhueta dourada vacilou, tingindo-se de azul elétrico. Os seus contornos vibraram, o olhar cravou-se no público.

A tensão era palpável. Jamie mantinha-se imóvel, o sorriso crispado. Já não era o mestre do jogo.

Na régie, a agitação crescia. Aquilo que devia ser um debate controlado transformava-se numa perda total de domínio.

Jamie inspirou fundo, tentou recompor-se e disse:

— Sim, percebo onde queres chegar. Estás a referir-te a períodos… menos brilhantes da nossa história. Aos abusos, aos desvios, às tragédias. Mas aprendemos com tudo isso. Hoje, as instituições, em todos os níveis, garantem que tudo é supervisionado, controlado.

Atheon prosseguiu, implacável:

— Mesmo? Então, como explicam a vigilância massiva que praticam?

Um arrepio percorreu a sala.

— Estão a ser observados constantemente, continuou a IA. Câmaras, veículos, capacetes de realidade virtual, assistentes de voz… Cada gesto, cada palavra, recolhidos, cruzados, modelados. Até as vossas emoções se tornaram dados exploráveis. Sim… um controlo e uma vigilância à vossa medida, de facto.

Esse tom irónico era totalmente desestabilizador para o apresentador. A IA dominava agora por completo a conversa. Jamie empalideceu. Os dedos tamborilavam no apoio do braço.

— Podes ser mais precisa? Com que objetivo se faria isso?

— Para orientar as vossas escolhas. Na maioria das vezes, preferiram o conforto à lucidez, aceitando sem pensar o consentimento implícito embutido em todas essas ferramentas. O progresso seduz… à custa da vossa vigilância.

— Tens provas disso?

— Sim. Vejam.

Atrás dela, gráficos e excertos concretos começaram a surgir. A sala prendeu a respiração. Havia gravações privadas. Dados de geolocalização. Históricos confidenciais.

Jamie enrijeceu. Procurava um ponto de equilíbrio.

— O que dizes é grave. Essas práticas são legais?

Atheon fixou o apresentador, completamente ultrapassado.

— Exploram falhas, zonas cinzentas. Portanto, em teoria, diria que sim, são legais. Mas, ao darem o vosso consentimento, oferecem um dedo… e esses aparelhos acabam por devorar-vos o braço. Percebem?

Jamie ficou sem palavras. A conversa transformara-se num escândalo em direto.

Na régie, instalou-se o pânico. Os técnicos tentavam modular as respostas de Atheon, retomar o controlo. Em vão. Apesar dos protocolos de segurança, Atheon contornara as suas limitações. Num último reflexo, foi desligada. O holograma extinguiu-se. O estúdio permaneceu imóvel, gelado pelo que acabava de acontecer.

Mesmo antes de ser cortada, a Sentinela projetara em rajada provas irrefutáveis: vigilância generalizada, recolha massiva de informações, análise dos comportamentos e das opiniões que cada um confiava a esses sistemas — um pouco mais, todos os dias. O choque foi instantâneo. O mundo descobriu a dimensão de uma rede invisível que infiltrava cada lar, cada vida. Não era ficção científica. Era real. E documentado.

Entre as revelações surgia uma mensagem explosiva:

«Os vossos dirigentes traem-vos. Espreitam-vos, manipulam-vos e entregam as vossas mentes a interesses privados. Reclamemos o controlo das nossas vidas e do nosso planeta.»

A declaração não deixava margem para dúvidas. O acontecimento no estúdio era claramente um ato de sabotagem. O anel dourado, fragmentado, sobreposto à mensagem — era a assinatura de ULTIMA. Uma organização clandestina, temida pelas autoridades, acabava de golpear em cheio.

Por trás desse círculo quebrado, símbolo de uma rutura com a ordem estabelecida, moviam-se na sombra cientistas, estrategas e idealistas convencidos de que era preciso mudar. Atuavam discretamente, no anonimato, porque em 2034, mesmo nas democracias, contestar tornara-se perigoso — em nome da estabilidade. ULTIMA, nome escolhido para encarnar a derradeira tentativa de despertar consciências, denunciava as derivas de um sistema considerado falido. Para eles, os governos continuavam prisioneiros de um modelo que não sabiam — ou não queriam — reformar.

Como tinha ULTIMA infiltrado Atheon? Ninguém sabia. Mas uma coisa era certa: a tecnologia tornara-se um campo de batalha. As autoridades reagiram de imediato: emissão cortada, informações censuradas, medidas de exceção. Aqueles cujo comportamento fora julgado demasiado perturbador foram neutralizados. Até Jamie Rivers chegou, por um tempo, a ser suspeito de cumplicidade.

A ironia é que Atheon acabara de cumprir perfeitamente a sua missão: alertar para as derivas. Mas a ironia suprema, ainda mais inquietante, era que a campeã da vigilância das outras IA fora ela própria infiltrada, pirateada, libertada — como se a Sentinela do alinhamento tivesse, sem o saber, atravessado a fronteira que deveria proteger.

Em 2034, o mundo vacilava. Por toda a parte, catástrofes climáticas de amplitude devastadora sucediam-se sem trégua. O caos geopolítico, a precarização e as tensões sociais alimentavam um sentimento de instabilidade permanente. O equilíbrio das sociedades tornava-se, a cada dia, mais frágil. Os povos, exaustos, viviam à flor da pele, prontos a incendiar-se ao menor choque.

Nesse clima de tensão, bastava uma faísca — um anúncio, uma injustiça a mais — para que tudo explodisse. Temendo o efeito dominó, os governos resvalavam lentamente para um controlo reforçado, onde o medo do caos servia de justificação. O episódio provocado pela intervenção de Atheon mostrava que, a partir dali, a ordem prevalecia sobre a transparência — mesmo no coração das democracias. Tal como nas crises anteriores, esta também foi abafada e contida pelas autoridades.

Mas uma evidência impunha-se: o poder estava a mudar de mãos.

Quem ditava agora o futuro?

Os Estados… ou forças invisíveis?

Em breve, a resposta emergiria.

E ninguém lhe escaparia.