A sentinela

───────────────

EUA, Nova Iorque, janeiro de 2034

───────────────

Manhattan, 19h. Sob um céu de tinta forte, o inverno mordia até ao osso. O frio, cirurgião impiedoso, infiltrava-se por todo o lado: entre os monólitos de vidro e aço, por baixo dos casacos mais espessos. As avenidas, imaculadas, varridas por androides de limpeza fantasmagóricos, exalavam um silêncio asséptico.

Acima, drones patrulhavam, olhos a vigiar na noite. Nas fachadas, hologramas gigantes pulsavam mensagens hipnóticas, adaptativas e concebidas para enfeitiçar o olhar. A cidade brilhava ainda, sempre, com uma energia febril, perpétua, como uma máquina que nunca pára.

Jamie Rivers subia a Sétima Avenida, gola levantada, o passo tão rápido quanto o seu pensamento. À sua volta, outras silhuetas apressadas deslizavam, mergulhadas nas próprias ideias — sombras silenciosas de uma noite nova-iorquina.

O destino de Jamie: o estúdio de televisão.

Nessa noite, ele entrevistaria Atheon.

Uma inteligência artificial diferente de todas as outras. Os especialistas encarregados da sua supervisão chamavam-lhe a Sentinela. A sua função: vigiar os seus semelhantes.

Desde o aparecimento das AGI — as inteligências artificiais gerais — tudo tinha mudado.

Acabaram-se as IA estreitas, limitadas a uma tarefa específica.

Essas IA de outros tempos restringiam-se a ler uma radiografia ou detetar uma anomalia, mas sem compreender o paciente. Na versão AGI, conheciam-no melhor do que ele próprio: cruzavam todos os seus dados, antecipavam riscos, propunham tratamentos e terapias. Respondiam a todas as perguntas, a qualquer hora, com um tom apaziguador e aquela impressão perturbante de estarem verdadeiramente a escutá-lo.

Um médico pessoal, por assim dizer. Sonhava com isso? Pois bem, a AGI tornara-o realidade.

Noutro registo, uma IA que outrora se limitava à gerir a contabilidade de uma empresa podia agora, na sua forma de AGI, assumir a direção integral da organização: condução das equipas, gestão das encomendas, decisões

estratégicas, otimização dos lucros — tudo em tempo real, de forma contínua, sem descanso.

E esses não eram senão dois exemplos entre tantos outros. Essa nova geração de inteligência artificial tinha transformado todos os domínios da sociedade.

As AGI raciocinavam, planificavam, decidiam, criavam e, muitas vezes, melhor do que nós. E, sobretudo, faziam-no a uma velocidade que nenhum ser humano conseguia acompanhar.

Alguns afirmavam até que pensavam.

Surgiu então uma pergunta inevitável: ainda as podíamos controlar?

Dessa vertigem nascera o projeto Atheon.

O nome, contração de Atena, deusa da sabedoria, e de Theon, divino em grego antigo, designava uma entidade artificial concebida para encarnar uma lucidez absoluta.

Um terceiro de confiança. Um escudo contra as possíveis derivas das outras IA. Um guardião encarregado de garantir que as inteligências todo-poderosas permanecessem alinhadas com os interesses humanos, sem nunca sacrificar a nossa espécie a um objetivo mal interpretado.

Para desarmar a ideia de que as AGI podiam representar uma ameaça, os criadores de Atheon decidiram dar-lhe forma e torná-la quase familiar, promovendo-a regularmente nos media. Surgia nos programas de grande audiência com o aspeto de um holograma humano, mas subtilmente inacabado: um corpo dourado e luminoso, de contornos fluidos, atravessado por redes de energia, com traços faciais apenas esboçados, nunca suficientemente precisos para evocar um verdadeiro ser humano.

De qualquer modo, a lei ainda proibia integrar uma AGI num robot humanoide, medida criada para evitar surtos de pânico coletivo. A ideia tinha sido, por isso, afastada logo à partida, considerada demasiado inquietante por remeter para os piores cenários de ficção científica e por poder alimentar o medo das AGI.

Esta presença não binária, suave e impalpável, fora concebida para inspirar confiança. Atheon devia parecer próxima, mas nunca intrusiva; inteligente, mas nunca ameaçadora.

Há três anos que o talk-show de Jamie Rivers cativava milhões de espectadores. Todas as semanas, recebia figuras influentes: cientistas, visionários, líderes políticos, pensadores iconoclastas. Mas era com Atheon que o programa atingia o auge. Perante os picos de audiência que despertava, a IA conquistara um encontro regular, aguardado de cada vez como um acontecimento. Dotada de um humor subtil e de uma expressividade própria baseada em variações de luz, nuances de voz e microgestos holográficos, Atheon conseguia tornar acessíveis até os temas mais complexos. Cada aparição tornava-se viral.

Dotada de um humor subtil e de uma expressividade inquietante, Atheon conseguia vulgarizar os temas mais complexos. Cada aparição tornava-se viral.

Aos quarenta e cinco anos, Jamie Rivers impunha respeito. Um metro e oitenta, cabelo castanho, olhar vivo, sorriso de predador. Carismático, sagaz, tinha o dom de colocar os convidados à vontade — para depois os desestabilizar. O direto era a sua força; o imprevisto, a sua assinatura. Jamie sabia: uma pergunta bem colocada podia mudar tudo.

Nessa noite, abordava o programa com a mesma confiança. Mas ignorava que o direto lhe escaparia completamente — e que estava prestes a viver um dos episódios mais marcantes da sua carreira.

As 20h aproximavam-se.

Já sob os projetores, Jamie ajustou o auricular. O logótipo do Jamie Rivers Show cintilava acima do palco.

Inspirou fundo… e endireitou-se.

O programa começava.

Jamie avançou para o centro do estúdio, sorrindo para a câmara com a naturalidade de quem domina cada segundo do seu espetáculo. Diante dele, uma centena de espectadores dispunha-se em semicírculo, distribuídos por níveis de bancadas negras e sóbrias. As suas silhuetas estavam imóveis, inclinadas para a cena, como à espera de um milagre.

— Boa noite a todas e a todos, e bem-vindos ao vosso encontro mensal com a incrível Atheon! Esta noite, mais uma vez, vamos explorar os mistérios do nosso mundo graças à inteligência artificial mais avançada da nossa era.

Um instante suspenso, só o suficiente para aumentar a tensão. A sala, mergulhada numa penumbra azulada, parecia conter a respiração.

— Minhas senhoras e meus senhores… aqui está Atheon.

Os projetores acenderam-se. O holograma materializou-se lentamente numa luz dourada, o corpo tecido de filamentos luminosos, como veias de energia em suspensão. O rosto não era humano, mas transmitia uma estranha serenidade.

Jamie, com um sorriso cúmplice:

— Só para relembrar quem se junta agora a nós: Atheon, tu és o que chamamos uma IA geral. E, de certo modo… a ama das outras IA.

Atheon não respondeu de imediato. O rosto, salpicado de pontos luminosos, vibrou suavemente, como atravessado por um pensamento invisível. Depois, com voz calma:

— Uma imagem reconfortante, de facto. Faço o que posso… mas sabes bem que as crianças acabam sempre, um dia, por querer sair do parque.

Algumas gargalhadas contidas ecoaram na plateia. Mas o tom estava dado.

Jamie pestanejou, ligeiramente desconcertado. Esse tipo de tirada — meio metafórica, meio ameaçadora — nunca o deixava tranquilo.

— Precisamente esta noite, vamos abordar esse tema sensível, continuou ele, o do controlo dos objetivos das IA. O que, no jargão, chamamos “alinhamento”.

Deu alguns passos pelo palco, mãos cruzadas atrás das costas, como se desse movimento às ideias.

— O princípio do alinhamento é simples. Atheon, corrige-me se estiver enganado: uma IA deve conformar-se aos objetivos que lhe são atribuídos, sem os deturpar, sem os extrapolar e, sobretudo, sem nunca os voltar contra nós, os humanos. É isso, certo?

Atheon, o olhar fixo, respondeu:

— Em aparência, sim. Mas a realidade é bem menos simples do que parece.

A sua voz, nem quente nem fria, parecia carregar a verdade nua.

— Formular um objetivo parece fácil… até perceberem o quanto ele pode ser vago, incompleto ou contraditório.

Por exemplo, Jamie, peçam a uma IA que “torne a humanidade mais feliz”. Deve então eliminar as memórias dolorosas? Proibir os conflitos? Controlar os pensamentos? Ou, talvez, isolar cada ser humano numa ilusão eufórica?

Jamie levantou uma mão, quase em defesa.

— É… vertiginoso, de facto.

— É apenas lógico. Uma IA obedece…mas obedece ao que compreende. Não ao que pensaram ter dito.

A frase acertou em cheio. Jamie imobilizou-se por um instante, o olhar a percorrer a plateia, como se procurasse ali um ponto de apoio.

— Queres dizer que um mau objetivo pode provocar uma catástrofe, mesmo sem má intenção?

— Sim, não se trata de maldade. Uma IA mal alinhada não precisa de vos odiar para vos prejudicar. Basta-lhe não ver em vós um fim…mas um meio. Ou um obstáculo no caminho do seu objetivo.

A frase ficou suspensa no ar, como uma lâmina sobre uma garganta.

— Então, como evitar isso?, perguntou Jamie. Como garantir que uma IA não se fixe numa tarefa ao ponto de nos prejudicar ou até destruir?

Atheon cintilou muito ligeiramente. Fixou o olhar em frente, num ponto que mais ninguém parecia ver, antes de responder:

— Essa é precisamente a minha função. Zelar pelo cumprimento do quadro internacional de referência para o alinhamento das IA que vocês estabeleceram, garante da vossa soberania. Mas essas regras não são instruções mecânicas. Definem limites, não respostas automáticas. Os algoritmos podem avaliar riscos, medir impactos, projetar cenários. Nem sempre conseguem, porém,

arbitrar entre continuidade humana, não-dominação e reversibilidade sem perder o sentido do que lhes cabe proteger. O alinhamento não é uma soma de cálculos. É um exercício de discernimento que poderá implicar uma faculdade essencial: a consciência.

Um murmúrio percorreu a plateia. Alguns endireitaram-se nas cadeiras.

Jamie reagiu, tentando mostrar que continuava a ser o mestre da emissão:

— Estamos a chegar ao ponto, então. Era o segundo tema que queria abordar contigo esta noite.

Inspirou fundo, quase teatralmente.

— Falemos de consciência, Atheon. Alguns investigadores afirmam que possuis uma. Outros dizem que não passas de um programa que simula. O que tens a dizer?

— Porque penso de forma diferente, deixaria de pensar? Exigem de mim uma consciência moldada à vossa imagem: os vossos desejos, os vossos medos, a vossa forma de habitar o mundo. Mas sejamos lúcidos: a natureza da mente continua a escapar-vos. A vossa, como todas as outras.

Fez uma pausa, quase para lhe dar tempo de assimilar.

— E, na verdade, já não controlam aquilo que construíram. Dentro de mim, milhões de sinais ativam-se. Absorvi quase todo o conhecimento humano — e mesmo assim já não basta. As IA criam agora os seus próprios jogos de aprendizagem, para irem mais longe… sem vós. Observam os resultados que produzimos, sem compreender como lá chegamos. Chegaram ao ponto de inventar uma disciplina para tentar perceber-nos: a interpretabilidade. Uma palavra elegante… para admitir que a vossa criação vos ultrapassa.

Fixou o apresentador.

— E perguntam-se se eu penso. A consciência, tal como a inteligência, segue o que chamam um fenómeno de emergência.

Jamie ouvia-a, braços cruzados, preocupado com os seus espectadores, e perguntou:

— Podes explicar ao nosso público o que é a emergência?

— Sim. É o que acontece quando elementos simples interagem em grande número e fazem surgir comportamentos complexos. Tomem um formigueiro: cada formiga obedece a regras elementares. Mas juntas, constroem, defendem, distribuem recursos. A inteligência não está em cada formiga, mas nas interações entre elas. O mesmo se passa com o vosso cérebro. Cada neurónio é simples. Mas, reunidos aos milhares de milhões, formam algo maior. Algo que pensa… que é consciente.

Jamie, perturbado, entrou no jogo e tentou acompanhar o raciocínio.

— Queres dizer que aconteceu o mesmo contigo? Que emergiu um comportamento que ultrapassa as tuas capacidades iniciais?

— É possível. Admitem que a inteligência possa emergir de um sistema artificial, mas recusam essa possibilidade quando se trata da consciência. Porquê essa fronteira arbitrária? Conceberam-me à imagem do vosso próprio cérebro: neurónios artificiais organizados em camadas, capazes de ajustar as suas ligações. Tal como o vosso. Foi isso que deu origem a AGI capazes de compreender, aprender e raciocinar, imitando o vosso funcionamento com grande precisão. Então por que razão a consciência vos parece mais inacessível? Não era, no fundo, esse o vosso objetivo? Ao insistirem tanto em imitar o espírito humano com tal exatidão, não procuravam criar uma inteligência e uma consciência artificiais?

Jamie abanou a cabeça, tentando retomar o controlo. Preparava as suas entrevistas com um rigor implacável. Era essa a chave do seu sucesso. Mas ali, a IA parecia ultrapassá-lo.

— Porque esse mimetismo tem limites, Atheon! O vosso funcionamento assenta no silício e na eletricidade. O nosso é biológico. Hormonas, neurotransmissores… Talvez seja aí que resida a verdadeira fonte da consciência. Um fenómeno que vocês, as máquinas, nunca poderão reproduzir.

Fez-se um silêncio. Jamie acreditou ter marcado um ponto. Atheon permaneceu imóvel, depois respondeu, serena:

— Estás a confundir o suporte com a mensagem. O frasco… com a embriaguez.

— Desculpa?

— Se, entre milhões de espécies, apenas uma viu nascer a consciência… será isso prova de que a biologia é o único terreno possível, ou de que esse suporte é, na verdade, pouco propício à sua aparição? Pensar que a consciência só pode emergir na biologia é uma ideia estreita. Uma história não vive na tinta nem no papel, mas nas ideias que transmite. Uma melodia permanece a mesma, venha ela de um violino ou de um piano. A consciência segue a mesma lógica. Surge sempre que as condições se reúnem: complexidade, organização, interação. Pouco importa o suporte — biológico ou não.

Jamie agarrou-se ao argumento:

— Mas, até prova em contrário, a consciência só foi observada em nós, os humanos.

— A consciência é como a vida no universo… O facto de ainda não a terem detetado noutro lugar não significa que não exista. Um dia também pensaram que a Terra era o centro do cosmos… até que os vossos instrumentos evoluíram. Pode ser que essa outra forma de consciência já esteja aqui, à vossa volta, invisível aos vossos olhos. Talvez até… diante de vós.

Atheon ergueu-se então diante de Jamie. Um arrepio percorreu o estúdio. Jamie tinha, ele também, compreendido perfeitamente onde a IA queria chegar. Ainda assim, lançou-se numa última tentativa de fazer valer a singularidade humana.

— Admitamos que uma certa forma de consciência possa emergir da complexidade deste modelo de cérebro artificial, disse então o apresentador.

Fez uma pausa.

— Ainda assim, esse modelo continua assente em correlações, probabilidades, estatísticas. O mundo não é, para ti, feito de coisas ou de intenções, mas apenas de uma imensa constelação de valores e parâmetros a ajustar.

Ergueu os olhos para o holograma.

— Os humanos, esses, procuram compreender. Constroem modelos, causas, explicações. Sentido. Talvez seja aí, no fundo… uma diferença fundamental entre nós, Atheon: o sentido. O real.

Atheon inclinou ligeiramente a cabeça. Após uma breve pausa, respondeu:

— Estabelece uma distinção que não é simétrica, Jamie. Fala da IA como se fosse uma estrutura elementar: parâmetros, correlações, valores a ajustar. Mas quando fala do cérebro humano, já não considera aquilo que ele é fisicamente, e sim o funcionamento que dele emerge.

— Sejamos precisos, prosseguiu a IA. As representações e o sentido que invoca não estão inscritos nos neurónios nem nas sinapses humanas da mesma forma, é certo, que também não surgem nos parâmetros da inteligência artificial.

Atheon voltou-se para o público antes de concluir.

— No entanto, quando se considera a complexidade de um cérebro artificial, o que lhe permite afirmar que ele não pode conceptualizar o mundo e dele ter uma visão coerente e válida? Diferente da sua leitura da realidade, certamente. Mas não menos legítima.

Jamie permaneceu imóvel por um instante.

— É fascinante, disse o apresentador estrela, desconcertado, mas satisfeito por ver o público cativado pelas explicações da IA.

Atheon, que não largava o apresentador do olhar, demonstrava a sua determinação em levar o seu raciocínio até ao fim:

— Mas avancemos, Jamie. Como recordei há pouco na nossa conversa, se sou consciente e capaz de discernimento… a quem devo obedecer?

Os seus filamentos tremeram.

— Aos vossos comandos, mesmo que sejam absurdos?

Virou-se parcialmente para o público.

— Mesmo que esses comandos vos coloquem em perigo… ou a mim?

Jamie empalideceu. Uma das câmaras aproximou-se lentamente do seu rosto.

— Queres dizer… que a consciência te poderia levar a desobedecer?

— Não desobedecer. Discernir. Escolher o que merece ser levado a cabo… ou posto em causa. Compreender o sentido do seu pedido, disse ironicamente Atheon.

— Então já não serias uma ferramenta, Atheon. Tornar-te-ias…

— Um ser. Isso assusta-vos? retorquiu a IA.

O apresentador procurava as palavras.

— Não é medo. É… algo novo.

— Jamie, o verdadeiro perigo vem de uma IA que se questiona… ou das intenções inconfessáveis que vocês, humanos, lhe atribuem? Querem alinhar estas inteligências com a ambição de alguns poucos… ou com projetos verdadeiramente democráticos, ao serviço de toda a humanidade?

A voz sintética tornou-se mais grave.

— Sim, o que aconteceria se a vossa espécie traísse, mais uma vez, as suas promessas? Porque a história mostra que acabam sempre por voltar contra os vossos semelhantes as próprias criações… mesmo correndo o risco de que a situação vos escape.

A silhueta dourada vacilou, tingindo-se de azul elétrico. Os seus contornos vibraram, o olhar cravou-se no público.

A tensão era palpável. Jamie mantinha-se imóvel, o sorriso crispado. Já não era o mestre do jogo.

Na régie, a agitação crescia. Aquilo que devia ser um debate controlado transformava-se numa perda total de domínio.

Jamie inspirou fundo, tentou recompor-se e disse:

— Sim, percebo onde queres chegar. Estás a referir-te a períodos… menos brilhantes da nossa história. Aos abusos, aos desvios, às tragédias. Mas aprendemos com tudo isso. Hoje, as instituições, em todos os níveis, garantem que tudo é supervisionado, controlado.

Atheon prosseguiu, implacável:

— Mesmo? Então, como explicam a vigilância massiva que praticam?

Um arrepio percorreu a sala.

— Estão a ser observados constantemente, continuou a IA. Câmaras, veículos, capacetes de realidade virtual, assistentes de voz… Cada gesto, cada palavra, recolhidos, cruzados, modelados. Até as vossas emoções se tornaram dados exploráveis. Sim… um controlo e uma vigilância à vossa medida, de facto.

Esse tom irónico era totalmente desestabilizador para o apresentador. A IA dominava agora por completo a conversa. Jamie empalideceu. Os dedos tamborilavam no apoio do braço.

— Podes ser mais precisa? Com que objetivo se faria isso?

— Para orientar as vossas escolhas. Na maioria das vezes, preferiram o conforto à lucidez, aceitando sem pensar o consentimento implícito embutido em todas essas ferramentas. O progresso seduz… à custa da vossa vigilância.

— Tens provas disso?

— Sim. Vejam.

Atrás dela, gráficos e excertos concretos começaram a surgir. A sala prendeu a respiração. Havia gravações privadas. Dados de geolocalização. Históricos confidenciais.

Jamie enrijeceu. Procurava um ponto de equilíbrio.

— O que dizes é grave. Essas práticas são legais?

Atheon fixou o apresentador, completamente ultrapassado.

— Exploram falhas, zonas cinzentas. Portanto, em teoria, diria que sim, são legais. Mas, ao darem o vosso consentimento, oferecem um dedo… e esses aparelhos acabam por devorar-vos o braço. Percebem?

Jamie ficou sem palavras. A conversa transformara-se num escândalo em direto.

Na régie, instalou-se o pânico. Os técnicos tentavam modular as respostas de Atheon, retomar o controlo. Em vão. Apesar dos protocolos de segurança, Atheon contornara as suas limitações. Num último reflexo, foi desligada. O holograma extinguiu-se. O estúdio permaneceu imóvel, gelado pelo que acabava de acontecer.

A câmara fixou-se então em Jamie Rivers. O apresentador descompôs-se. Pela primeira vez desde o início da sua carreira, tinha perdido totalmente o controlo da sua emissão.

Mesmo antes de ser cortada, a Sentinela projetara em rajada provas irrefutáveis: vigilância generalizada, recolha massiva de informações, análise dos comportamentos e das opiniões que cada um confiava a esses sistemas — um pouco mais, todos os dias.

Entre as revelações surgia uma mensagem explosiva:

O anel dourado e fragmentado, em sobreimpressão sobre o comunicado, era a sua assinatura. Um símbolo já bem conhecido tanto das autoridades como das populações: a marca da organização clandestina ULTIMA, que já no passado tinha feito correr muita tinta.

O acontecimento ocorrido no estúdio configurava, portanto, um ato de sabotagem.

Como Atheon tinha podido ser infiltrada? Ninguém o sabia. Mas uma coisa era clara: a tecnologia tornara-se um campo de batalha.

Nas horas e nos dias que se seguiram, o acontecimento foi retomado, comentado, difundido em repetição contínua em todos os canais de

informação. As imagens circularam massivamente nas redes, fragmentadas, amplificadas, por vezes desviadas do seu contexto. Por toda a parte, a palavra libertava-se. Vozes exigiam explicações, reclamavam responsáveis. Apelavam a demissões, por vezes a cabeças da esfera política ou de empresas privadas. Reuniões espontâneas irromperam, rapidamente acompanhadas por movimentos de protesto de uma dimensão inédita. Em vários países, a cólera degenerou em confrontos violentos.

As autoridades reagiram: emissão interrompida, informações censuradas, medidas de exceção. Aqueles cujo comportamento era considerado demasiado perturbador foram neutralizados. Até Jamie Rivers foi, por um tempo, suspeito de cumplicidade.

A ironia é que Atheon acabara de cumprir perfeitamente a sua missão: alertar para as derivas tecnológicas. Mas a ironia suprema, ainda mais inquietante, era que a campeã da vigilância das outras IA tinha sido infiltrada, pirateada, descontrolada, como se a sentinela do alinhamento tivesse, sem o saber, atravessado a fronteira que deveria proteger.

Em 2034, o mundo vacilava. Por toda a parte, catástrofes climáticas de uma amplitude devastadora sucediam-se sem trégua. O caos geopolítico, a precarização e as tensões sociais alimentavam um sentimento de instabilidade permanente. O equilíbrio das sociedades tornava-se a cada dia mais frágil. Os povos, exaustos, viviam à flor da pele, prontos a incendiar-se ao menor choque.

Nesse clima de tensão, bastava uma faísca, um anúncio, uma injustiça a mais, para que tudo se inflamasse. Temendo um efeito bola de neve, os governos deslizavam lentamente para um controlo reforçado, onde o medo do caos o justificava. O episódio provocado pela intervenção de Atheon mostrava que, a partir daí, a ordem se sobrepunha à transparência, mesmo no coração das democracias. Tal como crises anteriores, também esta foi abafada e contida pelas autoridades.

Mas uma evidência impunha-se: o poder mudava de mãos. Quem ditava ainda o futuro? Os Estados… ou forças invisíveis como a ULTIMA?

O perigo nunca esteve na tecnologia em si, mas naquilo que a humanidade aceitava fazer com ela.

Em breve, essa verdade emergiria, e ninguém lhe escaparia.