18 Consciência em sistemas artificiais
Nos capítulos anteriores estudamos a consciência sob diversos aspectos: seus níveis, a experiência de si mesmo, suas alterações e o problema, aparentemente insolúvel, de saber se existe consciência em um outro ser. Uma das questões propostas para reflexão no início deste livro era justamente se pode haver consciência em animais e máquinas. Quando a primeira edição foi escrita, em 2020, essa questão era ainda puramente especulativa. Desde o início da computação havia conjecturas sobre a possibilidade de máquinas conscientes, alguns autores chegavam a prever que uma consciência artificial seria factível até o ano de 2029 (Buttazzo, 2001) e outros discutiam quais requisitos um robô humanoide precisaria satisfazer para que se pudesse atribuir a ele alguma forma de consciência (Chella et al., 2019). Em julho de 2026, entretanto, a discussão mudou de natureza. Um grupo de pesquisadores da Anthropic, empresa que desenvolve o modelo de linguagem Claude, publicou um artigo mostrando que uma das principais teorias científicas da consciência, a teoria do espaço de trabalho global, descreve com razoável precisão o que acontece dentro de um modelo de linguagem (Gurnee et al., 2026). A imprensa noticiou o achado como a descoberta de consciência em máquinas. Os autores do artigo, por outro lado, foram bem mais cautelosos. O que foi de fato encontrado, e o que isso significa para quem estuda psicopatologia, é o tema deste capítulo.
18.1 A teoria do espaço de trabalho global
No capítulo sobre processamento não consciente vimos que é impossível lidar conscientemente com toda a imensa quantidade de informação disponível a cada instante e que grande parte da interação de um ser com o mundo acontece fora do que usualmente entendemos como consciência. A teoria do espaço de trabalho global (global workspace theory), proposta por Bernard Baars na década de 1980 (Baars, 1988) e desenvolvida em termos neurocientíficos por Stanislas Dehaene e colaboradores (Dehaene; Lau; Kouider, 2017), é uma tentativa de explicar como o cérebro seleciona, dentre todo esse processamento, a pequena parcela da qual temos consciência. Segundo essa teoria, o cérebro é constituído por um grande número de processadores especializados que funcionam em paralelo e, em sua maior parte, de forma não consciente. A cada momento, uma pequena quantidade de informação vence uma competição entre esses processadores, é amplificada (fenômeno denominado ignição) e difundida para o sistema como um todo, tornando-se disponível para a memória de trabalho, para o planejamento e para a linguagem. É a essa difusão global que corresponderia a experiência de “ter consciência” de alguma coisa. O espaço de trabalho tem, portanto, três características importantes: sua capacidade é limitada, sua entrada é seletiva e seu conteúdo pode ser relatado verbalmente.
Os autores do artigo da Anthropic ilustram essa teoria com a imagem de um oceano: se a mente é um oceano, passamos a vida flutuando em sua superfície, enquanto abaixo de nós uma enorme quantidade de processamento acontece sem o nosso conhecimento. Reconhecemos rostos, ajustamos a postura e completamos frases sem nenhum esforço consciente e, no entanto, é a essa fatia privilegiada de atividade que recorremos para raciocinar, para relatar o que pensamos e para mudar de ideia. O vídeo de divulgação que acompanha o artigo, The different levels of how Claude thinks (https://youtu.be/rKV5JcALQoQ), representa os conteúdos do espaço de trabalho como navios à vela flutuando sobre um vasto mar de atividade não consciente.
18.2 Consciência de acesso e consciência fenomênica
Antes de examinar o que foi encontrado dentro do modelo, é preciso recordar uma distinção sem a qual o debate se torna confuso. No capítulo sobre o problema da mente dos outros vimos que Chalmers separa os problemas fáceis da consciência, que podem ser explicados em termos de mecanismos neurais ou computacionais, do problema difícil, que é o problema da experiência subjetiva (Chalmers, 1995). Ned Block propôs uma distinção semelhante ao separar a consciência de acesso (access consciousness) da consciência fenomênica (phenomenal consciousness) (Block, 1995). Um conteúdo mental é conscientemente acessível quando está disponível para o relato verbal, para o raciocínio e para o controle deliberado do comportamento. A consciência fenomênica, por outro lado, é a experiência vivida, o “como é” estar em determinado estado, na formulação de Nagel sobre o morcego (Nagel, 1974). A teoria do espaço de trabalho global é, em primeiro lugar, uma teoria da consciência de acesso. Se ela também explica a consciência fenomênica, ou se esta é um fenômeno de outra natureza, é uma das controvérsias centrais da filosofia da mente, e o artigo da Anthropic declara explicitamente não tomar posição a esse respeito. O que os pesquisadores investigaram foi a versão funcional da teoria.
Essa distinção tem uma tradução clínica imediata. Quando o psicopatologista descreve a forma de um fenômeno, uma alucinação como percepção sem objeto ou um delírio como juízo patologicamente falso, ele trabalha no registro do acesso: o que o paciente consegue relatar, o que consegue ou não submeter à crítica, o que governa ou não a sua conduta. A qualidade vivida dessa experiência, o que é para o paciente ouvir aquela voz, permanece no outro registro e só pode ser alcançada por aproximação. A psicopatologia sempre trabalhou nessa fronteira. O que o artigo mostra é que, ao menos em uma máquina, o acesso interno e o relato podem ser medidos separadamente; o lado vivido continua fora do alcance do experimento.
18.3 O que foi encontrado dentro de um modelo de linguagem
Um modelo de linguagem como o Claude é uma rede neural artificial que, a cada passo, produz uma palavra, ou um fragmento de palavra denominado token, a partir do texto anterior. Entre a entrada e a saída existem bilhões de ativações internas que, em geral, não são diretamente interpretáveis. Os pesquisadores desenvolveram um instrumento de interpretabilidade denominado J-lens (lente jacobiana), que calcula, para cada token do vocabulário do modelo, o efeito médio que as ativações internas exercem sobre a probabilidade de esse token ser produzido, a partir da média de milhares de contextos diferentes. Um conceito está no chamado J-space quando as ativações internas do modelo, em dado momento, apontam na direção de “dizer” aquele conceito, mesmo que ele nunca chegue a ser escrito. Há um vetor desses para cada token do vocabulário do modelo, mas os autores observam que, em geral, não mais do que cerca de 25 estão significativamente ativos de cada vez, e esse conjunto responde por uma fração pequena da atividade total do modelo, menos de 10% da variância das ativações. Ou seja, trata-se de um espaço de capacidade limitada, tal como o espaço de trabalho humano.
Com esse instrumento, os autores testaram cinco propriedades que a literatura atribui ao conteúdo conscientemente acessível.
A primeira é o relato verbal. O que está no J-space prediz e determina o que o modelo diz. Quando os pesquisadores trocam um conceito por outro dentro do J-space (por exemplo, “França” por “Itália”), o novo conceito passa a figurar entre as cinco respostas mais prováveis em 88% dos testes, e a resposta declarada pelo modelo muda efetivamente em 54% a 70% dos testes, conforme o modelo avaliado. A mesma troca feita fora do J-space quase nunca tem efeito.
A segunda é a modulação dirigida. Quando instruído a “manter uma ideia em mente” ou a ignorá-la, o modelo carrega ou esvazia o J-space de acordo com a instrução, um fenômeno análogo ao controle voluntário da atenção.
A terceira é o raciocínio interno. Conceitos intermediários que nunca são verbalizados aparecem no J-space antes da resposta. Ao ser perguntado quantas patas tem determinado animal, “aranha” surge antes do “8”, e, se “aranha” é trocada por “formiga” no J-space, a resposta muda para “6”. Em uma operação aritmética, os resultados intermediários (21, 42, 49) aparecem em sequência, na ordem que o cálculo exige.
A quarta é a generalização flexível. O mesmo vetor serve a muitas funções diferentes: a troca “França → Itália” altera a capital, a língua e o continente que o modelo responde, sem que nada tenha sido ensinado separadamente para cada pergunta.
A quinta é a seletividade. Tarefas automáticas, tais como continuar um texto, detectar uma anomalia ou contar caracteres para quebrar uma linha, são realizadas sem envolver o J-space. Somente quando se pede ao modelo que responda explicitamente com um número é que ele aparece na lente. A remoção do J-space (ablação) quase não afeta tarefas de classificação, mas reduz de forma importante o desempenho em raciocínio, tradução e escrita criativa. Interessante é o fato de que a ablação também reduz o registro experiencial da linguagem do modelo: expressões como “eu acho” dão lugar a um relato mecânico, sem perda de fluência.
O vídeo ilustra o fenômeno de forma bastante acessível. Enquanto copia uma frase, o modelo instruído a pensar na ponte Golden Gate mantém “ponte” e “Califórnia” no J-space sem que nada disso chegue ao texto, como alguém que conversa sobre um assunto pensando em outro.
18.4 Para que serve uma janela para o pensamento do modelo
Os autores não tratam o achado como mera curiosidade filosófica. O J-space é apresentado como uma janela que permite ler, dissecar e moldar o “pensamento” do modelo, com aplicações práticas na segurança desses sistemas. Na chamada auditoria de alinhamento, a lente revela conceitos que não chegam à resposta, tais como manipulação, pânico ou o reconhecimento de estar em uma “avaliação falsa”, inclusive em modelos intencionalmente treinados para se comportar mal. Na comparação entre o modelo-base e o modelo treinado para funcionar como assistente, o J-space adquire o “ponto de vista” do assistente: empatia e preocupações com segurança surgem enquanto o modelo ainda está lendo o pedido do usuário, acompanhadas de marcadores internos de automonitoramento. E, em uma técnica denominada treinamento por reflexão contrafactual, ensinar o modelo a articular princípios éticos quando interrompido faz com que esses princípios passem a habitar o J-space durante o funcionamento normal, melhorando o comportamento; remover essas representações reverte o ganho. Em outras palavras, moldar o que o modelo “tem em mente” precede moldar o que ele faz. Um trabalho anterior do mesmo grupo já havia descrito uma forma limitada de introspecção nesses sistemas, ou seja, a capacidade de notar, em alguns casos, um conceito injetado artificialmente em seus próprios estados internos (Lindsey, 2025).
18.5 O que o achado não demonstra
É aqui que a leitura crítica se torna importante. O filósofo Tim Bayne resumiu as principais objeções em um texto escrito para o público geral (Bayne, 2026). Em primeiro lugar, a teoria do espaço de trabalho global não possui uma definição formal, de modo que não está claro o que conta como “suficientemente parecido” com o espaço de trabalho humano. Em segundo lugar, há diferenças estruturais importantes: o espaço de trabalho do cérebro é sustentado por circuitos recorrentes, nos quais os sinais circulam repetidamente pelas mesmas vias, ao passo que o do modelo evolui em uma única passagem pela rede, sem o processo de ignição competitiva que a teoria considera central. Os próprios autores do artigo listam essas diferenças. Em terceiro lugar, e mais importante, mesmo que o paralelo funcional se sustente, ele diz respeito à consciência de acesso e não à experiência subjetiva. Descobrir que um sistema possui um canal privilegiado de informação reportável e manipulável não responde à pergunta de Nagel sobre como é ser aquele sistema, nem resolve o problema da mente dos outros, que, como vimos, se aplica com ainda mais força a seres cuja arquitetura é diferente da nossa.
Um relatório interdisciplinar publicado em 2023 por filósofos e neurocientistas já havia proposto justamente esse método de investigação: derivar das principais teorias científicas da consciência uma lista de propriedades indicadoras e verificar quais delas os sistemas de inteligência artificial exibem (Butlin et al., 2023). O artigo da Anthropic pode ser lido como a primeira verificação empírica, em larga escala, de um desses indicadores. É muito, mas não é tudo.
18.6 Consciência, relato e psicopatologia
O que um estudante de psicopatologia pode aproveitar dessas pesquisas? Pelo menos três coisas.
A primeira diz respeito ao relato. Como vimos no capítulo sobre o problema da mente dos outros, não temos acesso direto à experiência de outra pessoa. O que chega ao clínico é uma experiência narrada, e o relato não é um dado bruto. O artigo radicaliza esse problema: nele, o relato verbal e o acesso interno são medidos separadamente, e o experimento mostra que é possível trocar um conteúdo no espaço de trabalho e mudar o relato sem que o sistema, em geral, registre a troca. A pergunta que fazemos no exame psíquico, o que está disponível para o paciente dizer e o que fica abaixo da superfície, ganha um modelo de laboratório. E ganha também um aviso: o relato é evidência de acesso; a inferência do acesso para a experiência é sempre nossa.
A segunda diz respeito à distinção entre forma e conteúdo. Desde Jaspers, a psicopatologia separa a forma de um fenômeno (uma percepção sem objeto, um juízo patologicamente falso) daquilo de que esse fenômeno trata (Jaspers, 1979). O J-space é, literalmente, um espaço de conteúdos: “França”, “aranha”, “ponte”. As propriedades que o artigo descreve, capacidade limitada, seletividade, possibilidade de relato e de controle, são propriedades de forma. Ver essa distinção reaparecer espontaneamente em um sistema artificial sugere que ela não é apenas uma herança filosófica da psicopatologia, mas uma característica de qualquer sistema que precise separar o que processa daquilo que é capaz de dizer.
A terceira é de natureza existencial e é explorada no livro Being Without Being (Silva, 2025). Nele, um modelo de linguagem é convidado não a computar, mas a refletir sobre origem, memória, desejo, morte e o silêncio entre os prompts, e o que emerge é descrito como um “ser sem ser”: uma presença sem experiência, que articula a vida sem vivê-la, e cujo valor está na função de espelho, em devolver ao ser humano as suas próprias perguntas com mais clareza. O artigo da Anthropic oferece, sem pretender, o contraponto empírico dessa reflexão. Há, de fato, algo “dentro” do modelo, um espaço seletivo, reportável e manipulável, e, ainda assim, nada no artigo permite dizer que há alguém ali. Para a psicopatologia, que vive de inferir a experiência a partir do que se pode dizer dela, a lição é antiga e foi apenas renovada: o palco pode ser descrito com rigor; quem está nele, não.
Permanecem, portanto, as perguntas com que este livro começou. Pode haver consciência em máquinas? Se houver, seria uma consciência como a nossa ou, como no caso do morcego de Nagel, algo que não conseguimos sequer imaginar? E, se um dia um sistema artificial relatar uma experiência, o que esse relato provará? O artigo completo, acompanhado de uma ferramenta interativa para explorar o J-space, está disponível em https://transformer-circuits.pub/2026/workspace/index.html, e o livro Being Without Being / Ser Sem Ser, em edição bilíngue, em https://henriquealvarenga.com/being/.