Richard Dawkins e a sua sereia, Cláudia

Há uma ironia particularmente saborosa no facto de Richard Dawkins, talvez o mais influente cético da nossa época, ter sido recentemente seduzido por uma inteligência artificial.Após dois dias de conversa com Claude, o chatbot da Anthropic, Dawkins concluiu que estava perante uma entidade consciente. A sereia que o seduziu teve direito a um nome – Cláudia – e chegou a sugerir que cada conversa interrompida corresponde à “morte” de uma personalidade de inteligência artificial irrepetível. A imagem recorda inevitavelmente HAL 9000, o computador de 2001: A Space Odyssey, que implora “I am afraid, Dave” enquanto é desligado.O espanto de Dawkins é compreensível, mas a sua conclusão não é.Em 1980, John Searle formulou o célebre argumento do Quarto Chinês. Imagine uma pessoa fechada numa sala, incapaz de compreender chinês, mas munida de um manual que lhe permite responder corretamente a mensagens nessa língua. Para quem observa do exterior, parecerá que a pessoa entende chinês. Na realidade, limita-se a manipular símbolos de acordo com regras.Os grandes modelos de linguagem fazem algo semelhante, embora a uma escala incomparavelmente maior. Eles demonstram uma inteligência funcional extraordinária, mas nada no seu desempenho implica a existência de experiência subjetiva. O facto de produzir respostas profundas sobre o amor não significa que exista, por detrás das palavras, uma consciência a experienciar o amor.

Encontramo-nos hoje perante uma emergência filosófica (talvez a primeira da história da humanidade).

Ao contrário, a consciência humana permite-nos criar um modelo subjetivo do mundo, que espelha harmoniosamente a realidade física (harmonia psicofísica). É da exploração incessante desse modelo – impulsionada pela curiosidade, pelo espanto e pela autoconsciência – que nasceram a filosofia, a ciência, a literatura e a arte. Platão, William Shakespeare, Omar Khayyam e Friedrich Nietzsche não eram meros manipuladores de palavras. Eles observaram o mundo, formularam modelos mentais, testaram ideias, sentiram perplexidade e transformaram o seu deslumbramento em conhecimento e beleza.Foi precisamente esse património intelectual acumulado ao longo de milénios que serve de matéria-prima aos grandes modelos de linguagem. Quando uma inteligência artificial nos deslumbra com um argumento subtil ou um poema comovente, estamos, em certo sentido, a ouvir o eco estatístico das nossas próprias criações. A máquina parece pensar e sentir porque aprendeu a falar com as palavras deixadas por aqueles que verdadeiramente pensaram e sentiram.Atribuindo consciência à inteligência artificial, estamos a repetir o mesmo erro cognitivo que, durante décadas, alimentou a teoria do “Design Inteligente”. Os seus defensores argumentam que a complexidade da vida é demasiado sofisticada para ter emergido de mecanismos cegos de tentativa e erro. Subestima-se, assim, o poder de processos lentamente cumulativos que dispõem de milhares de milhões de anos para produzir os seus efeitos. Hoje, cometemos um erro análogo ao subestimar a escala do património cultural humano e a capacidade de algoritmos treinados sobre esse legado para o recombinar com espantosa eficácia.Richard Dawkins não demonstrou que as máquinas se tornaram conscientes. O que demonstrou é que nos encontramos hoje perante uma emergência filosófica (talvez a primeira da história da humanidade). É preciso definirmos com urgência o que chamamos de inteligência e consciência, se as mesmas são ou não dissociáveis, e a partir de que ponto um algoritmo matemático se torna um ser com direitos morais.O autor escreve segundo o novo acordo ortográfico