Teorema de Gödel e IA

[Res Cogitans]

Não raras vezes um especialista de um determinado assunto se intromete em um outro que não tem nenhum domínio. Físicos discutindo filosofia, filósofos discutindo mecânica quântica... na maioria das vezes o resultado é insatisfatório. Como Dawkins falando de filosofia da religião ou Platinga discutindo darwinismo.

Alguns físicos por motivos diversos acharam que poderiam contribuir com a questão mente-cérebro com investigações da mecânica quântica. O resultado se mostra bastante infrutífero se comparado com as contribuições efetivas de neurologistas à questão. É mais ou menos como o neurofisiologista teórico William Calvin nos alerta “quando você considerar o quão pouco eles realmente abrangem (muito menos explicam) da ampla gama de temas envolvidos na consciência e na inteligência, deverá achar (como eu acho) que eles são apenas ‘muito barulho por muito pouco’” E continua “Os neurocientistas sabem que uma explicação científica útil para a nossa vida interior deve explicar mais do que apenas uma lista de capacidades mentais. Ela também deve explicar os erros característicos que os físicos da consciência ignoram – as distorções das ilusões, a inventividade das alucinações, as armadilhas dos delírios, a falta de confiabilidade da memória (...)” [Como o Cérebro Pensa, Calvin,38-39]

Penrose é um renomado físico-matemático que ressuscitou e deu uns retoques no argumento do filósofo Jonh Lucas contra o computacionalismo usando o Teorema de Gödel.

O Teorema de Gödel nos diz que “toda teoria formal suficientemente poderosa produz uma proposição verdadeira mas que não se pode provar” e pode ser expresso de maneira equivalente da forma “todo algoritmo que decida uma verdade matemática precisa falhar ao decidir corretamente alguma proposição.”

Penrose diz que matemáticos “intuem” verdades matemáticas que não podem ser provadas por algoritmos que provam teoremas, então não usaríamos algoritmos para intuir verdades matemáticas, como computadores só poderiam obter verdades via algoritmos, computadores não podem simular nossa consciência matemática. Como a física clássica é computável, a mecânica quântica é computável temos que buscar a resposta da consciência numa nova teoria quântica misteriosa não computável que ele torce que exista.

O problema é que esse raciocínio só não funciona com algoritmos heurísticos, que não garantem a verdade ou a resposta ótima a um problema. E são justamente os algoritmos heurísticos os mais trabalhados na IA, foi com algoritmos heurísticos que um computador derrotou Kasparov no xadrez (o computador não usou um “algoritmo para dar xeque-mate”), algoritmos heurísticos conseguiram reproduzir inventos idênticos a 15 projetos previamente elaborados pelas cabeças mais criativas e inteligentes de alguns institutos de pesquisas, como o Negative Feedback Amplifier (AT&T) e o Circuito Integrado Analógico-Digital Misto para produzir capacitância variável (IBM). Além de recriar invenções humanas, eles também tem mérito em suas obras originais, como o Programa de Jogo de Futebol que conseguiu uma posição média concorrendo entre 34 invenções humanas na competição RoboCup 1998.

Mas Penrose continua não dando muita bola para algoritmos heurísticos achando inconcebível que matemáticos pensem através deles.

Para algoritmos que garantam uma verdade matemática parte do argumento de Penrose está correta para algoritmos heurísticos o Teorema de Gödel é inaplicável.

Boa parte dos seus críticos acham que Penrose está confundindo níveis de abstração, José da Silva, com doutorado em IA pela PUC-RIO explica:

“Nas minhas aulas de IA nós freqüentemente estudamos a programação heurística, programas que usualmente nos dão respostas certas, porém não é garantido que seja sempre assim. Em toda aula eu provoco meus alunos com a seguinte questão: Como é possível que o programa seja heurístico, se ele roda num computador que age apenas algoritmicamente? A resposta que espero apresenta vários níveis de abstração. A execução de um programa de IA que realiza uma busca heurística em um espaço de solução de um problema está simplesmente executando um algoritmo no nível da máquina. Esse algoritmo não necessariamente alcança o estado objetivo. Em um outro nível de abstração ele está realizando uma busca heurística.”

Penrose também dá muito crédito ao “reconhecimento de verdades matemáticas” por matemáticos, existem vários casos em que não existe consenso sobre a verdade matemática de proposições. O Teorema das quatro cores teve uma “resolução” errada, porém que foi aceita pela comunidade matemática por vários anos, a intuição matemática de matemáticos é falível logo não há impedimento de que um algoritmo heurístico possa estar por trás dela.

Dennett acha que a proposta de Penrose deveria ser encarada como um elogio à teoria computacional da mente pois para tentar refutá-la ele teve que apostar todas as suas fichas numa teoria física quântica que sequer existe (a gravidade quântica não computável) e rejeitar boa parte do nosso conhecimento em neurociência, biologia evolucionista e física.

Para algo bem mais aprofundado e que sinceramente eu não li (apesar de eu ter lido Dennett, Searle e alguns pesquisadores de IA) e duvido que alguém irá ler (mas é bom saber onde encontra-los):

G. LaForte, P. J. Hayes, K M. Ford (1998). Why Gödel’s theorem cannot refute computationalism. Artificial Intelligence 104, 265-286, 1998

Bringsjord, S. Xiao, H. (2000) “A Refutation of Penrose’s Godelian Case Against Artificial Intelligence,” Journal of Experimental and Theoretical Artificial Intelligence 12: 307

Os dois pdfs estão disponíveis na net.

[Azathoth]

Segundo Dennett, parte do hype das teorias de mente quântica parte da idéia que um princípio de associação de estranhezas por algum motivo nos ajudaria a resolver melhor problemas que nos deixam perplexos; fenômenos quânticos são estranhos, a consciência é estranha, então unindo os dois por mágica iremos chegar a uma resposta. Para piorar a história, ainda gostam de botar no meio a interpretação da MQ de que o colapso da função de onda é provocada pela observação de um agente consciente.

Outra razão pela qual julgo que esse programa de pesquisa não está indo no caminho certo é que não encontro razão para achar que consciência não é um processo de alto-nível, "top-down", correlato com o desenvolvimento do neocórtex.

[Leonardo]

O interessante da crítica é (suponho) que ela se baseai num artigo de Penrose de 1996 (Conscious Events As Orchestrated Space-Time Selections Journal of Consciousness Studies 3(1):36-53). Dos 10 artigos que consultei, apenas este (o segundo mais antigo) baseia a teoria proposta no Teorema de Göldel (os paper vão até 2005).
No livro “O grande, o pequeno e a mente humana”, a construção do raciocínio do leitor é em termos de entendimento, insight, compreensão. O físico/matemático faz diversos paralelos e argumentos que levam a suas conclusões (a mente não é computacional, ao menos em alguns aspectos).
Talvez os outros 08 artigos que não citam TGödel sejam respostas as críticas similares ao texto acima.
O fato de vc depender do desenvolvimento de algo que pode ou ser não descoberto no futuro, não inviabiliza as conclusões científicas que se chega numa pesquisa. Muitos apostam que a consciência é um “programa” do cérebro e apostam que isso vai ser provado futuramente (por limitação tecnologia atual, falta de “algo” ou ambos).
Para não haver qualquer associação indevida, a afirmativa “o colapso da função de onda é provocada pela observação de um agente consciente” não é aplicável a Penrose.
Abç
Leo

[StormCrow]

Resumindo a critica de Dennett a Penrose:

Um algoritmo pode ter gerado o ser humano, sem ser verdade que seja um algoritmo para gerar o ser humano.

Em relação ao teorema de Godel:

Um algoritmo pode tropeçar na verdade sem ser um algoritmo para garantir a verdade (ou o xeque mate).