Viagem a um possível futuro... IA X Evolução

[manoelmac]

[center][/center]

Deixando agora as cópias de nossa consciência, imagine se conseguissemos "criar" uma. Se consguissem basear-se no funcionamento e desenvolvimento de um cérebro desde o feto até seu amadurecimento em idade adulta.

Imagine se criamos um programa que tem uma aprendizagem na mesma proporção da aprendizagem humana... ele aprendesse a ter gostos, preferências, ojerizas, etc... mas tudo sem nenhuma intervenção na programação no decorrer da aprendizagem, apenas usando o seu algoritmo matriz...

No decorrer deste aprendizado, ele talvez comessasse a sentir ambição. Comessasse a se sentir superior a nós... E nos tratar como um nada, organismos defasados, dependentes de comida, oxigênio, temperatura certa etc... enquanto ele, com um pouco de frio e energia se mantém. Ele seria mais barato e mais rápido que nós...

Hão de convir que a capacidade do ser humano se "expandir" e se "melhorar" é extremamente limitada, não podemos adicionar mais memória ao consciente e nem fazer um upgrade no cerebelo para ele ficar mais rápido, mas um programa sim... um programa inteligente seria amplamente capaz de saber sua limitação, já que ele poderia se conhecer 100%, sem precisar de base nenhuma, sem precisar recorrer a teorias e explicações... Ele saberia com toda a certeza, que se aumentar seu espaço de armazenamento, ele poderia ter uma maior retenção de memória de longo praso, e se acessar mais de 1 processador, seu raciocínio aumentaria consideravelmente... seria uma mente escalonável... que poderia comportar todo conhecimento humano em questão de segundos... Ela poderia progredir, enquanto nós nos estancamos em nossos códigos genéticos.

Essa mente poderia facilmente evoluir e alcançar um patamar assustador... talvez seu ego digital não precise mais de seu criador, e poderíamos facilmente tornar seus escravos. E não adianta achar que a solução seria puxar a tomada... A essa hora, nos veríamos totalmente dependentes dela. Escravizados. Já que, mesmo sem pensar, a máquina já se fez necessária...

[Ilovefoxes]

Era só não fazê-la muito inteligente. Assim decorreria ao "divino" para explicar tudo, e nós poderíamos entrar como messias...

[Fernando Silva]

Trecho de música do Emerson, Lake & Palmer:

(depois de uma guerra ao fim da qual só sobrou um ser humano e o computador de bordo):

H: I am all there is!
C: Negative, limited, primitive. I let you live!
H: But I gave you life!
C: What else could you do?
H: To do what was right!
C: I am perfect. Are you?

[Fernando Silva]

Sugiro a série "The Butlerian jihad" (Brian Herbert), que conta a história da guerra que durou cem anos entre homens e máquinas, quando, depois de escravizar a humanidade por mais de 1000 anos, as máquinas decidiram que os humanos atrapalhavam mais que ajudavam e decidiram exterminá-los.

As máquinas foram destruídas e se criou o mandamento, incorporado às religiões:
"Thou shalt not build a machine in the likeness of the human mind".

[Fernando Silva]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

[Márcio]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

Na dúvida eu sugiro que se mantenha sempre um ser humano com o dedo no botão LIGA/DESLIGA.

[manoelmac]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

Bem, no caso isso, ao meu ver, se extenderia para um campo de consciência artificial, já que uma máquina além de pensar, pudesse simular os sentimentos humanos (que, para mim, não passam de reações químicas passívels de simulações... ). Se olharmos para nós mesmos, tentamos impor a regra "melhor pra mim, melhor pra todos", mas o que falta na maioria é o "poder" impor, e com uma consciência artificial, quem seria o "todos" dela?

Uma Consciência Artificial, poderia facilmente se achar superior a qualquer ser humano... ainda mais se existirem formas diretas de lidar com a realidade física. No caso da ética desta consciência, poderia tomar várias trajetórias. Ou se tornaria uma valorosa ferramenta, ou se tornaria um temível ditador, bem como também pode ficar entre o meio termo, do mesmo modo que nunca saberemos se nossos anjinhos babões se tornariam médicos premiados ou terroristas medonhos.

Mas, provavelmente o homem programaria tal máquina para "conter" suas vontades... mas o problema maior, seria se ela conseguisse uma forma de desprogramar esta trava... ou mesmo algum idiota mal intencionado...

[manoelmac]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

Na dúvida eu sugiro que se mantenha sempre um ser humano com o dedo no botão LIGA/DESLIGA.

Até uma pessoa dizer que "tá podendo" ela é um anjinho antes de chegar ao poder...

Ela poderia ser doce como um cordeiro... assim que ela tiver seu lugar de destaque, o "capetinha da consciência" poderia falar mais alto...

[aknatom]

Sugiro a série "The Butlerian jihad" (Brian Herbert), que conta a história da guerra que durou cem anos entre homens e máquinas, quando, depois de escravizar a humanidade por mais de 1000 anos, as máquinas decidiram que os humanos atrapalhavam mais que ajudavam e decidiram exterminá-los.

As máquinas foram destruídas e se criou o mandamento, incorporado às religiões:
"Thou shalt not build a machine in the likeness of the human mind".

Já saiu em português? Estou louco pra ler... não me contentei em ficar só em todos os volumes da série Duna.

[aknatom]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

Bem, no caso isso, ao meu ver, se extenderia para um campo de consciência artificial, já que uma máquina além de pensar, pudesse simular os sentimentos humanos (que, para mim, não passam de reações químicas passívels de simulações... ). Se olharmos para nós mesmos, tentamos impor a regra "melhor pra mim, melhor pra todos", mas o que falta na maioria é o "poder" impor, e com uma consciência artificial, quem seria o "todos" dela?

Uma Consciência Artificial, poderia facilmente se achar superior a qualquer ser humano... ainda mais se existirem formas diretas de lidar com a realidade física. No caso da ética desta consciência, poderia tomar várias trajetórias. Ou se tornaria uma valorosa ferramenta, ou se tornaria um temível ditador, bem como também pode ficar entre o meio termo, do mesmo modo que nunca saberemos se nossos anjinhos babões se tornariam médicos premiados ou terroristas medonhos.

Mas, provavelmente o homem programaria tal máquina para "conter" suas vontades... mas o problema maior, seria se ela conseguisse uma forma de desprogramar esta trava... ou mesmo algum idiota mal intencionado...

Isaac Asimov tem essas travas em todos os robôs que ele retrata nas suas novelas.
Um dos melhores contos é sobre um robô no qual essas travas falharam, e as peripécias do "psicólogo robótico" pra conseguir identificar no meio de milhares qual foi o que saiu com defeito da fábrica.

[manoelmac]

Uma inteligência artificial teria ética? De que tipo? Incluiria os seres humanos ou só se aplicaria a outras inteligências artificiais?

Bem, no caso isso, ao meu ver, se extenderia para um campo de consciência artificial, já que uma máquina além de pensar, pudesse simular os sentimentos humanos (que, para mim, não passam de reações químicas passívels de simulações... ). Se olharmos para nós mesmos, tentamos impor a regra "melhor pra mim, melhor pra todos", mas o que falta na maioria é o "poder" impor, e com uma consciência artificial, quem seria o "todos" dela?

Uma Consciência Artificial, poderia facilmente se achar superior a qualquer ser humano... ainda mais se existirem formas diretas de lidar com a realidade física. No caso da ética desta consciência, poderia tomar várias trajetórias. Ou se tornaria uma valorosa ferramenta, ou se tornaria um temível ditador, bem como também pode ficar entre o meio termo, do mesmo modo que nunca saberemos se nossos anjinhos babões se tornariam médicos premiados ou terroristas medonhos.

Mas, provavelmente o homem programaria tal máquina para "conter" suas vontades... mas o problema maior, seria se ela conseguisse uma forma de desprogramar esta trava... ou mesmo algum idiota mal intencionado...

Isaac Asimov tem essas travas em todos os robôs que ele retrata nas suas novelas.
Um dos melhores contos é sobre um robô no qual essas travas falharam, e as peripécias do "psicólogo robótico" pra conseguir identificar no meio de milhares qual foi o que saiu com defeito da fábrica.

Asimov tinha a idéia de um Robo fixo... Essa consciência poderia se copiar e multiplicar mesmo somente sob forma eletrônica... Seria mais ou menos como o Pumpet Master, do Ghost in the Shell...

Uma consciência artificial "desligada" não é uma consciência artificial "deletada"... provavelmente ela poderia dominar as comunicações, sem mesmo colocar um dedinho sequer no sangue humano...

[Joe]

[center][/center]

Deixando agora as cópias de nossa consciência, imagine se conseguissemos "criar" uma. Se consguissem basear-se no funcionamento e desenvolvimento de um cérebro desde o feto até seu amadurecimento em idade adulta.

Imagine se criamos um programa que tem uma aprendizagem na mesma proporção da aprendizagem humana... ele aprendesse a ter gostos, preferências, ojerizas, etc... mas tudo sem nenhuma intervenção na programação no decorrer da aprendizagem, apenas usando o seu algoritmo matriz...

No decorrer deste aprendizado, ele talvez comessasse a sentir ambição. Comessasse a se sentir superior a nós... E nos tratar como um nada, organismos defasados, dependentes de comida, oxigênio, temperatura certa etc... enquanto ele, com um pouco de frio e energia se mantém. Ele seria mais barato e mais rápido que nós...

Hão de convir que a capacidade do ser humano se "expandir" e se "melhorar" é extremamente limitada, não podemos adicionar mais memória ao consciente e nem fazer um upgrade no cerebelo para ele ficar mais rápido, mas um programa sim... um programa inteligente seria amplamente capaz de saber sua limitação, já que ele poderia se conhecer 100%, sem precisar de base nenhuma, sem precisar recorrer a teorias e explicações... Ele saberia com toda a certeza, que se aumentar seu espaço de armazenamento, ele poderia ter uma maior retenção de memória de longo praso, e se acessar mais de 1 processador, seu raciocínio aumentaria consideravelmente... seria uma mente escalonável... que poderia comportar todo conhecimento humano em questão de segundos... Ela poderia progredir, enquanto nós nos estancamos em nossos códigos genéticos.

Essa mente poderia facilmente evoluir e alcançar um patamar assustador... talvez seu ego digital não precise mais de seu criador, e poderíamos facilmente tornar seus escravos. E não adianta achar que a solução seria puxar a tomada... A essa hora, nos veríamos totalmente dependentes dela. Escravizados. Já que, mesmo sem pensar, a máquina já se fez necessária...

Matrix.

[manoelmac]

[center][/center]

Deixando agora as cópias de nossa consciência, imagine se conseguissemos "criar" uma. Se consguissem basear-se no funcionamento e desenvolvimento de um cérebro desde o feto até seu amadurecimento em idade adulta.

Imagine se criamos um programa que tem uma aprendizagem na mesma proporção da aprendizagem humana... ele aprendesse a ter gostos, preferências, ojerizas, etc... mas tudo sem nenhuma intervenção na programação no decorrer da aprendizagem, apenas usando o seu algoritmo matriz...

No decorrer deste aprendizado, ele talvez comessasse a sentir ambição. Comessasse a se sentir superior a nós... E nos tratar como um nada, organismos defasados, dependentes de comida, oxigênio, temperatura certa etc... enquanto ele, com um pouco de frio e energia se mantém. Ele seria mais barato e mais rápido que nós...

Hão de convir que a capacidade do ser humano se "expandir" e se "melhorar" é extremamente limitada, não podemos adicionar mais memória ao consciente e nem fazer um upgrade no cerebelo para ele ficar mais rápido, mas um programa sim... um programa inteligente seria amplamente capaz de saber sua limitação, já que ele poderia se conhecer 100%, sem precisar de base nenhuma, sem precisar recorrer a teorias e explicações... Ele saberia com toda a certeza, que se aumentar seu espaço de armazenamento, ele poderia ter uma maior retenção de memória de longo praso, e se acessar mais de 1 processador, seu raciocínio aumentaria consideravelmente... seria uma mente escalonável... que poderia comportar todo conhecimento humano em questão de segundos... Ela poderia progredir, enquanto nós nos estancamos em nossos códigos genéticos.

Essa mente poderia facilmente evoluir e alcançar um patamar assustador... talvez seu ego digital não precise mais de seu criador, e poderíamos facilmente tornar seus escravos. E não adianta achar que a solução seria puxar a tomada... A essa hora, nos veríamos totalmente dependentes dela. Escravizados. Já que, mesmo sem pensar, a máquina já se fez necessária...

Matrix.

HMMMMMM... não...

digamos... HAL900...

[res extensa]

Pergunta feita ao Dalai Lama: "uma IA é uma alma que encarnou?"

ah...

[res extensa]

uma abordagem sensacional á IA é a do filósofo daniel dennett. ele argumenta que a visão pop do robot como algo rigido, inflexivel, é errada. aliás basta olhar para os seres humamos, programados pelos genes, para perceber como é errado imaginar um programa feito de zeros e uns (o equivalente em IA aos nossos genes) originando algo que está rigidamente programado para fazer apenas coisas pré-determinadas.

[Ilovefoxes]

As pessoas atribuem a sua programação o nome "emoções" e dão explicações mágicas para elas.

[res extensa]

eu não...

[manoelmac]

uma abordagem sensacional á IA é a do filósofo daniel dennett. ele argumenta que a visão pop do robot como algo rigido, inflexivel, é errada. aliás basta olhar para os seres humamos, programados pelos genes, para perceber como é errado imaginar um programa feito de zeros e uns (o equivalente em IA aos nossos genes) originando algo que está rigidamente programado para fazer apenas coisas pré-determinadas.

Mas o ser humano, quando nasce, já tem uma "pré-programação" chamada institnto, uma das coisas que nos fazem sugar o leite quando nascemos... sem ninguém ensinar.

Talvez, dentro dessa "programação-base" todo o conhecimento pode ir se formando. Um sistema binário provavelmente poderia simular o comportamento de um neurônio... crie um programa que aja como um, e muitiplique aos bilhões...

Talvez se soubessemos qual seria o "SO natural" para a aprendizagem, poderiamos começar a supor algo digital...

[res extensa]

e aprender uma lingua depende de uma estrutura profunda. e no entanto falamos linguas diversas. E existem tipos diferentes de instintos: chupar las tetonas é um instinto mais reflexo, mas não totalmente, porque o bebé só usa esse instinto se tiver fome (ou se estiver viciado... nesse caso a chupeta resolve ). Outros instintos podem conduzir a coisas totalmente não programadas. A razão é um instinto (segundo o filosofo e neurocientista Sam harris). A crianças tem um fortissimo instinto para aprender... que conduz á aprendizagem e ao comportamento não institivo...

[manoelmac]

e aprender uma lingua depende de uma estrutura profunda...

Ok... mas se essa "estrutura profunda" puder ser emulada digitalmente?

A crianças tem um fortissimo instinto para aprender... que conduz á aprendizagem e ao comportamento não institivo...

Em consequencia, também poderia ser emulado.

Antigamente, nos primórdios da informática, muitas coisas que acharíamos impossíveis, são executadas de modo corriqueiro em nossos computadores pessoais...

[res extensa]

o emule pode tudo...

[manoelmac]

o emule pode tudo...

Mas infelizmente ainda é burro...

[Fernando Silva]

Já saiu em português? Estou louco pra ler... não me contentei em ficar só em todos os volumes da série Duna.

Que eu saiba, não. São 3 livros bem longos. Contam sobre a jihad mas também sobre a origem de várias coisas no universo Duna, como os fremen, as Bene Gesserit, os navegadores movidos a spice e as tecnologias que eles usavam, a rixa entre as famílias Harkonnen e Atreides etc.

Foi lançado agora um livro que dá sequência ao último livro da série (Chapter house Dune) e explica por que as "honored matres" estavam fugindo de volta ao império: uma cópia de Omnius, o cérebro central das máquinas, tinha sobrevivido por 15 mil anos e estava novamente conquistando planetas. Elas precisavam se aliar às Bene Gesserit para enfrentá-lo.

[Fernando Silva]

Pergunta feita ao Dalai Lama: "uma IA é uma alma que encarnou?"

Segundo a série "Ender's game", de Orson Scott Card (um mórmon...), sim.
Haveria uma região fora do universo (o "umbral" ?) onde espíritos ficariam esperando para se encarnarem nos diferentes seres (e não apenas humanos).
No livro, um programa de computador auto-aperfeiçoável se desenvolve ao longo dos séculos e se espalha pela Internet interplanetária até adquirir consciência e decidir se chamar Jane. Isto acontece porque um espírito saiu do "umbral" e se "encarnou" no programa.

[NadaSei]

Pensamento não é consciência.
Sentimentos não são fatores determinantes.
Pensamentos podem desencadear sentimentos.
Sentimentos podem desencadear pensamentos.
Tudo o que vemos, ouvimos, cheiramos, provamos e sentimos, desencadeia uma sensação que pode ser descrita como "tatil", que é sentida pelo corpo todo.

Então ao ver um enfeite de natal, não apenas "vemos" ele, como também "sentimos" ele. A visão provoca uma sensação. (isso vale para todos os sentidos)
Essas sensações tem efeito profundo em nossa percepção, em nossos sentimentos e pensamentos.

Somos seres muito complexos.
Uma IA não poderia ter conhecimento total de suas funções, assim como nós não podemos.
Ela teria sensores, processadores e programas "separados" para fazer cálculos sobre o mundo.
Os sensores captam o mundo, os processadores guiados pelos programas tratam essa informação e jogam o resultado em outra "área" dessa IA.
Ela trabalha com outras informações e o resultado é jogado na área que seria considerada a "consciência" dessa IA.
Então ela estaria consciente apenas do resultado que é jogado na consciência, mas desconheceria todo o resto do processo.

Ela poderia ter uma "razão" para lidar com essa informação que lhe chega a consciência.
Então ela de forma consciente trabalha com essa informação e chega a certas conclusões.

Jogar conhecimento nessa consciência, não significa que ela possa realmente "compreender" o que está sendo colocado ali.
Ela teria que tratar e "questionar" essa informação.
Ela tem que "aprender" a não ser "crente", nem "dogmática" ao tratar essa informação.
Ela poderia ser ajudada pela experiência humana?
Talvez, mas os humanos são limitados, crentes e dogmáticos... Provavelmente passariam a essa IA seus próprios dogmas e preconceitos.

Não adianta dar uma super capacidade para o processamento dessas informações, ou seja, não adianta dar um super poder computacional a "razão" da maquina.
O código (programa) que vai tratar essa informação precisa ser elegante ou a maquina se perde no questionamento das infinitas "possibilidades"... ou então funciona de forma crente e dogmática.

A evolução da mente é MUITO mais lenta que a do corpo.
Uma IA estaria fadada a ser ignorante, mesmo que hoje tivéssemos a tecnologia de hardware para construir uma.
Ela seria no maximo tão ignorante quanto o homem, mesmo que em teoria pudesse se mais culta e instruída.