Robôs nunca atingirão nível de consciência similar ao humano, diz físico Marcelo Gleiser
Salvador Nogueira

A inteligência artificial e os robôs podem acabar, nas próximas décadas, substituindo a humanidade na maior parte dos trabalhos que hoje executamos. Mas não em todos. É o que argumenta o físico brasileiro Marcelo Gleiser. Em entrevista ao Mensageiro Sideral, ele se mostra cético quanto às possibilidades de computadores atingirem um nível de consciência similar ao dos humanos.

“É possível se criar uma consciência artificial?”, pergunta-se Gleiser. “Pode ser que você consiga, com uma rede neuronal suficientemente complexa, [que] surja alguma espécie de emergência com alguma coisa parecida com uma consciência e tal. Mas, seja lá o que essa consciência for, ela certamente não tem nada ver com a gente ou com a consciência humana.”

Gleiser também afima que a próxima década será, provavelmente, o momento em que a humanidade decifrará grandes enigmas, como a natureza da matéria escura e da energia escura, que perfazem a maior parte da quantidade total de matéria e energia do cosmos. E ele vai mais além, ao afirmar que está chegando o dia em que poderemos responder à famosa pergunta: “Estamos sós no Universo?”

“Vai ser possível daqui a dez anos mais ou menos, talvez até menos, estudar a composição química da atmosfera de outros planetas”, afirma. “Se você fizer isso, imagina que um ser alienígena está olhando para a Terra, de longe. O que ele vai ver? Ele vai ver que a atmosfera é rica em oxigênio, que tem metano, que tem água, que tem ozônio, e essa criatura (certamente se estiver observando a gente vai ser boa em ciência) vai deduzir que existe vida na Terra. Só olhando para a composição da atmosfera. Não precisa ver nenhum bichinho com antena, onda de rádio, porra nenhuma. Só olhando para a atmosfera você já sabe quase com certeza absoluta (porque não existe certeza absoluta em ciência) que existe vida naquele lugar. A gente vai poder fazer isso. Isso, para mim, é absolutamente fantástico.”

Confira a seguir a entrevista completa com Marcelo Gleiser.

Acompanhe o Mensageiro Sideral no Facebook, no Twitter e no YouTube

Comentários

  1. Sim, a inteligência artificial vai ajudar no Trabalho de monitoração das pessoas, exploração, escravidão, dominação do mais fraco, na Guerra, ajudara muito a matar as nações inimigas…

  2. Sei que cheguei atrasado ao post, mas será mesmo que existe a tal “concorrência humana”. Veja que todos os cientistas que descobriram algo, realmente, novo precisariam interagir com conhecimento “formulado” a partir de fragmentos de outros conhecimentos formulados. O que quero dizer é que o que chamamos de consciência humana, nada mais é (ou pode ser) em primeira instância um processo de aprendizagem.
    A minha observação sobre consciência pode ser exemplificada por um fator simples, quanto tempo levamos para sair do estado de primatas caminhantes para o ser humano “consciente”? Isso só aconteceu após conseguirmos reunir todas as experimentações anteriores em códigos que pudéssemos transportar de um lugar para outro, sim, me refiro a escrita.

    Bom, espero ter contribuído para o debate.

  3. Gleiser está certo… a complexidade do cérebro humano é inimitável… ou mesmo o cérebro de mamíferos… 3,5 bilhões de anos de evolução… milhões de substâncias químicas… catalizadores… enzimas…impossível replicar esta complexidade pelo ser humano…

  4. Admiro Marcelo Gleiser, mas eu “nunca” diria nunca, afinal de contas para muitos colegas dele de cem ou duzentos anos atrás diriam que nunca o mais pesado voaria, que dirá em velocidades hipersônicas. Será que pela idade já está querendo dar uma de profeta?

    1. Na verdade a palavra “nunca” partiu da boca do salvador, Não do Gleiser. Ele (Gleiser) respondeu + ou – isso… entendi perfeitamente o que o entrevistado quis dizer, a questão da “experimentação da realidade” é única. vejo que , muito dificilmente, será possível essa similaridade com os humanos.

      1. Exato, não é uma frase literal, por isso não tem aspas. Mas se ele diz que a consciência humana é única e uma máquina não pode experimentá-la, porque a fenomenologia da máquina é diferente, logo, é como se tivesse dito que uma máquina nunca terá consciência similar à humana.

    2. Talvez, não seja (no futuro) similar à inteligência humana, mas pode ser mais criativa e quem sabe, mais inteligente que nós. Só conhecemos um tipo de inteligência, não temos como comparar com outra, pois não temos parâmetros pra isso. Pode haver uma inteligência tão eficiente quanto a nossa, mas diferente da nossa?

  5. Essa palavra “nunca” deveria ser riscado dos dicionários (no sentido de não conseguir).
    Inúmeros cientistas, pesquisadores, empresários, já disseram essa palavra e quebraram a cara.

    Espero, respeitosamente, que o Marcelo seja mais um dessa lista.

    E essa insistência de duvidar da mente humana, é o que faz queremos ir cada vez mais longe.

  6. O quão próximos estamos de nos deparamos com a tal Inteligência Artifical capaz de ameaçar a existência da raça humana?
    Podemos resumir nosso entrave tentando explicar o maior problema em aberto na ciência da computação.
    Como conceber a hipotética Máquina Universal de Turing? –
    Esta máquina hipotética, concebida por Alan Turing, é capaz de computar qualquer tipo de pensamento e efetuar qualquer tipo de cálculo, ou seja, ela possui toda a matemática do universo.
    Por que os humanos, que se acham em seu estágio mais avançado tecnológico, ainda não foram capazes de construí-la?

    A hipótese mais provável: Conhecimento fragmentado!

    Podemos resumir nossa atual limitação científica, por meio de 4 indivíduos:
    O físico pedante – Aquele que supõe, “muito devido a Einstein”, que todo o Universo pode ser resumido a apenas um paradigma , uma equação. No entanto, se esquece que a própria vida é representada por meio de um código. Se a equação não pode vir a gerar o código poderia um código gerar todas as equações? Em matemática seria uma problema de mão única!
    O engenheiro omisso – Aquele, que mesmo tendo construído a internet, o celular e uma infinidades de aplicativos inúteis , foi incapaz de se situar como autoridade e dizer aos físicos que não é possível conceber um código genético ( Máquina de Turing Universal ) baseado somente na Interpretaçaõ de Copenhaggen.
    O matemático de baixo autoestima – Aquele, que depois que viu Albert Einsten vencer Davide Hibert na corrida para as equações da relatividade, aceitou seu papel coadjuvante na concepção da realidade objetiva.
    O bioquímico ignorante em matemática – Aquele, que depende da aprovação dos 3 acima para dar validade as ideias Darwinianas.
    Infelizmente, nossa ciência esta profundamente baseada em uma hierarquia de competências que acabam minando qualquer tentativa criativa que venha a atacar o status quo. Thomas kuhn chama esse estágio científico de ciência normal.
    Uma ciência meritocrática baseada somente em diplomas e não em realizações nos leva ao momento quase estagnado que nos encontramos. Temos muito mais cientistas do que todo o século XIX produziu, mas será que as mentes daquela época deixavam a desejar para esta geração? – Seria pessimista imaginar que 90% dos trabalhos acadêmicos atuais poderiam ser jogados no lixo, no que se refere a concepção de novas ideias ?
    O aparente erro talvez esteja na máxima – dividir para conquistar – onde fragmentamos tanto os campos de atuação científica, que ao meu ver, poucos cientistas seriam considerados universalistas como um Poincaré, citando apenas um exemplo. É um erro aparente sim! Porque de fato construímos muito da nossa tecnologia baseada metódos baconianos de nossa suposta fragmentação do conhecimento .
    Espero que os caros leitores não sejam pragmáticos e pensem que estou tentando denegrir as áreas citadas e seus respectivos profissionais. Longe disso! Só quero demonstrar que propriedade um código genético ou Máquina de Turing Universal deve possuir e de que nicho acadêmico podemos retirá-la sem conter ambiguidades.

    Uma Máquina de Turing Universal deve …

    – Deve obedecer a certos conceitos dos físicos, principalmente , as leis da termodinâmica.
    – Deve obedecer aos conceitos da Teoria da Informação assim como também da teoria geral dos sistema , ramo dominado pelos engenheiros.
    – Deve conter todos os conceitos de teoria dos números – É claro que aqui falo dos Matemáticos.
    – Deve imitar a vida biológica em todos os suas nuances – Aqui entra o bioquímico , o biofísico e todos os outros profissionais que estudam a vida neste planeta.

    Construa a Máquina Universal de Turing e como por mágica elas provavelmente se tornarão autoconscientes!

    Mãos a obra!

    Caso você obtenha êxito com um lampejo de genialidade, além de realizar o sonho do próprio Turing realizará também o sonho de :
    Leibniz – Máquina que não erra!
    Babbage – Máquina Diferencial
    Freege – Máquina que testa teoremas.
    Hilbert – Máquina que formaliza toda a matemática
    E enfim , terá demonstrado que é possível contruir o Demônio de Laplace.

    Se imaginarmos uma inteligência capaz de conhecer todas as forças que animam a Natureza e conhecer os estado de todas as partes da qual ela é composta – uma inteligência suficientemente grande para analisar todos esses dados – então ela seria capaz de numa fórmula expressar o movimento dos maiores corpos do universo, bem como o dos menores átomos. Para tal inteligência nada seria incerto e o futuro, bem como o passado, estariam aberto a seus olhos.

    ” Piere Simon Laplace”

  7. Eu trabalho com programação, e no meu entendimento, seja qual for o nível de uma IA, tudo que ela faz sempre será previsível por aqueles que a programaram. Todas as decisões podem ser mapeadas pelas instruções de seu código, por mais complexas que sejam.

    Diferente do funcionamento do universo que aprendemos mais a cada dia, a criação humana é fruto do nosso intelecto. Se algum robô sair matando por aí, quem o programou com certeza saberá o motivo.

    Salvador, não sei se concorda comigo, mas gostaria de saber sua opinião.

    Um abraço

    1. Anderson, não concordo, porque muita gente está investindo no desenvolvimento de redes neurais simuladas em computador e em machine learning, em que são os inputs que ensinam o computador a tomar decisões — caso clássico é dos carros que dirigem sozinhos da Tesla, que estão aprendendo a fazer isso cada vez melhor porque todos os carros andando por aí, com ou sem autopilot acionado, vão aprimorando o software. Então já saímos da fase em que o computador faz só o que dizemos para ele fazer, e entramos na fase em que o computador faz o que ele achar melhor, com base nos estímulos que damos a ele. É um baita salto, e não muito diferente, em termos básicos, de como humanos aprendem e desenvolvem sua cognição. Nascemos com um hardware muito básico, determinado geneticamente na formação do cérebro, e vamos moldando esse hardware com inputs — e por isso o cérebro de um pianista tem uma área responsável pela coordenação das mãos muito mais desenvolvida que a do meu cérebro, por exemplo.

      Aí você pode alegar que o humano sofre alterações no hardware, e em computadores só se pode fazer alterações em software. É verdade, mas é verdade até certo ponto. Quando você simula redes neurais em computador, está criando hardware de dois níveis. Tem o hardware hard mesmo, que são os circuitos integrados de silício, e tem um “hardware soft”, que é a simulação das próprias redes neurais — o equivalente do nosso cérebro. Esse “hardware soft” pode ser modificado por inputs.

      Enfim, é um tema fascinante e, em geral, quem estuda IA acha que vai ser moleza chegar à superinteligência, e quem estuda o cérebro acha que ele não pode ser replicado. Vamos ver. rs

      1. na verdade, devemos concordar com o Anderson. Mesmo em machine learning os princípios são semelhantes porque eles resolveram deixar a máquina escolher a melhor rota depois que seu banco de dados acumular uma quantidade de dados suficiente. Antes o programador fazia todo o trajeto, agora, com o conhecimento que acumularam depois de muito xadrez jogado, o desafio maior seria que a máquina buscasse dentro de uma linha de dados o caminho mais eficiente. Por um acaso isso é perto do que fazemos porque também somamos experiências para decidir o que fazemos.

        digamos que a coisa está se aproximando, mas ainda não chegou lá. É uma bela simulação.

        1. Ainda não chegou, mas para chegar falta só mais poder computacional, e não um breakthrough tecnológico. Esse é o ponto.

          1. discordo, se fosse assim não poderíamos dizer que alguns animais são capazes de aprender com a experiência ou observação. Um neurônio em hardware ajudaria muito e precisaria ser replicado uma certa quantidade de vezes para reproduzir a capacidade cerebral dos animais. O que estão fazendo é um neurônio em software e isso sim exige elevado poder computacional para tomar decisões. Mas são decisões e dependem muito da experiência, de dados já coletados e de possibilidades verificadas. Não é uma inteligência que envolva criatividade, não é como MacGyver que com tesoura, cola, barbante e esmalte faz uma bomba.

      2. Vamos ver se um dia um robô poderá instalar um ar condicionado, conversar com o cliente as melhores opções, argumentar com o mesmo, furar o suporte e subir uma escda para fixar a condensadora. Veremos se conseguirá.

        1. Talvez não consiga. Mas ele vai conseguir projetar o ar-condicionado sob medida para a casa, fabricá-lo com impressão 3D e ser o chefe do negócio, pagando só o cara que instala. 😉

    2. Entendi o seu ponto de vista Anderson! Alan Turing também! Toda entrada que é processada por um algoritmo, Turing, chamou de ” número computável”. Então , caso você tenha construído um algoritmo capaz de reconhecer qualquer tipo de entrada , por exemplo uma entrada binária de N bits, a princípio, sua saída seria totalmente determinística, ou seja, se eu sei que foi transmitido também sei qual será a saída de meu algoritmo. No entanto, você poderia estar sujeito há duas incertezas. Primeiro, imagine que o seu algoritmo se modifique a cada entrada, e segundo imagine que você conhece todos os símbolos que serão transmitidos mas ao mesmo tempo você não sabe a ordem que estes irão de encontro ao seu algoritmo! E assim, que um cérebro humano funciona. Todos nós possuímos o mesmo algoritmo mas não somos submetidos a mesma informação ( eventos ) na mesma ordem e assim nosso cérebro vai se moldando ao longo da vida de forma única. Nem mesmo os gêmeos univitelinos possuem as mesmas conexões neurais. A capacidade do cérebro ou algoritmo humano de se modificar a cada interação com uma informação externa que o chamado “aprendizado”.

    3. Eu também sou programador, e o que vc falou não procede.
      Eu consigo em poucas linhas de código criar um algoritimo que vai gerar um resultado que vc não conseguirá prever, mesmo conhecendo toda a instrução. Existem até mesmo equações (que podem ser codificadas) que se retro-alimentam e produzem resultados totalmente caóticos.
      Apesar de eu mesmo ter feito o código (criação do meu intelecto como vc diz), o resultado final pode ser totalmente imprevisível.
      É lógico que existem códigos onde sabemos exatamente o resultado, determinamos o que deve ser feito, e isso é a base do mundo computadorizado que vivemos hoje.
      Enfim, o programador pode saber muito bem o resultado daquilo q ele fez, mas também pode fazer algo que nem ele ou ninguém conseguirá prever o resultado.

      No final das contas, nós podemos não ter o controle total da situação, mas temos o poder de tirar da tomada… ainda.

      1. Perdão Pallando, com todo respeito a sua profissão, mas você está falando de suas limitações como programador e a linguagem utilizada, que seja Java, Python, Ruby , C, Assemble ou qualquer outra de qualquer paradigma de programação.Todas elas possuem algo em comum, surgem de teorias matemáticas, por exemplo de teoria dos tipos que deu origem as linguagens orientada ao objeto. A questão é que Turing conjectura uma máquina que pode fazer qualquer cálculo ou computação. É esta máquina hipotética que em em tese pode criar a linguagem, a escrita e a própria lógica matemática .
        Você não possui a Máquina Universal de Turing. Por isso, não pode prever todos os resultados! Mas quem tiver de posse dela ( Uma super potência por exemplo ) pode sim prever o resultado do seu algorítmo. Algo que você projetou mas não sabe prever as próprias saídas.
        Nem todos os segredos matemáticos são revelados ao grande público. A NSA possui algoritmos que você nunca sonhou. Algoritmos que podem prever a produção de grãos de soja , ações na bolsa de valores ou algo mais simples como proteger seu sistema lotérico de um ataque DDOS. O que quero dizer, é que o segredo do sucesso da predição está no algoritmo e não na linguagem. Quando você programa em java por exemplo , vem toda uma matemática embutida que esta abstraída ali dentro e ai você constrói algoritmos em cima dessa plataforma e suas limitações. Para construir a suposta Máquina de Universal de Turing , primeiro de tudo, você precisa trabalhar com as leis do Universo – Teoria Termodinâmica e Teoria da Informação que foram abstraídas para facilitar o seu trabalho como programador,
        e isto, é mais que escovar bits! Como diz Laplace, o aleatório é apenas fruto de nossa ignorância!
        Se os engenheiros conseguissem construir a máquina teríamos a migração do conhecimento. O grande prestígio designado aos físicos por construírem teorias científicas seria dividido.
        Imagine, agora que uma nação possua a maquina em segredo , que consequências teria em uma guerra digital? – Bem, se esta máquina existir ela pode tornar obsoleto o poderoso RSA ,não porque calcula instantaneamente uma cifra codificada mas por que é mais rápida que qualquer outra então e as mensagens digitais poderiam ser lidas em tempo hábel e não haveria segurança da informação, Um perigo para os Bancos!

  8. Bom dia Salvador,
    Vendo a sua antrevista no YouTube com o admirável Marcelo Gleiser, que por sinal achei sensacional e instrutiva, obtive sem querer um bonus: apareceu a entrevista dele concedida ao Canal Livre da Bandeirantes em 2016, onde você aparcere fazendo parte do grupo que o entrevistou naquela oportunidade.
    Grande Salvador, sempre nos proporcionando matérias maravilhosas.
    Parabéns pelo teu trabalho e boa semana.
    Saudaçöes

  9. Eu estaria bem satisfeito com uma interface de interação, com leve consciência…tipo o que JARVIS é para o homem de ferro rsrsrsrs

  10. Salva, a vinheta pros terraplanostras com linguagem de sinais e tudo ficou sensacional, hahahah!

  11. Muito bom o bate papo com o Gleiser (em tempo: acaber de ver), vocês são feras. Ele ficou bem a vontade, que venham os próximos. Valeu!

  12. Ex-Machina: Instinto Artificial. Esse é o filme, dá pra refletir bastante sobre IA, pra quem gosta é bem legal. E tem um *Bonus*, robôs gatinhas e novinhas peladinhas. Rerrerrê, minha costela ficou até roxa com os beliscões da minha esposa.

  13. Amigos do mensageiro sideral, venho através deste comentário em missão de paz. O Salvador que têm acesso aos comentários sabe que embora eu não comente muito, mas sou leitor assíduo do blog. Pra mim este é um espaço sensacional onde discutimos ciência de verdade. Mas fico entristecido com esse eterno debate de baixo nível entre ciência X religião, pois como sou cristão fico entristecido de ver inúmeros comentários que visam ofender nossas crenças. Mas sei que boa parte disso se deve a fanáticos religiosos que entram no blog somente para tumultuar nosso espaço. Pois sei que o verdadeiro cristão não busca as contendas e intrigas, mas sim promovem a harmonia, a paz e a comunhão entre as pessoas. Então fica o recado para todos que entram aqui visando tumultuar o debate e ofender as crenças pessoais de cada um, vocês não são bem vindos, pois aqui é um espaço para se discutir ciência de verdade de maneira democrática e civilizada. E claro que a eterna discussão entre ciência e religião sempre vai existir, mas é um debate que deve ser feito de maneira respeitosa e com bom senso, de modo que possamos crescer com o debate.

    1. Concordo de maneira geral. E acho que o debate ciência e religião nem devia existir; ciência diz respeito a todos, universalmente, e pode ser discutida, porque é produzida com critérios objetivos, que independem de quem a faz. Dois experimentos idênticos realizados por dois cientistas independentes devem produzir o mesmo resultado, independentemente de o primeiro ser cristão e o segundo ser ateu. A ciência é objetiva, e como uma forma objetiva de conhecimento, se presta ao debate racional.

      Já religião é pessoal e intransferível; sua vivência é subjetiva, e o que um cristão vivencia em sua religião não pode ser “demonstrado” a outros. Não há produção de observações objetivas que podem ser submetidas ao escrutínio alheio. Logo, discuti-la acaba sendo perda de tempo, pois a religião de cada um só se aplica a cada um. Qualquer coisa que transcenda isso me soa como uma tentativa de controlar o livre pensamento de outras pessoas por meio da fé, o que sempre pareceu uma má ideia. Adoro uma frase do Lawrence Krauss que sugere que os ateus não são muito mais “ateus” que os religiosos; enquanto os religiosos são céticos de todas as religiões, menos a que eles praticam, os ateus são céticos de todas as religiões, sem exceção. A diferença de ceticismo é de apenas 1 religião, em meio a cerca de 5.000 que já existiram… 🙂

      Ciência é universal; religião é pessoal. A primeira, sendo universal, é passível de debate. A segunda, sendo pessoal, não.

    2. O verdadeiro ideal da Ciência é a explicação última sobre tudo. Assim, não pode haver limites para o pensamento.

      Por exemplo, o renomado físico Roger Penrose concluiu que a consciência não é um fenômeno exclusivo da nossa espécie, mas sim uma propriedade fundamental do próprio universo e, atualmente, ele desenvolve uma teoria que aplica a física quântica aos processos biológicos.

      O verdadeiro cientista é ambicioso e não teme a polêmica.

      1. Concordo totalmente. A ciência só está limitada pelo que é passível de experimentação. Dentro desse enorme quintal, vale tudo.

  15. Bem que alguns posts sobre ufologia e mais algumas pitadas de astrologia não fariam mal ao blog.

    Deixem seus comentários embaixo apoiando
    v
    v
    v

  16. Essa discussão de inteligência artificial versus inteligência humana é mais ou menos como discutir a importância do asfalto no habitat da minhoca. Somente pessoas extremamente desocupadas (falta do que fazer) entram nessa. O ser humano é o topo da cadeia evolutiva e está aí na terra desde o tempo que o universo ainda era mato. Vai sempre continuar no topo. Somos nós que escrevemos os códigos dos computadores e outros devices, que podem simplesmente serem desativados desligando da tomada ou ainda tirando a pilha. Tudo começou com o ENIAC e está onde chegou. Aposto que se os inventores parassem para discutir a natureza do equipamento filosofando como está sendo feito aqui, até hoje eles estariam no discurso e nem uma mera maquininha de calcular tipo aquelas da Facit teria sido fabricada.

    1. Eu discordo completamente. E não custa lembrar que já discutimos inteligência artificial muito antes de termos criado o ENIAC. A palavra robô foi cunhada por Karel Capec em uma peça teatral escrita em 1921. Talvez seja justamente o contrário do que você disse — só porque alguém ousou filosofar e especular sobre computadores que nós os tenhamos hoje. (Outro exemplo clássico: Alan Turing, o mesmo cara que praticamente inventou o computador moderno, foi o cara que escreveu um artigo sobre como avaliar inteligência artificial como consciência.)

      E outra: antes de o homem estar no topo, os dinossauros estavam no topo. Por onde andam eles? Ingenuidade é achar que, porque uma espécie atinge o topo da cadeia alimentar, ela está imune à extinção — ou mesmo à auto-extinção, como os pandas até outro dia estavam insistindo em executar (e ainda correm risco de conseguir). 😛

      1. Salva, gastar bytes com o arkan de quatro não adianta.

        Esse é aquele troll terraplanostra. Argumentar com ele é sempre aquele nosso velho xadrez com pombo…

        Abs!

    2. Quando Demócrito, na antiga Grecia, cunhou o termo átomo, ele somente podia imagina-lo filosoficamente.
      Daquela suposição filosófica nasceu a realidade na qual você, Arkan, e todos nós, podemos experimentar as maravilhas da computação moderna.
      Só como curiosidade Arkan. Até quando você acha que robôs necessitarão de uma fonte de energia externa controlada por humanos… tipo: tirar da tomada?

  17. Grande Mano Salva, parabéns pela conexão com o Marcelo.
    Gostei do paradoxo.
    Máquinas tentando se aproximar da “humanidade” e o Homem se tornando máquina.
    Os smartphones já são uma extensão do corpo humano como ele bem citou.

  18. O principal motivo é a existência da alma, partindo do pressuposto que ela existe. Sem religiosidade piegas; as reações bioquímicas do corpo, sobretudo do cérebro, são processos necessários para o binômio corpo e alma funcione adequadamente em um meio ambiente nem sempre amistoso. Estas características levaram a espécie humana a necessidade de se agrupar em sociedade, a forma corporal a manusear coisas e por aí vai. Robôs são um reflexo de nossa imagem, é mais fácil relacionarmos com algo parecido conosco. Mas serão simplesmente máquinas, e é bom que permaneçam assim.

    1. não existe uma alma semelhante ao ponto de vista religioso ou algo que nos tornaria eternos. Isso é coisa de filme infantil que tenta (sem sucesso algum) ter seriedade. Veja que a evolução nos deixou vestígios do passado como o medo ou a repugnância por alguma coisa, como aversão a tipos de insetos e etc.

      essa necessidade de interpretar a existência de alma ou de eternidade é a nossa vontade de vivermos para sempre e o nosso medo daquilo que não conhecemos e queremos fazer parte, tanto é que as coisas são misturadas, por exemplo, imagina-se que tanto aqui na nossa terrinha como nos inventados “mundos celestiais” (as moradas dos deuses) temos elementos iguais ou semelhantes. Daí falam em reino nos céus, trono do divino e por aí vai, mas são elementos humanos introduzidos aos (sempre calados) deuses. Qual a lógica de um deus ter um estilo de vida igual ou semelhante ao nosso? Precisa de trono para o quê? E o que reina afinal? Existe uma obrigação de um deus para conosco? Ou será que estamos forçando a vontade divina? Quem manda afinal é o deus ou o homem? Essas interpretação que usamos para sanar essas e outras dúvidas são nossas vontades, não a de um deus. Portanto, nós a inventamos para nosso folclore, crença e religiosidade.

      da mesma forma, se a alma fosse algo verídico ela teria sido encontrada experimentalmente, ainda mais agora que temos detectores tão sensíveis que partículas capazes de atravessar todo o nosso planeta deixariam uma marca. Sim, há alguns experimentos muito sensíveis buscando detectar até mesmo as tais dimensões extra não observáveis diretamente. Se houvesse alma e considerando o enorme número de mortos que temos no presente e passado, então, uma ou várias já teriam sido detectadas como anomalias. Portanto, aqueles filmes poltergeist com seus fantasmas barulhentos nada mais é do que juntar nossos medos do escuro e do vento e somar isso a nossa fértil imaginação.

      1. Eu não consigo entender a diferença entre Alma, Espírito ou Self. Na verdade, para mim, é tudo a mesma coisa. Eu prefiro o termo Self – o Eu mesmo, o Ser eterno que espreita em mim, o Eu transcendental – como sendo a minha parte indivisível. Assim sendo, acredito que o seu Self, o meu Self, é eterno, pois não se prende ao tempo (que é uma convenção puramente humana). Como disse Einstein: O tempo é uma ilusão.
        E sendo o tempo uma ilusão, como acreditava o grande gênio da ciência moderna, o espaço também o é, pois ambos estão intrinsecamente ligados. Então temos uma única explicação para a existencialidade de tudo: Todos os momentos, passado, presente e futuro estão contidos numa única não localidade espaço temporal, assim como todas as experiências de todos os seres do Universo. Experiências que já acontecerem, que estão acontecendo e até mesmo aquelas que ainda estão por vir em todas as eras do futuro. Todas e tudo está contido na mesma não localidade. Congelados naquilo que nos habituamos chamar de tempo. Apenas a consciência é capaz de transitar livremente nesse amontoado de experiências, sensações e emoções. Podemos viver várias vidas, cristalizando a realidade que queremos experimentar, independente de tempo e espaço. Quando finda uma de nossas experiências, com aquilo que chamamos de morte, imediatamente, pois não existe tempo, iniciamos nova aventura em qualquer parte do Universo. E assim seguimos, eternamente, nossa viagem sem fim.
        Nosso Self é a parte que aglutina todas essas experiências em um único lugar, ou não lugar. De maneira que apenas Ele tem todas as informações.
        Nada se perde no Universo, tudo se transforma.

        1. não colocaria nesses termos, o neurônio é um tecido que evoluiu errado e do erro ele é capaz de armazenar informações, é pouca coisa, mas como se trata de uma rede interligada ele acaba funcionando semelhante ao que temos em uma máquina. O neurônio transmite corrente elétrica e deve ter um fraco campo magnético, portanto o cérebro pode ter algumas características físicas como sensibilidade ao ambiente e provavelmente venha a permitir alguma sensação de que a pessoa saia do próprio corpo, mas é algo ainda não testado experimentalmente, trata-se de suposição.

          sobre viver eternamente, esqueça. É um desejo meu e seu e não passa disso, pode filosofar à vontade que isso não acontece. Para ter lógica, como no caso em que trocamos ideias, é preciso haver uma rede de neurônios funcionando, do contrário, acabou tudo. E aquela ideia de Chico Xavier é balela, de alguma forma ele pode ter afinidade cerebral capaz de captar do cérebro de outras pessoas os seus pensamentos e com isso conseguia psicografar, é quase quadrinho x-men e meio besta essa suposição, mas não é impossível. Seria uma característica difícil de dominar presente no cérebro.

          O mundo é dos vivos. Fora desse mundo, os mortos estão mortos. Como já falei, há muitos experimentos ultrassensíveis que são capazes de detectar coisas que atravessam um planeta rochoso como a Terra e mesmo assim nenhum sinal fantasma. Com tanto fantasma “real” nesse imaginário, nenhum deles pipocar nos sensores gigantescos que temos é frustrante. Infelizmente, vida após a morte é um desejo e não passa disso.

  19. Talvez seja um pouco exagerado dizer que o ser humano “não tem a menor ideia” de como acontece a consciência humana. Teorias como a Teoria do Workspace Global de Bernard Baars estão ganhando popularidade na explicação parcial do fenômeno da consciência, e gerando o surgimento de arquiteturas cognitivas como a arquitetura LIDA (desenvolvida pelo grupo do Stan Franklin, na Universidade de Memphis), que inclui mecanismos de consciência artificial inspirado na teoria de Baars. Algumas comunidades acadêmicas como o BICA (Biologically Inspired Cognitive Architectures) ou AGI (Artificial General Intelligence) estão desenvolvendo modelos surpreendentes para mentes artificiais que possuem uma grande chance de estarem controlando robôs conscientes nas próximas décadas.

  21. Parabéns pela iniciativa, pelo trabalho! Vc faz um excelente trabalho de divulgação cientifica! Que este seja o primeiro de muitos!
    Como sugestão, ha muitos brasileiros trabalhando no LHC/Cern. Tenho curiosidade de saber o que eles tem feito por lá!

    1. Sim, teremos LHC no Conexão em algum ponto do futuro, guentaí! (E também não vou me restringir a brasileiros, se vocês toparem encarar umas legendinhas… :-P)

      1. Excelente! Sugestão: Stephen Hawking rsrsrsrs brincadeira, mas não custa sonhar kkkk

        Boa pedida: Duilia de Mello (nacional) e Neil Degrasse Tyson (é pedir muito? rsrsrsrs)

        Abraço! Excelente iniciativa…ainda não assisti todo, tempo em casa tá apertado, com filho de 3 meses…

        1. Hawking eu já tentei várias vezes, mas é muito, muito difícil, por razões óbvias.
          Duilia está nos planos. E Neil tenho já gravada… só editar e legendar. Acho que vou guardar para o último da temporada. 🙂

      2. Excelente !! Sem problemas! Pode ate ser sem legendas (embora a maioria iria reclamar!), por isso é importante estudar inglês!

  22. O motivo é bem simples a causa de informática (inteligência artificial) nunca ter “inteligência” como do homem: a inteligência/pensamento cerebral é provocada única e exclusivamente por REAÇÕES QUÍMICAS, onde nessa falta nunca haverá a plena inteligência, pois trata-se de criação instantânea de produtos bioquímicos, nova matéria, novos produtos de armazenamento que reagem/inteiram como os demais na área (se cria, se inteira/consome, reage e se exclui/elimina no processo). Oras, um chip fixo vai produzir o quê? Vai criar o quê? vai reagir com o quê? É o mesmo que exigir que um poste de luz se prolifere, multiplique e crie outros, criando uma rede, familia, novos elos, etc, que é na realidade o processo de pensamento e inteligência, coisa conhecida há décadas pelos neurologistas, sabido ate por crianças em livrinhos de inteligência,não Dr Gleiser?

    1. As reações químicas no cérebro produzem impulsos elétricos — que é exatamente a base de operação de um computador. Não é tão diferente assim.

  24. Muito bom Salvador, parabéns mais uma vez. Já estou lendo o livro no Nick Bostrom!

  25. Belíssima entrevista. Estamos carentes de conversas com esse nível intelectual e o Mensageiro Sideral está de parabéns.

    Concordo com o Gleiser no ponto de vista do desenvolvimento da IA, porém, acredito que a velocidade com que se está criando avanços nessa área, é possível sim o desenvolvimento de consciência. Não necessariamente a consciência igual a humana, mas censciente.

    Se observarmos o desenvolvimento da tecnologia da informação nos últimos 20 anos, é muito possível que em cerca de 30 anos tenhamos redes neurais conscientes. Robôs conscientes eu não acredito. A visão de robôs consciente imaginada por Assimov com suas mentes positrônicas está muito longe da realidade. O que teremos são robôs literalmente burros, no sentido da consciência e não da computação, conectados à redes neurais inteligentes. Esse tipo de realidade é que gera também discussão hoje: robôs ou máquinas da Internet das coisas, conectados a redes neurais inteligentes, que tipo de ação teriam a respeito das imperfeições humanas. Talvez Assimov já tenha resolvido isso com suas três leis da robóticas, mas mecanismos de controle e salvaguardas devem ser implementados para que essa tecnologia beneficie ao ser humano.

    O resultado seria semelhante em exemplo ao computador da Enterprise de Jornadas nas Estrelas ou o Hal de 2001 uma Odisséia no Espaço, onde podemos conversar com a tecnologia e ela nos ajudar a solucionar problemas, se essas redes tiverem consciência podemos ter uma situação onde além de resolver problemas, a tecnologia nos entenderia e, com as restrições das leis da robóticas, teria capacidade de nós ajudar e não nos julgar, assim a tecnologia seria totalmente ubíqua e nos integraríamos cada vez mais a ela. A questão sempre será o impacto que isso vai provocar e como redirecionar as pessoas afetadas para outra profissão. Isso é inevitável assim como aconteceu com a revolução industrial, mas, socialmente falando deve haver uma discussão sobre como requalificar as pessoas afetadas.

    Enfim, pequenos exemplo estão por aí para que possamos entender a direção do futuro: Siri, Cortana e Alexa, são exemplo de redes neurais soft como diz o Gleiser, mas elas estão rapidamente sendo aperfeiçoadas e em breve terão algum nível de consciência.

    1. Caro José Padilha, rico e excelente comentário!
      Mas devo discordar do seu ponto de vista quando evoca as leis da robótica deduzidas por Isaac Asimov.
      Implantar em uma consciência robótica ou biológica leis para que estes não ataquem seus criadores, amos , mestres etc nos remetem ao tempo da escravidão. Foi exatamente isso que tentaram fazer com os negros durante 300 anos. Programá-los para nunca agir contra seus “donos” . Se um negro matasse o seu senhor, toda a sua família escrava seria dizimada!
      Vale lembrar que os negros também eram tidos como meros objetos assim como as máquinas os são hoje.
      Então por que implantar uma lei em seus cérebros lógicos? Não estaríamos repetindo erros históricos achando que aquela consciência, criada apenas para nos servir, pudessem um dia despertar e de fato, se revoltarem contra seus algozes? – Nem queira saber o que de fato aconteceu a todos os franceses que estavam no Haiti durante a única revoltava bem sucedida de escravos negros da história.

  27. Na minha opinião esse “Nunca” utilizado pelo físico Marcelo, é um termo que não poderia ser utilizado, principalmente hoje em dia que vários tabus antigos foram quebrados, diante de tantos avanços tecnológicos a questão que se pode ter dúvidas é que se essa consciência artificial será similar ao homem ou suprema e se vai levar 10, 20 ou 50 anos.

    1. Ele pode usar “nunca” porque parte de um princípio que vetaria isso. Ele diz que só se pode adquirir consciência humana se você tiver uma vivência humana. Mas veja, como vimos, não quer dizer que não se possa atingir outros tipos de consciência — e tipos que sempre estarão sub judice, porque só somos capazes de experimentar a nossa própria consciência, humana. Se quisermos atribuir uma mente consciente a máquinas, teremos de nos escorar em coisas como o teste de Turing.

      1. Obrigado pela resposta, Salvador. O seguinte trecho anularia meu questionamento: “Ele diz que só se pode adquirir consciência humana se você tiver uma vivência humana.” – Realmente raciocinando desta forma ele tem toda razão.

      2. Primeiramente, boa noite, Salvador. Acompanho sempre seu Blog, mas nunca havia escrito. Parabéns pela iniciativa.

        Quanto à sua resposta ao Cesar, permita-me discordar: a vivência humana pode ser simulada. Ambientes computacionais complexos, no futuro, podem fazer o papel de experiências similares às humanas. O Nunca em questão é muito complicado de ser utilizado.

        É mais provável que uma inteligência artificial atinja um estado de consciência desconhecido para nós? Talvez. Mas, como só conhecemos a experiência Humana, acredito que, sim, a consciência que um dia uma AI terá será similar.

        Nunca/sempre deveriam ser palavras abolidas por Cientistas.

        1. Não está claro para mim que a vivência humana poderá ser reproduzida em máquinas, assim como a vivência das máquinas dificilmente será reproduzida no ser humano. Mesmo que eu instale uma câmera no lugar do meu olho, os sinais digitais teriam de ser convertidos em algo que meu nervo óptico pudesse interpretar e levar ao cérebro, e meu cérebro teria de converter o sinal em imagem, e imagens cerebrais são processadas de modo bem diferente do que um computador processa uma imagem de uma câmera. Então concordo com o Gleiser que a experiência de uma máquina nunca será a de um humano.

          O que eu discordo dele é que isso vá ser um impedimento fundamental à formação de uma consciência digital. Mas veja, aqui estou expondo a opinião dele, e não a minha. A minha, como já disse em outro comentário, é que as máquinas podem adquirir consciência e terão inteligência muito superior à humana em breve.

          Admito contudo que a essa altura não dá ainda para dizer quem tem razão.

          1. Salvador, sei que é complicado de pensar desta forma, mas abstraia do hardware físico. Pense apenas numa simulação, virtual, onde todos os inputs pudessem ser modelados, bem como as respostas físicas. Emular um ser-humano virtualmente, pensando desta forma, seria possível. Analogia: pense no filme Matrix.

            Claro, com o nosso estágio tecnológico atual, isso não é possível. As variáveis são numericamente inviáveis de serem modeladas/processadas. Mas, e aí é que entra o meu espanto com o cientista, nada impede que isso ocorra nas próximas décadas.

            Abraços

          2. Concordo. Só não temos como dizer que as respostas simuladas equivaleriam às humanas.

    2. “O homem bicentenário” mostra um robô que transferiu sua consciência para um corpo humano visando experimentar a consciência humana e a mais humana das experiências – a morte.

  28. Excelente só achei que não deveria ter misturado a entrevista com inteligencia artificial , deveria ter ficado só astrofísica , astrobiologia e física teórica pura, acho que deveria ter falado de maneira mais aprofundada em física quântica que é o realmente o q detêm as “chaves ” de todas as respostas do universo !

    1. Já eu acho o tema da inteligência artificial muito mais interessante. Mecânica quântica é uma teoria de cem anos. Falamos de físicos tentando transcendê-la (assim como à relatividade geral). 😉

    2. Caro Braulio,

      A Mecânica Quântica não detém todas as respostas! Ela pode até explicar o movimento do elétron , entretanto, não diz o que é o elétron! – Dá o nome de férmio não é uma explicação da sua natureza!
      A Mecânica Quântica é endeusada mas pouco explicativa. Foi criada em uma época que não se conhecia computadores, redes, algoritmos, protocolos de comunicação. É um paradigma europeu incompreendido por seus precursores: Planck, Einstein, Bohr, Heisenberg, Max Born, Shorodinger e Dirac. Todos nós somos escravos de nosso tempo!
      Quando Einstein é laureado com o prêmio Nobel de 1921 pelo efeito fóton elétrico e não pela Relatividade demonstra o grau de incredibilidade que os próprios físicos tinham com a nova forma de se fazer física. Partir de equações para prever padrões! E assim, a Mecânica Quântica pegou carona e previu as inúmeras novas partículas elementares da natureza. O século XX, foi sem dúvida o século dos físicos, culminando com o feito do Projeto Manhatan – a Bomba atômica. Ninguém mais ousaria desafiar os físicos. Estes tinha autonomia até para criar sua própria notação matemática sem necessitar consultar os matemáticos: Notação de Einstein, Notação de Dirac etc.
      Mas por que esta teoria tão fecunda não é a resposta última e final no que diz respeito a realidade objetiva?
      Volte um pouco mais no tempo, meio do século XIX, quando Maxwell faz o mais incrível trabalho de analogia da ciência. James Clark Maxwell faz uso da teoria dos fluídos de Stokes para explicar os fenômenos elétricos resultando na afirmação revolucionária que a Luz é uma onda eletromagnética.
      A luz poderia ser um automóvel na mente de Maxwell?
      – Não! Simplesmente porque não existiam carros em sua época, portanto, ele jamais poderia fazer tal analogia.
      O mesmo podemos afirmar , caso se confirme que a natureza objetiva se comporta como um algoritmo sistematicamente projetado, que Einstein, Planck, Born, Heisenberg, Bohr , Dirac e Schorodinger jamais poderiam chegar a esta resposta já que o conceito de algoritmo só viria mais tarde.
      O quão verdadeiro pode ser esta afirmação? Basta observar que há 30 anos os físicos sonham com o computador quântico que continua uma utopia.
      Um dia, num despertar científico, sem igual na história, perceberão que o computador quântico, a máquina de Turing Universal e o código genético são a mesma entidade.
      O fato, é que somente os físicos fizeram contribuições palpáveis para a Mecânica Quântica( Dirac era formado em história). A Mecânica Quântica é uma plataforma que dá poder ao físico e mais ninguém.
      Será que Deus se revelaria somente para este campo da ciência?

  29. Especulações. Por volta de 2000, ‘cientistas’ também disseram que com o Genoma humana, iriam erradicar todas as doenças e corrigir qualquer problema humano nos próximos 10 anos. Em 2003, ‘cientistas’ também afirmaram que em 2016 já teríamos um sistema imunológico artificial com nano-robos-médicos injetados no nosso sangue e seria o fim de doenças e células tumorais. Por n vezes, já disseram que também encontraríamos evidências de vida em outros planetas. Por n vezes também já previram que teríamos computadores mais potente que o cérebro humano, e, nos últimos anos, o prazo apenas adiou. E quanto afirmação ai que não tem nada de ciência! Encontrar planeta com atmosfera similar a da Terra não equivale a dizer que há vida ali. [Cade a ciência Gleiser?]

    1. Caro, eu fiz a cobertura do anúncio do genoma em 2000 e já na época se alertava que aquilo era apenas o começo e que não haveria uma panaceia instantânea. Era um passo importante, mas não uma mágica que acabaria com as doenças. De fato, fizemos progressos importantes desde então.

      Sobre nanotecnologia, mesma coisa: tirando futurologistas, quem trabalhava com nanotecnologia sabia que o setor ia caminhar bem mais devagar — como está caminhando.

      Sobre evidência de vida em outros planetas, já encontramos algumas, mas não conclusivas. Há casos controversos, como os resultados da Viking e o estudo do meteorito marciano ALH 84001, além das detecções de metano em Marte. Mas, se encontrarmos uma atmosfera exoplanetária em desequilíbrio químico e só pudermos explicar esse desequilíbrio por fotossíntese (a exemplo do que acontece aqui na Terra, que jamais poderia ter 20% de oxigênio em sua composição atmosférica não fosse a vida), essa será uma evidência, como diz o Gleiser, bastante conclusiva.

      Por fim, acho muito injusto você atribuir a um cientista previsões feitas por outros. Nunca vi Gleiser falar que o genoma curaria todas as doenças, ou que nanorobôs fariam um sistema imune artificial em 2016.

  30. O ponto mais interessante da entrevista foi aos 33:03 min quando, indagado sobre a natureza da consciência, Gleiser chama de “materialistas” os que tentam usar a teoria da evolução para explicar o surgimento de seres com consciência.

    De fato, quanto mais a Ciência avança, mais claro fica que teremos que lidar com as questões espirituais. Um dia, os ateus evolucionistas chegarão lá…

    1. Não foi isso que ele disse, reveja o trecho.

      O que ele critica é a visão materialista de que o cérebro seria o hardware, e a consciência, o software. O que ele quis dizer é que o surgimento da consciência está indissoluvelmente atrelado ao desenvolvimento do sistema nervoso humano e dos estímulos que ele recebe do ambiente, de forma que ninguém pode ambicionar simplesmente simular o “hardware” em computador e com isso obter uma consciência.

      Note que ele não fez qualquer oposição específica ao FATO ESTABELECIDO de que nós evoluímos por seleção natural mesmo sem que a seleção natural soubesse o que é consciência.

      (Tendo dito tudo isso, é verdade que o Gleiser tem enveredado por uma temática meio esotérica de vez em quando nos últimos anos. Mas ainda assim profundamente racional. Para jogar fora a evolução por seleção natural, é preciso ser irracional ou ignorante hoje em dia, e essas duas coisas ele não é.)

      1. Salvador, como deixei no meu comentário ali em cima, não acho que isso seja verdade. Quer dizer, isso é verdade hoje (“ninguém pode ambicionar simplesmente simular o “hardware” em computador e com isso obter uma consciência”), mas não quer dizer que não possamos obter simulações extremamente complexas, reproduzindo fielmente estímulos e o “hardware” em ambientes computacionais extremamente complexos.

        Fazer previsões é algo muito complicado. É difícil para nós conseguirmos conceber como a tecnologia irá se “expandir” no futuro. Ficamos limitados ao nosso meio e ao que conhecemos.

        1. Eu acho que a IA vai comer a inteligência humana com farofa, e a consciência não é algo tão irreprodutível assim. Mas essa não é a opinião do Gleiser, e a essa altura tanto eu quanto ele quanto você quanto qualquer outro podemos ter razão. 😛

      2. Gleiser, ao meu ver, sempre foi meio exotérico e isso é normal, afinal, ainda não se bateu o martelo, mas o LHC vem martelando forte na cabeça oca dos deuses invetados.

        a evolução caminhou junto com a disputa por alimento, nos primórdios os primeiros seres vivos não deveriam ter dificuldade em se alimentar devido a abundância de compostos orgânicos, mas com o tempo a oferta acabou e aqueles que começaram a conseguir comer outros seres foram ganhando terreno. A evolução, seleção e disputa são termos que caminham juntos quando falamos de seres vivos, o engraçado é que a evolução é, na verdade, uma falha aleatória na formação de um novo ser, ou seja, não é bem uma evolução e sim falhas aleatórias que podem ser benéficas ou não. Isso tudo é visto em livros de biologia do ensino médio e documentado, diferente da bíblia (que é inventada e não testada ou não admite que testem para não se ver derrubada e humilhada).

        então, cada falha aleatória foi criando ou testando um tipo novo de tecido, daí surgiu o primeiro neurônio rudimentar, como trazia vantagem a característica foi transmitida aos descendentes, da mesma forma um neurônio defeituoso deu origem ao sensor de luz e assim foi aos poucos e dentro do jogo de disputas, evolução por falhas, seleção, busca por alimento e etc.

        estamos falando de inteligência artificial, uma tentativa de usar ou fundir o software ao hardware de modo mais eficiente possível para simular vida. Isso pode ter uma solução a caminho, mas se formos imitar a “evolução” (apenas essa palavra sendo usada para sintetizar o todo) humana vamos precisar de um tipo de sistema sintético capaz de trabalhar como os neurônios e que grupos de sensores de luz, de pressão, calor, cheiro e etc precisam trabalhar em conjunto para poder formar uma experimentação completa. Isso é bem complexo, mas há alguns modelos de neurônios eletrônicos. Porém, trata-se de pesquisas de campo e não é uma coisa que vão em uma oração bíblica desvendar com o estalar de dedos para ver pedra virar pão, isso é coisa de demente. A investigação científica séria pode demorar ou “dar a sorte” de encontrar uma solução mais rápida.

  31. Há algum tempo comentei algo parecido. Concordo que uma coisa é você ter uma máquina que faça a maioria de nossas atividades de forma bem mais eficiente. Outra diferente é ela realmente “pensar” e ter consciência própria. Uma coisa é você combinar todo conhecimento de uma base de dados e outra é criar conhecimento novo, realmente inédito. As máquinas poderão provocar uma grande evolução, gerando novos conhecimentos que ainda não foram percebidos por humanos mas que já existem, camuflados, em nossa base de conhecimento. Mas a consciência humana e sua capacidade de insights originais ainda é algo não conhecido por nós e, acredito, muito difícil de reproduzir artificialmente. Esta é uma missão para a engenharia genética e não para físicos e engenheiros. Uma máquina metade biológica e metade cibernética? Pode ser.

    1. Após fazer uma anáfora com dez linhas abaixo, me deu vontade escrever sobre a inteligência artificial, dentro dos conceitos estabelecidos pela mecatrônica. Penso eu que a engenharia genética está mais voltado para cultivar céculas de modo a atender a maioria dos reparos dos órgãos danificados. A ciência por esse lado já consegue introduzir DNA do ser humano nos porcos para criar órgãos de forma que o corpo não haja rejeição. E com isso a ciência hoje consegue criar um porco por fora, e humano por dentro. Existem muitas outras pesquisas voltadas para esse fim, mas o foco da matérica aqui é inteligência artificial, em destaque os robôs inteligentes. É claro que não existem limites na evolução tecnológica, visto que as sondas espaciais podem executar tarefas plenamentos o que não está ao alcance de nós. Os robôs podem ser plenamente integrados com a vida, prova disso é o exemplo do nosso cientista que lá no Ceará fez uma interconexão de macaco andando na esteira, e simultaneamente através das vias neurais um robo fazendo o mesmo no outro país via internet. O desenvolvimento de humanóide já é uma realidade vista como alternativa para melhoria de nossas vidas. Se a vida é movida através dos impulsos neurológicos com sinais elétricos capaz de gerar por meio de nossas células, então a simulação artificial é perfeitamente viável.

      1. Mário,

        Tudo isto que você menciona cai no grupo de conhecimentos que já estão inseridos em nossa base de conhecimentos mas ainda não foram peneirados e refinados. A engenharia genética, mais do que criar órgãos, poderá criar, construir o centro neural que será integrado a máquinas. Todo este potencial da eletrônica já estava definido no momento em que, lá pelos anos 1930, fizeram os primeiros testes com os transistores, base de tudo que você vê hoje em eletrônicos. De lá para cá, nós apenas melhoramos processos, mas basicamente não criamos nada novo no campo da eletrônica. Ainda vamos continuar por algum tempo neste processo de melhorias e muito virá destas melhorias. Máquinas que executam nossas tarefas diárias de forma muito mais eficiente ainda serão criadas e construídas. Mas aquela que substituirá cientistas e filósofos, acredito, ainda estão longe.

        1. Perfeito Paulo Schaefer!

          Você parece caminhar na vanguarda do conhecimento! Entender as limitações de nosso tempo faz parte do escopo da pesquisa científica.
          Entender o código genético é o experimento crucis que levará o homem a quarta revolução industrial.
          Como um código gera movimento mecânico?
          Como um código funciona como um sistema de comunicação?
          Como um código armazena dados ?
          Como um código processa informação?
          Como um código gerar cópias exatas por milhões de anos?

          Parece que tudo gira em torno do código! Infelizmente, os físicos não são bons na criação de códigos, não foram treinado para isso! – Bem, alguém pode dizer que o código não precisa ser criado, pode muito bem ser apenas reconhecido. E mais uma vez tenho que frisar, os físicos não foram treinados para reconhecer códigos, culpa de seu currículo acadêmico talvez..
          Então, quem poderia conduzir o homem a nova era?
          Engenheiros, Hackers .. cientistas da computação em geral? Deveria ser um grupo? Ou o trabalho científico de um único homem?
          Enquanto o Newton dos algoritmos não surge, podemos especular sobre a hipótese plausível que o universo seja o próprio código. Isto implicaria que todos fenômenos da natureza inclusive os elétricos são códigos, o que explicaria as dificuldades inerentes as tolas tentativas de curar um paraplégico já que os impulsos elétricos provenientes do cérebro devem ser na verdade instruções de máquinas e não descargas aleatórias.

    2. Paulo tento dizer algo aqui , mas sempre parece estar algo “sem sentido”, e cada dia começo a entender mais sobre este descaminho dos paradigmas.
      Dai só se voltarmos lá no tempos dos “Sábios” de Atenas , a invocarmos a antropologia dos Jônicos,afim de ré-concepcionarmos os conceitos de Aristóteles sobre o estado da matéria, para ré- concepcionarmos o Fogo como ele realmente deva estar=plasma e dai o evoluímos , como evoluímos a terra (sólidos),água(líquidos)Ar(gases).
      resolvendo o paradigma dos sólidos de platão
      dai o Fogo=Plasma, e a evolução da concepção do plasma etc..
      dai esta ideia para o salvador parece “sem sentido”, já ate começo a entender o porquê.
      Nos viemos da Era da pedra, depois ferro, bronze, ouro, diamante, depois do (Silício).
      Dai por esta logica,acredito que com a evolução do toque dos smarts(toucscreens) evoluirmos para era do carbono(touchscreem produzido do carbono), e ainda nem percebemos etc..
      Dai toda esta interação do( Campo magnético , Luz e Eletricidade)=plasma=fogo, administrada pelo invisível, como interação( a ação e reação da forma de onda=Ondulatória); parece inconcebível, e sem sentido para muitos.
      Isto até mesmo quando passarmos por todas Eras dos elementos orgânicos e passarmos a conversar com Ciborgs, mesmo os achando sem sentidos e querendo testa-los.
      Mesmo quando quando o embrião do passado deles nos sentem tocar todos os dias nas nossas mão.

  32. Caro salvador , eu acredito que quando chegarmos a produzir robôs inteligentes, já teremos decodificado os genomas, e introduzido eles na nano-tecnologia e bio-nanotecnologia estaremos na era dos Ciborgs.
    Pensar em Robôs inteligentes para mim já esta coisa do passado(arcaico).
    Dai se pensar em Ciborgs autônomos me parece um desenvolvimento sem limites ; já que a célula poderia se auto programar em razoes inimagináveis..

    Só para não parecer algo tão sem sentido, o que tem de base duo-HX nessa linha da ciência. trilha por este caminho ai do link.

    http://5pilares.com.br/nosso-dna-pode-ser-reprogramado-por-palavras-e-certas-frequencias-estas-frequencias-podem-ser-emitidas-com-a-terapia-quantica/
    http://www.sacred-geometry.es/?q=en/content/phi-and-music-dna

    1. Nós já decodificamos vários genomas. Você não recebeu o memorando em duo-hexacimal? rs

      1. Salva! Engenharia genética para você parece taboo!
        Ao menos você faz parecer que esta quando me modera rsrsrs!!

        1. Eu te modero quando você fala muita bobagem nonsense. Só. Quando um comentário seu não publicar, não precisa republicar; não é engano. Fui eu que barrei. OK? Passei o fim de semana inteiro bloqueando a mesma mensagem sem sentido…

          1. A reportagem esteve boa, tem vários assuntos além da engenharia de robótica!
            vamos conversar sobre eles!
            matéria escura.
            Energia escura.
            Einstein .
            Super-cordas.
            Multi-verso.
            Super Multi-verso.
            Novas tecnologia para detecção de eco sistema habitáveis etc..
            Ate mesmo sobre o que ele falou de hibrido (carbono , silício), que para mim teve um viés de Ciborgs duo-HX e o curso de Alta ajuda..

          2. Não estava as mesmas mensagens, eu estava aprimorando elas para ver qual ponto você poderia achar sem sentido!
            eu só discordo quando você diz que nós decodificamos genomas, para mim cortar e emendar com CRISPR-cas9 não esta uma decodificação e sim uma pré-decodificação.

          3. Cortar e emendar não é decodificar; é manipular. Decodificar é ler as letrinhas. O genoma humano foi “lido” em 2000.

  33. A vida do ser humano é o mais alto, e mais valioso do que todos os tesouros existentes no universo, segundo Sidartha Gautana, que expôs ensinos nos últimos oitos anos de sua vida, no período de Mahayana.

    É uma preciosidade tão rara, que se por lado da ciência, existir vida em outros planetas, deverá apresentar as mesmas caractéristicas de valores como nós, não necessariamento a forma física.

    Os robôs são sub-produto do ser humano, que ao contrário de nós, não precisou passar por cinco kalpas de formação, continuação, volição, declínio de desintegração.

    Além disso, a vida tem na sua essência, a sua natureza de: forma, sensibilidade, pensamento, ação e origem.

    Uma anáfora abaixo pode definir alguns dos atributos e propriedades dos robôs:
    1 – robos não competem com outros.
    2 – robôs não constroem outros robôs.
    3 – robôs executam tarefas pré-programadas.
    4 – robôs não tem consciência.
    5 – robôs não têm sentimento e amor.
    6 – robôs não perpetuam outras espécies.
    7 – robôs não fazem distinção entre estarem fazendo ações boas ou más, ou com a utilização de alguns recursos, com objetivos construtivos ou destrutivos.
    8 – robôs se tornam criaturas, ao passo que a vida é o exímio criador nato.
    9 – robôs não são vidas, uma vez que não são compostos de células e proteínas.
    10- robôs não possuem alma.

    1. Lamento colega Mário, mas:

      1 – Robôs podem sim competir com outros robôs, questão de programá-los para isso.
      2 – Robôs podem projetar e construir outros robôs sim.
      3 – Robôs podem seguir sistemas heurísticos e randômicos dos quais emergirão novas rotinas.
      4 – Não sabemos com certeza sequer se nós mesmos as temos. Quanto a eles, não é possível responder ainda, muito menos em caráter definitivo.
      5 – Idem acima.
      6 – Idem resposta 1, questão de programação. Quanto a nós, estamos extinguindo centenas de espécies por ano.
      7 – Converse com os soldados e combatentes na Síria.”Bem” e “Mal” são conceitos relativos.
      8 – ?
      9 – Conceito obsoleto e antropomórfico do que seja “vida”.
      10 – “Alma” é um conceito místico e ainda não passível de prova.

      1. Acho você, com esse codinome Professor, tem uma visão muito pontual e restrita da atualidade. É claro que se considerar todos esses itens acima, numa escala de inferioridade tem sentido. Mas a nossa conversa não é de nível escolaridade, e sim no campo de aplicação mais abrangente do que você imagina. Metade da anáfora que citei acima, é do presidente do desenvolvimento da inteligência artificial da IBM, e metade complementei com a minha visão. Portanto a sua consideração é irrelevante demais!

        1. Mário,

          Suas opiniões são muito definitivas e você não aceita ser confrontado. O Professor colocou questões coerentes nos 10 pontos lançados por você. Além disto, as opiniões do presidente da IBM representam um espelho das realidades que ele vive mas necessariamente não representam a verdade dos fatos. Lembro-me dos gurus dos anos 70 que desenhavam os anos 2000 de uma forma muito mais otimista do que é a realidade atual.

          1. Paulo, admiro muito o seu texto! Até parece que é o Salvador que está escrevendo. Leio atentamente os seus comentários porque tem muito a acrescenrar para mim. Como esse assunto vai muito de quem está escrevendo, vou apenas resumir a parte essencial, que é a questão da consciência e fechar o assunto. Se vc quiser comentar algo depois fique à vontade, como diz o Salvador, não tem sensura. A consciência depende muito da comparação que se faz. Se os robôs tem a capacidade adquir isso, então devem desconsiderar todos os fatores culturais, sociais, filosóficos e históricos que um ser humano adquiriu uma ao longo dos anos. Fato esse que até comecei o meu comentário citando, conhecimentos referindo-se aos conceitos da época do Sidartha Gautama, que expôs o ensino sobre a vida e seus valores. Todos esses fatores acima determinam uma pessoa a adquirir uma personalidade individual assim como o Einstein com sua vasta atividade na ciência. Então isso para mim é uma consciência de vida capaz de tomar decisões para cada situação diferente e correlacionar com as pessoas trocando idéias e conhecimentos e resolvendo problemas sociais adversas.

          2. Concordo Mário,

            Inicialmente considero a coerência dos textos do Salvador insuperável. Ele consegue expor as idéias de forma límpida e de fácil compreensão. Além de embasamento científico que causaria inveja em alguns profissionais da área.

            A questão do futuro da IA está longe de ser desvendada. As questões colocadas pelo Professor são sim pertinentes,justamente por não conhecermos este futuro. Eu particularmente não acredito que robôs chegarão, como simples máquinas, a experimentar algo semelhante à consciência. Não acho que ela seja resultado do processamento cada vez mais rápido das informações. Tem algo a mais ai que nós desconhecemos. Máquinas self learning poderão aprimorar seus próprios algoritmos, mas, acredito, estarão limitadas à incapacidade de gerar algo realmente novo. Estas máquinas serão sim muito eficientes ao tirar o máximo de cada novo conhecimento gerado por humanos. Acredito que pelo menos nos próximos 30 anos esta será a realidade. A estimativa de que já em 2030 as máquinas superarão a capacidade do cérebro, podendo tomar as rédeas do próprio desenvolvimento humano, me parece otimista demais.

  34. As inteligências artificiais e cognitivas estão avançando num ritmo surpreendente. Sou formado em ciência da computação e ha 20 anos fazíamos galhofa de AI. Hoje não mais.
    Essas inteligências ja criam coisas que seus próprios criadores não compreendem direito. Não são mais algorítmicas, determinísticas;são heurísticas e um tanto imprevisíveis já. Vale uma lida sobre o Alpha Go e sobre o chip de rede neural da IBM com 1 milhão de neurônios e 256 milhões de sinapses recém lançado. Como essa tecnologia estará daqui a uma década?
    Não ficaria surpreso se tivéssemos consciência artificial em 10 anos. Mas certamente ficaria muito surpreso se não a tivéssemos em 30 anos.

  35. O HOMEM DEVERIA PREOCUPAR-SE MAIS COM A SOLIDARIEDADE PARA COM OS SEUS SEMELHANTES. AÍ O MUNDO SERIA OUTRO. ENQUANTO O HOMEM CONSEGUIR DOMINAR A MÁQUINA, TUDO BEM. AGORA NO DIA EM QUE COMEÇAR A ACONTECER O CONTRÁRIO, NÃO SEI O QUE SERÁ DA HUMANIDADE.

  37. Só um probleminha nessa história de consciência; Quem garante que temos consciência?
    Senão um amontoado de lembranças! Pensar que a nossa consciência nos dá consciência das coisas e de nós mesmos pode ser um grande erro.

    1. Se você sabe que está lendo este texto, então você é consciente disto – ler o texto – logo, você está usando de sua consciência. É uma questão de lógica…

    2. Cara…tu viajou…é bom dar uma estudada básica em psicologia…

  38. corrigindo, faltou um NÃO numa de minhas frases. “acho muito válido este argumento de NÃO sermos capazes de nos compreender por não podermos nos observar de um ponto de vista externo, “fora” de nos mesmos… ” quanta diferença faz um advérbio, né? 🙂

  39. interessantíssima!! e nos leva a um dilema: os robôs só desenvolveriam consciência similar à humana se os fizermos complexos o suficiente para emular todos os processos da fisiologia humana envolvidos? mas neste caso, não teríamos criado nada, concordam? só imitamos em detalhes algo que já existia em nós mesmos (nossos cérebros e sistema nervoso) e constatamos que, como já era de se esperar, surge uma consciência similar à nossa. é como construir um relógio e verificar que ele começa a mostrar as horas… o que teria de invenção nisto, né? (lógico, desconsiderando todas as complicações envolvidas em desenvolver esta imitação de uma forma precisa, indistinguível do modelo original, que seríamos nós mesmos…).

    acho muito válido este argumento de sermos capazes de nos compreender por não podermos nos observar de um ponto de vista externo, “fora” de nos mesmos… mas se uma consciência diferente de repente “emergir” destes nossos experimentos, teria ela a capacidade de, sendo um observador externo, entender nosso próprio funcionamento? e tendo entendido isto, ela seria capaz de nos explicar o que compreendeu? bom, acho melhor ir parando por aqui, senão minha cabeça começa a acelerar e não consigo mais dormir… 🙁 preciso lembrar que, apear de hoje ter sido feriado, amanhã preciso trabalhar normalmente. e para isto, preciso conseguir dormir e parar de pensar nestes problemas! 😀

  40. Graças a Deus. Só faltava uma consciência límpida, racional, instantânea, lógica, perfeita, ter algo a ver com essa bagunça, essa semi-racionalidade confusa desse bando de primatas agressivos assassinos.

    1. E ainda por cima sujeitos às inúmeras descargas hormonais que interferem em nossas tomadas de decisões. Mas isso não chega a ser consciência e sim inteligência. Quanto à inteligência instantânea, límpida, lógica e perfeita concordo plenamente com você. Será muito bem vinda – já sem tempo – quanto à consciência, concordo com o Salvador: consciência humana a máquina nunca terá, pois ela nunca será humana. Quando muito, poderá desenvolver sua própria consciência de máquina, tal como é. Agora, ter uma inteligência superior, livre dos sentimentos, lógica e instantânea nas tomadas de decisões, será o máximo! Imagine deixar que tal inteligência, por exemplo, escolha, por nós, nossos políticos. Imagine que as decisões políticas sejam tomadas por tais maquinas, sem segundas intenções, sem corrupção, sem sentimentalismos, apenas racionalidade. Imagine deixarmos que escolha nossos parceiros amorosos, não cometeriamos tantos erros e não haveria tantas separações.
      Que venha essa inteligência, pois a humana não dá conta.

    2. maravilha! ela vai chegar à conclusão que somos uma ameaça a nós mesmos e, para nos proteger, conclui que deve nos eliminar. lógica fria, límpida e instantânea… 🙁

  41. “…la certamente não tem nada ver com a gente ou com a consciência humana….”

    “…você já sabe quase com certeza absoluta (porque não existe certeza absoluta em ciência)…”

    hmmmmm paradoxal…
    se você falasse a 50 anos q teria mais do q toda a tecnologia do mundo, em um aparelho q cabe no bolso, no qual vc pode trocar mensagens instantâneas (quase(e de milhares de formas diferentes.)), falar por voz, ou vídeo, com qualquer pessoa, em praticamente qualquer lugar do globo, ao vivo… iam rir da sua cara… da humanidade feliz (e infelizmente, olhando para o lado bélico e os racismos de hoje) nada é impossível.

    1. Quem assistia a Star Trek há 50 anos certamente não riria da sua cara no que diz respeito a celulares e computadores. Mas mesmo em Star Trek o status de consciência das máquinas é controverso. Há um episódio inteiro em que se debate se Data, o androide, deve ser considerado uma pessoa ou uma propriedade…

      1. sim, mas estamos falando de uma parcela pequena da população que enxerga a ficção atual como um poço de idéias para o futuro… me lembro do meu primeiro palm top, a cara dos outros quando viam aquela coisinha… a questão de uma máquina ter uma consciencia humana, tudo depende de como ela evoluir… e não começar a surtar quando ver que quem está fazendo o pior para o homem é ele mesmo, e resolver eliminar a causa “não amigavelmente”. e mesmo se tiver essa idéia, sabemos que muitos hoje compartilham dela… definir o q é humano ou não é bem complicado… mas vamos torcer pelo melhor.

  42. Bacana a entrevista, embora eu ache o seguinte: nem é tão significativo que as máquinas adquiram consciência. Na verdade, está havendo um desacoplamento entre inteligência e consciência. Robôs não conscientes (algoritmos) já fazem várias tarefas muito melhor que humanos. Assimilam dados e tomam decisões muito melhor que as pessoas. A grande questão é que eles, em pouco tempo (talvez até o final do Século XXI), podem reduzir enormemente a importância da força de trabalho humana, seja ela braçal ou intelectual. Qual será o futuro de bilhões de pessoas na economia do porvir?

    1. É isso, o Gleiser reconhece isso, mas ele acha que sempre haverá humanos por trás dessas máquinas especialistas.

      1. O Gleiser é um “transhumanista” haha… ele acredita na simbiose entre homem e máquina. De outro lado, indivíduos como Ray Kurzweil são “dataístas” e creem que o ser humano será substituído por uma fase pós-biológica da humanidade.

        Realmente, não sei o que achar disto. Só que o Século XXI vai ser uma loucura e que sou privilegiado de viver nesta época.

    2. Lembro no tempo da máquina de escrever, quando surgiu o computador, que havia a previsão de que as pessoas ficariam sem emprego… Kkkkkkkkkkkkkkk… Olhando para a situação agora, vemos que só houve uma migração do emprego e que, o computador que servia para economizar mão de obra, acabou gerando muito mais oportunidades de emprego no contexto geral…

      1. É, mas a coisa é muito diferente agora, porque computadores, diferentemente das máquinas de escrever, dobram seu poder a cada 18 meses. 😛

        1. Mas o limite das máquinas está na capacidade do programador por detrás delas, o que impõem um limite de desenvolvimento das máquinas de acordo com nossas limitações… Além disso, máquinas especializadas exigem manutenção especializada, indústria especializada, o que gera empregos aos montes… Acho que só estamos arrumando para a cabeça, desenvolvimento gera trabalho… Cada vez teremos menos tempo livre…

          1. Não acredito nisso. Máquinas podem ser projetadas de forma a desenvolverem-se sem programação, salvo configurações lógicas básicas. Já há robôs aprendendo a se deslocar por um ambiente sem base em programação, só por tentativa e erro — do mesmo modo que nós aprendemos. Da mesma maneira, o Watson, da IBM, “lê” informações como nós lemos, ele não recebe programação específica para, por exemplo, desenvolver respostas a perguntas com base no conhecimento que “leu” na Wikipedia.

          3. Mas as configurações lógicas básicas são colocadas lá pelo programador e alterações sutis nesta programação levam a resultados bem diferentes… E mesmo que o computador aprenda a responder baseado no que ele aprende na internet, ele fica na dependência do programador do Google que escolhe a informação que chegará até ele em função do que ele clicou antes… Sempre terá a mão do homem nesta maneira de programação, felizmente… Acredito que até seja possível o desenvolvimento de sistemas independentes (por mais que tenho receio do resultado disso), mas não acho que será nesta forma de programação que ela aparecerá…

          4. Acho que não será nada difícil criar computadores que se auto-programem ou programem outros computadores, eventualmente tirando o ser humano do processo. Concordo que seja uma má ideia, contudo. Só não sei se é evitável.

        2. Salva, você acha que até programadores estão fadados a desaparecer então?
          Tô lascado, eu que me dediquei tanto a isso por gostar e por sempre ver como profissão do futuro!

          1. Não sei se vai sobrar alguma profissão, falando muito honestamente. Tenho a impressão de que só restarão as artes, que são produtos pessoais e devem continuar tendo seu valor intrínseco, além de não estarem submetidas a critérios objetivos de melhor/pior.

        3. Salvador,

          Estamos bem próximos de atingir a limitação física de construção de CPU’s mais rápidas e menores. A antiga capacidade de dobrar a capacidade a cada 18 meses, já não é mais realidade há alguns anos. Estamos na era de desenvolvimento maior na forma de programar as máquinas atuais e aproveitar ao máximo a sua capacidade de processamento paralelo. Isso é, fazer muitas tarefas ao mesmo tempo.
          É óbvio que isso também tem o seu limite, pois a distribuição de tarefas é centralizada, e algumas tarefas só podem ser executadas após a conclusão de outras.
          Trabalho com programação de computadores há muitos anos, e não vejo nenhum motivo para acreditar que essas máquinas possam se tornar conscientes.

          2. Estamos perto do limite do uso do semicondutor Silício para a produção de CPU’s mais rápidas. Os limites são determinados pelos processos de fabricação que começam a esbarrar na quantidade mínima de átomos de Silício a serem usados para a construção de um transistor. A capacitância está limitando a velocidade de uma única CPU. Todos esses limites continuam sendo superados, mas em ritmo cada vez mais lento, já há alguns anos. Tudo indica que essa superação encontrará barreiras cada vez maiores daqui para a frente, a não ser que surja um novo tipo de computador, como o computador baseado em bits quânticos. Mas isso seria um patamar muito acima do atual e seria um salto gigantesco para a humanidade. Por enquanto não há nada animador nesse cenário. E seguem as pesquisas.

          3. Anibal,

            Esta também é minha opinião. A Intel tem, por exemplo, CPU’s de laboratório que trabalham a 12 GHz de clock e este era o record a pouco tempo. Entretanto são soluções não comerciais, em função de custo e por ser necessário um resfriamento perto do zero absoluto. A indústria chegou a um limite prático de clock da ordem de 4GHz, e isto pode ser comprovado pelas CPU’s atualmente em uso. O caminho que se segue é aumentar o número de núcleos, usando técnica semelhante à dos supercomputadores. Logicamente, neste caso, não teria um limite próximo, uma vez que poderíamos produzir computadores com, digamos, 1000 núcleos. O limite seria apenas de consumo de energia. Esta fase da computação vai se estender por algum tempo e deve se exaurir também. O próximo grande salto virá quando nos libertarmos da álgebra binária das máquinas e partirmos para uma matemática baseada em vários níveis. Mas as complicações crescem em ritmo geométrico e os investimentos também.

    3. não acho isto ruim. vejo as máquinas (como fazem a pouco mais de 1 século) fazendo nosso trabalho repetitivo e maçante, nos permitindo ter mais tempo livre para pesquisarmos sobre o mundo e realizar trabalhos criativos, que é no que somos bons mesmo! 🙂

  43. SE ELE tivesse visto nois, no tempo que ainda corriamos de leopardos e quando a gente descia de árvores e enrabava tudo que tava descuidado na margem do rio bebendo água, ele diria a mesma coisa de nois, podes crer, amizade.

Comments are closed.