Marcelo Pita

Não existe sistema inteligente?

No começo do mês passado foi veiculado no Jornal da Ciência da SBPC um artigo intitulado “Não existe sistema inteligente”, publicado originalmente no Jornal Estado de Minas no final de Julho. Trata-se de uma crítica à Inteligência Artificial.

Sinceramente, não compreendi por que um jornal tão lido por cientistas e profissionais das mais diversas áreas veiculou um artigo com tão poucos argumentos válidos, direcionados inocentemente contra um campo de pesquisa. Digo “inocentemente”, porque tenho certeza de que se o propósito era simplesmente mostrar argumentos contrários à Inteligência Artificial, não seria difícil encontrar artigos mais coerentes e com discursos mais profundos do que aqueles de céticos que tem um primeiro contato com a área. Há fortes argumentos contrários à IA, mas estes apresentados pela autora via JC e-mail estou certo de que causaram vergonha alheia na maioria dos pesquisadores da comunidade brasileira de inteligência artificial.

Como ninguém fez isso até o momento, cá vou eu comentar partes do artigo. Não porque eu sou bom o suficiente para contra-argumentar, mas porque realmente ninguém o fez, e consequentemente não deixar a sensação no neófito de que os argumentos são bons.

” No convívio diário com as chamadas tecnologias da informação deparamo-nos frequentemente com expressões que atribuem inteligência a diversos sistemas, dispositivos e objetos construídos pelo homem tais como prédio inteligente, celular inteligente, robô inteligente e software inteligente.

A questão da possibilidade de construção de máquinas inteligentes foi tratada por Descartes em seu “Discurso do Método”, texto publicado em 1637. Descartes argumenta que, mesmo que possamos construir máquinas assemelhadas ao nosso corpo e que imitem nossas ações, haverá ainda duas maneiras de distingui-las dos humanos. A primeira é que as máquinas jamais poderão usar palavras e outros sinais da mesma forma que fazemos para expressar nossos pensamentos. Uma máquina pode até proferir palavras e reagir a algumas ações mas não é possível imaginar uma máquina respondendo com sentido a tudo que é dito em sua presença, tal como pode fazer o mais obtuso dos homens. “

Essa visão de que máquinas inteligentes estão focadas exclusivamente em imitar o comportamento humano já está há algum tempo ultrapassada. Trata-se de uma visão antropocêntrica da inteligência. Não se pode julgar a inteligência de um sistema, natural ou artificial, pela sua capacidade de imitar ações humanas ou usar nossa linguagem.

” A segunda maneira, ensina ele, é que, embora as máquinas possam fazer muitas coisas muito bem, e possivelmente até melhor do que nós, infalivelmente fracassariam em outras. Isso comprovaria que não agem por entendimento e sim porque são arranjadas para aquela tarefa específica. Enquanto a razão é um instrumento universal que pode servir a todo tipo de situação, as máquinas precisam de uma disposição particular para cada tipo de ação e é impossível construir uma máquina com capacidade para agir em todas as situações da vida, tal como é a razão humana. “

A ideia de que a razão, sobretudo a razão humana, nos dá a capacidade de agir em todas as situações da vida é muito pretensiosa. Seres humanos – e não só eles, mas qualquer sistema tomador de decisão finito – possuem racionalidade limitada (vide trabalhos do Nobel Herbert Simon).

Não só não temos solução, como também não sabemos agir em muitas situações da vida! Além de tudo, sistemas inteligentes artificiais são sistemas de aprendizado, isto é, seu comportamento emerge de uma computação não programada por um agente humano. Longe do que se pensa, programadores de sistemas inteligentes não programam comportamentos explicitamente, mas sim estruturas de aprendizado. Estas aprendem a agir inteligentemente, com possibilidades de erro, claro, para um ou mais propósitos. Desde 1959 já sabemos disso pelos computadores jogadores de damas de Arthur Samuel.

” O argumento de Descartes permanece rigorosamente verdadeiro. Quando ligamos para uma central de atendimento, para resolver problemas ou solicitar serviços, percebemos imediatamente se estamos sendo atendidos por máquinas ou por pessoas. Uma frase basta, mesmo quando ouvimos uma voz humana gravada. E nem o computador mais sofisticado à venda pode buscar um copo de água na cozinha, ou comprar pão na padaria do outro lado da rua. “

Não há um problema aí: com vozes parecidas ou não com a de humanos, o objetivo desses sistemas de atendimento não é passar no teste de Turing, mas simplesmente fazer o atendimento. Se o atendimento vai bem ou mal, é outra questão que pode-se discutir depois, e que não apresenta limite técnico pelo menos nesta tarefa.

Em geral, um computador não tem mãos e pés para pegar água na cozinha ou comprar pão na padaria. Na realidade, essas não são tarefas muito inteligentes. Dotado de um atuadores adequados, um computador, ou robô, pode ir na cozinha pegar água, e não precisa ser muito inteligente para isso, apenas cibernético (formalmente se falando). Além disso, dê à padaria uma interface adequada para compras online e entrega em domicílio que o agente web dos mais burros compra pão em dia e horário programado. Afinal de contas, há hoje agentes de software que fazem transações em cenários muito mais importantes e inteligentes, como em mercados de ações, por exemplo.

” Desde a invenção do computador o homem trabalha para inserir inteligência nas máquinas. Com o propósito de avaliar o sucesso dessa empreitada, Alan Turing propôs, em 1950, o conhecido Teste de Turing, cujo objetivo é demonstrar a possibilidade de computadores se passarem por humanos. O teste de Turing consiste em avaliar a eficácia da máquina para a tarefa de estabelecer e manter conversa com uma pessoa. A prova é realizada por meio de um terminal similar a um monitor. O juiz estabelece uma conversa, por meio de textos digitados, com um interlocutor. O juiz não sabe se o interlocutor é uma máquina ou uma pessoa. Ao concluir a conversa, o juiz deve indicar se do outro lado há um humano ou uma máquina. Qualquer dúvida indica que a máquina passou na prova.

Turing previu que até o fim do século XX os computadores passariam facilmente em seu teste, o que não se confirmou. A competição Loebner Prize, que reproduz o teste de Turing, é realizada desde 1990. Dois prêmios principais são oferecidos anualmente e a competição terminará assim que eles forem atribuídos, o que até agora não ocorreu. “

O teste de Turing avalia capacidade de imitação do diálogo humano, que é inteligente, mas não é a única evidência de inteligência em um sistema (claro!). A linguagem tem sua importância, na maioria das vezes para fins de interface. Nem toda computação inteligente envolve produção de resultados representados em linguagem humana. Afirmar que somente o que é veiculado em linguagem humana é inteligente é o mesmo que afirmar que gênios da matemática não são inteligentes porque usam abstrações em linguagem matemática formal, algumas delas não representáveis na língua portuguesa, por exemplo.

” Nas últimas décadas, enquanto o conceito de inteligência humana evoluiu na esteira das pesquisas na área, a definição de inteligência artificial involuiu para acomodar o sonho da construção de sistemas inteligentes. Nos tempos atuais, duas definições são geralmente encontradas. A primeira indica que inteligência artificial é uma propriedade de máquinas que executam funções que exigem inteligência quando executadas por pessoas. Esta é uma definição frágil: máquinas executando qualquer tarefa não apresentam nenhuma inteligência, pois somente seguem instruções previamente definidas. O projeto da solução e a construção da máquina que realiza a solução são tarefas que requerem inteligência e talento, mas a simples repetição cabal de uma tarefa não garante à máquina repetidora nenhuma inteligência. “

Novamente se recai em conceito errado de sistema inteligente. Não se trata de programação explícita, mas de computação emergente por aprendizado.

” Os sistemas construídos pelo homem, computacionais ou não, estão cada vez mais sofisticados e complexos. Considere, por exemplo, as espaçonaves, a Internet, grandes parques industriais e uma infinidade de sistemas essenciais para a vida contemporânea, que não são qualificados como inteligentes. Os sistemas operacionais controlam computadores no mundo inteiro e seriam fortíssimos candidatos a serem caracterizados como inteligentes, mas o termo não é associado a eles. Podemos dizer que são eficientes, rápidos, escaláveis, estáveis, robustos e seguros mas não são inteligentes. Seria possível ter um software “inteligente” executando sobre um sistema operacional burro?  “

Eu realmente não sei como lidar com um argumento desses. Como eu posso responder? Com perguntas talvez? Vejamos: É possível existir um ser humano inteligente “executando” em um mundo burro? É possível ter um sistema nervoso inteligente executando sobre um corpo orgânico burro? Esse argumento nega as evidências de existência da evolução e da inteligência como fenômeno emergente. A autora com este argumento parece revelar ser adepta da teoria do Intelligent Design, que é uma forma mais contemporânea de criacionismo. Nada contra os criacionistas, mas não se pode simplesmente dizer que sistemas são inteligentes porque foram construídos por seres inteligentes, nem o contrário. Fenômenos emergentes são fato.

” Mais recentemente, a inteligência artificial foi definida como o estudo e o projeto de agentes inteligentes. Um agente inteligente é uma entidade autônoma que age em um ambiente. A Wikipédia ensina que um agente inteligente pode ser um homem ou um termostato. Ora, um termostato é um sensor e não tem nenhuma inteligência. Caracterizar como inteligente uma estrutura que altera suas características físicas ou químicas em função do ambiente em que se encontra é uma afronta a qualquer estudante de física básica ou de filosofia. Um agente é um dispositivo programado para coletar dados de um ambiente e executar certas ações, antecipadamente programadas, a partir de cálculos executados com os dados coletados. Não há nenhuma inteligência embutida no agente, apenas código e tarefas a serem cumpridas. Projetar o agente é a ação inteligente. “

Russell e Norvig propuseram em seu livro “Artificial Intelligence: A Modern Approach“, no Capítulo 2 (Agentes Inteligentes), uma classificação de modelos de agentes com base em sua complexidade. O tipo de agente menos complexo é o que eles chamaram de agente reativo simples, codificado como um conjunto de regras do tipo “se-então”, dentre os quais o termostato melhor se encaixa.

Mas o agente reativo simples é, digamos, o “Hello World!” da programação orientada a agentes. Todos os outros tipos mais complexos, a saber, baseados em modelos, baseados em objetivos e baseados em utilidade, são adaptativos, isto é, aprendem no tempo. Isso sem mencionar todo o universo de técnicas inteligentes que não são orientadas a agentes.

” Mito – O desenvolvimento e a popularização dos computadores foram acompanhados por sua desmistificação. A distinção entre os computadores e o cérebro humano torna-se cada vez mais evidente, não apenas para os estudiosos, mas também para os leigos. A inteligência humana caracteriza-se pela capacidade de compreender, abstrair, raciocinar, planejar, solucionar problemas, usar a linguagem, aprender e se esclarecer. Ser inteligente é surpreender, é receber e responder ao novo. Trata-se de razão e entendimento, capacidades que definitivamente não existem nos computadores digitais. “

Embora esteja se falando em modelos de raciocínio como habilidades que apenas humanos podem ter, desde muito cedo os estudos em IA tinham um forte componente simbólico usando linguagens lógicas. Representar conhecimento e realizar inferências lógicas é uma coisa já facilmente automatizada, e claro não é exclusividade de seres humanos. Modelos de raciocínio já estão formalizados em nível simbólico desde a antiguidade.

” Essa máquina programável recebe, armazena, processa e transmite dados numéricos. Palavras, imagens, sons e vídeos são transformados em números binários (sequências de zeros e uns). Um programa computacional é composto por instruções matemáticas e lógicas, além de instruções de entrada e saída de dados. Um computador executa fielmente as instruções passadas a ele por meio dos programas, isto é, resolve os problemas exatamente da forma que foi programado para resolvê-los.

Um programa computacional não adiciona código a si mesmo para considerar uma situação não prevista durante a programação. Um programa não se adapta a um contexto não previsto em seu código nem é capaz de surpreender-se com algo inesperado nem de esclarecer-se acerca de um assunto ou problema. Um sistema computacional, por mais sofisticado e complexo que possa parecer, somente executa bit a bit as instruções dadas em seu código. “

Novamente, o argumento inocente de “o computador só faz o que é programado para fazer”. Ora, se você programa um computador para ele se reprogramar com base no aprendizado e percepção, em que esse processo difere dos sistemas inteligentes naturais, senão em ambiência e organicidade?

” Máquinas e sistemas inventados pelo homem não tem ideias, não fazem conexões novas entre objetos e saberes (além das que já estão programadas), não geram novas compreensões, não estabelecem nem reveem fundamentos. Sistemas realmente inteligentes construiriam uma nova sociedade – não humana – com sua política, sua cultura e sua vida social.

Se a máquina não pensa, como pode ser inteligente? Ou, se a máquina é inteligente, então ela pensa? Como separar a inteligência do pensamento? Há inteligência sem pensamento? E como desvincular a inteligência da razão e do entendimento? Como separar a inteligência do humano? E da vida? Há inteligência sem vida? “

Hoje máquinas manipulam conceitos, estabelecem conexões entre eles, inferem novos, reveem alguns, podem ser cientes de contextos, etc. A autora confunde uma série de fenômenos, como pensamento, inteligência, razão, entendimento, ser humano e vida.

Respondendo as perguntas: uma máquina pode pensar (elaborar modelos do mundo) e não ser inteligente (não se adaptar ao meio, dinamicamente); por outro lado, uma máquina pode ser inteligente e não pensar; alguns organismos podem se adaptar ao meio, ser inteligentes, sem gerar pensamentos – a própria evolução natural é um processo inteligente sem o concurso de pensamentos; separar a inteligência do humano é fácil: cães são inteligentes; a inteligência é altamente influenciada pela natureza do agente, inclusive se ele é vivo ou não, se é consciente ou não, mas a inteligência não assume a vida, nem consciência, como pressuposto.

” A inteligência está em idealizar, arquitetar e construir os sistemas e não no sistema produzido. Ao construir sistemas, não atribuímos a eles nenhuma inteligência, nem produzimos inteligência nos sistemas. Projetar e construir um produto ou sistema bem elaborado, engenhoso e eficaz é uma ação inteligente mas não transfere inteligência para o produto. Máquinas somente executam as instruções gravadas em seu código. O computador é uma máquina capaz de executar instruções, apenas isso. É como uma engrenagem, mas uma engrenagem digital, em vez de uma engrenagem mecânica.

Muita fantasia e ficção científica são necessárias para designar qualquer sistema, objeto ou dispositivo atual, produzido pelo homem, como inteligente. Dizer que um sistema é inteligente é equivalente a dizer que um boneco, destes que encontramos em lojas de brinquedo, está vivo porque mexe os braços e fala algumas frases. Coisa de criança.”

Este é o argumento recorrente. É altamente sugerido à autora ler mais sobre o assunto, porque a crítica sem conhecimento é o que realmente aparenta “coisa de criança”. E como especialista da área, é esta a sensação que tenho do texto.

” Enquanto alimentamos a fantasia da construção de sistemas inteligentes, gerações de profissionais e cientistas estão sendo formadas sob essa falsa bandeira. Os algoritmos estudados sob o rótulo de IA são importantes para a computação, mas não produzem sistemas inteligentes. Redefinir o conceito de inteligência para acomodar sonhos e fantasias é um enorme equívoco científico. No desenvolvimento da ciência, ocasionalmente é preciso romper para avançar, e esse é o caso. Abandonar o rótulo é avanço, não retrocesso. “

Para o desenvolvimento da ciência brasileira, além de tudo que precisamos, começaríamos bem em romper com a “filosofia de fim de semana”. Mas certamente esse é parte de um problema maior, de formação, quando hoje muitos cientistas da Computação no Brasil saem da Universidade (ou se mantém nela) sem nenhuma visão mais aprofundada dos seus vários campos de pesquisa. Mas uma regra geral para se fazer ciência caberia aqui: não é razoável criticar o que não se conhece.

Para fechar eu gostaria de sugerir o curso de Machine Learning com Andrew Ng da Stanford University. Esse mesmo curso será oferecido para todo o mundo, online, este semestre, com inscrições em http://www.ml-class.com/. Há um outro de Artificial Intelligence, com Sebastian Thrun e Peter Norvig (co-autor de AIMA), com inscrições já abertas em http://www.ai-class.com/.

13 comentários

  3. Hans, posso tentar no JC-online.

    Sobre o assunto, o que me deixou mais surpreso foi a não manifestação de nenhum representante “de peso” da comunidade de IA/IC brasileira. Claro, pesquisadores com carreiras sólidas não se incomodam de jeito nenhum com textos com argumentos tão “inocentes” como este. Mas o ponto é que a negligência, do ponto de vista educacional, pode afastar cérebros que ainda estão se iniciando cientificamente, e que confiam em um veículo como o Jornal da Ciência.

    Um abraço.

    Curtir

    Responder

  4. Sou autora do artigo e falo sério. Obrigada pela leitura e comentários no seu blog. Pela primeira vez vi alguém defender que o computador pensa! Interessante. Você compara o ser humano com os computadores em vários momentos…

    A comunidade de IA não respondeu porque não há resposta a não ser concordar. Muitas pessoas da comunidade, inclusive líderes que você conhece, concordam 100% com o meu artigo. Antes de publicar o artigo, eu tive o cuidado de enviá-lo a vários cientistas da computação brasileiros, para saber a opinião deles. Tenho os emails. Nenhum discordou. Eu não sou nenhuma neófita.

    O mais incrível é que o que eu escrevi é compartilhado por pesquisadores e filósofos há décadas! Há uma falha no ensino de IA que é justamente não apresentar as críticas. Sugiro os livros do professor Hubert Dreyfus da UC Berkeley, que foi cientista da computação e depois se tornou filósofo. Dentre seus vários livros sugiro “What Computers Still Can’t Do: A Critique of Artificial Reason”.

    O próprio Bruce G. Buchanan, membro fundador e ex­-presidente da American Association for Artificial Intelligence (AAAI) escreveu, em 2005, para celebrar os vinte e cinco anos da inteligência artificial, um artigo denominado “A (Very) Brief History of Artificial Intelligence”. Segundo ele, a história da inteligência artificial é recheada de fantasias e promessas. Ele indica que a fantasia da construção de máquinas inteligentes ainda vive mesmo quando acumulamos evidência da complexidade da inteligência. Palavras dele.

    Sugiro também o artigo “Computer versus Human Thinking” de Peter Naur (CACM 2007), que ganhou o prêmio Turing em 2005 (ironicamente) rejeitando as ideias de Turing e afirmando que o pensamento humano não é computável. O prêmio Turing é o maior prêmio da computação mundial. Ele justifica dizendo que cérebro é composto de uma matéria totalmente diferente. Para ter inteligência é preciso ter vida. E a máquina não é viva, não é ser vivo.

    Para ter uma ideia de como o cérebro funciona, sugiro ler o livro do Miguel Nicolelis, “Muito Além do Nosso Eu”, que é uma aula de neurociências. O próprio Nicolelis diz que o cérebro nunca será computável. Não é possível ter inteligência artificial.

    De fato, é muito fácil contestar meu artigo: basta apresentar um único sistema inteligente. Então o artigo estaria refutado. Nem é preciso argumentar. Apresente um e discutiremos a inteligência dele.

    A IA é a alquimia dos tempos atuais. A alquimia digital. Comparação feita por Hubert Dreyfus em 1965, e ainda válida. Os estudos em química tratam das transformações químicas. No entanto, nenhuma transformação química produz ouro a partir de metais não nobres. Assim, nenhum curso de química oferece a disciplina de Alquimia. Analogamente, a computação trata das transformações algorítmicas. Porém, nenhum algoritmo produz inteligência. Mas nós temos disciplinas de IA… Os alquimistas contemporâneos… Veja que assim como o objetivo frustrado da alquimia produziu muitos desenvolvimentos em química, o mesmo acontece em IA. Muitas novas tecnologias foram e estão sendo desenvolvidas nos estudos de IA. Mas não temos inteligência artificial, só natural mesmo…

    Curtir

    Responder

    • Olá Cristina. Obrigado pelo comentário. Sim, é verdade, eu defendo a possibilidade de um computador processar ou fazer emergir isso que chamamos de pensamento. E certamente não sou o primeiro. Agora, podemos discordar sobre *isso que chamamos de pensamento*. Observe que discordamos em muitos conceitos, como pensamento, inteligência, vida, razão, entendimento, etc. Mas tem um ponto que discordamos que me surpreende: o de considerar a inteligência como atributo humano. Eu, sinceramente, não sei como você não vê inteligência fora do domínio humano.

      Bom, o ponto é que se você me questiona sobre a possibilidade de uma human-like AI (que é o objeto de análise de teste de Turing), eu diria que é bobagem, apenas porque é uma tentativa de imitação. Mas se você me questiona sobre uma human-level AI, no seu sentido integral, eu direi que é uma questão de tempo. E coloco no futuro apenas “o sentido integral”, porque parcialmente já conseguimos realizar tarefas inteligentes de nível humano usando sistemas de computação. Sistemas de computação que realizam tarefas inteligentes eu costumo chamar, para encurtar, de sistemas inteligentes. E isso nada tem a ver com consciência e outras propriedades subjetivas, mas apenas com aprendizado no tempo.

      Veja, eu não simplesmente comparo o ser humano com um computador: eu estou dizendo que ele é um computador! Ora, se ele não é um computador, o que seria? O universo é um sistema de computação, inteligente em muitos aspectos. Você pode questionar se ele é computável em uma máquina de Turing… tudo bem. Mas não pode negar que ele é uma máquina de computação. Se seu argumento contrário é espiritualista, contudo, eu não poderei continuar a discussão.

      A comunidade de IA como um todo não respondeu, mas eu, que faço parte da comunidade, respondi. E realmente eu tenho plena certeza que mais de 90% dela discorda dos seus argumentos (não digo 100% porque sempre há outliers…). Veja, eu não quero que você apóie sua opinião no renome de outros pesquisadores, eu gostaria que você construísse uma tréplica sobre meus contra-argumentos da postagem. Se quiser, você pode convidar seus colegas para ajudar.

      Peter Naur é um grande cientista da Computação. Suas contribuições em formalização e descrição de linguagens, juntamente as de John Backus, foram e continuam sendo essenciais para a Ciência da Computação. Sendo assim, mais do que merecido ele ter sido contemplado com o Turing Award… mas não tem a ver com computabilidade de inteligência, não é verdade? Tem a ver com BNF e Algol. Me diga, que matéria especial é essa de que é feito o cérebro? Matéria inteligente? Matéria viva? Estamos voltando para a teoria do magnetismo animal do século XIX, aquele que anima todos os seres vivos e se fosse coletado e aplicado sobre corpos inertes eles se tornariam vivos?

      Eu já li “Beyond Boundaries”. Excelente livro. Conheço a visão do Nicolelis, inclusive já discuti com ele sobre o assunto. Nos prometemos continuar essa discussão em algum outro momento, em um espaço adequado (talvez o site da Comissão do Futuro). O argumento de Nicolelis sobre o “cérebro não computável” está apoiado na impossibilidade de reprodutibilidade da história evolucionária do cérebro. Bom, os eventos complexos naturais que representam o projeto evolucionário – se assim podemos chamar – de um complexo sistema nervoso animal não podem ser reproduzidos in silico, eu concordo. Mas não se pode discordar que esta capacidade foi em parte depositada no nosso próprio cérebro. Da mesma forma, a probabilidade de existir, digamos, uma ponte, um prédio, um computador, qualquer artefato humano é… zero! Mas lá estão eles, existentes por meio dos cérebros de seres humanos. O fato é que ninguém nunca apresentou uma formalização da não computabilidade do cérebro. Não basta dizer que o cérebro é complexo o suficiente para nenhum ser humano criar uma estrutura similarmente complexa. É preciso provar formalmente que ele não é computável usando suas unidades elementares, os neurônios, e suas ligações. A pergunta correta é que ninguém ainda respondeu é: um neurônio é computável em uma máquina de Turing? Isso apenas para o mode conexionista de ver a IA…

      Já somos dependentes de uma grande quantidade de sistemas inteligentes (por favor, não confunda com sistemas conscientes). Por exemplo, o sistema de RI da Google (que você provavelmente usa todos os dias, inclusive para encontrar este meu artigo) é um sistema inteligente: por favor, apenas porque aprende no tempo, não porque é consciente.

      Os sistemas conscientes ainda virão! 🙂

      Curtir

      Responder

  5. Olá Pita,

    Sou graduando em Eng. da Computação pela UPE, onde você também se formou =)
    Também faço pesquisas nas áreas de IA/IC e, por participar do CIRG-UPE, tomei conhecimento deste seu post.
    Achei excelente os seus contra-argumentos e concordo com todos eles, inclusive com a afirmativa de que a autora precisaria se aprofundar mais na área para construir essas críticas. Talvez o famoso artigo que Turing entitulado de “COMPUTING MACHINERY AND INTELLIGENCE” e datado de 1950 poderia ser um ótimo ponto de partida para reflexões (não sei se ela já leu).

    Além das congratulações feitas, um dos motivos para eu comentar no seu blog é a minha curiosidade acerca de quais seriam os seus argumentos para embasar a sua crença de que “(…)sistemas conscientes ainda virão(…)”. Para ser bem sincero, não tenho nenhum argumento que me faça assumir qualquer uma das respostas, por isso eu gostaria de saber o que você teria a dizer sobre isso (eu sei que isso na verdade seria outro post, mas eu realmente fiquei curioso).

    Atenciosamente,

    Marcelo Lacerda

    Curtir

    Responder

  6. Olá Marcelo!

    Os sistemas artificiais conscientes ainda são uma promessa. Na verdade há um problema de se aferir consciência de um sistema, mesmo vivo, porque é uma experiência totalmente subjetiva, que se infere no outro por simples identificação. A inteligência pode ser aferida pelo comportamento adaptativo observável, mas a consciência, como eu disse, é totalmente subjetiva.

    Mas a consciência, assim como a inteligência, é um fenômeno emergente. Conseguimos produzir sistemas com comportamento emergente e adaptativo porque conseguimos entender a evolução do comportamento no ambiente em que ele está inserido. Quanto à consciência, vamos ter que aguardar ela acontecer e se revelar como consciência, enquanto podemos apenas criar as condições para ela emergir. E claro, essa não será uma consciência humana.

    Curtir

    Responder

  7. Prezado Marcelo, veja minhas respostas a seguir:

    1) Eu estava vendo o site da Comissão do Futuro, passando pelos grupos de discussão e vi que meu artigo havia sido citado nesse grupo. Entrei somente para responder aos questionamentos.

    2) Eu não sou criacionista nem espiritualista, nada disso, muito pelo contrário.

    3) Para mim, definitivamente o ser humano não é um computador. Se você pensa assim, só posso sentir muito. Para mim, não somos programados, somos pessoas com suas possibilidades e limitações, muitas delas dadas pela natureza, e outras pela cultura.

    4) Não penso que a inteligência existe apenas nos humanos. Meu gato, por exemplo, é sem dúvida inteligente. Penso que para ser inteligente é preciso ser vivo, isto é, viver. Ser vivo é, digamos, o pré-requisito, a condição necessária, mas talvez não suficiente. O que importa é que os sistemas produzidos pelo homem não são vivos. Ainda não produzimos vida artificial.

    5) Quanto às suas perguntas: o prêmio Turing recebido pelo Peter Naur não é relacionado com teoria de linguagens e sim com o pensamento humando e a computação. Ele tem uma teoria que mostra que o cérebro não é computável. Leia o artigo dele cujo título é “Computer versus Human Thinking”, de 2007, publicado na CACM. Naur defende que o computador é uma máquina de descrição, muito útil para descrever uma grande variedade de fenômenos mas o pensamento humano não está incluído. O pensamento é devido à plasticidade dos elementos do sistema nervoso, que não é encontrada em computadores. Para descrever o pensamento humano é necessário ter uma forma material completamente diferente, não digital. É o mesmo que o Nicolelis fala no livro: o cérebro é plástico, moldável, adaptável. O computador não é adaptável (em termos de hardware mesmo), não se molda em função do que faz e produz, tal como é o cérebro humano. Quanto ao neurônio, o próprio Nicolelis diz que um neurônio sozinho não é nada, não faz nada, por isso a computação baseada em neurônio não representa o que acontece no cérebro.

    6) A própria Google não considera que o sistema de busca é inteligente. Recentemente ela mudou o nome da divisão de Search para Knowledge (e não Intelligence). Ela diz que a busca usa técnicas de IA mas nem ela, nem a Apple nem outras empresas dizem que seus sistemas são inteligentes. No primeiro semestre o sistema Watson da IBM ganhou um concurso de perguntas da TV americana e os cientistas deixaram muito claro nas entrevistas que o sistema deles não é inteligente (para espanto de alguns jornalistas!) As empresas sabem que não é possível produzir sistemas inteligentes, pelo menos atualmente.

    7) Quanto a comunidade não refutar meu artigo: pelo contrário, muitos apoiaram. Teve até gente que me disse que saiu da IA há vários anos após ouvir questionamentos similares. Nesse caso, acho que você é o outlier…

    8) Futuro: você aposta que teremos sistemas plenamente inteligentes, eu aposto que não… mas só o futuro dirá.

    9) A maior prova de que não existe sistemas inteligentes é que estamos discutindo se eles existem! Ninguém discute se existe carro, computador ou a lua. Basta mostrar.

    Há muita gente séria que questiona os sistemas inteligentes, veja as publicações do Hubert Dreyfus. Veja o artigo dele no Wikipedia: http://en.wikipedia.org/wiki/What_Computers_Can%27t_Do “By the early 1990s several of Dreyfus’ radical opinions had become mainstream.”

    Essa discussão está mais para uma disputa de palavras do que uma disputa real, disputa de fatos. Por isso, encerro aqui.

    Quem quiser discutir ou entrar em contato para detalhes ou bibliografia, favor postar no meu blog: http://inconfidente.blogspot.com/

    Curtir

    Responder

  9. Olá MarceloS e pessoal, debates são sempre úteis para exercitar nossas mentes e testar nossas teorias. Pita entendo perfeitamente sua cobrança por respostas para o artigo. De fato a nossa rotina muitas vezes nos afasta de conversas boas como essa. Mas saiba que suas necessárias contra-argumentações são absolutamente suficientes e brilhantemente colocadas; apesar de ser magrinho você se posicionou como alguém de peso 😀 Sim suas opiniões foram cuidadosamente postas e não pretendem ser a verdade mas tentar ir ao encontro dela, pois o maior erro de um pensador é querer estar certo. Fiquei feliz ao ler em seu texto que nossas reflexões conjuntas sobre IA forte/fraca ainda permanecem firmes e que a leitura do paper de Turing (como lembrou Lacerda) é cada vez mais atual. Todos, lemos esse paper com nossos Alunos de IA na POLI/UPE todos os semestres desde de 2004. Aliás, como sempre recomendo, antes de debates polêmicos é sempre bom um olhar epistemológico e semântico sobre a discussão – o que nesse caso seria muito benéfico. Por exemplo se entendermos inteligência como capacidade de aprender e usar conhecimento no futuro, rapidamente abandonamos a questão antropocêntrica da IA. Com isso não estou me evadindo da questão de podermos construir inteligência “human-level”. A minha opinião é que inteligência humana será improvável, senão impossível em máquinas, já que para isso a máquina teria de experimentar humanidade. Mas penso que muito em breve vamos ter inteligência “human-level”! E afirmo isso, não porque li alguém ou vi um computador XYZ fazer algo, afirmo isso porque mesmo preliminarmente estamos conseguindo em nossos trabalhos fechar o triângulo cibernético de Pierce (mesmo preliminarmente, já conseguimos alguma semeiose automática). Bom, outros deveres me chamam mas continuem debatendo isso! É muito mais interessante que discutir se os estádio vão ficar prontos para a copa. Abraço, Fernando Buarque

    Curtir

    Responder

  10. Professor Fernando Buarque,

    Já não sou tão magrinho assim como na época do Mestrado e graduação! rs

    Nas suas aulas de IA, tanto a leitura de artigos importantes, como o “Computing Machinery and Intelligence” de Turing, quanto os seminários que varrem o estado-da-arte em IA/IC, são essenciais. O resultado é ver graduandos, como o Marcelo Lacerda acima, pensando sobre problemas relevantes de borda em nossa área.

    Obrigado pelos comentários complementares.

    Um abraço!

    Curtir

    Responder

Deixe um comentário