Richard Feynman sobre IA: Máquinas e Humanos

Este é um trecho de perguntas e respostas sobre o tópico de inteligência artificial de uma palestra de Richard Feynman, em 26 de setembro de 1985.

Máquinas Podem Pensar como Humanos?

Primeiramente, se elas pensarão como seres humanos, eu diria que não. E vou explicar em um minuto por que digo não. Em segundo lugar, se elas serão mais inteligentes que os seres humanos, é uma questão de como a inteligência é definida.

Se você me perguntasse se elas podem ser melhores jogadores de xadrez do que qualquer ser humano jamais poderá ser, a resposta é sim. Algum dia elas serão. Atualmente, elas já são melhores jogadores de xadrez do que a maioria dos seres humanos. Aliás, uma das coisas que sempre fazemos é querer que a maldita máquina seja melhor do que qualquer um, não apenas melhor do que nós.

Se encontramos uma máquina que joga xadrez melhor do que nós, isso não nos impressiona muito. Continuamos perguntando: "E quando ela enfrentar os mestres?". Imaginamos que nós, seres humanos, somos equivalentes aos mestres em tudo, certo? A máquina tem que ser melhor do que uma pessoa no mais alto nível, naquilo que a melhor pessoa faz. É difícil para a máquina, mas...

Com relação à questão de fazê-la pensar como uma máquina, minha opinião se baseia na seguinte ideia: tentamos fazer essas coisas funcionarem da maneira mais eficiente possível com os materiais que temos. E os materiais são diferentes dos nervos e assim por diante. Se quiséssemos fazer algo que corresse rapidamente pelo chão, poderíamos observar uma chita correndo e tentar fazer uma máquina que corresse como uma chita. Mas é mais fácil fazer uma máquina com rodas, rodas rápidas, ou algo que voe logo acima do solo.

Quando fazemos um pássaro, os aviões não voam como um pássaro. Eles voam, mas não como um pássaro, certo? Eles não batem as asas exatamente. Na frente, eles têm outro tipo de dispositivo que gira, ou o avião mais moderno tem um tubo que aquece o ar e o esguicha para trás — propulsão a jato. Um motor a jato tem turbinas internas rotativas e usa gasolina. É diferente. Portanto, não há dúvida de que as máquinas futuras não vão pensar como as pessoas pensam, nesse sentido.

Com relação à inteligência, acho que é exatamente da mesma forma. Por exemplo, elas não farão aritmética da mesma maneira que nós, mas farão melhor.

Comparando Habilidades: Humanos vs. Computadores

Vamos pegar a matemática bem elementar: aritmética. Eles fazem aritmética melhor do que qualquer um, muito mais rápido e de forma diferente. Mas é fundamentalmente o mesmo, porque no final os números são equivalentes, certo?

Então, esse é um bom exemplo de que nunca vamos mudar como eles fazem aritmética para torná-la mais parecida com a dos humanos. Isso seria um retrocesso, porque a aritmética feita por humanos é lenta, desajeitada, confusa e cheia de erros, enquanto esses caras são rápidos.

Se compararmos o que os computadores podem fazer com os seres humanos, encontramos as seguintes comparações interessantes.

Primeiro, se eu der a um ser humano um problema como este: "Vou lhe dar uma série de números e quero que você me devolva um sim, um não, em ordem inversa. Por favor, agora mesmo.

Vou te dar uma série de números e quero que você me devolva... Vou facilitar pra você, apenas me dê os números de volta na ordem em que eu os dei. Pronto? Um, sete, três, nove, dois, seis, cinco, oito, três, um, sete, dois, seis, três." Alguém consegue fazer isso? E isso não são mais do que vinte ou trinta números.

Mas você pode dar a um computador 50.000 números assim e pedir a ordem inversa, a soma de todos eles, fazer coisas diferentes com eles, e ele não os esquece por um bom tempo. Portanto, há coisas que um computador faz muito melhor do que um humano. É melhor você se lembrar disso se for comparar máquinas com humanos.

Mas o que um ser humano sempre faz é tentar encontrar uma coisa que ele possa fazer melhor que o computador. Agora sabemos de muitas coisas que os humanos podem fazer melhor que um computador.

Uma mulher andando na rua, ela tem um certo tipo de gingado e você sabe que é a Jane, certo? Ou um cara entrando e você vê o cabelo dele balançar um pouquinho, é difícil ver à distância, mas aquele jeito engraçado específico da parte de trás da cabeça dele, "esse é o Jack", ok?

Reconhecer coisas, reconhecer padrões, parece ser algo que não conseguimos colocar em um procedimento definido. É difícil para as máquinas no momento, e algumas dessas coisas são feitas em um piscar de olhos por uma pessoa.

Por exemplo, um arquivista no departamento de impressões digitais, que olha para as impressões digitais e faz uma comparação cuidadosa para ver se elas combinam. Isso é quase impossível de ser feito por um computador. Você diria: "Não tem segredo, eu olho para as duas impressões e vejo se todos os pontos são iguais." Mas, claro, não é o caso.

O dedo estava sujo, a impressão foi feita em um ângulo diferente, a pressão foi diferente. Essas pequenas complicações tornam a comparação muito mais difícil para o sistema de "arquivista cego" da máquina. É lento demais para ser prático no momento. Enquanto isso, um ser humano consegue superar tudo isso de alguma forma, assim como fazem no xadrez; eles parecem captar os padrões rapidamente. E não sabemos como fazer isso de forma rápida e automática.

A Descoberta de Novas Ideias e a Heurística

Os computadores podem descobrir novas ideias e relacionamentos por si mesmos?

Bem, depende do que você quer dizer com "por si mesmos". É difícil descobrir novas relações. Houve computadores que resolvem problemas de geometria, nos quais converteram o problema de encontrar a prova de um teorema em um procedimento definido. E uma vez que você faz isso, embora seja uma maneira elaborada e "burra" de fazer provas, eles conseguem.

No momento, um computador não pode fazer todas as coisas diferentes que uma pessoa pode fazer. É muito difícil encontrar uma maneira de definir com precisão algo que podemos fazer e dizer que um computador nunca será capaz de fazer. As pessoas sempre tentam ter certeza de que podem fazer algo que nenhuma máquina pode fazer. De alguma forma, não as incomoda mais que as máquinas sejam fisicamente mais fortes, que possam levantar pesos maiores, mover coisas mais rápido, correr mais rápido, voar... não nos preocupamos com isso.

Podemos facilmente fazer máquinas que sejam melhores do que nós em prever o tempo, por exemplo. O que você faz para prever o tempo é olhar registros antigos, ver quando as circunstâncias foram semelhantes e supor que os resultados serão semelhantes, adicionando a isso uma certa análise do movimento do vento de acordo com as leis da física e uma certa dose de "mágica".

A velocidade será maior e a eficácia da previsão será maior se você puder analisar mais casos. É totalmente concebível que a máquina possa fazer a previsão do tempo de forma mais rápida e precisa do que nós. Nós, no entanto, teremos dado a ela o procedimento.

A questão é: o que acontece se não dermos o procedimento? As pessoas tentaram isso. O jogo de dar, em vez de um procedimento direto, um tipo do que foi chamado de heurística: tente uma analogia para ter uma nova ideia, compare isso com aquilo, tente um caso extremo, etc.

Um homem chamado Lenat foi o mais longe com isso. Ele fez esta máquina que era basicamente um sistema de arquivamento. O que ela faz é tentar encontrar a resposta para algo olhando as diferentes possibilidades. Mas quais ela tenta é algo como os padrões no xadrez. Em vez de tudo, ela diz: "tente os movimentos perto do centro do tabuleiro primeiro, esqueça os dos cantos", ou algo assim.

Ele aplicou isso a um tipo de jogo naval. É um jogo com regras complexas onde você tem um orçamento para construir navios com diferentes armamentos e blindagens. O Sr. Lenat testou seu programa neste jogo e inseriu heurísticas como "tente casos extremos". E ele venceu o campeonato da Califórnia.

Como ele venceu? Naquele ano, ele venceu construindo um único navio de guerra gigante com toda a blindagem, o que era tão bobo, mas quando você calcula, com certeza é melhor do que qualquer uma das coisas normais que ninguém pensou. Mas a máquina dele pensou. No ano seguinte, ele competiu novamente e desta vez venceu fazendo o oposto: gastou todo o seu dinheiro em cem mil pequenos barcos, muito frágeis, cada um carregando uma arma. Eles eram muito fáceis de destruir, mas eram cem mil. Eles não conseguiam destruir todos, então esses "mosquitos" irritantes vinham e, quando você calculava, ele vencia de novo.

No terceiro ano, ele não foi autorizado a jogar.

O programa aprendia. Se ele vencia usando uma heurística, ele aumentava o valor daquela heurística, para que ela fosse usada com mais frequência. Então, a habilidade da máquina dependia de seu aprendizado sobre quais truques funcionavam melhor.

As "Fraquezas" da Inteligência Artificial

Ele reclamou que havia vários "bugs" (falhas) no programa. E eu penso que esses bugs mostram inteligência.

Um dos bugs foi que a máquina criou uma heurística para si mesma. A heurística dizia: "Toda heurística ou pergunta que tenha 'Lenat' nela, não preste atenção". Isso economizava muito tempo! Ela poderia fazer muito melhor se não tivesse problemas com aquele cara. Então, ela não deu atenção a ele naquela noite.

Na vez seguinte, ele teve outro bug. Ele descobriu que a heurística número 693 tinha obtido uma pontuação de 999 de 1000. Era uma heurística extremamente útil. A noite toda, a máquina continuou usando a heurística 693 cada vez mais, e parecia resolver todos os problemas. Quando ele foi ver o que era a heurística, era o seguinte: "Ao atribuir crédito, sempre atribua crédito à heurística 693".

Ambos os casos mostram inteligência. Se você quer fazer uma máquina inteligente, vai ter todo tipo de maneiras malucas de evitar o trabalho. Se eu digo "não preste atenção ao problema", isso é uma forma de desenvolver uma distorção psicológica. Nós sempre fazemos a mesma coisa.

Então, acho que estamos nos aproximando de máquinas inteligentes, mas elas estão mostrando as fraquezas necessárias da inteligência.