Hype da IA' não pode rebaixar o pensamento humano e bloquear debate sobre a tecnologia
Com avanço da IA, a capacidade de máquinas passa a definir o significado da inteligência humanaFase de superexcitação com a tecnologia está de volta, mas a história mostra que destino não é inexorável
[RESUMO] Em reflexão sobre as raízes históricas da inteligência artificial, autora retoma a previsão do matemático Alan Turing, que propôs que o debate sobre o significado do pensamento humano seria esquecido no final do século 20 com o fim dos questionamentos sobre a inteligência das máquinas. Hoje, a falta de humildade epistêmica em um período de desenvolvimento acelerado da tecnologia pode causar grandes catástrofes.
Paris inteira correu para ver o flautista. Pessoas de todas as idades tentavam achar um bom ângulo para assistir àquele espetáculo inusitado.
Na grande estreia daquela noite, o músico era um autômato. A máquina havia sido construída pelo mecânico francês Jacques de Vaucanson e fazia movimentos contidos em cima de um pedestal. Mais do que um suporte, escondia-se ali o mecanismo engenhoso que dava vida ao flautista. O público saiu encantado com a precisão da performance, que foi destaque nos jornais daquele janeiro de 1738.
Sempre fui fascinada por brinquedos de corda, feitos de metal, com pintura delicada e colorida. Na minha estante de livros, tenho um carrossel, um pintinho, um elefante, um pião e um humanoide, todos com aquela aura retrô.
Quando chego cansada do trabalho, costumo dar corda no pintinho para vê-lo ciscar compulsivamente em cima da mesa, até o mecanismo se exaurir. Já o carrossel toca Edith Piaf enquanto gira cavalos e demoiselles. Em nenhum momento, esqueço que são engenhos mecânicos. Ao contrário, é isso que têm de encantador.
Até que ponto as máquinas podem imitar seres humanos? Essa pergunta vem de longe. Ninguém achava, no século 18, que o flautista iria superar um músico de carne e osso. Para isso, seria preciso reproduzir a característica humana mais singular: a inteligência.
Ao longo do século 19, foram muitas as tentativas de imitar essa faculdade, especialmente com a invenção das primeiras máquinas de calcular, propostas por Charles Babbage para substituir o trabalho mental. O avanço da computação, durante a Segunda Guerra Mundial, tornou a questão mais urgente ao fim do conflito.
Em 1950, surgiu um teste para verificar se a inteligência dos computadores pode se equiparar à humana. A proposta foi feita pelo matemático Alan Turing, conhecido como um dos pais da computação, no artigo "Máquinas de computação e inteligência". Apesar de celebrado como inventor da "inteligência artificial", ele não usava esses termos.
Sou historiadora da ciência e, nessa profissão, partimos da premissa de que investigar a obra de um cientista exige recuperar as noções como por ele empregadas, sem encaixá-las retrospectivamente nas denominações atuais. Olhar o passado com os olhos do presente é anacronismo, vício a ser evitado na prática da história. De fato, Turing queria saber se as máquinas podem pensar, mas formulou a pergunta em termos peculiares, que podem passar despercebidos aos olhares açodados de hoje.
Antes de investigar se as máquinas podem pensar, seria preciso responder à pergunta: o que caracteriza o pensamento humano? Mas essa questão é difícil demais, e Turing faz um desvio:
"Acredito que a pergunta original, 'as máquinas podem pensar?', é insignificante demais para merecer discussão. No entanto, acredito que, no final do século, o uso das palavras e a opinião geral das pessoas instruídas terão mudado tanto que será possível falar de máquinas pensando sem esperar ser contrariado."
A previsão é espantosa, além de profética: a busca pelo significado do que é pensar será esquecida até o final do século 20 e, só assim, será possível falar de máquinas pensando sem ser contrariado. É exatamente o que está acontecendo hoje. Não parece mais importar o que há de especial na inteligência ou no pensamento ou até onde o ser humano pode levar o exercício dessas faculdades. Basta saber como são percebidas em seu uso mais comum. Chamamos esse fenômeno de demônio de Turing.
A percepção é uma faculdade traiçoeira, contaminada por interesses. E se estivermos enganados a cada vez que nossos sentidos nos fizerem crer que observamos algo real? Esse é um dilema da filosofia desde a caverna de Platão.
A dificuldade se agrava com a pergunta de Descartes: e se estivermos equivocados a cada vez que tivermos uma certeza? Um gênio maligno poderia estar nos enganando, diz o filósofo francês. Mesmo verdades básicas e aparentemente inquestionáveis, como as verdades matemáticas (2 + 3 = 5), poderiam ser falsas e a certeza que experimentamos sobre elas talvez seja obra do demônio.
A hipótese do gênio maligno, o demônio de Descartes, é uma forma de nos convencer sobre a necessidade de um método rigoroso para obter certezas.
Turing não era filósofo. Preocupado com critérios práticos para avaliar a performance dos computadores, propôs substituir a pergunta "as máquinas podem pensar?" por um teste, chamado de jogo da imitação. Uma máquina e uma pessoa humana devem responder a perguntas, posicionados de forma que um júri, encarregado de avaliar as respostas, não consiga ver de onde elas vieram. Se o júri errar, ou seja, se avaliar como humanas as respostas fornecidas pela máquina, ela pode ser dita inteligente.
Vejam a ironia: Turing não estava tentando desvendar os mistérios do pensamento humano, apenas provar que isso não é necessário para dizer se uma máquina se equipara a um ser humano na tarefa de responder a perguntas. Diferente do flautista, que escondia seu maquinário dentro do pedestal, o jogo da imitação requer um ser humano escondido. Rebatizado mais tarde de teste de Turing, o desafio sugere que a máquina pode ser equiparada à inteligência humana se conseguir iludir pessoas de carne e osso.
A ideia de inteligência artificial surgiu um pouco depois, em 1956, quando um professor do Dartmouth College, John McCarthy, convocou pesquisadores de peso das áreas de computação, neurociências e cibernética para uma conferência. Como estratégia para tornar o convite sedutor, incluiu um termo chamativo na proposta: inteligência artificial.
Tratava-se de um nome novo para os estudos sobre autômatos, mas não só. O objetivo era avançar na conjectura de que qualquer característica da inteligência pode ser descrita com tanta precisão que é possível treinar uma máquina para simulá-la. Nessa época, o tipo predominante de inteligência artificial era bem diferente da atual, mais influenciada pela lógica do que pela estatística.
Essa IA clássica costuma ser chamada de Gofai, um acrônimo para "good old-fashioned AI" (digamos, a boa e velha IA). Dito de modo resumido, a IA simbólica aprendia a partir de regras explícitas, ao contrário das técnicas atuais, que se apoiam na enorme quantidade de dados disponíveis na internet.
Naquela época, já se falava em redes neurais, ideia que está na base da IA de hoje. Mas apenas nos anos 1990, com o avanço do poder computacional, ela passou a exibir resultados satisfatórios. As diferenças entre a Gofai e as redes neurais são difíceis de explicar, mas o contraponto ajuda a lembrar que não existe apenas um caminho.
A história da IA é marcada por surtos periódicos de superexcitação intercalados com os chamados invernos da IA, nos quais os limites se tornam aparentes, o entusiasmo se esvai e o financiamento é cortado.
Durante a década de 1960, abordagens simbólicas obtiveram sucesso na simulação de comportamentos inteligentes em jogos, matemática simbólica ou demonstração de teoremas. Depois, o investimento declinou. O ano de 1973 foi um marco, com publicações jogando um balde de água fria nos métodos usados até ali e mudando o foco da pesquisa. O entusiasmo retornou, até que as promessas não cumpridas culminaram em outra reação negativa na década de 1980.
Estaríamos retornando à fase de superexcitação? Será que ela vai demorar? Parece que sim, mas o senso histórico ajuda a lembrar que não se trata de um destino inexorável.
Nossa definição de inteligência está mudando com o avanço da IA. É normal que os conceitos mudem de sentido, mas precisamos estar atentos para que essa mudança não acabe diminuindo o potencial da inteligência humana e bloqueando um debate franco sobre os rumos da tecnologia.
Na matemática, existe uma grande diferença entre resolver problemas e formulá-los. Em geral, não se percebe isso, pois o ensino básico é excessivamente focado em resolver problemas, como usar a fórmula de resolução de equações do segundo grau, encontrar a soma dos termos de uma progressão aritmética ou multiplicar matrizes. Um matemático profissional não faz nada disso. Ele propõe novos problemas. Se forem bons, esses problemas podem virar teoremas, motivar boas teses de doutorado ou ser aplicados a outras áreas. Costumo dizer que os problemas são o motor da matemática.
Neste momento, grandes cientistas e empresários comemoram o sucesso de uma ferramenta de IA na Olimpíada Internacional de Matemática. Os entusiastas correm para dizer que estamos diante de uma inteligência artificial comparável à dos humanos, já que a matemática é símbolo de inteligência.
De fato, a IA é uma ótima resolvedora de problemas, mas estamos longe de vê-la inventar problemas consistentes, ofício de todo bom cientista. À frente da empresa ligada ao Google que criou a ferramenta vitoriosa nas olimpíadas, Demis Hassabis reconhece essa diferença entre resolver e inventar problemas. Os grandes avanços da ciência dependem da formulação de boas perguntas, não só das respostas certas.
Luciano Floridi é um filósofo que tem refletido sobre as implicações éticas da IA. Para ele, a inteligência artificial de hoje é uma dissociação entre a resolução bem-sucedida de problemas e o comportamento inteligente. Dissociação é uma palavra forte. Ela sugere que o comportamento inteligente não está sendo mobilizado, em toda a sua amplitude, quando a IA executa as tarefas necessárias para resolver problemas, pois estão ausentes a consciência, a perspicácia, a sensibilidade, os insights, a experiência e a sabedoria.
Mesmo sem nenhuma dessas capacidades humanas, a IA fornece soluções convincentes, mas graças às técnicas avançadas para processar enormes quantidades de dados produzidos pelos seres humanos.
O sucesso da IA depende de uma construção pouco explícita: foi criado um ambiente favorável, no qual as tecnologias inteligentes se sentem em casa. Vivemos agarrados a nossos celulares, os objetos da casa se tornam smart, a TV e o fogão vêm com um assistente de bordo inteligente, os veículos possuem chips e um GPS nos acompanha. Tudo isso deixa rastros em dados e mais dados.
Talvez o mundo esteja se adaptando à IA, e não o contrário, do mesmo modo como nossas mãos adquirem a forma de um celular, nossas relações reais refletem traços de nosso comportamento nas redes sociais e nosso cérebro apodrece com o tempo gasto na internet, como descrito no chamado "brain rot".
O demônio de Turing é o gênio maligno que nos leva a avaliar nossa própria inteligência a partir do que a máquina é capaz de fazer. Esse é um risco invisível nas discussões sobre o futuro e o poder da IA. Uma redefinição vai se firmando, sem que os termos estejam explícitos. Só então "será possível falar de máquinas pensando sem esperar ser contrariado", exatamente como Turing previu.
As ideias vão se adequando aos ares do tempo de tal maneira que nem sequer estranhamos quando um caminhão autônomo é considerado uma façanha da inteligência artificial, mesmo que até há pouco tempo não achássemos que dirigir fosse uma atividade inteligente.
Os avanços dos próximos anos serão velozes e precisaremos de critérios para avaliar se estamos realmente perto de uma inteligência artificial equiparável à dos humanos. Pode ser útil examinar se ela sabe inventar problemas tão bem quanto um bom matemático —e o mesmo vale para a arte e outras áreas criativas, que dependem mais de perguntas consistentes do que de respostas eficazes.
Os debates sobre inteligência artificial são envolvidos por muito hype. Isso atrapalha uma conversa franca sobre suas consequências, desde os impactos no mundo do trabalho até o uso dos recursos naturais. Encantamento e ocultamento são dois lados do mesmo demônio, distrações que terminam por esvaziar nossa agência e desmobilizar a ação política necessária para incidir nos rumos da IA. Não é uma tarefa fácil, mas a história nos lembra que há técnicas diversas e algumas podem ser mais úteis do que outras se fixarmos o bem comum como objetivo.
"Não acredite no hype da IA" é o título de um artigo de Daron Acemoglu, prêmio Nobel de Economia. Ele mostra, com riqueza de dados, que os ganhos de produtividade, por enquanto, são modestos e a "automação pelo prazer de automatizar" amplia as desigualdades sociais. Acemoglu é um dos defensores mais eloquentes da ideia de que devemos direcionar o curso da mudança tecnológica e não aceitar o caminho atual como inevitável.
Húbris é um conceito de origem grega, comumente associado à soberba. Os mitos antigos advertiam para o perigo de se superestimar a contribuição humana diante de grandes conquistas. Quando obtêm sucesso importante em algum feito, como vencer guerras ou inventar ferramentas poderosas, os humanos correm o risco de subestimar o papel da fortuna e achar que tudo é fruto de sua própria genialidade.
Mais uma vez, o demônio está à espreita, só que o excesso de confiança irrita os deuses. A sensação de invulnerabilidade e a falta de humildade epistêmica que a húbris enseja podem despertar a ira dos deuses e ocasionar grandes catástrofes. Precisamos evitá-las, e redirecionar o uso e as prioridades no desenvolvimento da IA é parte dessa missão.
Este texto é uma versão adaptada da introdução de "A Máquina e Nós: Promessas e Armadilhas da Inteligência Artificial", que será publicado pela Todavia em junho.
Nenhum comentário:
Postar um comentário