Pesquisador alerta: domínio das máquinas pode levar ao fim do mundo

A dominação das máquinas já chegou há um bom tempo às telonas do cinema. Entretanto, acreditar que os enredos de Hollywood se tratam apenas de ficção pode ser o maior erro da humanidade. A afirmação é dura e até parece um pouco sensacionalista, mas tem uma fonte confiável: Stephen Hawking – uma das mentes mais brilhantes do nosso século.

Em Transcendence – A Revolução, longa estrelado por Johnny Deep e dirigido por Christopher Nolan, a inteligência das máquinas é levada até um limite ousado e provoca algumas polêmicas. A tentativa de criar uma consciência online tem resultados desastrosos no filme que estreia no dia 19 de junho no País. Em um artigo para o Independent comentando a produção, o físico teórico e cosmólogo britânico chamou a inteligência artificial (IA) de um avanço arriscado.

—A inteligência artificial pode ser o maior evento na história da humanidade. E também pode ser último, a não ser que a humanidade aprenda a evitar os riscos. As consequências podem ser negativas.

Hawking assina o documento em conjunto com outros nomes notáveis do meio científico: o cientista da computação Stuart Russel e os físicos Max Tegmark e FrankWilczek – este último recebeu o prêmio Nobel de Física em 2004. O professor do departamento de Informática do Centro Técnico Científico da PUC-Rio (CTC/PUC-Rio), Bruno Feijó, faz coro a Hawking e seus colegas.

Responsável por estudos em IA voltados para o design gráfico e jogos, Feijó acredita que estamos vivendo duas revoluções tecnológicas: a da inteligência artificial e da visualização de dados.

— A Inteligência Artificial é a mudança mais impactante e a [área] que está mais precisando de avanços. A gente vive um momento de reflexão de alguns questionamentos sobre a inteligência artificial. E não só por causa dos filmes. A atenção que esse grupo dá ao tema tem relação com o estudo dos impactos que isso implica e seus riscos. Não seria exagero falar de risco de extinção, no sentido de grandes impactos que podem acontecer na economia e em outras situações.

Computadores singulares

Você pode não saber disso, mas o celular que tantas pessoas carregam nos bolsos é mais avançado do que os computadores usados pela Nasa para enviar Neil Armstrong e a tripulação da missão Apollo 11 à Lua, em 1969. O reconhecimento de voz, assistentes virtuais e até mesmo os jogos embarcados nesses aparelhos contam com sistemas dedicados a entender o que você fala e transformar suas informações em serviços – tudo baseado em inteligência artificial.

Um exemplo simples: ensinar o Google a interpretar o que você diz em português e traduzir isso em uma resposta ao seu questionamento não parece algo perigoso. Entretanto, o gigante das buscas tem planos mais ambiciosos: estar à frente do que seus usuários buscam. Algo como, responder as perguntas que você ainda não fez. Durante o aniversário de 15 anos do buscador, tive a oportunidade de questionar um dos especialistas do time brasileiros de desenvolvimento da ferramenta se ainda há perguntas que o Google não consegue respondeu.

Educadamente, o especialista em inteligência artificial da companhia explicou que a ferramenta ainda deixa algumas perguntas sem resposta e me deu um exemplo: "Se você perguntar qual é o 20º presidente do Brasil, o buscador não vai saber responder corretamente, porque ainda não existe essa informação na rede". Ou seja, o serviço "se alimenta" do conteúdo postado na internet. A coisa começa a ficar mais assustadora para você agora?

Acrescente na receita carros que se dirigem sozinhos, robôs que são mais rápidos do que seres humanos e sistemas miliares totalmente autônomos. Como explica o professor Hawking em seu artigo:
— Irving Good compreendeu em 1965, máquinas com inteligência super-humana poderiam melhorar seu design repetidamente, dando início ao que Vernor Vinge chamou de “singularidade”.

Sistemas, controle e influência

Você acessa um serviço de busca ou streaming de vídeo – Netflix, YouTube e tantos outros por aí – com alguma frequência, não é mesmo? Nesse caso, você provavelmente já parou para pensar que a oferta de conteúdo leva em consideração o que você gosta mais de ver. A boa notícia é que isso (ainda) não é o fim do mundo. A má notícia é que, no melhor dos casos, você provavelmente está sendo monitorado e influenciado por inteligência artificial, explica o professor da PUC-RJ.

— Os sistemas que você acessa pelo seu celular, que capturam suas preferências são mais do que controle ou invasão de privacidade. Termina sendo uma influência, aquilo influencia toda uma cultura, uma geração inteira. As pessoas acham que têm um poder de escolha, mas estão sendo influenciadas a partir de uma participação delas mesmas. São visões preocupantes.

Por falar em assistentes virtuais, esses serviços embarcam maior quantidade de tecnologia e que podem evoluir para uma verdadeira inteligência computacional independente. Para Feijó, é necessário fazer ressalvas ao cenário mais caótico, sem deixar de levar essa possibilidade em conta.

— Tem exageros para todos os lados. Sempre com alguma razão para isso. No fundo, a minha interpretação ao texto é uma preocupação que cabe nesse momento de reflexão. A gente está vendo essas inquietações, através desses filmes, mas também de muitas coisas concretas. Os carros do Google, as assistentes digitais, a batalha entre Apple, como a Siri, o Google Now e a Microsoft com a Cortana.

Outro exemplo apontado pelo professor do CTC da PUC-Rio sobre computadores superando humanos está na área dos games. Em 2007, um programa chamado de Chinook, criado na Universidade de Alberta (Canadá), se tornou impossível de ser derrotado no jogo de damas.

—O programa Chinook, que joga damas, se tornou invencível. Isso significa muita coisa, não é que ele venceria apenas qualquer humano, ele venceria qualquer coisa. Porque matematicamente se tornou um programa invencível.