Um cientista e seu Frankenstein

 

 

Após deixar o Google, o pai
da Inteligência Artificial manifesta seu
medo diante de máquinas que se revelam
aprendizes melhores que os humanos

Por John Naughton 

|No início do mês, um emi-
nente cientista britânico
lançou uma granada no
agitado formigueiro de
pesquisadores e corpora-
ções obcecados pela Inteligência Artifi-
cial, ou IA, tecnologia também conheci-
da como aprendizado de máquina.
O cientista era Geoffrey Hinton, e a
bomba foi a notícia de que ele estava dei-
xando o Google – onde trabalhara nos
últimos dez anos – porque queria ter
liberdade para expressar seus medos sobre
os rumos da tecnologia que ajudou a criar.

 
A indústria da tecnologia é uma fera
que, ocasionalmente, apresenta surtos de
exuberância irracional, ou seja, loucura.
E, neste momento, estamos tomados por
mais um desses surtos, desencadeado pe-
la “IA generativa” – chatbots, grandes mo-
delos de linguagem (LLMs) e outros arte-
fatos exóticos possibilitados pela implan-
tação maciça de aprendizado de máquina.
Recentemente, mais de 27 mil pes-
soas ficaram tão alarmadas com a cor-
rida na direção de uma distopia movida
pela máquina que emitiram uma carta
aberta pedindo pausa de seis meses
no desenvolvimento da tecnologia. “A
IA avançada pode representar uma
mudança profunda na história da
vida na Terra”, disseram, “e deve ser
planejada e gerenciada com cuidados e
recursos proporcionais.”

 
Foi uma carta delicada. E os gigantes
da tecnologia, que têm um longo histó-
rico de indiferença às necessidades da
sociedade, não vão deixar um grupo de
intelectuais nervosos barrar sua nova
oportunidade de dominar o mundo.

 
É por isso que a intervenção de Hinton
foi tão significativa. Ele é o responsável
pela pesquisa que deslanchou a tecnolo-
gia agora solta no mundo e esse seria, por
si, um motivo bastante convincente para
que se preste atenção no que ele diz. Além
disso, se existe algo como um pedigree
intelectual, Hinton é puro-sangue.

 
Seu pai, um entomologista, era mem-
bro da Royal Society. Seu tataravô foi
George Boole, matemático do século XIX
que inventou a lógica na qual se baseia a
computação digital. Seu bisavô foi Charles
Howard Hinton, matemático e escritor
cuja ideia de uma quarta dimensão se tor-
nou um elemento básico da ficção cien-
tífica e foi parar nos filmes de super-he-
róis da Marvel. Sua prima, a física nuclear
Joan Hinton, foi uma das poucas mulhe-
res a trabalhar no Projeto Manhattan,
que, durante a guerra, em Los Alamos,
produziu a primeira bomba atômica.
Hinton foi obcecado pela IA durante
toda a sua vida adulta, em especial pelo
problema de como construir máquinas
capazes de aprender. Uma abordagem
inicial para isso foi criar um “Perceptron”
– máquina modelada no cérebro humano

 e baseada no tipo simplificado de um neu-
rônio biológico. Em 1958, um professor da
Universidade Cornell, nos EUA, chegou a
construir uma máquina mais ou menos
assim e as redes neurais se tornaram um
tema quente. Mas, em 1969, foi publica-
da uma crítica devastadora de dois pro-
fessores do MIT e, de repente, as redes se
tornaram história velha. Exceto por um
pesquisador obstinado – Hinton –, que
estava convencido de que elas possuíam
a chave do aprendizado de máquina.
Como escreveu Cade Metz, repórter de
tecnologia do New York Times, “Hinton se-
guiu sendo um dos poucos a acreditar que
um dia cumpriria sua promessa, entregan-
do máquinas que poderiam não apenas re-
conhecer objetos, mas também identifi-
car palavras faladas, entender a lingua-
gem natural, manter uma conversa e tal-
vez até resolver problemas que os huma-
nos não conseguiriam resolver sozinhos”.

 
Em 1986, ele e dois de seus colegas na
Universidade de Toronto, no Canadá, pu-
blicaram um artigo histórico mostrando
que haviam resolvido o problema de per-
mitir que uma rede neural se tornasse
aprendiz em constante aprimoramento.
Eles usaram para isso uma técnica mate-
mática chamada “retropropagação”. Num
movimento astuto, Hinton batizou essa
abordagem de “aprendizagem profunda”.
Em 2012, o Google pagou 44 milhões
de dólares pela empresa incipiente que
ele montou com seus colegas, e Hinton foi
trabalhar para a gigante da tecnoloogia.

No processo, liderou e inspirou um gru-
po de pesquisadores que fizeram grande
parte do trabalho inovador subsequen-
te da empresa em aprendizado de máqui-
na, em seu grupo interno Google Brain.

 
Durante o tempo que passou no
Google, Hinton não achou que seu tra-
balho pudesse nos levar a um futuro dis-
tópico. “Até muito recentemente”, disse,
“eu pensava que essa crise existencial es-
tivesse muito distante. Então, realmente
não me arrependo do que fiz.”

 
Agora que se tornou um homem no-
vamente livre, ele começou a explicar o
porquê de sua preocupação: as novas má-
quinas revelaram-se aprendizes muito
melhores que os humanos. “A retropro-
pagação pode ser um algoritmo de apren-
dizado muito melhor do que o nosso. Is-
to é assustador (...). Temos computadores
digitais que podem aprender mais coisas
com mais rapidez e podem ensinar uns
aos outros. É como se as pessoas na sala
pudessem transferir instantaneamente
para a minha mente o que elas têm em
suas cabeças.”

 
Ele sugere ainda que, no fundo, o que
mais o preocupa é que essa poderosa tec-
nologia esteja totalmente nas mãos de al-
gumas grandes corporações. Até o ano
passado, disse ele a Metz, o jornalista que
traçou seu perfil, o Google agia como um
administrador adequado da tecnologia,
tomando cuidado para não liberar algo
que pudesse causar danos.

 
“Mas, agora que a Microsoft ampliou
seu mecanismo de busca Bing com um
chatbot – desafiando o negócio principal
do Google –, o Google está correndo para
implantar o mesmo tipo de tecnologia”,
afirmou. “As gigantes da tecnologia es-
tão presas em uma competição que po-
de ser impossível de parar.”

 
E ele tem toda razão. •

CARTA CAPITAL