Kasparov

3.15.2023

People are afraid of AI not because we don’t know what it is capable of, but because we know what humans are capable of. It’s a powerful tool and those are often abused. But ethics are for people. https://t.co/NFb4pSSjdN

— Garry Kasparov (@Kasparov63) March 20, 2023

This article is a reprint. You can read the original at Metropoles.

By Fabricio Vitorino

“Garry Kasparov é uma das mentes mais respeitadas e reconhecidas do planeta. Um dos maiores jogadores de xadrez da história, ativista político e escritor, o russo nascido em 1963 se tornou um voz a ser ouvida sobre inteligência artificial do planeta, sobretudo após a série de jogos contra a inteligência artificial “Deep Blue”, da IBM, em 1996, com uma revanche em 1997.

No South by Southwest, Kasparov falou sobre como proteger sua identidade digital em tempos de ciberguerra em uma palestra, onde também lançou um livro, publicado pela Gen/Avast, fabricante de antivírus. Na sequência, em entrevista exclusiva com o Metrópoles, o ativista russo falou sobre os possíveis rumos da inteligência artificial – e sobre os possíveis riscos que ela pode representar.

Ainda que a conversa tenha começado com comentários sobre a premiação do Oscar ao filme “Naválny” (sobre o opositor ao presidente russo Vladimir Putin, que hoje está preso), a lenda do xadrez optou por não falar sobre um dos temas que mais aborda nas redes sociais: a invasão da Ucrânia pela Rússia. No entanto, a pulseira azul e amarela, com os dizeres “Stand with Ukraine” (estou com a Ucrânia), e as dezenas de fotos com ucranianos na fila de autógrafos, sinalizam que Kasparov não abre mão de defender suas causas.

Você acha que estamos em uma fase da IA que ela está sendo preparada até para falhar, como os humanos fazem? No seu tempo, por exemplo, o Deep Blue foi programado para derrotá-lo, não para falhar.

Em uma premissa muito simples, as máquinas buscam pelos melhores resultados. Portanto, eles têm que tomar decisões baseadas na comparação de vários fatores. Pode ser super simples, pode ser mais complicado, mas, no final das contas, é uma questão de matemática. Portanto, não vejo como nossas falhas, até mesmo o conceito de fracasso, possa ser explicado, pois colocaria todo o conceito de “machine thinking” em perigo. Portanto, é um ponto forte primordial das máquinas. Foi assim que começamos com um algoritmo de minimax. De você buscar e buscar sempre o melhor resultado, a melhor sugestão.

Portanto, não se trata do conceito de vencer ou fracassar…

Trata-se sempre do efeito máximo de qualquer decisão a ser tomada. E criatividade significa que você está entrando no desconhecido e não sabe qual será o resultado. E sim, você está sempre buscando pela vantagem, pelo melhor resultado, mas você entende que pode ser pior, que pode falhar. A máquina não. Portanto, esta IA não está disposta a ser um humano para pensar que você deve agir como um humano Ele está disposto a descobrir a melhor opção. Isso é algo assim. Sim.

Então a IA não está querendo ser humana, não quer pensar como um humano. Está sempre buscando a melhor solução, é isso?

É, é, você sabe, é que quando você olha para este cara (Greg Brockman, cocriador do ChatGPT) sobre quem todos escrevem agora, assim seu trabalho é baseado em dados, em amostras, e que está buscando pelo impacto, pelo melhor resultado. Então, como você pode chamar de criatividade? Não é novidade, porque ainda está usando certos conhecimentos que foram acumulados, construindo padrões com base nos tijolos da experiência humana anterior, não veio do nada. A máquina não revoluciona as coisas, mas entenda, não estou aqui para minimizar a importância da IA, mas é importante adquirir novos padrões e nos ajudar a entender melhor as coisas. No xadrez, por exemplo, o programa AlphaZero me ensinou muitas coisas. Mas, de novo, não posso dizer que a IA é criativa.

… Ela pode criar, mas não ser criativa?

Sim, ele cria, mas criatividade é o que é deve ter as falhas humanas.

Sendo assim, a inteligência artificial pode ensinar os humanos? Ensinar crianças a ler, a desenhar?

Absolutamente. Sem dúvida. É claro que o algoritmo pode passar o conhecimento, e desde que esteja passando o conhecimento, isso é perfeito. E, a propósito, eles podem se tornar “criativos”, entre aspas, ao fazê-lo, e isso é ótimo. Quer dizer, é mais sofisticado, passar o conhecimento descobrindo e analisando as formas mais eficazes de aprendizagem das crianças. Eles vão olhar para os bilhões de terabytes de estatísticas, e dizer, esta é a maneira de ensinar matemática. É mais eficaz do que outras…

Com esta criança ou com esta pessoa, há uma maneira melhor de generalizar a matemática… aplicando modelos diferentes a pessoas diferentes?

A personalização pode ser difícil, mas escolher os problemas certos. Absolutamente. É o que esperávamos, porque nos ajuda a maximizar o efeito de passar elementos do conhecimento humano de grupo para grupo, de pessoa para pessoa, de geração para geração.

Aqui mesmo no SxSW, Greg Brockman, criador do ChatGPT, disse que a “IA veio para ampliar as capacidades humanas”. Na sua visão, é isso mesmo?

Sim, absolutamente. As máquinas nos tornaram mais fortes, mais rápidos. Agora, eles nos tornaram mais inteligentes. Isso não é o que eu tenho ouvido, mas é o que eu tenho dito. Trata-se de amplificar, nossa capacidade de trabalhar com ou sem conhecimento.

Então, até mesmo levando em consideração as partidas que o sr. jogou contra o Deep Blue. O sr. aprendeu algo com o Deep Blue?

Deep Blue era só isso (faz gesto de muito pequeno com as mãos). Hoje o aparelho que você tem é milhares de vezes mais poderoso. Claro que você pode aprender alguma coisa, pois ele cometia poucos erros. Mas pelos padrões modernos, foi um programa muito medíocre.

Mas a IA inventou algo no xadrez? Não podemos dizer que revolucionou?

Com as máquinas é apenas AlphaZero. Os jogos jogados por máquinas que não foram influenciados por humanos começaram do zero. Basicamente, AlphaZero é um conceito que é baseado na estrutura que eles forneceram à máquina. E a máquina apenas continua jogando, jogando, jogando aprendendo. Máquina aprendendo por si só. E, e é por isso que o sistema de avaliação dos padrões que a máquina adquiriu depois de jogar milhões e milhões de jogos contra si mesma não tem nada a ver com a condição humana. E nós encontramos algumas coisas interessantes sobre a natureza do jogo, e alguns alguns dos elementos da sabedoria convencional foram desafiados. Então é por isso que não tenho dúvidas de que, desde que coloquemos máquinas para trabalhar dentro da estrutura do sistema fechado, nós podemos aprender mais, porque a máquina analisará os dados neste sistema fechado de uma maneira diferente.

Para que as máquinas realmente reconheçam a imperfeição, se o conhecimento foi acumulado mais de 50 milhões de jogos de iterações jogados, então, estatisticamente, serão necessários um par de 100 mil para realmente começar a prestar atenção. O humano instantaneamente poderia ver algo dar errado em um ou três jogos.

Há uma citação sua: “A IA não representa nenhum mal para os humanos, pois a humanidade tem o monopólio da maldade”. Mas é uma coisa que está em outra direção ao ser pregado por outros futuristas e especialistas. Eles continuam nos dizendo para termos cuidado com a IA e que ela pode representar o mal. Você é um otimista?

É, mas veja, o que significa “tenha cuidado com a IA”? Você vai parar o desenvolvimento de novos programas agora? É contraproducente. O medo de máquinas assumindo o controle, na minha opinião, é apenas exagerado. Eu talvez eu esteja errado, talvez eu esteja cego, não vejo isso. Os benefícios são fenomenais. Então, por que deveríamos agora estar falando apenas de alguns hipotéticos riscos? Não estamos nem perto de sistemas sencientes. Mas podemos ver que essas máquinas poderiam nos ajudar a realizar os sonhos impossíveis.

Ainda temos um mundo para explorá-lo. Somos muito lentos na exploração do espaço. E mesmo que não olhemos para as estrelas, o que eu acho obrigatório, temos nosso planeta. Não sabemos quase nada sobre os oceanos. E é por isso que precisamos de máquinas, precisamos destes dados, precisamos analisar os dados. O tanto que pode ser desenvolvido apenas com estas novas máquinas ,com esta nova tecnologia… O problema é toda essa tecnologia ser usada por pessoas más. Esse é o risco. E, falando de ameaças hipotéticas de máquinas, acho que é muito enganoso.

Portanto, ainda temos o monopólio de fazer o mal?

Com certeza. E é por isso que fico tão triste, aborrecido, quando estamos falando de ética, IA ética, não entendo como vamos fazer a IA pagar pelos nossos pecados. Novamente, a máquina toma decisões baseadas em dados. Se os dados estão infiltrados pelos males sociais de nosso passado ou presente, é um perigo. Como esperar que ela corrija isso? A máquina não tem emoções,. Ela simplesmente olhará para os dados. E se os dados sugerem certas coisas contra a igualdade racial ou de gênero, essa será a qualidade dos dados. E no momento em que você parar de inflar os dados, isso é outra história.

Então, é preciso começar a corrigir as coisas. Mas isso não é IA ética. É a ética de alguém que está interferindo com ela. E você pode ter alguém empurrando em uma direção. Portanto, é por isso que eles têm a ideia de máquinas que de alguma forma podem se tornar um juiz de nossas qualidades humanas. Para mim, é uma estupidez extra.”