A IA transformará humanos em ‘resíduos’?

Um guru da tecnologia avisa que robôs que pensam por si próprios podem dominar o mundo e usar armas de destruição em massa para exterminar a humanidade. É hora de se preocupar?


Este ano, as prestigiosas Palestras Reith da BBC serão ministradas pela primeira vez por um cientista da computação. Nascido no Reino Unido, Stuart Russell, professor de ciência da computação na Universidade da Califórnia, Berkeley, analisará ‘Living with Artificial Intelligence’ em uma série de programas semanais durante o mês de dezembro.

Em um trailer da série de palestras, Russell foi entrevistado na BBC Radio 4’s Today na segunda-feira. Como confirmação do velho ditado jornalístico de que “se sangra, leva”, a conversa foi dominada por prognósticos sombrios sobre o que a IA poderia estar fazendo à nossa sociedade e possibilidades ainda mais apavorantes para o futuro. Não importa desenvolver máquinas que possam aprender – precisamos aprender com a história das novas tecnologias para tratar tanto o exagero quanto o horror com igual ceticismo.

CONSULTE MAIS INFORMAÇÃO
Desenvolvimento de tecnologia centrada no ser humano em foco na conferência AI Journey de Sber Desenvolvimento de tecnologia centrada em humanos em foco na conferência AI Journey de Sber
A inteligência artificial já está em uso na sociedade. Os computadores podem adivinhar o que gostaríamos de assistir a seguir no YouTube, quais produtos podemos querer comprar na Amazon e nos mostrar anúncios baseados em pesquisas anteriores do Google na Internet. Mais útil, talvez, as máquinas podem aprender a identificar crescimentos cancerígenos em exames médicos com grande velocidade e precisão e sinalizar transações financeiras potencialmente fraudulentas – algo muito útil quando bancos e outras instituições realizam volumes surpreendentes de negociações constantemente.

Russell acredita que a IA “não está trabalhando necessariamente para nosso benefício e as revelações que vimos recentemente do Facebook sugerem que as empresas de mídia sabem que ela está destruindo as sociedades. Esses são algoritmos muito simples, então a pergunta que farei nas palestras é o que acontece quando os algoritmos se tornam muito mais inteligentes do que são agora. ”

Esta é uma maneira estranha de ver as coisas – que os algoritmos, e não a política humana, são o problema na sociedade agora. Claro, algoritmos idiotas que enviam postagens de mídia social para você com base em que “se você gostou desse, você pode gostar deste”, provavelmente não ajudam a tirar as pessoas de suas “câmaras de eco”. Mas as pessoas que se mantêm com sua própria “tribo” quando se trata de política são principalmente sobre escolha pessoal e falta de vontade de aceitar que pessoas com uma visão diferente possam ter um ponto, não o trabalho de algoritmos de computador malignos.

O que Russell está realmente preocupado é quando a IA vai além das aplicações específicas de tarefas para a possibilidade de IA de propósito geral. Em vez de configurar computadores para fazer coisas específicas – como agitar uma grande quantidade de dados com um objetivo específico e aprender a fazer isso melhor e mais rápido do que os humanos – os sistemas de IA de uso geral seriam capazes de realizar uma ampla variedade de tarefas e tomar decisões por si próprios.

Em particular, Russell se preocupa com armas autônomas que “podem encontrar alvos, decidir quais alvos atacar e então ir em frente e atacá-los, tudo sem nenhum ser humano por perto”. Ele teme que essas armas de destruição em massa possam destruir cidades ou regiões inteiras, ou tirar um grupo étnico inteiro.

Se pudéssemos eliminar o incentivo à IA, poderíamos ver um grupo útil de tecnologias que podem nos ajudar de maneiras específicas para tornar nossas vidas mais fáceis. Da mesma forma, estouraria a bolha de todos os catastrofistas que pensam que os sistemas de IA dominarão o mundo. No final das contas, ainda estamos no controle das máquinas e elas não vão nos substituir tão cedo. Com um pouco de perspectiva histórica, podemos ver que a preocupação com a IA é apenas a mais recente em uma série aparentemente interminável de espasmos terríveis sobre as novas tecnologias.

Popular

Histórias relacionadas