Assim como a energia atômica, outra tecnologia começa a aparecer
como um sério risco para a humanidade: a inteligência artificial.
O mais recente figurão dessa área que afirma pensar assim
é Steve
Wozniak, cofundador da Apple e um
dos responsáveis pela revolução do computador pessoal.
 |
| Steve Wozniak |
Wozniak, que
anteriormente negava essa possibilidade, diz ter mudado de ideia sobre os
riscos do desenvolvimento de máquinas “superinteligentes”, tendo dito
recentemente ao jornal Australian Financial Review: "Como pessoas incluindo [o físico] Stephen Hawking e [o cofundador
da Tesla Motors] Elon Musk previram, eu concordo que o futuro é assustador ".
A grande preocupação desse grupo de futuristas, que inclui ainda
Bill Gates e um crescente número de acadêmicos, é que estejamos nos aproximando
de um nível de crescimento da capacidade das máquinas que as permita fugirem de
nosso controle.
Também faz parte desse grupo o professor Stuart Armstrong, da Universidade de
Oxford, autor do livro "Smarter Than Us", em que apresenta um cenário
mostrando como a inteligência artificial (IA) pode sair de nosso controle e
provocar danos irreversíveis à Terra e à sociedade.
Armstrong é um dos autores do estudo "12
Riscos que Ameaçam a Civilização Humana", do grupo sueco Global Challenges
Foundation, que calculou em até 10% as chances de, se o cenário se concretizar,
o impacto sobre a sociedade ser irreversível. A probabilidade é maior do que as
calculadas para mudança climatica (0,01%), e guerra nuclear (0,005%).
A IA e um risco "único"
porque quando um computador domina uma atividade, nenhum ser humano consegue
faze-la melhor, em função de suas capacidades em termos de armazenamento de
dados concentração, paciência,
velocidade de processamento e memória, todas muito superiores às nossas.
A combinação dessas características
com “habilidades” econômicas ou sociais permitiria à IA controlar o mundo; um computador
com habilidades sociais, por exemplo, poderia processar milhares de discursos políticos,
estatísticas e referencias culturais rapidamente, escolhendo qual o argumento
mais convincente para fazer um eleitor votar em um candidato ou defender certa
bandeira politica – consta que na campanha para reeleição de Barack Obama
alguma coisa desse tipo, muito rudimentar ainda, já foi usada.
Raciocínio
semelhante vale para o mercado financeiro: um sistema poderia cruzar informações
sobre indicadores econômicos, decisões politicas e balanços de empresas de modo
mais rápido e mais preciso, esmagando concorrentes, por exemplo – note-se que
software com algumas dessas características já opera no mercado de ações.
Os defensores dessas
tecnologias rebatem dizendo que esses problemas podem ser evitados por meio de
uma “programação ética”, que fizesse a maquina sempre optar pela "escolha
moral" - como salvar uma vida em vez de um carro, por exemplo.
Diversos especialistas
acham também que tudo isso está mais próximo de ficção científica, afirmando
que computadores sempre podem ser desligados, e que jogar xadrez, uma das
habilidades mais avançadas da IA atualmente, nem se compara à capacidade de
calculo e ao volume e diversidade de informações necessárias para analisar o
mercado financeiro deforma mais ampla.
Só resta à sociedade
permanecer vigilante e esperar que esses especialistas que não acreditam nas
previsões catastróficas estejam certos...
