Algoritmos Podem Ser o Caos da Humanidade

Algoritmos Podem Ser o Caos da Humanidade - AntonioBorba.comEstamos cercados de algoritmos. Podemos entendê-los como fórmulas matemáticas embutidas nos códigos de software que utilizamos em nossas atividades diárias. A princípio, criados para facilitar nossas vidas, porém automatizados e “fora de controle”, são capazes de espalhar o caos.

Pode parecer um tema sensacionalista de ficção científica, computadores fora de controle como em Matrix… aliás, a escravidão da humanidade protagonizada no filme aconteceu devido a um “superalgoritmo” que se “comportou mal” – podemos simplificar dessa forma.

Em nossa vida real, guardadas as proporções, isso já está acontecendo. Em um caso recente da Amazon, um algoritmo de autoajuste de preços elevou o valor de um livro a US$ 23,6 milhões! E algoritmos programados para vender automaticamente ações da bolsa, frequentemente precisam ser interrompidos por “gatilhos de segurança” que são acionados quando algum deles foge do controle.

O americano Kevin Slavin falou sobre isso na famosa conferência TED. O vídeo, de 15 minutos, é bastante interessante:

Segundo Kevin, “nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos. É mais ou menos como se não tivéssemos mais controle sobre a tecnologia. Somos dependentes de softwares para analisar os dados, portanto, os softwares sugerem nossa linha de ação. Conforme a inteligência do software, essa ação poderá ser consideravelmente desastrosa.

Muitos escritores de ficção científica já abusaram desse tema. Lembro-me de uma história muito interessante que relatava uma sociedade na qual computadores construíam computadores, pois o homem não era mais capaz de entender a complexidade do que havia criado. Eu creio que não estamos muito longe disso.

A raiz do problema

Os algoritmos são criados para facilitar a nossa vida. A tecnologia evoluiu de uma maneira tão brutal que coletamos muito mais dados do que somos capazes de processar e entender. Devido a isso, é necessário construir programas que possam analisar e interpretar esse oceano de dados.

Obviamente, um algoritmo não pensa. Até então, o homem não foi capaz de gerar inteligência artificial, ao menos nada que se compare ao nosso cérebro. Portanto, ao escrever algoritmos complexos e sem conseguir prever todos os cenários e interações, há sempre o risco de que possa acontecer uma situação catastrófica. É importante que o homem reflita sobre isso.

Particularmente, um dos algoritmos mais chatos e mal feitos, na  minha opinião, é aquele que controla as despesas do cartão de crédito. Todas as vezes nas quais me ligaram para confirmar despesas, sem exceção, elas eram legítimas. E, na única vez em que meu cartão foi clonado, uma série de lançamentos somando R$ 8 mil em um local no qual eu nunca havia frequentado não foi suficiente para chamar atenção do tal programa inteligente. Os gastos fora do padrão não bloquearam meu cartão, ao contrário das minhas compras em viagens ao exterior. Aparentemente, apenas o meu padrão de consumo real é considerado suspeito para esse fantástico algoritmo.

Eu só espero, sinceramente, que um algoritmo não esteja no controle dos mísseis nucleares americanos. Isso já foi tema do filme WarGames e acho que cada vez mais se aproxima da realidade. Afinal, já existem máquinas de guerra cada vez mais automatizadas. Nunca podemos subestimar a estupidez humana.

2 comentários em Algoritmos Podem Ser o Caos da Humanidade

Outros Posts:

17/10/2013

VENDIDOS: Jogos de Atari Completos na Caixa

UPDATE: estes itens foram vendidos. Confira outros lotes de videogames à venda ou entre em contato em caso de interesse. Ontem anunciei alguns jogos de Atari loose à venda, hoje estou colocando a relação de games na caixa. Os valores iniciam em R$ 25,00 para um jogo completo, contendo c ...

Saiba Mais

09/01/2012

Reportagem: Metas Cumpridas em 2011 e Dicas de Planejamento para 2012

No início de 2011, aceitei um desafio do programa Globo Comunidade (RPC TV) para compartilhar minhas metas e acompanhar a evolução (veja o post 2011: A Importância de Estabelecer Metas). Ao final do ano, conforme combinado, a RPC me procurou para conferir os resultados. O programa foi gravado n ...

Saiba Mais

2 Respostas para Algoritmos Podem Ser o Caos da Humanidade

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

*