Algoritmos Podem Ser o Caos da Humanidade

Algoritmos Podem Ser o Caos da Humanidade - AntonioBorba.comEstamos cercados de algoritmos. Podemos entendê-los como fórmulas matemáticas embutidas nos códigos de software que utilizamos em nossas atividades diárias. A princípio, criados para facilitar nossas vidas, porém automatizados e “fora de controle”, são capazes de espalhar o caos.

Pode parecer um tema sensacionalista de ficção científica, computadores fora de controle como em Matrix… aliás, a escravidão da humanidade protagonizada no filme aconteceu devido a um “superalgoritmo” que se “comportou mal” – podemos simplificar dessa forma.

Em nossa vida real, guardadas as proporções, isso já está acontecendo. Em um caso recente da Amazon, um algoritmo de autoajuste de preços elevou o valor de um livro a US$ 23,6 milhões! E algoritmos programados para vender automaticamente ações da bolsa, frequentemente precisam ser interrompidos por “gatilhos de segurança” que são acionados quando algum deles foge do controle.

O americano Kevin Slavin falou sobre isso na famosa conferência TED. O vídeo, de 15 minutos, é bastante interessante:

Segundo Kevin, “nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos. É mais ou menos como se não tivéssemos mais controle sobre a tecnologia. Somos dependentes de softwares para analisar os dados, portanto, os softwares sugerem nossa linha de ação. Conforme a inteligência do software, essa ação poderá ser consideravelmente desastrosa.

Muitos escritores de ficção científica já abusaram desse tema. Lembro-me de uma história muito interessante que relatava uma sociedade na qual computadores construíam computadores, pois o homem não era mais capaz de entender a complexidade do que havia criado. Eu creio que não estamos muito longe disso.

A raiz do problema

Os algoritmos são criados para facilitar a nossa vida. A tecnologia evoluiu de uma maneira tão brutal que coletamos muito mais dados do que somos capazes de processar e entender. Devido a isso, é necessário construir programas que possam analisar e interpretar esse oceano de dados.

Obviamente, um algoritmo não pensa. Até então, o homem não foi capaz de gerar inteligência artificial, ao menos nada que se compare ao nosso cérebro. Portanto, ao escrever algoritmos complexos e sem conseguir prever todos os cenários e interações, há sempre o risco de que possa acontecer uma situação catastrófica. É importante que o homem reflita sobre isso.

Particularmente, um dos algoritmos mais chatos e mal feitos, na  minha opinião, é aquele que controla as despesas do cartão de crédito. Todas as vezes nas quais me ligaram para confirmar despesas, sem exceção, elas eram legítimas. E, na única vez em que meu cartão foi clonado, uma série de lançamentos somando R$ 8 mil em um local no qual eu nunca havia frequentado não foi suficiente para chamar atenção do tal programa inteligente. Os gastos fora do padrão não bloquearam meu cartão, ao contrário das minhas compras em viagens ao exterior. Aparentemente, apenas o meu padrão de consumo real é considerado suspeito para esse fantástico algoritmo.

Eu só espero, sinceramente, que um algoritmo não esteja no controle dos mísseis nucleares americanos. Isso já foi tema do filme WarGames e acho que cada vez mais se aproxima da realidade. Afinal, já existem máquinas de guerra cada vez mais automatizadas. Nunca podemos subestimar a estupidez humana.

2 comentários em Algoritmos Podem Ser o Caos da Humanidade

Outros Posts:

29/09/2015

Web Sites: A Regressão da Tecnologia Móvel

As redes sociais representam mídias tão onipresentes em nossa sociedade que poucas pessoas se perguntam onde foi parar a boa experiência de navegação, a evolução tecnológica do design de web sites. Especialistas discutem, e com razão, sobre o fato de que, presos na dinastia de celulares ...

Saiba Mais

03/05/2014

The Real Twin Peaks – Parte 3 – Snoqualmie Falls

Snoqualmie Falls é o grande cartão postal da cidade de Snoqualmie, a verdadeira inspiração de cenário para a série Twin Peaks. Em meu post anterior, foi possível conhecer sobre o Salish Lodge, que representa o exterior do Great Northern Hotel na série. O Salish fica bem ao lado do Snoqual ...

Saiba Mais

2 Respostas para Algoritmos Podem Ser o Caos da Humanidade

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

*