Algoritmos Podem Ser o Caos da Humanidade

Algoritmos Podem Ser o Caos da Humanidade - AntonioBorba.comEstamos cercados de algoritmos. Podemos entendê-los como fórmulas matemáticas embutidas nos códigos de software que utilizamos em nossas atividades diárias. A princípio, criados para facilitar nossas vidas, porém automatizados e “fora de controle”, são capazes de espalhar o caos.

Pode parecer um tema sensacionalista de ficção científica, computadores fora de controle como em Matrix… aliás, a escravidão da humanidade protagonizada no filme aconteceu devido a um “superalgoritmo” que se “comportou mal” – podemos simplificar dessa forma.

Em nossa vida real, guardadas as proporções, isso já está acontecendo. Em um caso recente da Amazon, um algoritmo de autoajuste de preços elevou o valor de um livro a US$ 23,6 milhões! E algoritmos programados para vender automaticamente ações da bolsa, frequentemente precisam ser interrompidos por “gatilhos de segurança” que são acionados quando algum deles foge do controle.

O americano Kevin Slavin falou sobre isso na famosa conferência TED. O vídeo, de 15 minutos, é bastante interessante:

[youtube]http://www.youtube.com/watch?v=TDaFwnOiKVE[/youtube]

Segundo Kevin, “nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos. É mais ou menos como se não tivéssemos mais controle sobre a tecnologia. Somos dependentes de softwares para analisar os dados, portanto, os softwares sugerem nossa linha de ação. Conforme a inteligência do software, essa ação poderá ser consideravelmente desastrosa.

Muitos escritores de ficção científica já abusaram desse tema. Lembro-me de uma história muito interessante que relatava uma sociedade na qual computadores construíam computadores, pois o homem não era mais capaz de entender a complexidade do que havia criado. Eu creio que não estamos muito longe disso.

A raiz do problema

Os algoritmos são criados para facilitar a nossa vida. A tecnologia evoluiu de uma maneira tão brutal que coletamos muito mais dados do que somos capazes de processar e entender. Devido a isso, é necessário construir programas que possam analisar e interpretar esse oceano de dados.

Obviamente, um algoritmo não pensa. Até então, o homem não foi capaz de gerar inteligência artificial, ao menos nada que se compare ao nosso cérebro. Portanto, ao escrever algoritmos complexos e sem conseguir prever todos os cenários e interações, há sempre o risco de que possa acontecer uma situação catastrófica. É importante que o homem reflita sobre isso.

Particularmente, um dos algoritmos mais chatos e mal feitos, na  minha opinião, é aquele que controla as despesas do cartão de crédito. Todas as vezes nas quais me ligaram para confirmar despesas, sem exceção, elas eram legítimas. E, na única vez em que meu cartão foi clonado, uma série de lançamentos somando R$ 8 mil em um local no qual eu nunca havia frequentado não foi suficiente para chamar atenção do tal programa inteligente. Os gastos fora do padrão não bloquearam meu cartão, ao contrário das minhas compras em viagens ao exterior. Aparentemente, apenas o meu padrão de consumo real é considerado suspeito para esse fantástico algoritmo.

Eu só espero, sinceramente, que um algoritmo não esteja no controle dos mísseis nucleares americanos. Isso já foi tema do filme WarGames e acho que cada vez mais se aproxima da realidade. Afinal, já existem máquinas de guerra cada vez mais automatizadas. Nunca podemos subestimar a estupidez humana.

2 comentários em Algoritmos Podem Ser o Caos da Humanidade

Outros Posts:

15/08/2015

Como Preparar um Borba Collins

Borba Collins é novo cocktail a base de infusão cítrica de Bourbon que eu criei a partir do conceito clássico de um drink "Collins". A ideia é simples, mas o sabor é complexo e difícil de reproduzir, pois a infusão pode variar conforme a técnica e os ingredientes utilizados. Antes de ...

Saiba Mais

17/09/2011

Atari: a História da Minha Coleção com 1.673 Cartuchos

O Atari 2600 é chamado até hoje de "o rei dos consoles". Foi o videogame que mais impactou uma geração, se transformou em sinônimo dos anos 80 e sua trajetória se confunde com a própria história da indústria do entretenimento, que culminou com o grande crash da indústria dos videogames. ...

Saiba Mais

2 Respostas para Algoritmos Podem Ser o Caos da Humanidade

  1. O fato é que eu acredito que NUNCA na vida será possível atingirmos 100% de precisão em nossas tarefas, sejam elas realizadas por humanos ou por máquinas. As máquinas são programadas por humanos, pelo fato de sermos humanos estamos fadados a não sermos perfeitos e isso já nos deixa uma margem para que o erro aconteça. As probabilidades exercidas por diversos fatores externos estão se modificando a todo instante e é impossível prever todos os cenários possíveis e exercer uma correção para todos eles por isso acredito que o 100% nunca existiu e nem vai existir, felizmente.

    • Antonio Borba disse:

      Olá Anderson, concordo, ao menos é uma garantia de que os seres humanos não serão “aposentados” – isto é, pelo menos enquanto as máquinas não forem mais inteligentes que nós, hehe. De qualquer forma, é muito perigoso deixar máquinas “no automático” – se fosse assim, não precisaríamos de pilotos nos aviões. Abraços

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

*