Algoritmos Podem Ser o Caos da Humanidade

Algoritmos Podem Ser o Caos da Humanidade - AntonioBorba.comEstamos cercados de algoritmos. Podemos entendê-los como fórmulas matemáticas embutidas nos códigos de software que utilizamos em nossas atividades diárias. A princípio, criados para facilitar nossas vidas, porém automatizados e “fora de controle”, são capazes de espalhar o caos.

Pode parecer um tema sensacionalista de ficção científica, computadores fora de controle como em Matrix… aliás, a escravidão da humanidade protagonizada no filme aconteceu devido a um “superalgoritmo” que se “comportou mal” – podemos simplificar dessa forma.

Em nossa vida real, guardadas as proporções, isso já está acontecendo. Em um caso recente da Amazon, um algoritmo de autoajuste de preços elevou o valor de um livro a US$ 23,6 milhões! E algoritmos programados para vender automaticamente ações da bolsa, frequentemente precisam ser interrompidos por “gatilhos de segurança” que são acionados quando algum deles foge do controle.

O americano Kevin Slavin falou sobre isso na famosa conferência TED. O vídeo, de 15 minutos, é bastante interessante:

[youtube]http://www.youtube.com/watch?v=TDaFwnOiKVE[/youtube]

Segundo Kevin, “nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos. É mais ou menos como se não tivéssemos mais controle sobre a tecnologia. Somos dependentes de softwares para analisar os dados, portanto, os softwares sugerem nossa linha de ação. Conforme a inteligência do software, essa ação poderá ser consideravelmente desastrosa.

Muitos escritores de ficção científica já abusaram desse tema. Lembro-me de uma história muito interessante que relatava uma sociedade na qual computadores construíam computadores, pois o homem não era mais capaz de entender a complexidade do que havia criado. Eu creio que não estamos muito longe disso.

A raiz do problema

Os algoritmos são criados para facilitar a nossa vida. A tecnologia evoluiu de uma maneira tão brutal que coletamos muito mais dados do que somos capazes de processar e entender. Devido a isso, é necessário construir programas que possam analisar e interpretar esse oceano de dados.

Obviamente, um algoritmo não pensa. Até então, o homem não foi capaz de gerar inteligência artificial, ao menos nada que se compare ao nosso cérebro. Portanto, ao escrever algoritmos complexos e sem conseguir prever todos os cenários e interações, há sempre o risco de que possa acontecer uma situação catastrófica. É importante que o homem reflita sobre isso.

Particularmente, um dos algoritmos mais chatos e mal feitos, na  minha opinião, é aquele que controla as despesas do cartão de crédito. Todas as vezes nas quais me ligaram para confirmar despesas, sem exceção, elas eram legítimas. E, na única vez em que meu cartão foi clonado, uma série de lançamentos somando R$ 8 mil em um local no qual eu nunca havia frequentado não foi suficiente para chamar atenção do tal programa inteligente. Os gastos fora do padrão não bloquearam meu cartão, ao contrário das minhas compras em viagens ao exterior. Aparentemente, apenas o meu padrão de consumo real é considerado suspeito para esse fantástico algoritmo.

Eu só espero, sinceramente, que um algoritmo não esteja no controle dos mísseis nucleares americanos. Isso já foi tema do filme WarGames e acho que cada vez mais se aproxima da realidade. Afinal, já existem máquinas de guerra cada vez mais automatizadas. Nunca podemos subestimar a estupidez humana.

2 comentários em Algoritmos Podem Ser o Caos da Humanidade

Outros Posts:

31/03/2012

Roger Waters The Wall 2012 e a Lamentável Educação das Pessoas

Como fã incondicional, eu assisti ao primeiro show do Roger Waters na nova turnê The Wall que ele está apresentando no Brasil. Foi em Porto Alegre, antes de a turnê seguir para Rio de Janeiro e São Paulo, onde Roger finalizará sua agenda no País. Eu acompanho a carreira do ex-vocalista do ...

Saiba Mais

19/01/2011

Cinema para Cegos: Quem é o Cego?

Hoje cedo eu estava tradicionalmente assistindo ao Bom Dia Brasil enquanto tomava café, embora na verdade meu "café" não tenha nada de café, mas sim suco e sanduíche. Chamou a atenção a reportagem sobre uma sessão de cinema para cegos. A tal sessão, embora não tenha nada de tecnologicam ...

Saiba Mais

2 Respostas para Algoritmos Podem Ser o Caos da Humanidade

  1. O fato é que eu acredito que NUNCA na vida será possível atingirmos 100% de precisão em nossas tarefas, sejam elas realizadas por humanos ou por máquinas. As máquinas são programadas por humanos, pelo fato de sermos humanos estamos fadados a não sermos perfeitos e isso já nos deixa uma margem para que o erro aconteça. As probabilidades exercidas por diversos fatores externos estão se modificando a todo instante e é impossível prever todos os cenários possíveis e exercer uma correção para todos eles por isso acredito que o 100% nunca existiu e nem vai existir, felizmente.

    • Antonio Borba disse:

      Olá Anderson, concordo, ao menos é uma garantia de que os seres humanos não serão “aposentados” – isto é, pelo menos enquanto as máquinas não forem mais inteligentes que nós, hehe. De qualquer forma, é muito perigoso deixar máquinas “no automático” – se fosse assim, não precisaríamos de pilotos nos aviões. Abraços

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

*