Algoritmos Podem Ser o Caos da Humanidade

Algoritmos Podem Ser o Caos da Humanidade - AntonioBorba.comEstamos cercados de algoritmos. Podemos entendê-los como fórmulas matemáticas embutidas nos códigos de software que utilizamos em nossas atividades diárias. A princípio, criados para facilitar nossas vidas, porém automatizados e “fora de controle”, são capazes de espalhar o caos.

Pode parecer um tema sensacionalista de ficção científica, computadores fora de controle como em Matrix… aliás, a escravidão da humanidade protagonizada no filme aconteceu devido a um “superalgoritmo” que se “comportou mal” – podemos simplificar dessa forma.

Em nossa vida real, guardadas as proporções, isso já está acontecendo. Em um caso recente da Amazon, um algoritmo de autoajuste de preços elevou o valor de um livro a US$ 23,6 milhões! E algoritmos programados para vender automaticamente ações da bolsa, frequentemente precisam ser interrompidos por “gatilhos de segurança” que são acionados quando algum deles foge do controle.

O americano Kevin Slavin falou sobre isso na famosa conferência TED. O vídeo, de 15 minutos, é bastante interessante:

[youtube]http://www.youtube.com/watch?v=TDaFwnOiKVE[/youtube]

Segundo Kevin, “nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos. É mais ou menos como se não tivéssemos mais controle sobre a tecnologia. Somos dependentes de softwares para analisar os dados, portanto, os softwares sugerem nossa linha de ação. Conforme a inteligência do software, essa ação poderá ser consideravelmente desastrosa.

Muitos escritores de ficção científica já abusaram desse tema. Lembro-me de uma história muito interessante que relatava uma sociedade na qual computadores construíam computadores, pois o homem não era mais capaz de entender a complexidade do que havia criado. Eu creio que não estamos muito longe disso.

A raiz do problema

Os algoritmos são criados para facilitar a nossa vida. A tecnologia evoluiu de uma maneira tão brutal que coletamos muito mais dados do que somos capazes de processar e entender. Devido a isso, é necessário construir programas que possam analisar e interpretar esse oceano de dados.

Obviamente, um algoritmo não pensa. Até então, o homem não foi capaz de gerar inteligência artificial, ao menos nada que se compare ao nosso cérebro. Portanto, ao escrever algoritmos complexos e sem conseguir prever todos os cenários e interações, há sempre o risco de que possa acontecer uma situação catastrófica. É importante que o homem reflita sobre isso.

Particularmente, um dos algoritmos mais chatos e mal feitos, na  minha opinião, é aquele que controla as despesas do cartão de crédito. Todas as vezes nas quais me ligaram para confirmar despesas, sem exceção, elas eram legítimas. E, na única vez em que meu cartão foi clonado, uma série de lançamentos somando R$ 8 mil em um local no qual eu nunca havia frequentado não foi suficiente para chamar atenção do tal programa inteligente. Os gastos fora do padrão não bloquearam meu cartão, ao contrário das minhas compras em viagens ao exterior. Aparentemente, apenas o meu padrão de consumo real é considerado suspeito para esse fantástico algoritmo.

Eu só espero, sinceramente, que um algoritmo não esteja no controle dos mísseis nucleares americanos. Isso já foi tema do filme WarGames e acho que cada vez mais se aproxima da realidade. Afinal, já existem máquinas de guerra cada vez mais automatizadas. Nunca podemos subestimar a estupidez humana.

2 comentários em Algoritmos Podem Ser o Caos da Humanidade

Outros Posts:

28/09/2014

VENDIDOS: Ataris Dactar na Caixa com Vários Jogos e Controles

UPDATE: estes itens foram vendidos. Confira outros lotes de videogames à venda ou entre em contato em caso de interesse. Estou colocando à venda dois lotes de Atari 2600 modelos Dactar, completos com pacotes de jogos e controles. Todos foram muito bem testados, adaptados para vídeo composto ( ...

Saiba Mais

05/11/2012

O Inglês das Comissárias de Bordo

A cena certamente você já conhece. Voos domésticos, rotas insignificantes, e lá vem, para cada mensagem anunciada em português, a infame "versão em inglês" das comissárias (ou comissários) de bordo. Frequentemente, o sotaque pronunciado de quem não é familiarizado com o idioma carrega ...

Saiba Mais

2 Respostas para Algoritmos Podem Ser o Caos da Humanidade

  1. O fato é que eu acredito que NUNCA na vida será possível atingirmos 100% de precisão em nossas tarefas, sejam elas realizadas por humanos ou por máquinas. As máquinas são programadas por humanos, pelo fato de sermos humanos estamos fadados a não sermos perfeitos e isso já nos deixa uma margem para que o erro aconteça. As probabilidades exercidas por diversos fatores externos estão se modificando a todo instante e é impossível prever todos os cenários possíveis e exercer uma correção para todos eles por isso acredito que o 100% nunca existiu e nem vai existir, felizmente.

    • Antonio Borba disse:

      Olá Anderson, concordo, ao menos é uma garantia de que os seres humanos não serão “aposentados” – isto é, pelo menos enquanto as máquinas não forem mais inteligentes que nós, hehe. De qualquer forma, é muito perigoso deixar máquinas “no automático” – se fosse assim, não precisaríamos de pilotos nos aviões. Abraços

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

*