Algoritmos, uma realidade a ser pensada: Casos da Amazon

Algoritmo pode ser definido como uma sequência de regras dentro de uma finitude de dados que leva a raciocínios e decisões baseados na sua própria programação, ou seja, na prática, robôs que tomam decisões baseados nos dados imputados a eles.

Tais ferramentas já são usadas para vários serviços no ramo empresarial, judicial e da própria advocacia.

Todavia, um debate interessante se dá quando falamos da gigante Amazon, posto que a mesma usa este tipo de serviço desde 2014 e tem dois casos emblemáticos que aconteceram pelo seu uso.

Vejamos:

Caso 1: Em 2015, ao usar algoritmos no seu processo seletivo, a Amazon percebeu que o robô não fazia seleção de mulheres, apenas de homens. Ao validar o porquê, descobriu que como o banco de dados tinha a maioria de cadastros de currículos de homens, portanto, o algoritmo entendeu que deveria deixar as mulheres em segundo plano, já que estatisticamente elas não eram relevantes (conforme banco de dados da época). 

Caso 2: Em Julho de 2021, um homem de 63 anos foi demitido do serviço de entregas da Amazon por telegrama enviado por computador sem nenhuma ingerência humana, posto que o algoritmo entendeu que as entregas feitas por ele (rastreadas pelo máquina e inteligência artificial da Amazon) não estavam a contento do padrão da empresa, então, enviou a demissão automática ao empregado.

A própria empresa declarou em ambos os casos que são verídicos e que no primeiro corrigiu os dados para que o algoritmo não se tornasse sexista, e que no segundo caso, se trata de procedimento normal, posto que a ferramenta tem parâmetros para tomadas de decisão como esta e que não haveria nada de errado nisto.

A preocupação não é com o uso da tecnologia ou de algoritmos para tomada de decisão. O fato é de tais decisões não serem validadas por humanos antes de aplicadas, posto que envolvem pessoas no seu decisório.

Por mais que a tecnologia possa evoluir e ajudar o ser humano em diversos aspectos, ela não substitui o ser humano, seja por unicamente levar em conta dados, seja por não perceber aspectos subjetivos que somente o olhar crítico até mesmo emocional do ser humano pode compreender.

De toda sorte, tais casos nos levam a pensar no futuro que teremos diante do presente que estamos vivendo.

Queremos máquinas nas tomadas de decisões estratégicas e de pessoas? Ao meu sentir, perderemos mais do que ganhamos com esta possibilidade.

Vamos deixar as máquinas com o repetitivo e decisão de questões lógicas, já está de bom tamanho.

#PraPensar

#FraternoAbraço #GustavoRocha

(51) 98163.3333 | gustavo@gustavorocha.com | www.gustavorocha.com

@ConsultorGustavoRocha | Instagram | Facebook | LinkedIn

#Consultoria GustavoRocha.com  |  Gestão, Tecnologia e Marketing Estratégicos

Robôs  |  Inteligência Artificial  |  Jurimetria  | Marketing Jurídico  |  Fluxos Internos  | Plano de Carreira  | Financeiro

@GustavoRochaCom | Twitter | Facebook | LinkedIn | YouTube

#Comitê LGPD | Implementação de adequação a Lei Geral de Proteção de Dados

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.