Os algoritmos que tomam decisões importantes em sua vida

Share on facebook
Share on twitter
Share on linkedin
Existem muitos exemplos de algoritmos que tomam grandes decisões sobre nossas vidas, sem que necessariamente saibamos como ou quando o fazem.

Milhares de estudantes na Inglaterra estão irritados com o uso controverso de um algoritmo para determinar o GCSE e os resultados A-level deste ano.

Eles não puderam fazer os exames devido ao bloqueio, então o algoritmo usou dados sobre os resultados das escolas nos anos anteriores para determinar as notas.

Isso significa que cerca de 40% dos resultados do nível A deste ano ficaram abaixo do previsto, o que tem um grande impacto sobre o que os alunos são capazes de fazer a seguir. Os resultados do GCSE serão divulgados na quinta-feira.

Existem muitos exemplos de algoritmos que tomam grandes decisões sobre nossas vidas, sem que necessariamente saibamos como ou quando o fazem.

Aqui está uma olhada em alguns deles.

Mídia social

De muitas maneiras, as plataformas de mídia social são simplesmente algoritmos gigantes.

Copyright da imagem GETTY IMAGES

No fundo, eles descobrem no que você está interessado e, em seguida, fornecem mais informações – usando o máximo de pontos de dados que conseguirem.

Cada “gosto”, relógio, clique é armazenado. A maioria dos aplicativos também coleta mais dados de seus hábitos de navegação na web ou dados geográficos. A ideia é prever o conteúdo que você deseja e mantê-lo rolando – e funciona.

E esses mesmos algoritmos que sabem que você gosta de um vídeo de gato fofo também são implantados para vender coisas a você.

Todos os dados que as empresas de mídia social coletam sobre você também podem personalizar anúncios para você de uma maneira incrivelmente precisa.

Mas esses algoritmos podem dar muito errado. Provou-se que eles levam as pessoas a conteúdos odiosos e extremistas. Conteúdo extremo simplesmente faz melhor do que nuances nas redes sociais. E os algoritmos sabem disso.

A própria auditoria de direitos civis do Facebook pediu que a empresa fizesse tudo ao seu alcance para evitar que seu algoritmo “levasse as pessoas a câmaras de eco do extremismo que se auto-reforçam”.

E no mês passado relatamos como algoritmos em sites de varejo online – projetados para descobrir o que você quer comprar – estavam promovendo produtos racistas e odiosos.

Seguro

Copyright da imagem GETTY IMAGES

Quer se trate de casa, carro, saúde ou qualquer outra forma de seguro, sua seguradora tem que avaliar de alguma forma as chances de algo realmente dar errado.

De muitas maneiras, a indústria de seguros foi pioneira no uso de dados sobre o passado para determinar resultados futuros – essa é a base de todo o setor, de acordo com Timandra Harkness, autora de Big Data: Does Size Matter.

Fazer com que um computador fizesse isso sempre seria o próximo passo lógico.

“Os algoritmos podem afetar muito a sua vida, mas você, como indivíduo, não recebe necessariamente muitas informações”, diz ela.

“Todos nós sabemos que se você muda para um código postal diferente, seu seguro sobe ou desce.

“Não é por sua causa, é porque outras pessoas têm mais ou menos probabilidade de ter sido vítimas de crimes, ou de sofrerem acidentes, ou algo assim.”

Inovações como a “caixa preta”, que pode ser instalada em um carro para monitorar como um indivíduo dirige, ajudaram a reduzir o custo do seguro do carro para motoristas cuidadosos que se encontram em um grupo de alto risco.

Poderíamos ver cotações de seguro mais personalizadas à medida que os algoritmos aprendem mais sobre nossas próprias circunstâncias?

“Em última análise, o objetivo do seguro é dividir o risco – então todos colocam [dinheiro] e as pessoas que precisam o retiram”, diz Timandra.

“Vivemos em um mundo injusto, então qualquer modelo que você fizer será injusto de uma forma ou de outra.”

Cuidados de saúde

A Inteligência Artificial está dando grandes saltos em ser capaz de diagnosticar várias condições e até sugerir caminhos de tratamento.

Copyright da imagem GETTY IMAGES

Um estudo publicado em janeiro de 2020 sugeriu que um algoritmo teve um desempenho melhor do que os médicos humanos quando se tratou de identificar o câncer de mama em mamografias.

Policiamento

Copyright da imagem GETTY IMAGES

Big data e aprendizado de máquina têm o potencial de revolucionar o policiamento.

Em teoria, os algoritmos têm o poder de cumprir a promessa da ficção científica de “policiamento preditivo” – usando dados, como onde ocorreu o crime no passado, quando e por quem, para prever onde alocar recursos policiais.

Mas esse método pode criar preconceito algorítmico – e até racismo algorítmico.

“É a mesma situação que você tem com as notas dos exames”, disse Areeq Chowdhury, do think tank de tecnologia WebRoots Democracy.

“Por que você está julgando um indivíduo com base no que outras pessoas fizeram historicamente? As mesmas comunidades estão sempre sobre-representadas”.

No início deste ano, o think tank de defesa e segurança RUSI publicou um relatório sobre policiamento algorítmico.

Levantou preocupações sobre a falta de diretrizes nacionais ou avaliações de impacto. Também exigiu mais pesquisas sobre como esses algoritmos podem exacerbar o racismo.

O reconhecimento facial também – usado pelas forças policiais no Reino Unido, incluindo o Met – também foi criticado.

Por exemplo, tem havido preocupações sobre se os dados que vão para a tecnologia de reconhecimento facial podem tornar o algoritmo racista.

O problema é que as câmeras de reconhecimento facial são mais precisas na identificação de rostos brancos – porque possuem mais dados sobre os rostos brancos.

“A questão é: você está testando isso em um grupo demográfico suficientemente diversificado de pessoas?” Areeq diz.

“O que você não quer é uma situação em que alguns grupos sejam erroneamente identificados como criminosos por causa do algoritmo.”

José Mesquita

José Mesquita

Nasceu em Fortaleza,Ce. Pintor, escultor, gravador e "designer". Bacharel em Administração, Ciências da Computação e bacharel em Direito. Pós-graduado em Direito Constitucional. É consultor em Direito Digital. Participou de mais de 250 exposições, individuais e coletivas, no Brasil e no exterior. Design Gráfico, já criou mais de 35 marcas, logotipos, logomarcas, e de livrosa de arte para empresas no Brasil e Exterior Criador e primeiro curador do Prêmio CDL de Artes Plásticas da Câmara de Dirigentes Lojista de Fortaleza e do Parque das Esculturas em Fortaleza. Foi membro da comissão de seleção e premiação do Salão Norman Rockwell de Desenho e Gravura do Ibeu Art Gallery em Fortaleza, membro da comissão de seleção e premiação do Salão Zé Pinto de Esculturas da Fundação Cultural de Fortaleza, membro da comissão e seleção do Salão de Abril em Fortaleza. É verbete no Dicionário Brasileiro de Artes Plásticas e no Dicionário Oboé de Artes Plásticas do Ceará. Possui obras em coleções particulares e espaços públicos no Brasil e no exterior. Foi diretor de criação da Creativemida, empresa cearense desenvolvedora de portais para a internet e computação gráfica multimídia. Foi piloto comercial, diretor técnico e instrutor de vôo da Ecola de Aviação Civil do Ceará. É membro da National American Photoshop Professional Association - NAPP, Usa. É membro da Academia Fortalezense de Letras e Membro Honorário da Academia Cearense de Letras. Autor de três livros de poesias - e outros quatro ainda inéditos; uma peça de teatro; contos e artigos diversos para jornais; apresentações e prefácios de publicações institucionais; catálogos e textos publicitários. Ministra cursos gratuítos de Arte e de Computação Básica para crianças e adolescentes em centros comunitários de comunidades carentes na periferia das cidades.

Gostou? Deixe um comentário

José Mesquita

Pintor, escultor, gravador e “designer”.

Bacharel em administração e bacharelando em Direito.

Participou de mais de 150 exposições, individuais e coletivas, no Brasil e no exterior.

Mais artigos

Siga-me