“A degradação humana causada pela tecnologia excedeu alguns limites importantes”

A tecnologia está nos tornando seres humanos piores?

GettyImages

De tanto discutir sobre quando a tecnologia iria exceder nossas capacidades, perdemos de vista o fato de que as máquinas estavam se concentrando em conhecer nossos pontos fracos.

É a base que sustenta um conceito que ressoa no Vale do Silício e é conhecido como desclassificação humana, “degradação humana” em espanhol.

Foi cunhado pelo cientista da computação Tristan Harris e seu parceiro Randima (Randy) Fernando, co-fundadores do Center for Humane Technology (CHT), uma organização sem fins lucrativos cuja missão é “reverter a degradação humana” e ” realinhar a tecnologia com a nossa humanidade. ”

No recente documentário da Netflix O Dilema Social (“O dilema das redes sociais”) Harris e Fernando expõem essa questão, intimamente ligada à chamada “economia da atenção”, ou como as empresas monetizam nossa atenção por meio das redes sociais e outras tecnologias digitais.

Fernando, diretor executivo do CHT, acredita que a tecnologia deve ser “mais humana”. Nesta entrevista à BBC Mundo ele explica o porquê. GettyImages

Como surgiu o seu interesse pela economia da atenção e por que isso é importante para você?

Meus pais me ensinaram mindfulness (meditação baseada em mindfulness) e tecnologia desde muito jovem, então segui esse caminho. Fiquei muito interessado em computação gráfica e trabalhei na Nvidia (multinacional do Vale do Silício) por sete anos. Então, ajudei a fundar uma organização chamada Mindful Schools para ensinar mindfulness nas escolas.

“O dilema das redes sociais”: 5 segredos dos donos das redes para nos manipular, segundo documentário da Netflix
Eu fiz isso por um tempo até encontrar Tristan [Harris].

Ambos estávamos muito interessados ​​em midfulness. Começamos a perceber que éramos contra a forma como a economia da atenção compete constantemente para treinar nossas mentes de maneira diferente.

A economia da atenção é adversária da atenção plena.

É muito fácil para as empresas criar perfis sobre nós com base nas informações que compartilhamos nas redes sociais, e elas compartilham essas informações com os anunciantes. Este modelo de negócio torna a nossa atenção vital e também não se baseia nos nossos interesses, mas nos dos anunciantes.

Marta Peirano e a economia da atenção: “Estamos menos felizes e menos produtivos do que nunca porque somos viciados”
Decidimos que era melhor criar uma organização para gerenciar o crescente interesse pelo tópico (especialmente porque Harris falou sobre isso em um programa de televisão nacional em 2017) e tentar resolver o problema.

Três anos depois, ainda estamos nisso.

Para resolver o problema, você propõe “reverter a degradação humana”. Que significa isso?

Muito do trabalho que fazemos tem a ver com a mente, com vícios e como combatê-los; com meditação e bem-estar emocional. Também com democracia e polarização, com a distorção da verdade. Todas essas questões estão inter-relacionadas e ligadas à “degradação humana”.

Nós o descrevemos como algo cíclico: à medida que melhoramos e atualizamos nossas máquinas, degradamos seres humanos. E deveria ter sido o contrário. Isso é algo que se repete constantemente.

Por muito tempo, ficamos muito empolgados com todas as melhorias tecnológicas, mas investimos tanto esforço e energia no avanço da tecnologia – que nos beneficiou tanto por décadas – que não prestamos atenção suficiente às mudanças que estavam ocorrendo em nosso cérebro.

“Os ‘nativos digitais’ são os primeiros filhos com um QI inferior ao dos pais”
A certa altura, ficamos vulneráveis ​​a ela porque a tecnologia pode ser usada para tirar proveito de nossas fraquezas.

O que mudou nos últimos anos para trazer essa questão para a mesa dentro e fora do Vale do Silício?

A “degradação humana” ultrapassou alguns limites importantes, então agora começa a nos preocupar.

Estamos cientes de como as notificações tentam “sequestrar” nossa atenção. Se os designers usarem isso a seu favor, eles podem nos fazer gastar mais tempo em seus produtos, atraindo nossa atenção para que percebamos certos elementos por meio de coisas como o brilho da tela e outros pequenos “truques”.

E não sabemos mais o que é real e o que não é. Deepfakes (vídeos com pessoas aparentemente reais modificadas com inteligência artificial) são um bom exemplo disso.

ROB LEVER / GETTY IMAGES
Deepfakes são um exemplo de como a tecnologia pode nos degradar: não podemos diferenciar entre o que é real e o que não é.

A mente humana é limitada. É maravilhoso em muitos aspectos, mas tem pontos fracos. Agora que sabemos que a tecnologia cruzou essa barreira, nosso entusiasmo diminuiu porque é algo que não podemos mais controlar.

No entanto, as forças de mercado continuaram a usar novas tecnologias em seu benefício para aumentar as vendas. Os analistas ficam fascinados por encontrar novas maneiras de usar a tecnologia a seu favor e transformar essas tendências em dinheiro. Mas quem pensa nos benefícios não está considerando as consequências.

Isso está acontecendo em todo o mundo e em todos os níveis. Analistas, designers de produtos e governos estão competindo uns com os outros. E no final acaba sendo uma arma muito perigosa. Mas há cada vez mais reações contra isso.

Você o desenha como um sistema perverso. Isso poderia ser previsto de alguma forma?

Sim, claro que foi previsto. E não só: foi procurado também por quem quer explorá-lo a seu favor. Uma parte importante do problema é que aqueles que tentam encontrar soluções geralmente não são os mesmos que criam o problema.

Há pessoas muito competentes falando abertamente sobre o uso da tecnologia há muito tempo, mas aqueles que trabalham com avanços tecnológicos têm outros incentivos e não estão interessados ​​em desacelerar porque muitas vezes significa um desserviço para eles, do qual sua concorrência pode tirar vantagem.

É por isso que resolver este problema é tão complexo. Somado a isso, a “degradação humana” é cíclica.

GETTY IMAGES
A “degradação humana” é cíclica, segundo Fernando.

O que você quer dizer com cíclico?

Quando nossa atenção é interrompida repetidamente, ficamos mais distraídos. Tornamo-nos a pior versão de nós mesmos. A tecnologia nos muda. E isso acontece cada vez mais porque as redes sociais facilitam esse processo.

Quando competimos por atenção – gostos, comentários, compartilhamentos – começamos a “dizer” coisas diferentes, para usar outra linguagem. Postamos fotos que chamam mais a atenção, somos mais radicais ao debater questões políticas … tudo isso beneficia os algoritmos.

ARTUR DEBAT / GETTY IMAGES

Quanto mais eles distraem nossa atenção, mais lucrativos somos para as empresas (e mais vulneráveis ​​à “degradação”).

No final do ciclo, a tecnologia acaba nos mudando e, efetivamente, nos degradando. E quando nos degradamos, ficamos mais vulneráveis ​​no próximo ciclo, porque quando estamos mais distraídos, é mais fácil para um novo ciclo ocorrer.

Acaba sendo uma corrida [de empresas] para chegar ao fundo do nosso tronco cerebral que traz à tona o que há de pior em nós mesmos e que cada vez mais inclui menos pausa, menos reflexão e menos meditação, porque estamos ocupados reagindo o tempo todo.

É fácil sentir-se impotente nesta situação … o que podemos fazer?

Certamente é! É uma parte tão importante da economia … Movimenta trilhões de dólares! Mas podemos atuar em dois níveis: primeiro pessoal e, segundo, coletivo.

O primeiro passo realmente começa nos educando sobre isso. Em um nível pessoal, podemos fazer coisas vitais como limitar notificações, usar menos plataformas digitais, mudar o que mostramos nelas e nossas interações online. Basicamente, entender como estamos sendo manipulados e agir de acordo.

“O dilema das redes sociais” | 3 mudanças para recuperar o controle sobre sua vida nas redes sociais de acordo com Justin Rosenstein, criador do botão “Curtir” no Facebook
Além disso, existe o plano coletivo. Portanto, estamos criando um espaço para permitir que as pessoas expressem suas preocupações. Um por um não fazemos muito, mas todos temos força. Quando nos reunimos, podemos realizar uma mudança real. Isso é muito importante porque a “degradação humana” está nos mudando como sociedade.

A questão é: que mudança queremos promover? Uma das chaves é que o produto que usamos deve ser diferente, deve ter uma codificação diferente. E essa mudança deve ser feita por dentro, mas a pressão de consumidores, investidores, políticos, educadores e tecnólogos pode ajudar.

Temos que mudar as condições do jogo. A tecnologia que divide a sociedade não é tecnologia “humana” porque é prejudicial aos seres humanos.

Em que medida você diria que estamos liderando o caminho para uma tecnologia mais “humana”?

Para ser honesto, estou favoravelmente surpreso com o quão longe chegamos, porque a certa altura pensei que ficaríamos para sempre presos na definição do problema.

IMDB / O DILEMA SOCIAL

O sucesso do documentário “O Dilema das Mídias Sociais” é um exemplo de como a preocupação com o tema aumentou.

Mas agora, e em parte graças à repercussão do [documentário] O Dilema Social (“O dilema das redes sociais”) – que só no primeiro mês (setembro) viu mais de 38 milhões de pessoas – muito mais as pessoas entendem isso.

Felizmente, cada vez mais pessoas estão percebendo como as informações que compartilham nas redes ajudam a economizar atenção. Isto é muito importante.

Uma das coisas mais maravilhosas com que tantas pessoas se preocupam é que podemos realmente nos recompor para lidar com isso. Cada vez mais empresas e países estão agindo e vejo oportunidades de mudança no curto e médio prazo.

Agora temos que continuar divulgando a mensagem para que a tecnologia seja cada vez mais humana e nos permita nos conectarmos melhor, divulgar a verdade e obter a melhor versão de nós mesmos.