Cuidado com aquela câmera: o smartphone te espia, a IA do aplicativo estuda as tuas expressões e entende os teus gostos. E monetiza...

Você tem algum preconceito contra as mulheres? Os vídeos de cachorros e gatinhos comovem você? Você considera Greta Thunberg antipática? Pode ser que você não saiba ou que não queira admitir, mas a tecnologia de reconhecimento facial das emoções sabe isso muito bem. É também pode saber muitas outras coisas sobre você, sobre o que pensa, sobre o que gosta e até sobre o que acredita que não tenha opinião. Porque a inteligência artificial estuda as reações do seu rosto através da câmera do seu telefone e os utiliza para obter um perfil detalhado de seus gostos e preferências, de seus juízos ou preconceitos, de suas convicções: potencialmente para vendê-los ou cedê-los a quem possam interessar.

A entrevista é de Gea Scancarello, publicada por Business Insider Italia, 02-10-2019. A tradução é de Luisa Rabolini.

Um vídeo interativo explica isso: Stealing your feeling (tradução significativa: Roubando suas emoções) criado por Noah Levenson, programador de computador e ex-executivo da MTV, com o suporte da fundação Mozilla, responsável por contribuir a tornar a Internet e todo o ecossistema digital mais saudável, transparente e acessível possível. Premiado no festival de cinema de Tribeca em Nova York, o vídeo dura seis minutos e você precisa assisti-lo para experimentar diretamente o poder da IA: depois de obter acesso à câmera do seu computador ou celular, o sistema de reconhecimento das emoções informará em tempo real como você reagiu às fotos dos cachorrinhos que apareceram no monitor e que você olhou distraidamente, sem nem estar ciente disso, tirando conclusões sobre você.

"Eu trabalhava na televisão quando ficou claro que a tecnologia estava mudando definitivamente o entretenimento, tanto porque as pessoas começavam a usar o Snapchat ou o Instagram quanto porque as próprias empresas haviam mudado o tipo de produtos que ofereciam. Então, em 2014, deixei a MTV e comecei a tratar dos problemas que estavam surgindo: as pessoas não queriam ser vítimas de práticas incorretas, como a violação da privacidade ou o uso comercial de seus dados, mas esperavam que tudo, qualquer aplicativo ou conteúdo, fosse disponível gratuitamente. Isso fez com que as empresas de tecnologia e de entretenimento encontrassem maneiras ocultas de monetizar: isso também leva à inteligência artificial e outros fenômenos de que os consumidores não estão cientes", explicou Levenson ao Business Insider Italia.

Eis a entrevista.

É por isso que o seu vídeo se chama Roubar seus sentimentos?

reconhecimento facial das emoções é uma tecnologia emergente no campo da inteligência artificial baseado no aprendizado de máquina: afirma ser capaz de estabelecer como as pessoas se sentem analisando seu rosto enquanto reagem ao que veem ou que lhe é mostrado intencionalmente. O vídeo faz isso ao vivo, tomando decisões sobre a pessoa que olha e mostrando tais decisões com textos que aparecem: acredito que a ninguém agrade a ideia de ser avaliado e julgado por uma máquina dessa maneira.

Funciona realmente assim? As empresas de tecnologia já estão fazendo isso?

Pesquisando para esse projeto, tropecei em muitos pedidos de patentes de empresas de tecnologia que explicam sua intenção de usar o reconhecimento facial das emoções de maneiras muito semelhantes às que conto no vídeo. Especificamente, há uma patente solicitada pelo Snapchat em 2016 e aprovada em 2018, que permite analisar o seu rosto toda vez que você aponta a câmera em sua direção ou tira uma foto, para depois correlacionar as informações sobre suas emoções com outros inputs vindos de seu telefone.

Por exemplo?

Snapchat planeja reunir a análise das emoções com a sua geolocalização, para que você saiba o que pensa do lugar onde está, do que gosta ou não, como se sente. A patente permite vender tais informações aos organizadores de eventos públicos, por exemplo, promotores de shows ou organizadores de eventos políticos, que certamente estão interessados em conhecer como as pessoas estão reagindo às mensagens e às ideias às quais estão expostas.

Já está acontecendo, a tecnologia está em operação?

Nós não sabemos, mas poderia ser. E se o fizessem, certamente não nos diriam.

Infelizmente, as informações sobre inteligência artificial e o modo como funciona quase sempre são mantidas longe das pessoas que não trabalham em empresas de tecnologia: é raro que cheguem ao público. Os jovens conhecem todos os recursos do telefone, mas muitas vezes não têm ideia do software que o governa. Por outro lado, a inteligência artificial chegou a um ponto em que os avanços são rápidos demais para permitir que até os técnicos saibam exatamente o que está acontecendo em todos os setores. Muito menos as pessoas comuns ou a mídia.

O que poderia ser feito no futuro com a tecnologia de reconhecimento facial das emoções?

Eu tenho algumas ideias em mente, bastante negativas. Primeiro, trata-se do modo perfeito para as redes sociais continuarem enfatizando os conteúdos mais divisivos e polarizados, ganhando em cima disso. Aprendemos que as mídias sociais tendem a dar precedência a esse tipo de conteúdo porque as pessoas comentam mais, compartilham e os tornam virais, e essa difusão é economicamente vantajosa para as plataformas, independentemente da correção ou da periculosidade do que está sendo espalhado. A tecnologia de reconhecimento facial das emoções é a maneira mais simples de ver quais são as reações das pessoas a diferentes tipos de conteúdo, para empurrar depois aqueles que provocam reações mais intensas ou violentas.

Outros exemplos?

Tinder ou outros aplicativos de relacionamentos podem usar o reconhecimento de emoções faciais para ver como as pessoas reagem ao fator raça ou a um determinado tipo de complexão física e mostrar mais pessoas da mesma raça e da aparência que mais agrada eliminando as outras. Sabemos que, já agora, no momento da inscrição, o Tinder tenta avaliar o quão atraente seja a pessoa, para lhe mostrar pessoas semelhantes: se acham que você é feio, enfim, mostrarão outras pessoas que classificaram como feias; se você for julgado bonito, mostrarão outras bonitas. Aqui está, o sistema de reconhecimento facial das emoções é uma maneira de otimizar esse sistema horrendo.

Por outro lado, os governos já usam o reconhecimento facial para questões de ordem pública.

Exatamente, isso acontece na China, mas também é usado pela polícia de Nova York. Ao adicionar a avaliação das emoções, o sistema pode ser usado para entender se alguém está usando fármacos, se está drogado ou bêbado, e até se tiver uma doença mental.

É justo questionar-se se os engenheiros que trabalham nessas tecnologias têm responsabilidade de levá-las adiante e torná-las acessíveis?

É uma pergunta complicada. Se pensarmos nas responsabilidades dos indivíduos, é claro, ninguém deveria fazer coisas potencialmente não éticas. Mas se você trabalha em uma grande empresa, normalmente você é uma pequena peça de uma grande máquina, trabalha em uma equipe restrita e, muitas vezes, nem sabe para o que servirá o trabalho que está fazendo. As empresas evitam fornecer informações e fazem isso intencionalmente.

O que diz muito.

Exatamente.

Deveríamos estar preocupados?

Acredito que a abordagem correta à tecnologia - estou falando sobre inteligência artificial e não apenas isso – seja estar preparados, talvez preocupados, mas sem descambar no pânico. Espero que haja percursos de formação das pessoas para torná-las mais conscientes do uso da tecnologia. A maioria das pessoas não sabe que existem as learning machines nos aplicativos que usam, e isso não está correto. Assim como colocamos rótulos nos alimentos para informar sobre o que é preciso saber antes de consumi-los, talvez devêssemos dizer às pessoas o que há dentro dos programas que elas usam ou em seu telefone.

Chegará um momento em que a inteligência artificial poderá fazer isso sozinha? Irá superar o ser humano?

Dada a capacidade de computação em constante crescimento, é inevitável que a inteligência artificial se torne tão capaz quanto nós, ou mais do que nós. Em alguns campos, já está fazendo coisas excepcionais, por exemplo, no diagnóstico precoce de doenças. A verdadeira pergunta é se, daqui a alguns anos, nós ainda estaremos por aí, considerando a emergência climática ...

Leia mais

 fonte: http://www.ihu.unisinos.br/593265-cuidado-com-aquela-camera-o-smartphone-te-espia-a-ia-do-aplicativo-estuda-as-tuas-expressoes-e-entende-os-teus-gostos-e-monetiza