Instagram e Facebook: O algoritmo e seus descontentamentos | Negócios

Num novo processo judicial nos Estados Unidos contra a Meta, 41 Estados e o Distrito de Columbia sustentam que duas das redes sociais da empresa (Instagram e Facebook) não são apenas viciantes, mas também prejudiciais ao bem-estar dos menores. Meta é acusada de implementar um “esquema para explorar usuários jovens com fins lucrativos”, que inclui mostrar-lhes conteúdo prejudicial que os mantém grudados em suas telas. A utilização de algoritmos concebidos para maximizar o envolvimento dos utilizadores é a forma que as empresas tecnológicas têm de maximizar o valor para os accionistas, com o resultado de que os lucros a curto prazo muitas vezes superam os objectivos empresariais a longo prazo.

O Facebook começou como um serviço básico para conectar amigos e conhecidos na Internet, mas com o tempo seu design evoluiu da satisfação das necessidades e preferências dos usuários para mantê-los dentro da plataforma e longe de outras pessoas. Para atingir este objetivo, a empresa desconsiderou repetidamente as preferências explícitas dos consumidores em relação ao tipo de conteúdo que desejam ver, à privacidade e à partilha dos seus dados.

A primazia dos lucros imediatos passa por induzir os utilizadores a clicar, mesmo que o resultado global desta estratégia seja priorizar materiais sensacionais de baixa qualidade, em vez de dar a devida recompensa a um universo mais vasto de criadores de conteúdos, utilizadores e anunciantes. Chamamos estes lucros de “rendas algorítmicas de atenção”, porque são gerados através da posse passiva (como a dos proprietários de terras) em vez de actividade produtiva destinada a satisfazer as necessidades dos consumidores.

Identificar o comportamento rentista na economia actual requer a compreensão de como as plataformas dominantes exploram o controlo algorítmico que têm sobre os utilizadores. Um algoritmo que degrada a qualidade dos conteúdos que promove está a abusar da confiança dos utilizadores e da posição dominante reforçada pelo efeito de rede. É assim que o Facebook, o Twitter e o Instagram conseguem escapar impunes e continuar a encher as suas páginas com anúncios e conteúdos viciantes recomendados.

O processo contra o Meta tem a ver, em última análise, com suas práticas algorítmicas, projetadas para maximizar o envolvimento dos usuários: mantê-los na plataforma por mais tempo e provocar mais comentários, gosta e republicações. Muitas vezes acontece que uma boa forma de o conseguir é apresentar conteúdos nocivos e que beiram o ilegal, e transformar o tempo passado na plataforma numa actividade compulsiva, através de funcionalidades como a rolagem infinita e o envio incessante de notificações e alertas.

À medida que os avanços na inteligência artificial (IA) começam a capacitar as recomendações algorítmicas e a torná-las ainda mais viciantes, são urgentemente necessárias novas estruturas de governação orientadas para o bem comum (em vez de uma ideia estreita de valor para os acionistas) e alianças. relações simbióticas entre empresas, governos e sociedade civil. Felizmente, está ao alcance das autoridades reformar estes mercados para os colocar ao serviço do bem comum.

Em primeiro lugar, em vez de se basearem exclusivamente na legislação antitrust e da concorrência, as autoridades devem adotar ferramentas tecnológicas que evitem que as plataformas prendam utilizadores e desenvolvedores. Uma forma de evitar a criação de silos anticoncorrenciais é exigir a portabilidade dos dados e a interoperabilidade entre os serviços digitais, para que os utilizadores possam facilmente passar de uma plataforma para outra se aquela em que se encontram não corresponder às suas necessidades e preferências. Em segundo lugar, é essencial uma reforma da governação corporativa, uma vez que o que levou as plataformas à exploração algorítmica dos utilizadores foi o princípio da maximização do valor para o acionista. Dados os custos sociais bem conhecidos deste modelo de negócio, a reforma da governação exige uma reforma dos algoritmos.

Um primeiro passo para a criação de um modelo de base mais saudável é exigir que as plataformas divulguem as métricas que os seus algoritmos visam, bem como a forma como monetizam os utilizadores. Num mundo onde os executivos tecnológicos vão a Davos todos os anos para falar sobre o “objectivo” social das suas empresas, uma divulgação de dados credíveis irá pressioná-los a cumprir o que dizem e ajudar os reguladores e investidores a distinguir entre lucros merecidos e rendimentos impróprios.

Terceiro, os usuários precisam ter mais influência sobre como os algoritmos priorizam as informações que lhes são mostradas. Caso contrário, o desrespeito pelas preferências dos utilizadores continuará a causar danos, pois os algoritmos criam ciclos de feedback nos quais induzem os utilizadores a clicar em determinados conteúdos e depois inferem erroneamente que essas são as suas preferências.

Quarto, a metodologia padrão da indústria de “testes A/B” deve dar lugar a avaliações de impacto mais abrangentes a longo prazo. O mau uso da ciência de dados leva ao imediatismo algorítmico. Por exemplo, um “teste A/B” pode mostrar que o aumento do número de anúncios em exibição terá um efeito positivo a curto prazo nos lucros, sem causar uma deterioração óbvia na retenção de utilizadores; Mas isto ignora o impacto na aquisição de novos utilizadores, para não mencionar quase todos os outros efeitos potencialmente prejudiciais a longo prazo. A ciência de dados bem utilizada mostra que otimizar os sistemas de recomendação de uma forma que não busque recompensa imediata é a melhor maneira para as empresas reforçarem o crescimento e a lucratividade no longo prazo. Em 2020, uma equipe da Meta determinou que, em um horizonte de tempo mais longo (um ano), a redução do número de notificações intrusivas melhoraria a utilização do aplicativo e a satisfação do usuário.

Em quinto lugar, a IA pública deve ser posta em acção para avaliar a qualidade dos resultados dos algoritmos, particularmente na área da publicidade. Face aos danos consideráveis ​​causados ​​pela flexibilização dos critérios de aceitação de anúncios por parte das plataformas, a autoridade britânica responsável pelo controlo publicitário começará a utilizar ferramentas de IA para analisar anúncios e identificar aqueles que fazem “afirmações”. duvidoso.”

Criar um ambiente digital que recompense a criação de valor a partir da inovação e puna a extracção de valor pelos rentistas é o desafio económico fundamental dos nossos tempos. Para preservar a saúde dos grandes usuários de tecnologia e de todo o ecossistema, é necessário evitar que os algoritmos fiquem subordinados ao desejo dos acionistas por lucros imediatos. Se os líderes empresariais realmente acreditam no princípio do valor para as partes interessadas, devem aceitar que é necessária uma mudança radical na forma como o valor é criado, com base nos cinco princípios detalhados acima. O julgamento iminente contra Meta não pode desfazer os erros do passado. Mas à medida que nos preparamos para a próxima geração de produtos de IA, precisamos de instituir mecanismos para uma supervisão adequada dos algoritmos.

Acompanhe todas as informações Economia e Negócios em Facebook e xou em nosso boletim informativo semanal

_