Repetidas vezes, os principais cientistas, tecnólogos e filósofos fizeram suposições espetacularmente terríveis sobre a direção da inovação. Até mesmo Einstein não estava imune, afirmando que “não há a menor indicação de que a energia nuclear possa ser obtida”, apenas dez anos antes de Enrico Fermi concluir a construção do primeiro reator de fissão em Chicago. Pouco tempo depois, o consenso mudou para o medo de um holocausto nuclear iminente.
Da mesma forma, os especialistas de hoje alertam para a iminência de uma inteligência artificial geral (AGI). Outros respondem que os grandes modelos de linguagem (LLMs) já atingiram o auge de seus poderes.
É difícil argumentar contra a influente tese de David Collingridge de que tentar prever os riscos apresentados pelas novas tecnologias é uma tarefa tola. Considerando que nossos principais cientistas e tecnólogos geralmente estão tão equivocados sobre a evolução tecnológica, que chance nossos formuladores de políticas têm de regulamentar de forma eficaz os riscos tecnológicos emergentes da inteligência artificial (IA)?
Devemos dar atenção ao aviso de Collingridge de que a tecnologia evolui de forma incerta. No entanto, há uma classe de risco de IA que geralmente pode ser conhecida com antecedência. São os riscos decorrentes do desalinhamento entre os incentivos econômicos de uma empresa para lucrar com seu modelo proprietário de IA de uma maneira específica e os interesses da sociedade sobre como o modelo de IA deve ser monetizado e implantado.
A maneira mais segura de ignorar esse desalinhamento é concentrar-se exclusivamente em questões técnicas sobre os recursos do modelo de IA, sem levar em conta o ambiente socioeconômico no qual esses modelos operarão e serão projetados para obter lucro.
Concentrar-se nos riscos econômicos da IA não é simplesmente evitar o “monopólio”, a “autopreferência” ou o “domínio das grandes empresas de tecnologia”. Trata-se de garantir que o ambiente econômico que facilita a inovação não esteja incentivando riscos tecnológicos difíceis de prever, pois as empresas “se movem rapidamente e quebram tudo” em uma corrida pelo lucro ou pelo domínio do mercado.
Também se trata de garantir que o valor da IA seja amplamente compartilhado, evitando a consolidação prematura. Veremos mais inovação se as ferramentas emergentes de IA forem acessíveis a todos, de modo que possa surgir um ecossistema disperso de novas empresas, start-ups e ferramentas de IA.
A OpenAI já está se tornando uma empresa dominante, com US$ 2 bilhões em vendas anuais e milhões de usuários. Sua loja de GPT e suas ferramentas de desenvolvedor precisam retornar valor para aqueles que os criam, a fim de garantir que os ecossistemas de inovação permaneçam viáveis e dispersos.
Ao analisar cuidadosamente o sistema de incentivos econômicos subjacentes às inovações e como as tecnologias são monetizadas na prática, podemos gerar uma melhor compreensão dos riscos, tanto econômicos quanto tecnológicos, alimentados pela estrutura de um mercado. A estrutura do mercado não é simplesmente o número de empresas, mas a estrutura de custos e os incentivos econômicos no mercado que resultam das instituições, das regulamentações governamentais adjacentes e do financiamento disponível.
Degradação da qualidade para aumentar o lucro
É instrutivo considerar como as tecnologias algorítmicas que sustentavam as antigas plataformas agregadoras (como Amazon, Google e Facebook, entre outras), inicialmente implantadas para beneficiar os usuários, acabaram sendo reprogramadas para aumentar os lucros da plataforma.
Os problemas promovidos pelos algoritmos de mídia social, busca e recomendação nunca foram uma questão de engenharia, mas sim de incentivos financeiros (de crescimento do lucro) que não se alinham com a implantação segura, eficaz e equitativa dos algoritmos. Como diz o ditado: a história não necessariamente se repete, mas rima.
Para entender como as plataformas alocam valor para si mesmas e o que podemos fazer a respeito, investigamos o papel dos algoritmos e a configuração informacional exclusiva dos mercados digitais na extração das chamadas rendas econômicas dos usuários e produtores nas plataformas. Na teoria econômica, as rendas são “lucros supernormais” (lucros que estão acima do que seria possível obter em um mercado competitivo) e refletem o controle sobre algum recurso escasso.
É importante ressaltar que as rendas são um retorno puro da propriedade ou de algum grau de poder de monopólio, e não um retorno obtido com a produção de algo em um mercado competitivo (como muitos produtores que fabricam e vendem carros). No caso das plataformas digitais, a extração de rendas digitais geralmente implica a degradação da qualidade das informações mostradas ao usuário, com base no fato de que elas “possuem” acesso a uma massa de clientes.
Por exemplo, os milhões de usuários da Amazon confiam em seus algoritmos de busca de produtos para mostrar-lhes os melhores produtos disponíveis para venda, já que não podem inspecionar cada produto individualmente. Esses algoritmos economizam tempo e dinheiro para todos: ajudando os usuários a navegar por milhares de produtos para encontrar aqueles com a mais alta qualidade e o menor preço, e expandindo o alcance de mercado dos fornecedores por meio da infraestrutura de entrega e da imensa rede de clientes da Amazon.
Essas plataformas tornaram os mercados mais eficientes e proporcionaram um enorme valor tanto para os usuários quanto para os fornecedores de produtos. Mas, com o passar do tempo, um desalinhamento entre a promessa inicial de que elas proporcionariam valor ao usuário e a necessidade de expandir as margens de lucro à medida que o crescimento diminuísse levou a um mau comportamento das plataformas. O negócio de publicidade da Amazon é um exemplo disso.
Publicidade da Amazon
Em nossa pesquisa sobre a Amazon, descobrimos que os usuários ainda tendem a clicar nos resultados dos produtos na parte superior da página, mesmo quando eles não são mais os melhores resultados, mas sim anúncios pagos. A Amazon abusa da confiança habituada que os usuários passaram a depositar em seus algoritmos e, em vez disso, aloca a atenção e os cliques dos usuários em informações patrocinadas de qualidade inferior, com as quais lucra imensamente.
Descobrimos que, em média, os produtos patrocinados (anúncios) mais clicados eram 17% mais caros e 33% mais mal classificados, de acordo com os algoritmos de otimização de qualidade, preço e popularidade da própria Amazon. E como os fornecedores de produtos agora precisam pagar pela classificação do produto que anteriormente obtinham por meio da qualidade e da reputação do produto, seus lucros diminuem à medida que os da Amazon aumentam, e os preços sobem, pois parte do custo é repassada aos clientes.
A Amazon é um dos exemplos mais marcantes de uma empresa que está se afastando de sua missão “virtuosa” original (“ser a empresa mais centrada no cliente do planeta”) em direção a um modelo de negócios extrativista. Mas ela está longe de ser a única.
Com o tempo, o Google, o Meta e praticamente todos os outros grandes agregadores on-line passaram a dar preferência aos seus interesses econômicos em detrimento da promessa original feita aos usuários e aos ecossistemas de fornecedores de conteúdo e produtos ou desenvolvedores de aplicativos. O escritor de ficção científica e ativista Cory Doctorow chama isso de “enshittificação” das plataformas de Big Tech.
Mas nem todos os aluguéis são ruins. De acordo com o economista Joseph Schumpeter, os aluguéis recebidos por uma empresa por inovar podem ser benéficos para a sociedade. As plataformas de Big Tech saíram na frente por meio de avanços algorítmicos superiores e altamente inovadores. Os atuais líderes de mercado em IA estão fazendo o mesmo.
Portanto, embora as rendas schumpeterianas sejam reais e justificadas, com o passar do tempo e sob pressão financeira externa, os líderes de mercado começaram a usar seu poder de mercado algorítmico para capturar uma parcela maior do valor criado pelo ecossistema de anunciantes, fornecedores e usuários a fim de manter o crescimento dos lucros.
As preferências dos usuários foram rebaixadas em importância algorítmica em favor de conteúdo mais lucrativo. Para as plataformas de mídia social, esse era um conteúdo viciante para aumentar o tempo gasto na plataforma a qualquer custo para a saúde do usuário. Enquanto isso, os fornecedores finais de valor para a plataforma - os criadores de conteúdo, os proprietários de sites e os comerciantes - tiveram que transferir mais de seus retornos para o proprietário da plataforma. Nesse processo, os lucros e as margens de lucro se concentraram nas mãos de poucas plataformas, dificultando a inovação por parte de empresas externas.
Uma plataforma que obriga seu ecossistema de empresas a pagar taxas cada vez mais altas (em troca de nada de valor proporcional em ambos os lados da plataforma) não pode ser justificada. É um sinal vermelho de que a plataforma tem um certo grau de poder de mercado que está explorando para extrair rendas não auferidas. As divulgações trimestrais mais recentes da Amazon (quarto trimestre de 2023) mostram um crescimento anual de 9% nas vendas on-line, mas um crescimento nas taxas de 20% (serviços de vendedores terceirizados) e 27% (vendas de publicidade).
O que é importante lembrar no contexto de risco e inovação é que essa implantação de tecnologias algorítmicas de extração de renda pela Big Tech não é um risco desconhecido, conforme identificado por Collingridge. É um risco econômico previsível. A busca do lucro por meio da exploração de recursos escassos sob o controle de alguém é uma história tão antiga quanto o próprio comércio.
As proteções tecnológicas dos algoritmos, bem como a divulgação mais detalhada sobre como as plataformas estavam monetizando seus algoritmos, podem ter evitado que esse comportamento ocorresse. Os algoritmos se tornaram guardiões do mercado e alocadores de valor, e agora estão se tornando produtores e árbitros de conhecimento.
Riscos apresentados pela próxima geração de IA
Os limites que impomos aos algoritmos e aos modelos de IA serão fundamentais para direcionar a atividade econômica e a atenção humana para fins produtivos. Mas quão maiores são os riscos para a próxima geração de sistemas de IA? Eles moldarão não apenas as informações que nos são mostradas, mas também a forma como pensamos e nos expressamos. A centralização do poder da IA nas mãos de algumas entidades com fins lucrativos que provavelmente enfrentarão incentivos econômicos futuros para o mau comportamento é certamente uma má ideia.
Felizmente, a sociedade não está desamparada para moldar os riscos econômicos que invariavelmente surgem após cada nova inovação. Os riscos decorrentes do ambiente econômico em que a inovação ocorre não são imutáveis. A estrutura do mercado é moldada pelos órgãos reguladores e pelas instituições algorítmicas de uma plataforma (especialmente seus algoritmos que fazem alocações semelhantes às do mercado). Juntos, esses fatores influenciam a intensidade dos efeitos de rede e das economias de escala e escopo em um mercado, incluindo as recompensas pelo domínio do mercado.
Mandatos tecnológicos, como a interoperabilidade, que se refere à capacidade de diferentes sistemas digitais trabalharem juntos sem problemas; ou o “carregamento lateral”, a prática de instalar aplicativos de outras fontes que não a loja oficial de uma plataforma, moldaram a fluidez da mobilidade do usuário dentro e entre os mercados e, por sua vez, a capacidade de qualquer entidade dominante de explorar de forma duradoura seus usuários e seu ecossistema. Os protocolos da Internet ajudaram a manter a Internet aberta em vez de fechada. O software de código aberto permitiu que ela escapasse do monopólio dominante da era do PC. Que papel a interoperabilidade e o código aberto podem desempenhar para manter o setor de IA um mercado mais competitivo e inclusivo?
A divulgação é outra poderosa ferramenta de modelagem de mercado. As divulgações podem exigir que as empresas de tecnologia forneçam informações e explicações transparentes sobre seus produtos e estratégias de monetização. A divulgação obrigatória da carga de anúncios e de outras métricas operacionais pode ter ajudado a evitar que o Facebook, por exemplo, explorasse a privacidade de seus usuários para maximizar o dinheiro dos anúncios a partir da coleta de dados de cada usuário.
Mas a falta de portabilidade dos dados e a incapacidade de auditar independentemente os algoritmos do Facebook fizeram com que o Facebook continuasse a se beneficiar de seu sistema de vigilância por mais tempo do que deveria. Hoje, a OpenAI e outros importantes fornecedores de modelos de IA se recusam a divulgar seus conjuntos de dados de treinamento, enquanto surgem questões sobre violação de direitos autorais e quem deve ter o direito de lucrar com a ajuda da IA
A estrutura do mercado e seu impacto sobre “quem recebe o quê e por quê” evoluem à medida que evolui a base tecnológica de como as empresas podem competir em um mercado. Portanto, talvez seja hora de desviar nosso olhar regulatório da tentativa de prever os riscos específicos que podem surgir com o desenvolvimento de tecnologias específicas. Afinal de contas, nem mesmo Einstein conseguiu fazer isso.
Em vez disso, deveríamos tentar recalibrar os incentivos econômicos que sustentam as inovações atuais, afastando-nos dos usos arriscados da tecnologia de IA e direcionando-os para algoritmos de IA abertos e responsáveis que apoiem e distribuam o valor de forma equitativa. Quanto mais cedo reconhecermos que os riscos tecnológicos são frequentemente uma consequência de incentivos econômicos desalinhados, mais rapidamente poderemos trabalhar para evitar a repetição dos erros do passado.
Não nos opomos ao fato de a Amazon oferecer serviços de publicidade para empresas em seu mercado de terceiros. Uma quantidade adequada de espaço publicitário pode, de fato, ajudar empresas ou produtos menos conhecidos, com ofertas competitivas, a ganhar força de maneira justa. No entanto, quando a publicidade substitui quase que totalmente os resultados de produtos orgânicos mais bem classificados, ela se torna um dispositivo de extração de renda para a plataforma.
Procurada, a Amazon respondeu o seguinte:
Discordamos de uma série de conclusões feitas nessa pesquisa, que deturpa e exagera os dados limitados que utiliza. Ela ignora que as vendas de vendedores independentes, que estão crescendo mais rapidamente do que as da própria Amazon, contribuem para a receita de serviços e que muitos de nossos serviços de publicidade não aparecem na loja.
A Amazon é obcecada em facilitar a vida dos clientes e uma grande parte disso é garantir que os clientes possam encontrar e descobrir de forma rápida e conveniente os produtos que desejam em nossa loja. Os anúncios têm sido parte integrante do varejo há muitas décadas e, sempre que os incluímos, eles são claramente marcados como “Patrocinados”. Fornecemos uma combinação de resultados de pesquisa orgânica e patrocinada com base em fatores que incluem relevância, popularidade entre os clientes, disponibilidade, preço e velocidade de entrega, além de filtros de pesquisa úteis para refinar os resultados. Também investimos bilhões em ferramentas e serviços para vendedores para ajudá-los a crescer, e serviços adicionais, como publicidade e logística, são totalmente opcionais.