Pontos-chave
- As duas derrotas da Meta nos tribunais centraram-se em casos diferentes, mas ambos envolviam alegações de que a empresa tinha conhecimento dos malefícios dos seus produtos.
- Os veredictos demonstram que, ao contratar pesquisadores para analisar como os produtos afetam os usuários, as empresas se expõem a potenciais responsabilidades legais.
- Com a indústria tecnológica investindo agressivamente em IA, especialistas estão preocupados com a crescente repressão à pesquisa interna e o que isso significa para a segurança do consumidor.
Há mais de uma década, Meta
A empresa – então conhecida como Facebook – contratou pesquisadores de ciências sociais para analisar como os serviços da rede social estavam afetando os usuários. Era uma forma de a empresa e seus concorrentes demonstrarem que estavam realmente empenhados em compreender os benefícios e os riscos potenciais de suas inovações.
Mas, como ilustram as derrotas judiciais da Meta esta semana, o trabalho dos pesquisadores pode se tornar um problema. Brian Boland, ex-executivo do Facebook que testemunhou em ambos os julgamentos — um no Novo México e o outro em Los Angeles — afirma que as conclusões condenatórias das pesquisas e documentos internos da Meta pareciam contradizer a imagem que a empresa projetava publicamente. Os júris nos dois julgamentos determinaram que a Meta não monitorava adequadamente seu site, colocando crianças em risco.
A empresa de Mark Zuckerberg começou a restringir suas equipes de pesquisa há alguns anos, depois que uma pesquisadora do Facebook, Frances Haugen , se tornou uma importante denunciante. A nova geração de empresas de tecnologia, como a OpenAI e a Anthropic, investiu pesadamente em pesquisadores e os incumbiu de estudar o impacto da IA moderna nos usuários e publicar suas descobertas.
Com a inteligência artificial recebendo atenção desproporcional pelos efeitos nocivos que causa em alguns usuários, essas empresas precisam se perguntar se é do seu interesse continuar financiando a pesquisa ou suprimi-la.
“Houve um período em que equipes internas foram criadas para analisar as coisas e, por um breve momento, tivemos pesquisadores absolutamente excepcionais que estavam investigando o que estava acontecendo com esses produtos com um pouco mais de liberdade do que, pelo que entendi, eles têm hoje”, disse Boland em entrevista.
As duas derrotas da Meta nesta semana giraram em torno de casos diferentes, mas tiveram um tema em comum: a empresa não compartilhou com o público em geral o que sabia sobre os malefícios de seus produtos.
Os membros do júri tiveram que avaliar milhões de documentos corporativos, incluindo e-mails de executivos, apresentações e pesquisas internas conduzidas pela equipe da Meta. Os documentos incluíam pesquisas internas que pareciam mostrar uma porcentagem preocupante de usuários adolescentes recebendo investidas sexuais indesejadas no Instagram. Havia também uma pesquisa, que a Meta acabou interrompendo, que sugeria que pessoas que reduziam o uso do Facebook se tornavam menos deprimidas e ansiosas .
Os advogados dos demandantes nos processos não se basearam exclusivamente em pesquisas internas para fundamentar seus argumentos, mas esses estudos ajudaram a reforçar suas posições sobre a suposta culpabilidade da Meta. As equipes de defesa da Meta argumentaram que certas pesquisas eram antigas, retiradas de contexto e enganosas, apresentando uma visão distorcida de como a empresa opera e como ela encara a segurança.
‘Os dois lados da história’
“O júri teve a oportunidade de ouvir os dois lados da história e uma apresentação muito justa dos fatos, podendo tomar uma decisão com base no que viu”, disse Boland. “E ambos os júris, com casos muito diferentes, chegaram a veredictos claros.”
Meta e Google
O YouTube, que também era réu no julgamento em Los Angeles, afirmou que irá recorrer.
Lisa Strohman, psicóloga e advogada que atuou como consultora especializada interna no processo do Novo México, afirmou que os líderes da Meta e de toda a indústria de tecnologia podem ter pensado que poderiam usar pesquisas internas a seu favor para conquistar a simpatia do público.
“Acho que o que eles não perceberam é que os pesquisadores são pais e familiares”, disse Strohman. “E acho que o que eles não entenderam foi que essas pessoas não seriam compradas.”
Qualquer vitória em relações públicas que os executivos esperassem se voltou contra eles quando a pesquisa começou a vazar para o público. O incidente mais prejudicial para a Meta ocorreu em 2021, quando Haugen, um ex-gerente de produto do Facebook que se tornou delator, vazou uma série de documentos sugerindo que a empresa tinha conhecimento dos potenciais danos de seus produtos.
As revelações de Haugen representaram um ponto de virada significativo em nível global – não apenas para as próprias empresas, mas também para pesquisadores, formuladores de políticas e o público em geral”, afirmou Kate Blocker, diretora de pesquisa e programas da organização sem fins lucrativos Children and Screens: Institute of Digital Media and Child Development.
Os vazamentos também levaram a grandes mudanças na Meta e na indústria de tecnologia, que começou a eliminar pesquisas que poderiam ser consideradas contraproducentes para as empresas. Muitas equipes que estudavam supostos danos e questões relacionadas foram extintas, conforme relatado anteriormente pela CNBC .
Algumas empresas também começaram a remover certas ferramentas e funcionalidades de seus serviços que pesquisadores terceirizados utilizavam para estudar suas plataformas.
“As empresas podem agora encarar a pesquisa em andamento como um passivo, mas a pesquisa independente realizada por terceiros deve continuar a ser apoiada”, disse Blocker.
Grande parte da pesquisa interna usada nos julgamentos desta semana não continha novas revelações, e muitos dos documentos já haviam sido divulgados por outros denunciantes, disse Sacha Haworth, diretor executivo do Tech Oversight Project. O que os julgamentos acrescentaram, disse Haworth, foram “os próprios e-mails, as próprias palavras, as próprias capturas de tela, as apresentações internas de marketing, os memorandos” que ofereciam o contexto necessário.
Com a indústria tecnológica investindo agressivamente em IA, empresas como Meta, OpenAI e Google têm priorizado produtos em detrimento da pesquisa e da segurança. Essa tendência preocupa Blocker, que afirmou: “Assim como aconteceu com as redes sociais antes, há pouca visibilidade pública sobre o que as empresas de IA estão estudando em relação aos seus produtos.”
“As empresas de IA parecem estar estudando principalmente os próprios modelos – comportamento, interpretabilidade e alinhamento – mas existe uma lacuna significativa na pesquisa sobre o impacto de chatbots e assistentes digitais no desenvolvimento infantil”, disse Blocker. “As empresas de IA têm a chance de não repetir os erros do passado – precisamos urgentemente estabelecer sistemas de transparência e acesso que compartilhem com o público o que essas empresas sabem sobre suas plataformas e apoiem avaliações independentes adicionais.”
Fonte: CNBC Tecnologia
