CEO da Roblox defende uso de escaneamento facial e IA para proteger crianças na plataforma

A desenvolvedora Roblox Corporation recentemente introduziu um novo recurso de escaneamento facial como forma de reforçar a proteção infantil em sua plataforma de criação de jogos, Roblox. O CEO David Baszucki demonstrou grande entusiasmo com esta iniciativa, apresentando respostas intensas e questionáveis durante um novo episódio de podcast sobre a tecnologia de verificação de idade.

Baszucki conversou com os jornalistas do The New York Times, Casey Newton e Kevin Roose, em um episódio de seu podcast Hard Fork. Publicado em 21 de novembro, os três participaram de uma discussão abrangente que começou com o recurso de escaneamento facial, passou por equívocos sobre dados e culminou em desentendimentos sobre o uso da IA para moderação. Newton iniciou com uma investigação sobre o problema de predadores no Roblox, que Baszucki descreveu como um dilema positivo e negativo.

‘Nós pensamos nisso não necessariamente apenas como um problema, mas também como uma oportunidade’, afirmou ele. ‘Como permitimos que os jovens construam, comuniquem-se e passem tempo juntos? Como construímos o futuro da comunicação ao mesmo tempo? Então nós, você sabe, temos, acho que de uma forma positiva, trabalhando nisso desde que começamos. E quando nós estávamos – isso foi quase 18 ou 19 anos atrás – quando lançamos a empresa pela primeira vez e tínhamos apenas quatro de nós sentados em uma sala, éramos literalmente os moderadores, como se revezávamos o tempo todo.’

Baszucki continuou, explicando que com a escala que o Roblox alcançou, a empresa decidiu que ‘a tecnologia mais recente’ (ou seja, ‘usando estimativa de idade facial com IA’) é o que está buscando para complementar suas ferramentas de moderação. Ele citou filtros de texto como exemplo, particularmente desde que os usuários do chat tendem a usar ‘hashtag, hashtag, hashtag’ e outros truques de palavra-chave para burlar o sistema.

‘Com a IA, esses filtros têm ficado cada vez melhores’, disse Baszucki. ‘O estado onde estamos agora é principalmente entrar no bloqueio de tentativas adversárias de abordar o filtro e tentativas adversárias de tentar compartilhar PII [informações de identificação pessoal], no qual também estamos ficando cada vez melhores. Na estimativa de idade, é apenas – eu diria – recentemente atingiu a maturidade a ponto de a complementarmos. Mas eu diria que nossa estratégia é sempre complementar com qualquer tecnologia que exista para juntar isso.’

Em pouco tempo, os três estavam se interrompendo, interpondo declarações e perguntas para ganhar vantagem. Baszucki ‘rejeitou categoricamente’ a afirmação em processos judiciais recentes que alegam que predadores usam o Roblox para encontrar crianças. Ele afirmou que a plataforma está fazendo ‘um trabalho incrível em inovar’ quando comparada a outras plataformas sociais online, repetindo que a empresa está ‘constantemente melhorando’ na proteção da capacidade das crianças de conversar no jogo.

‘Há enormes benefícios em permitir que as pessoas se comuniquem, e achamos que vemos esses benefícios’, explicou Baszucki. ‘Há muitas crianças que encontram seus pares no Roblox. Há muitas crianças quando estão solitárias ou isoladas, na verdade – não vou usar isso como desculpa ou qualquer coisa – mas recebo muitas ligações de pais famosos que disseram: ‘Olha, meu filho estaria morto se não fosse por encontrar uma comunidade em uma plataforma como o Roblox para se manter conectado’. E eu também diria que assumimos isso como uma enorme responsabilidade projetar não para o pai sofisticado que entra e diz: ‘Olha, vou desligar com quem você pode conversar e tudo isso’. Temos que projetar para todos os pais e pensar nisso. Mas acreditamos que temos uma tecnologia extremamente boa em toda a pilha. Achamos que é parte da construção de uma experiência como esta. Sabe, se você for lá para o espaço de jogos, acho que é muito comum apoiar a comunicação. Não vou listar nenhum outro jogo. E normalmente, estamos muito além, eu diria, em nosso nível de inovação, nível de responsabilidade, tanto na filtragem, no compartilhamento de imagens, em todas essas coisas.’

Depois de mais trocas tensas em torno dos 150 milhões de usuários ativos diários – que Baszucki afirmou serem agora ‘quase dois terços com mais de 13 anos, segundo autorrelato’ – Roose perguntou sobre as descobertas da Hindenburg Research em outubro de 2024 sobre a empresa supostamente desconsiderando a segurança infantil em nome dos lucros. Ele desviou, optando por focar no fato de que o fundo ativista ‘faliu por algum motivo’ e perguntou aos apresentadores se eles pesquisaram essa informação por conta própria. Ele então respondeu dizendo que a IA está tornando tudo melhor.

‘Então é realmente interessante, porque acho que estamos mergulhando em uma situação onde estamos ficando melhores, melhores, melhores’, disse Baszucki. ‘Mas você perguntaria a mesma situação para alguém que converteu de talvez um trabalho manual hiperintenso fazendo carros à mão para uma linha de montagem? A linha de montagem pode ser infinitamente melhor e, ao mesmo tempo, não ter tantas pessoas. Então, acho que eles estão se referindo a se mover mais e mais e mais e mais para a IA. Indiscutivelmente, é melhor ter sistemas de IA revisando cada imagem, cada pedaço de texto, tudo isso, ou continuar fazendo isso manualmente? Então acho que isso foi um equívoco. E acho que se você entrevistar qualquer pessoa em nossa equipe de segurança ou sistemas de segurança, isso seria apenas parte de tornar nossos sistemas melhores.’

É neste ponto que o humor de Baszucki ficou um pouco agitado – embora não ‘frustrado’, como ele disse em várias ocasiões – enquanto ele aparentemente circulava dando ‘high-fives’ em Newton e Roose por ‘se alinharem’ com a decisão da empresa de usar ferramentas de IA para moderação de conteúdo e ‘apoiar nossa matriz de decisão do Roblox’.

‘Esta é uma entrevista furtiva onde, na verdade, vocês adoram tudo o que estamos fazendo e estão aqui para apoiar sorrateiramente?’ Ele perguntou aos apresentadores, mais tarde acrescentando que está ‘animado para conversar’.

‘Achei que íamos falar sobre coisas divertidas e engraçadas no setor e tudo mais’, disse Baszucki. ‘Então não estou frustrado, só estou meio que descobrindo quanto tempo de diversão tenho com vocês e quanto tempo de diversão temos versus esse superfoco. Mas estou feliz em falar sobre o que vocês quiserem.’

Algo divertido que Baszucki começou a falar foi sobre um hipotético ‘mercado de previsão dentro do Roblox’ que Roose lançou. Uma ‘ideia terrível’, Roose pensou, ele se perguntou se a empresa consideraria deixar as crianças fazerem apostas com a moeda do jogo Robux. Baszucki chamou isso de uma ‘ideia brilhante’ que ele adora.

‘Na verdade, acho que é uma ideia brilhante se puder ser feita de uma forma educacional que seja legal’, disse ele. ‘E então, imagine sem Robux grátis, sem prêmios gratuitos, apenas um jogo chamado Dress to Impress Predictor, onde não é como tentar conseguir o dinheiro das crianças ou algo assim. Eu seria um grande fã disso.’

No final, Baszucki pareceu firme em defender o fato de que as ferramentas de moderação de conteúdo do Roblox estão em constante evolução, apontando para a filtragem de texto no passado e o escaneamento facial no presente como formas pelas quais a empresa se preocupa com a segurança de sua base de usuários.

A Roblox Corporation tem sido alvo de intenso escrutínio nos últimos meses após uma investigação da Bloomberg em junho de 2024 que revelou que a plataforma está repleta de predadores. Estados como Flórida e Texas processaram pelo que os legisladores dizem ser a empresa não fazendo o suficiente para proteger as crianças da exploração infantil e do aliciamento.

Com ou sem Roblox, o problema com predadores infantis está começando a atingir um ponto crítico. De acordo com a agência europeia de aplicação da lei Europol, a sociedade europeia está vendo um aumento acentuado em redes criminosas armando crianças para cometer crimes violentos.