TikTok testa recurso para ‘ver menos’ conteúdo gerado por IA nos feeds

A TikTok está testando uma nova funcionalidade que permitirá aos usuários solicitar ‘ver menos’ conteúdo gerado por Inteligência Artificial em seus feeds. Esta é uma expansão de seus controles de IA, que já identificaram 1,3 bilhão de vídeos criados por IA publicados na plataforma.

A gigante das redes sociais anunciou as novas ferramentas em seu fórum anual europeu sobre confiança e segurança, realizado em Dublin. Em um comunicado à imprensa (via Engadget), a TikTok afirmou que a seção ‘gerenciar tópicos’ do aplicativo será ampliada com uma nova opção ‘nas próximas semanas’.

Essa opção aparentemente ajudará a ‘reduzir as coisas’ para pessoas que não desejam seus feeds entupidos com conteúdo de IA de baixa qualidade, embora a TikTok afirme que a opção foi criada para ‘personalizar’ a variedade de vídeos em um feed ‘em vez de remover ou substituir conteúdo nos feeds inteiramente’. Portanto, parece que você não poderá optar por não ver completamente o conteúdo de IA de baixa qualidade, apenas escolher ver menos dele.

Esta opção será acompanhada por um novo recurso de ‘marca d’água invisível’ para as próprias ferramentas de edição com infusão de IA da TikTok e ‘conteúdo carregado com Credenciais de Conteúdo C2PA’. A TikTok já exige que os usuários que postam conteúdo gerado por IA ‘realista’ o rotulem adequadamente, em parte usando essas Credenciais C2PA que incorporam metadados para ajudar a identificar imagens e vídeos gerados por IA. É assim que a TikTok identificou mais de um bilhão de vídeos de IA no aplicativo.

No entanto, a TikTok afirma que ‘um desafio comum da indústria é que esses tipos de rótulos podem ser removidos quando o conteúdo é recarregado ou editado em outro lugar’. As ferramentas de marca d’água invisível são projetadas para ajudar a combater isso.

A TikTok tem cuidado para evitar dizer qualquer coisa negativa sobre a IA generativa, afirmando explicitamente que deseja ‘proteger e capacitar experiências positivas com a IA’ — sejam elas quais forem. Mas a ideia geral do comunicado sugere que os vídeos gerados por IA estão se tornando um problema para a empresa, ou pelo menos para as pessoas que usam o aplicativo.

De acordo com The Guardian, mais de 100 milhões de vídeos são postados no TikTok diariamente, o que significa que os 1,3 bilhão de vídeos de IA que identificou ainda representam apenas uma pequena parte do que está sendo carregado no aplicativo (embora não saibamos quantos vídeos estão atualmente escapando da detecção). Mas, ao lado de todas essas funções de controle de IA que está adicionando, a TikTok diz que está lançando um fundo de alfabetização em IA de US$ 2 milhões para organizações como a Girls Who Code, que visa ‘criar conteúdo para o feed For You que ensine as pessoas sobre alfabetização e segurança em IA’.

Isso não é algo que você faz se as pessoas já estão engajando com a IA de maneira alfabetizada e segura, enquanto tudo junto sugere que o conteúdo de IA de baixa qualidade está se tornando um problema de imagem para a TikTok. A empresa também recentemente foi alvo de críticas por planos de tornar 439 cargos em suas equipes de confiança e segurança redundantes, visando substituir esses empregos de moderação por sistemas de monitoramento de IA. A mudança foi condenada por sindicatos e especialistas em segurança online, embora a TikTok tenha afirmado que as demissões eram parte de uma ‘reorganização’ que visava ‘evoluir esta função crítica para a empresa com o benefício dos avanços tecnológicos’.