O TikTok classifica automaticamente o conteúdo do usuário gerado por IA em primeiro lugar globalmente

Mantenha-se informado com atualizações gratuitas

Basta se inscrever inteligência artificial myFT Digest – entregue diretamente na sua caixa de entrada.

O TikTok se tornará a primeira plataforma de mídia social a rotular automaticamente alguns conteúdos gerados por IA, à medida que os rápidos avanços na IA aprofundam as preocupações sobre a disseminação de desinformação online e deepfakes.

Grupos online, como os proprietários do Facebook Meta e TikTok, estão pedindo aos usuários que revelem se imagens, áudio ou vídeos da vida real foram capturados por software de IA.

O aplicativo de vídeo viral, de propriedade da empresa chinesa ByteDance, foi mais longe na quinta-feira, anunciando que está introduzindo recursos próprios para garantir que os vídeos que possa identificar como criados por inteligência artificial sejam rotulados como tal. Isso incluirá conteúdo criado usando a ferramenta Firefly da Adobe, geradores de imagens alimentados por IA da TikTok e Dall-E da OpenAI.

“O desafio é que sabemos, por muitos dos especialistas com quem trabalhamos, que há um aumento de… conteúdo prejudicial gerado por inteligência artificial”, disse Adam Presser, chefe de operações, confiança e segurança da TikTok.

“Isto é muito importante para a nossa comunidade porque a autenticidade é, na verdade, um dos elementos que tornou o TikTok uma comunidade tão vibrante e alegre… Eles querem ser capazes de compreender o que é feito pelo homem e o que é aumentado ou criado com IA.

As plataformas de redes sociais, incluindo TikTok, Meta, X e YouTube, estão a explorar formas de integrar IA generativa nas suas plataformas, através de chatbots e novas ferramentas que ajudam influenciadores e anunciantes a criar meios de comunicação. No entanto, as plataformas têm sido fortemente criticadas por permitirem que os utilizadores sejam inundados com spam gerado por IA de baixa qualidade.

Num ano com eleições importantes em todo o mundo, estas empresas também enfrentam pressão para introduzir barreiras em torno dos deepfakes enganosos, limitar as operações de influência encoberta e garantir que moderam adequadamente o conteúdo, permanecendo apartidárias.

No início desta semana, a TikTok e sua controladora ByteDance entraram com uma ação judicial contra o governo dos EUA, contestando uma lei destinada a forçar a venda ou proibição do aplicativo. Os legisladores expressaram preocupação de que a plataforma possa espalhar desinformação e propaganda.

A TikTok disse na quinta-feira que se juntará a uma coalizão de grupos de tecnologia e mídia, liderada pela Adobe, que está integrando as chamadas credenciais de conteúdo em produtos criados por inteligência artificial.

Esta tecnologia incorpora uma impressão digital em conteúdo multimídia de IA, juntamente com outras informações de identificação, como quando, onde e quem criou o material. O TikTok usará esses indicadores para informar automaticamente quando o conteúdo for criado usando produtos de IA.

A OpenAI anunciou na terça-feira que se juntará à aliança e integrará a tecnologia de impressão digital em todas as imagens geradas por seu modelo de imagem Dall-E 3. Eventualmente, disse o fabricante do ChatGPT, também irá integrá-la em seu modelo de geração de vídeo Sora, quando for. foi amplamente divulgado.

As principais empresas tecnológicas, incluindo Google, Microsoft e Sony, estão a explorar a incorporação da tecnologia nas suas ferramentas de IA.

Meta disse no início deste mês que começaria a carimbar o conteúdo gerado por IA com uma tag “Made by AI”, revelando as tags invisíveis incluídas por grupos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. O dono do Facebook também disse que está desenvolvendo ferramentas de classificação para detectar deepfakes.

Especialistas argumentam que maus atores ou grupos sofisticados de desinformação provavelmente usarão ferramentas de geração de IA de código aberto para criar imagens falsas, o que poderia torná-las difíceis de rastrear e indistinguíveis de impressões digitais e marcas d’água.

As empresas de tecnologia afirmam que os seus esforços representam o primeiro passo para resolver o problema.

“A premissa desta solução é que se você deseja ser transparente e ter uma conversa real e transparente com seu público, esta ferramenta permitirá que você faça isso em um mundo onde tudo pode ser manipulado digitalmente”, disse Dana Rao, consultora geral e diretor de confiança da Adobe.