Facebook e Instagram vão usar rótulos ‘
Made with AI
Made with AI
‘ para indicar alto risco e capacidade de policiar conteúdo.
Os deepfakes têm se tornado uma preocupação cada vez maior, à medida que a tecnologia avança. Essas manipulações de vídeos e imagens, criadas com o uso de inteligência artificial, são capazes de gerar conteúdos extremamente realistas, muitas vezes difíceis de distinguir da mídia original. A disseminação de deepfakes levanta questões éticas e de segurança, deixando claro o potencial de impactos negativos na sociedade.
Com o avanço das tecnologias de edição e manipulação de vídeos, é crucial que as pessoas estejam cada vez mais atentas à veracidade do conteúdo consumido. Os vídeos adulterados e outra mídia alterada digitalmente podem ser usados de forma maliciosa, prejudicando a reputação de indivíduos e disseminando desinformação. Diante desse cenário, é fundamental desenvolver mecanismos eficazes de identificação e combate ao conteúdo manipulado para preservar a integridade da informação e garantir a confiabilidade das fontes em meio ao universo digital.
A Meta e suas novas políticas para combater deepfakes
Em um cenário com eleições importantes se aproximando em todo o mundo, a Meta, controladora do Facebook e do Instagram, anunciou mudanças em suas políticas relacionadas a mídias criadas digitalmente e conteúdo manipulado. O foco agora será testar a capacidade de policiar vídeos adulterados e outras formas de mídia alterada digitalmente, especialmente aquelas geradas por novas tecnologias de inteligência artificial.
Para isso, a empresa começará a aplicar rótulos ‘Made with AI’ (‘Feito com IA’) em vídeos, imagens e áudio gerados por IA publicados em suas plataformas a partir de maio. Essa medida busca ampliar a abordagem anterior, que lidava apenas com uma pequena parcela de conteúdos adulterados. De acordo com Monika Bickert, vice-presidente de política de conteúdo da Meta, haverá também rótulos mais proeminentes para identificar mídia que represente um alto risco de enganar o público.
Deepfakes e a nova abordagem da Meta
A nova estratégia da Meta envolve uma mudança significativa no tratamento dado ao conteúdo manipulado. Ao invés de focar na remoção de publicações, a empresa passará a concentrar esforços na manutenção do conteúdo, fornecendo informações aos espectadores sobre como ele foi criado. Essa iniciativa inclui a aplicação de marcadores invisíveis em imagens geradas por IA e em outros tipos de arquivos, a fim de garantir maior transparência sobre a origem da mídia.
Além disso, a Meta pretende aplicar os rótulos mais proeminentes de ‘alto risco’ de forma imediata. Essa medida visa combater a disseminação de conteúdo enganoso, especialmente em um contexto eleitoral tão relevante quanto o que se aproxima. Esses rótulos serão utilizados no Facebook, Instagram e Threads, abrangendo uma variedade de formatos de publicações.
A polêmica dos deepfakes e a atuação da Meta
Recentemente, o conselho de supervisão da Meta criticou as regras da empresa em relação a mídias manipuladas, classificando-as como ‘incoerentes’. Um exemplo citado foi a manutenção de um vídeo do presidente Joe Biden no Facebook, mesmo após análises identificarem manipulações que sugeriam comportamentos inadequados. A abordagem anterior da Meta apenas removia vídeos alterados se tivessem sido produzidos por inteligência artificial, deixando margem para a permanência de conteúdo enganoso.
Diante dessas questões, a empresa decidiu ampliar a aplicação de rótulos e a transparência em relação à origem e manipulação de mídias digitais. A implementação dos rótulos ‘Made with AI’ e ‘alto risco’ visa fornecer aos usuários mais informações sobre o conteúdo que consomem, reduzindo os potenciais impactos de deepfakes e outras formas de desinformação.
Fonte: @ Info Money
