Um grupo de empresas de diferentes setores da tecnologia assinou um acordo que cria uma nova aliança no mercado. O objetivo do grupo que inclui nomes como Amazon, Meta, OpenAI e TikTok é lutar de forma conjunta contra o uso criminoso, ilegal e enganatório de conteúdos feitos com inteligência artificial (IA).
O acordo foi assinado na última sexta-feira (16), durante a Munich Security Conference. Todas as companhias participantes se comprometem a “trabalhar de forma colaborativa em ferramentas” para prevenir, detectar e moderar a distribuição desse tipo de criação.
A aliança resultou em um documento chamado Tech Accord to Combat Deceptive Use of AI in 2024 Elections (Acordo de Tecnologia para Combater o Uso Enganoso de IA nas Eleições de 2024), um conjunto de promessas e metas que serão acompanhadas ao longo de 2024.
Elas devem ser aplicadas em eleições de cerca de 40 países que vão escolher novos representantes ao longo deste ano, incluindo Estados Unidos e Brasil. Você pode conferir o manifesto completo por meio deste link (em inglês).
Quem faz parte da aliança contra o mau uso eleitoral da IA?
As empresas que assinaram o acordo e vão combater o uso criminoso de IA nas eleições incluem redes sociais, desenvolvedoras de plataformas de edição de conteúdo, empresas de IA e especialistas em cibersegurança, entre outras gigantes do setor.
As 20 empresas participantes até o momento são as seguintes:
- Adobe
- Amazon
- Anthropic
- Arm
- ElevenLabs
- IBM
- Inflection AI
- McAfee
- Meta
- Microsoft
- Nota
- OpenAI
- Snap Inc.
- Stability AI
- TikTok
- Trend Micro
- Truepic
- X (o antigo Twitter)
A ideia da aliança é combater conteúdos falsos gerados em forma de imagem, áudio e vídeo, desde deepfakes de políticos candidatos a algum cargo até registros de eventos falsos gerados artificialmente, como suspeitas de manipulação no processo de voto.
Substituição de um rosto por outro ou criação do zero com IA serão ações criminosas comuns ao longo de 2024.Fonte: GettyImages
As técnicas sugeridas para evitar o espalhamento desse tipo de conteúdo incluem a adição de etiquetas ou uma marca d’água que identifique uma criação de IA e um sistema de denúncia efetivo. Em um passo anterior, a ideia é desenvolver também barreiras nas próprias plataformas generativas para impedir criações envolvendo candidatos ou o processo eleitoral.
O acordo inclui ainda a obrigatoriedade de transparência sobre a moderação de conteúdos feitos por IA, o compartilhamento mútuo desse tipo de combate entre as empresas participantes e realização de pesquisas constantes para prevenir esse tipo de publicação antes que o dano seja causado.
Fonte: https://www.tecmundo.com.br/mercado/280023-amazon-google-gigantes-tecnologia-juntam-combater-uso-ilegal-ia-eleicoes.htm#:~:text=O%20objetivo%20do%20grupo%20que,durante%20a%20Munich%20Security%20Conference.
