Com os avanços da inteligência artificial, é difícil distinguir o que é real. Isso gera uma alta proliferação de imagens sexualmente explícitas.
A crescente evolução da inteligência artificial está provocando uma crescente complexidade na distinção entre o que é autêntico e manipulado. Esse dilema contemporâneo tem ocasionado um aumento considerável na disseminação de imagens pornográficas de mulheres e meninas em diversos cantos da internet.
Além disso, a presença de imagens eróticas tem se tornado ainda mais frequente em plataformas online, ampliando a discussão sobre os limites éticos e legais acerca da disseminação desses conteúdos na web. A reflexão sobre a exposição involuntária a imagens pornográficas é fundamental para a construção de um ambiente virtual mais seguro e respeitoso para todos os usuários.
Desafios na Moderação de Imagens Sexualmente Explícitas
Recentemente, o X (Twitter) enfrentou uma série de obstáculos na luta contra a disseminação de imagens pornográficas falsas da estrela pop Taylor Swift, levando a plataforma de Elon Musk a impor temporariamente restrições aos usuários que procurassem por fotos da cantora norte-americana.
O Conselho de Supervisão da Meta, empresa controladora do Instagram, Facebook, WhatsApp e Threads, está revisando a abordagem das plataformas em dois casos específicos. Um deles envolve uma imagem gerada por inteligência artificial de uma mulher nua, semelhante a uma figura pública da Índia, compartilhada em um perfil do Instagram dedicado a imagens eróticas falsas de mulheres indianas.
Artigos Relacionados
O segundo caso trata de um grupo no Facebook destinado a compartilhar criações de IA, exibindo uma imagem falsa de uma mulher despida, parecida com uma personalidade pública dos EUA, sendo tocada por um homem. Inicialmente, a Meta removeu apenas a imagem da mulher norte-americana por violar a política contra bullying e assédio, que proíbe ‘photoshops ou desenhos sexualizados depreciativos’, mantendo a imagem da mulher indiana até a intervenção do conselho. Em comunicado oficial, a Meta reconheceu os incidentes e comprometeu-se a acatar as decisões do conselho.
Enquanto a empresa de Mark Zuckerberg enfrenta desafios internos na moderação dessas imagens depreciativas, alguns líderes do setor já defendem a implementação de legislação que criminalize a criação de deepfakes prejudiciais e exija que as empresas tecnológicas impeçam tais usos de seus produtos. *Com informações da Reuters. Acompanhe o Adnews no Instagram e LinkedIn. #WhereTransformationHappens
Fonte: @ Ad News
Comentários sobre este artigo