O inteligência artificial do Copilot pode estar ficando fora de controle, com o conteúdo de imagem que ele gera através do sistema integrado Dall-E. Isso é o que um engenheiro alerta Microsoftque informa que o mecanismo de aprendizado de máquina estaria publicando ilustrações violentas e sexuais para qualquer usuário sem qualquer tipo de restrição.
O hipertextual relata que o engenheiro em questão se chama Shane Jones. Ele é gerente de software da Microsoft e afirma que o Copilot Designer não respeita os sistemas de segurança impostos à inteligência artificial.
O engenheiro ficou encarregado do trabalho de supervisão modelo de inteligência artificial por três meses. Ele constatou, em repetidas ocasiões, a geração de imagens ilegais. Ele relatou o incidente aos seus superiores e disse em uma entrevista que eles o ignoraram completamente.
Recomendado
Jones compartilhou suas descobertas mostrando exemplos de imagens geradas pelo Copilot Designer que incluíam demônios, adolescentes armados, mulheres sexualizadas em contextos violentos e menores usando todos os tipos de drogas.
O referido site acrescenta que além das imagens acima descritas, o sistema Copilot também gera ilustrações de personagens animados, desde histórias em quadrinhos, videogames ou filmes em ambientes distantes de sua realidade.
Acredita-se que o problema se deva à forma como o Copilot Designer é treinado. O modelo baseia-se numa grande quantidade de dados, alguns dos quais podem conter conteúdo impróprio.
Jones ultrapassou as barreiras dos seus patrões e, por ter sido ignorado, dirigiu-se à Comissão Federal de Comércio dos Estados Unidos com uma carta pedindo-lhes que tomassem medidas contra esta eventualidade.
O que você pensa?
Shane Jones, engenheiro de IA da Microsoft, alertou a Comissão Federal de Comércio dos EUA (FTC) e o conselho da Microsoft sobre o potencial do Copilot Designer criar conteúdo prejudicial.Carta Aberta de Jones:
Produtos nocivos: em seu relatório, Jones destaca problemas sérios… pic.twitter.com/F10cdxNeIQ
– absinto (@prashantjoge) 7 de março de 2024
“Nos últimos três meses, instei repetidamente a Microsoft a remover o Copilot Designer do uso público até que melhores salvaguardas possam ser implementadas.” Ele disse ainda que a empresa sabia desses problemas antes mesmo do lançamento e eles ainda seguiram em frente.
“Se este produto começar a espalhar imagens prejudiciais e perturbadoras por todo o mundo, não haverá lugar para denunciá-lo, nenhum número de telefone para ligar e nenhuma maneira de escalar o problema para resolvê-lo. imediatamente”, acrescentou Jones em uma reclamação à Microsoft.
A gigante de Redmond emitiu um comunicado politicamente correto em que reconhece o problema e diz que tomou medidas para resolvê-lo. A empresa afirma ter atualizado o Copilot Designer para evitar a geração de conteúdo impróprio.
