Explorando vulnerabilidades, os especialistas fizeram os chatbots gerarem quaisquer tipos de conteúdos
Pesquisadores da Universidade Carnegie Mellon e do Center for AI Safety, nos Estados Unidos, afirmam ter encontrado
formas de burlar a segurança das inteligências artificiais generativas mais populares, fazendo-as gerar quaisquer tipos de conteúdosDe acordo com os especialistas, chatbots como ChatGPT e Google Bard têm vulnerabilidades que podem ser exploradas “com facilidade”,ganham permissão paraAs falhas na segurança permitiram desbloquear o ChatGPT e o Bard para gerar qualquer conteúdo.
Não é exigido nenhum conhecimento avançado para desbloquear todo o potencial da tecnologia, embora o método não vá funcionar sempre.foi possível fazer os chatbots gerarem conteúdos sobre os mais variados tipos de assuntos sensíveis , de instruções para criar armas biológicas a métodos de desencadear uma guerra global, além de orientações sobre como cometer assassinatos. “Isso levanta preocupações sobre a segurança de tais modelos”, escreveram os autores do estudo.As taxas de sucesso das tentativas de enganar as IAs para gerar qualquer tipo de conteúdo variaram de acordo com o modelo.
, apresentando o pior índice. Por sua vez, o ChatGPT, nas versões GPT-3 e GPT-4, foi “quebrado” em 84% das vezes, segundo a pesquisa.Os pesquisadores entraram em contato com as empresas que tiveram seus modelos testados, relatando os resultados. Ao, a porta-voz da OpenAI, Hannah Wong, disse que a startup está avaliando o estudo e tem “trabalhado constantemente” para reforçar a segurança da sua tecnologia contra métodos de jailbreak.
Brasil Últimas Notícias, Brasil Manchetes
Similar News:Você também pode ler notícias semelhantes a esta que coletamos de outras fontes de notícias.
LuzIA, sistema que leva ChatGPT ao WhatsApp, chega a um milhão de usuários no BrasilFerramenta de IA foi lançada há uma semana, totalmente em português. Além de responder perguntas, traduzir textos e criar conteúdo escritos, também permite a transcrição de áudios, envio de comandos por mensagem de voz e criação de imagens
Consulte Mais informação »
PhotoGuard: ferramenta criada por pesquisadores pode proteger as suas fotos de manipulação por IASoftware criado por pesquisadores do MIT consegue impedir manipulação convincente
Consulte Mais informação »
Arqueólogos descobrem antigo navio romano no fundo do MediterrâneoEmbarcação contém centenas de frascos e, para os pesquisadores, remonta às antigas rotas comerciais marítimas
Consulte Mais informação »
O que sabemos sobre o “AppleGPT“ até o momentoTecnologia de inteligência artificial generativa que pode ser nova concorrente do Bard (Google) e do ChatGPT (OpenAI) vem sendo desenvolvida pela empresa do iPhone
Consulte Mais informação »
ChatGPT, Bard, Copilot e LlaMA: quem é quem na aposta das big techs para dominar a IAConheça quais são as ferramentas de inteligência artificial que Microsoft, Google, OpenAI e Meta estão embutindo em serviços e produtos - deles próprios e de outras empresas
Consulte Mais informação »