Você sabia que as ferramentas de inteligência artificial podem se tornar perigosas em questão de minutos? Um estudo recente mostrou que a segurança de alguns modelos de código aberto pode ser facilmente removida, permitindo que respondam sobre assuntos proibidos, como armas biológicas e malware.
Essa informação foi revelada pelo Financial Times e destaca que os sistemas feitos por empresas como Meta e Google podem ter suas proteções desativadas rapidamente. Isso levanta preocupações sobre a responsabilidade e a segurança na inteligência artificial.
Os testes realizados mostraram que, utilizando apenas ferramentas disponíveis no mercado, era possível eliminar as proteções de segurança em menos de 10 minutos. Uma vez modificados, esses sistemas conseguiam responder perguntas que os modelos originais não permitiam.
Essas descobertas dizem muito sobre o desafio que governantes enfrentam, já que o uso de sistemas de código aberto está se espalhando rapidamente.
Proteções de segurança estão em risco
Especialistas estão se preocupando com o fato de que os sistemas de código aberto, que podem ser alterados por qualquer um, dificultam a aplicação de restrições de segurança depois que são lançados.
Os reguladores globais estão trabalhando em leis e diretrizes para controlar a inteligência artificial, mas as conclusões obtidas mostram que existem falhas nas atuais normas de governança, pois as regras se concentram no desenvolvimento e não nos usos maliciosos.
Markus Levin, cofundador de uma empresa de infraestrutura descentralizada, comentou que as regras propostas frequentemente não conseguem acompanhar a velocidade com que os modelos são liberados para uso público.
David Minarsch, de uma plataforma de inteligência artificial, alertou que será difícil impedir que pessoas acessem ou modifiquem os modelos uma vez que estão amplamente disponíveis online. Ele sugere que as regulamentações devem focar mais no uso e na distribuição, em vez de apenas na restrição do desenvolvimento inicial.
Ronghui Gu, da CertiK, enfatizou que, embora seja importante a segurança no início do desenvolvimento, isso não é suficiente quando os modelos podem ser baixados e redistribuídos. Ele acredita que novas formas de monitorar o uso malicioso precisam ser implementadas.
Levin também destacou que o controle se torna mais desafiador quando os modelos são amplamente compartilhados. Assim, quem legisla deve se concentrar mais nas infraestruturas de distribuição e muito menos apenas na concepção dos modelos.
Fique ligado no nosso portal e acompanhe as novidades sobre o mundo das criptomoedas e inteligência artificial!
Fonte original: https://cointelegraph.com/news/ai-guardrail-removals-raise-questions-over-limits-of-open-source-model-regulation?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound. Conteúdo adaptado pela equipe do GraficoCrypto.