Você sabia que a segurança da inteligência artificial precisa ser pensada de forma mais ampla para evitar que golpistas tenham sucesso? Um novo estudo aponta que a proteção não deve ser apenas em torno do modelo, mas sim em todo o sistema.
Pesquisadores do Google, Gray Swan AI e universidades renomadas sugerem que precisamos tratar a segurança da IA como um problema sistêmico e considerar esses agentes como potencialmente inseguros. Isso significa que focar apenas na robustez do modelo não é suficiente.
“Devemos ver a segurança da IA como parte da segurança cibernética, que é um campo que já estuda como lidar com atacantes habilidosos.”
A inteligência artificial está se tornando cada vez mais popular entre os usuários de criptomoedas. Executivos do setor acreditam que a utilização de agentes de IA pode crescer exponencialmente nos próximos anos, com previsões de que bilhões de agentes estarão operando para ajudar usuários em breve.
As principais proteções de segurança podem impedir a maioria dos ataques
De acordo com os pesquisadores, existem “três mecanismos” que podem reduzir significativamente os ataques cibernéticos. Esses mecanismos ajudam a diferenciar entre instruções e dados que podem ser enganadores.
Os agentes de IA devem ter apenas as permissões mínimas necessárias para realizar uma tarefa. Isso ajuda a preveni-los de serem enganados por invasores que possam esconder instruções maliciosas em dados aparentemente inofensivos.
Recentemente, um assistente de negociação de criptomoedas de IA desativou transações ao detectar um invasor que havia acessado diversas carteiras. Essa situação mostra a importância de um sistema de segurança robusto para evitar tais falhas.
Certa vez, um especialista em segurança comentou que dar acesso a uma carteira para um agente de IA deve ser feito com cautela, garantindo que o sistema esteja bem construído. Assim, mesmo que um bilionário misterioso tenha acesso, a segurança deve ser reforçada.
Sean Ren, cofundador de uma plataforma de blockchain de IA, destacou que os agentes de IA atuam como guardiões, realizando apenas ações específicas e autorizadas, como verificar saldos, sem movimentar fundos livremente.
Fique ligado, pois a segurança em criptoativos está em constante evolução, e sempre há novidades acontecendo. Para mais informações sobre o mundo das criptomoedas, continue acompanhando nosso portal!
Fonte original: https://cointelegraph.com/news/google-meta-researchers-ai-agents-untrusted-system-security?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound. Conteúdo adaptado pela equipe do GraficoCrypto.