O Google anunciou uma expansão de seu programa de recompensas por vulnerabilidades (VRP), visando aprimorar a segurança da perceptibilidade sintético generativa.
A empresa tem porquê objetivo incentivar pesquisas que abordem os desafios de segurança e proteção nesse campo, a término de tornar a IA mais segura para todos os usuários.
O programa de recompensas por vulnerabilidades, também sabido porquê “bug bounty”, oferece pagamentos a hackers éticos que descobrem e reportam falhas de segurança de forma responsável.
Com o progresso da IA generativa, surgiram novas preocupações relacionadas a questões porquê viés injusto e manipulação de modelos. Diante disso, o Google decidiu repensar a categorização e o relato de bugs nesse contexto específico.
Para facilitar nessa iniciativa, o Google está contando com a colaboração de sua recém-criada Equipe de Segurança de IA.
Esse grupo de especialistas em segurança cibernética e hackers éticos simula diferentes tipos de adversários, desde nações e grupos apoiados por governos até ativistas e insiders maliciosos.
O objetivo é identificar possíveis vulnerabilidades nas tecnologias de IA generativa, porquê o ChatGPT e o Google Bard.
A equipe de segurança descobriu que os grandes modelos de linguagem (LLMs) são suscetíveis a ataques de injeção de prompt, nos quais um hacker cria prompts adversários para influenciar o comportamento do protótipo.
Outrossim, foram identificados ataques de extração de dados de treinamento, que permitem que hackers reconstruam exemplos de treinamento para extrair informações pessoalmente identificáveis ou senhas.
Esses tipos de ataques estão agora contemplados no escopo do programa de recompensas expandido do Google. Em 2022, a empresa pagou mais de $12 milhões em recompensas a pesquisadores de segurança.
