Porquê secção de uma iniciativa contínua da Lar Branca para tornar o software mais seguro, a Filial de Projetos de Pesquisa Avançada de Resguardo (DARPA) planeja lançar um concurso de dois anos, o AI Cyber Challenge, que encarregará os concorrentes de identificar e emendar vulnerabilidades de software usando IA.
Em colaboração com as startups de IA Anthropic e OpenAI, muito uma vez que com a Microsoft e o Google, o AI Cyber Challenge fará com que as equipes dos EUA compitam para proteger melhor o “software vital” – código de infraestrutura especificamente crítico – usando IA. Com a Open Source Security Foundation (OSC) da Linux Foundation servindo uma vez que consultora de desafios, US$ 18,5 milhões em prêmios serão concedidos aos principais concorrentes.
A DARPA diz que também disponibilizará US$ 1 milhão cada para até sete pequenas empresas que desejarem participar.
“Queremos gerar sistemas que possam proteger maquinalmente qualquer tipo de software contra ataques”, disse Perry Adams, gerente de programa da DARPA, que concebeu o AI Cyber Challenge, a repórteres em uma coletiva de prelo ontem. “Ts ganhos recentes em IA, quando usados com responsabilidade, têm um potencial notável para proteger nosso código, eu acho.”
Adams observou que o código-fonte ingénuo está sendo cada vez mais usado em software crítico. A recente A pesquisa do GitHub mostra que impressionantes 97% dos aplicativos utilizam código-fonte ingénuo e que 90% das empresas estão aplicando ou usando código-fonte ingénuo de alguma forma.
A proliferação do código ingénuo levou a uma explosão de inovação. Mas também abriu a porta para danificar novas vulnerabilidades e exploits. Uma estudo de 2023 da Synopsys encontrado que 84% das bases de código continham pelo menos uma vulnerabilidade de código ingénuo conhecida e que 91% tinham versões desatualizadas de componentes de código ingénuo.
Em 2022, o número de ataques à masmorra de suprimentos – ataques a componentes de terceiros, normalmente de código ingénuo de uma base de código maior – aumentou 633% ano a ano, um relatório da Sonatype estudar encontrado.
Na sequência de incidentes de tá nível, uma vez que o ataque de ransomware Colonial Pipeline, que interrompeu as entregas de gás e petróleo em todo o sudeste dos Estados Unidos e o ataque à masmorra de suprimentos SolarWinds, no ano pretérito, o governo Biden-Harris emitiu um ordem executiva para melhorar a segurança da masmorra de suprimentos de software, criando um parecer de revisão de segurança cibernética para examinar ataques cibernéticos e fazer recomendações para proteções futuras. E em maio de 2022, a Lar Branca juntou-se à The Open Source Security Foundation e à Linux Foundation para pedir US$ 150 milhões em financiamento ao longo de dois anos para emendar problemas pendentes de segurança de código ingénuo.
Mas com o lançamento do AI Cyber Challenge, o governo Biden evidentemente acredita que a IA tem um papel maior a desempenhar na ciberdefesa.
“O AI Cyber Challenge é uma chance de explorar o que é provável quando especialistas em segurança cibernética e IA têm chegada a um conjunto de recursos entre empresas de calibre combinado e sem precedentes”, disse Adams. “Se formos bem-sucedidos, espero ver o AI Cyber Challenge não exclusivamente produzir a próxima geração de ferramentas de segurança cibernética neste espaço, mas mostrar uma vez que a IA pode ser usada para melhorar a sociedade, defendendo cá seus fundamentos críticos.”
Embora muito tenha sido escrito sobre o potencial da IA para ajudar no cyberataques – gerando código malicioso, por exemplo – alguns especialistas acreditam que os avanços da IA podem ajudar a fortalecer defesas cibernéticas das organizações, permitindo que os profissionais de segurança executem tarefas de segurança com mais eficiência. De acordo com de concórdia com uma pesquisa da Kroll com líderes empresariais globais, mais da metade diz que agora está usando IA em seus esforços mais recentes de segurança cibernética.
Equipes no AI Cyber Challenge participará de um evento de qualificação na primavera de 2024, e os artilheiros – até 20 – serão convidados para uma competição semifinal na conferência DEF CON anual em 2024. Até cinco equipes receberão prêmios de $ 2 milhões e continuarão na período final da competição, que será realizada na DEF CON 2025. E os três primeiros colocados da última rodada receberão prêmios adicionais, com o primeiro posto recebendo US$ 4 milhões.
Todos os vencedores serão solicitados – mas não obrigados – a penetrar o código de seus sistemas de IA.
O AI Cyber Challenge baseia-se na avaliação de padrão anunciada anteriormente pela Lar Branca na EF CON deste ano, que visa identificar as maneiras pelas quais grandes modelos de linguagem nas linhas do OpenAI ChatGPT podem ser explorados para fins maliciosos – e, com alguma sorte, chegar a correções para essas explorações. A avaliação medirá, aliás, uma vez que os modelos se alinham com os princípios e práticas recentemente delineados no projecto do governo Biden-Harris para um “declaração de direitos de IA” e a estrutura de gerenciamento de riscos de IA do Instituto Vernáculo de Padrões e Tecnologia.
