Google cria o Naptime: inteligência artificial para caçar brechas de segurança

Fonte: CenárioMT

IAs devem cooperar em tarefas a partir de 2025

O Google anunciou o Naptime, uma nova ferramenta que utiliza inteligência artificial (IA) para auxiliar na descoberta de vulnerabilidades em códigos. O Naptime possibilita que um modelo de linguagem ampla (LLM, na sigla em inglês) realize pesquisas de segurança, tornando o processo mais automatizado e eficiente.

“A arquitetura do Naptime se concentra na interação entre uma agente de IA e o código-base alvo”, explicam Sergei Glazunov e Mark Brand, pesquisadores do Google Project Zero. “A agente recebe um conjunto de ferramentas especializadas, projetadas para imitar o fluxo de trabalho de um especialista em segurança humana.”

O nome “Naptime” (“hora da soneca” em inglês) é usado de forma bem-humorada, pois a ideia é que a ferramenta possa auxiliar os pesquisadores humanos na identificação e análise de vulnerabilidades, permitindo que eles “tirem cochilos” enquanto o Naptime trabalha.

[-CONTINUA APÓS A PUBLICIDADE-]

Esse processo se baseia nos avanços da IA em compreensão de código e capacidade de raciocínio geral. O Naptime permite que a IA replique o comportamento humano na busca por falhas de segurança.

Leia também: Funcionários de gigantes da IA alertam sobre perigos da tecnologia em carta aberta

A ferramenta conta com diversos recursos, como um navegador de código que permite à agente explorar o código-base, uma ferramenta Python para executar scripts em ambiente seguro para fuzzing (teste de software que busca entradas inesperadas), um depurador para observar o comportamento do programa com diferentes entradas e, por fim, uma ferramenta de relatório para monitorar o progresso da tarefa.

Segundo o Google, o Naptime é compatível com diferentes modelos de IA e plataformas. Além disso, a ferramenta se destaca na identificação de estouros de buffer e corrupção de memória, obtendo pontuações máximas em testes comparativos.

“O Naptime permite que um LLM realize pesquisas de vulnerabilidade imitando a abordagem iterativa e baseada em hipóteses usada por especialistas em segurança humana”, afirmam os pesquisadores. “Essa arquitetura não apenas aprimora a capacidade do agente de identificar e analisar vulnerabilidades, mas também garante que os resultados sejam precisos e reproduzíveis.”

A adoção do Naptime promete agilizar a descoberta de brechas de segurança, tornando o desenvolvimento de softwares e sistemas mais seguros.