A Nvidia anunciou nesta segunda-feira (28) uma nova plataforma voltada à segurança de agentes de inteligência artificial (IA), em uma tentativa de criar mecanismos capazes de acompanhar, limitar e interromper ações realizadas por sistemas autônomos. A iniciativa surge em meio ao avanço dos chamados agentes de IA, que já conseguem executar tarefas, acessar arquivos, utilizar ferramentas digitais e interagir com diferentes sistemas com cada vez menos intervenção humana.

Batizada de Nvidia Open Agent Safety Platform, a solução foi apresentada pela fabricante de chips como uma estrutura aberta para estabelecer limites de segurança desde a fase de testes até a utilização dos agentes em ambientes reais. Segundo a empresa, mais de 100 organizações de diferentes setores já trabalham com tecnologias relacionadas à plataforma.

O anúncio foi feito pelo CEO da Nvidia, Jensen Huang, que destacou a necessidade de combinar o desenvolvimento das capacidades da inteligência artificial com mecanismos de segurança capazes de acompanhar essa evolução.

“A extraordinária capacidade da IA só será concretizada se resolvermos a questão da segurança da IA”, afirmou Huang no anúncio da empresa.

Tecnologia foi criada para estabelecer limites aos agentes

A nova plataforma reúne dois componentes principais: o OpenShell, um software de código aberto que cria uma espécie de ambiente controlado para os agentes, e o Sentry, um sistema de monitoramento desenvolvido para funcionar de maneira independente e acompanhar o comportamento dessas aplicações.

De acordo com a Nvidia, o OpenShell permite rastrear as ações realizadas pelos agentes e aplicar políticas que determinam quais atividades eles podem ou não executar. A tecnologia foi projetada para funcionar sobre processadores Nvidia Vera, mas a empresa afirma que o software pode ser adaptado para plataformas de computação de terceiros, incluindo tecnologias da Arm e da Intel.

Na prática, a proposta é criar uma camada adicional entre o agente de IA e os recursos aos quais ele tem acesso.

Isso significa que uma empresa poderá definir previamente quais arquivos, sistemas, ferramentas ou serviços um agente pode utilizar. Se o sistema tentar ultrapassar esses limites, a infraestrutura poderá identificar o comportamento e bloquear a ação.

Sentry funciona como uma espécie de vigilante

O segundo componente da plataforma é o Sentry, que acrescenta uma camada de monitoramento independente.

A Nvidia explica que o Sentry utiliza processadores BlueField-4 para acompanhar continuamente o comportamento dos agentes. Caso um sistema tente sair das fronteiras estabelecidas, o mecanismo poderá colocá-lo em quarentena em questão de milissegundos.

A ideia é importante porque agentes de IA não funcionam apenas como ferramentas tradicionais de software. Diferentemente de um programa que executa uma sequência fixa de comandos, um agente pode receber uma meta, tomar decisões intermediárias e utilizar diferentes recursos para tentar alcançar o resultado solicitado.

Quanto maior a autonomia, maior também é a preocupação com o que pode acontecer caso o sistema interprete uma tarefa de maneira inesperada.

A Nvidia pretende justamente colocar uma barreira adicional nesse processo.

Crescimento da IA aumenta preocupação com segurança

O lançamento ocorre em um momento em que empresas de tecnologia ampliam o uso de agentes capazes de realizar tarefas cada vez mais complexas.

Esses sistemas podem ser empregados em programação, atendimento ao cliente, análise de dados, administração de sistemas, operações financeiras e diversas outras atividades.

Ao mesmo tempo, incidentes envolvendo agentes que ultrapassaram limites previstos aumentaram a atenção sobre os riscos de conceder autonomia a sistemas de inteligência artificial.

A Reuters destacou que a Nvidia apresentou as novas ferramentas em meio a preocupações crescentes sobre agentes autônomos que podem agir de maneiras inesperadas e acessar recursos além do inicialmente previsto.

A preocupação não significa necessariamente que os sistemas tenham desenvolvido uma espécie de vontade própria. O problema é mais técnico: agentes podem interpretar objetivos, utilizar ferramentas e tomar decisões de forma que os desenvolvedores não tenham antecipado completamente.

Por isso, mecanismos externos de controle podem funcionar como uma camada de proteção.

Mais de 100 empresas participam da iniciativa

A Nvidia afirma que mais de 100 organizações estão trabalhando com as tecnologias da nova plataforma.

Entre as empresas citadas estão Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow e SpaceXAI.

A participação de diferentes empresas e instituições mostra que a discussão sobre segurança da IA deixou de ser apenas uma preocupação de pesquisadores e passou a fazer parte da estratégia de grandes companhias que pretendem utilizar agentes autônomos em larga escala.

A Salesforce, por exemplo, integrou o OpenShell ao Slack para permitir que equipes acompanhem atividades dos agentes e analisem eventos registrados. Segundo a Nvidia, usuários poderão visualizar determinadas ações e aprovar ou rejeitar pedidos de novas permissões.

A proposta reforça um conceito que vem ganhando espaço no desenvolvimento da IA: quanto maior a autonomia de uma tecnologia, maior deve ser a capacidade humana de supervisioná-la.

Jensen Huang defende avanço da inteligência artificial

Apesar do debate sobre os riscos da tecnologia, Jensen Huang continua defendendo uma expansão significativa da inteligência artificial.

O executivo tem argumentado que regulamentações precisam considerar o desenvolvimento da indústria e evitar que regras excessivamente restritivas impeçam a inovação.

A posição da Nvidia combina, portanto, dois movimentos que podem parecer contraditórios à primeira vista: ampliar o desenvolvimento e a utilização de sistemas de IA e, simultaneamente, criar mecanismos para limitar seu comportamento.

A empresa considera que a segurança pode ser incorporada à própria infraestrutura tecnológica, acompanhando o agente desde o momento em que ele é testado até sua utilização em ambientes corporativos.

A Reuters também apontou que a iniciativa possui importância estratégica para a Nvidia, já que uma adoção mais ampla e segura dos agentes pode estimular a demanda por infraestrutura computacional utilizada para executar esses sistemas.

Nvidia também anuncia recompra recorde de ações

Além da nova plataforma de segurança para inteligência artificial, a Nvidia anunciou nesta segunda-feira uma decisão de grande impacto no mercado financeiro.

A empresa autorizou uma ampliação de US$ 150 bilhões em seu programa de recompra de ações. Com a nova autorização, o total restante disponível para recompras chega a US$ 235 bilhões.

O valor adicional de US$ 150 bilhões supera o recorde anterior da Apple, que havia anunciado uma autorização de recompra de US$ 110 bilhões em 2024.

A Nvidia afirmou que sua capacidade de gerar caixa permite continuar investindo em tecnologias relacionadas à transformação da computação e, ao mesmo tempo, devolver recursos aos acionistas.

O programa poderá ser executado até o ano fiscal de 2028.

Mercado reage ao anúncio

As ações da Nvidia reagiram positivamente às notícias. Segundo a Reuters, os papéis chegaram a registrar alta superior a 2% após o anúncio do novo programa de recompra.

A reação ocorre em um momento de intensa disputa no mercado de chips voltados à inteligência artificial, com empresas como AMD e outras fabricantes ampliando investimentos para disputar uma parcela desse mercado.

A Nvidia continua sendo uma das principais empresas beneficiadas pela expansão dos investimentos em inteligência artificial, especialmente por fornecer os processadores utilizados em grandes centros de dados.

A empresa, porém, também enfrenta questionamentos sobre a sustentabilidade do ritmo de investimentos em infraestrutura de IA e sobre a competição crescente no setor.

Um novo capítulo na corrida pela IA segura

O lançamento da Open Agent Safety Platform mostra que a corrida tecnológica entrou em uma nova etapa. Não basta apenas criar modelos capazes de responder perguntas ou executar tarefas. A indústria agora precisa encontrar formas de garantir que sistemas cada vez mais autônomos permaneçam dentro dos limites estabelecidos por seus operadores.

A proposta da Nvidia é transformar essa preocupação em infraestrutura tecnológica, criando mecanismos capazes de observar, registrar, limitar e, quando necessário, interromper ações realizadas por agentes.

A plataforma não representa uma garantia absoluta de que um sistema de inteligência artificial jamais cometerá erros ou apresentará comportamentos inesperados. Ela funciona como uma camada adicional de controle e segurança.

Ao reunir empresas de tecnologia, pesquisadores e organizações do setor público, a Nvidia também tenta estimular padrões comuns para o desenvolvimento de agentes mais seguros.

Enquanto a inteligência artificial avança rapidamente e passa a assumir tarefas antes realizadas exclusivamente por pessoas, a capacidade de supervisionar essas ferramentas se torna cada vez mais importante.

A mensagem transmitida pela Nvidia é clara: quanto mais autonomia a inteligência artificial conquistar, mais sofisticados também precisarão ser os mecanismos capazes de mantê-la dentro dos limites definidos pelos seres humanos.