O Special Competitive Studies Project (SCSP), uma iniciativa sem fins lucrativos e apartidária focada em fortalecer a competitividade de longo prazo dos EUA em IA, emitiu um alerta severo sobre a rápida evolução da inteligência artificial (IA) agentiva. Diferentemente dos sistemas convencionais de IA que geram respostas com base em comandos, a IA agentiva pode definir metas de forma independente, criar planos e executar tarefas de múltiplas etapas com supervisão humana mínima. De acordo com especialistas do SCSP, 'a IA está começando a ajudar a construir uma IA melhor', potencialmente criando um ciclo autoacelerador onde o desenvolvimento da capacidade da IA se compõe muito além das projeções atuais.
Ylli Bajraktari, presidente do SCSP, enfatizou as implicações de segurança em um boletim informativo recente sobre IA agentiva. 'Um agente que pode navegar por sistemas burocráticos complexos, identificar vulnerabilidades exploráveis e agir sem deixar uma trilha de atribuição clara representa uma expansão qualitativa da capacidade adversarial', afirmou. Bajraktari alertou que adversários provavelmente implantarão sistemas de IA agentiva em áreas onde a governança é mais fraca, usando-os para coerção, espionagem e operações de influência.
Ao contrário das suposições políticas comuns, a governança eficaz da IA agentiva não se centra no próprio modelo de IA, mas no 'andaime' construído ao seu redor, explicaram especialistas do SCSP. Esse andaime inclui conectores que ligam o modelo à infraestrutura do mundo real, como e-mail, sistemas de reserva e plataformas financeiras; memória que permite ao sistema aprender e se adaptar ao longo do tempo; capacidades de planejamento que dividem grandes objetivos em tarefas menores; estruturas de permissão que definem o acesso ao sistema; e salvaguardas que determinam o que o sistema se recusará a fazer, como limites de gastos ou aprovações humanas obrigatórias.
A responsabilização continua sendo um desafio crítico, com a governança ficando aquém em três áreas principais. Primeiro, a responsabilidade muitas vezes é intraceável quando a IA age autonomamente — não há uma maneira clara de determinar quem autorizou o quê. Segundo, as estruturas atuais geralmente avaliam apenas se uma tarefa foi concluída, não se foi realizada com segurança ou causou danos. Terceiro, a IA agentiva constrói perfis pessoais acumulando dados sensíveis sobre padrões de comportamento, preferências e inferências, potencialmente excedendo o que os indivíduos desejam compartilhar.
Apesar dessas preocupações, o SCSP enfatiza que a IA agentiva não é uma tecnologia a ser temida ou adiada. 'Instituições que priorizam entender, moldar e governar a IA agentiva determinarão sua própria posição competitiva e também impactarão o caráter do ambiente em que a IA agentiva opera globalmente', observaram os especialistas. Para os Estados Unidos, a governança proativa é essencial para mitigar riscos e aproveitar o potencial da tecnologia. Mais informações estão disponíveis em scsp.ai.
