O Instituto Nacional de Padrões e Tecnologia (NIST) dos EUA está sob pressão com uma tarefa desafiadora: desenvolver padrões robustos de segurança para IA até julho de 2024. Esta iniciativa, vital para mitigar os riscos da IA, faz parte de uma estratégia mais ampla da Casa Branca para assegurar que os sistemas de IA sejam livres de viéses e tendências prejudiciais. No entanto, o orçamento atual do NIST é significativamente inferior ao necessário para cumprir esses objetivos ambiciosos de forma independente, o que levanta preocupações sobre uma possível dependência excessiva do setor privado para expertise e recursos.
Discussões recentes na conferência NeurIPS de IA lançaram luz sobre o “prazo quase impossível” estabelecido para o NIST, destacando a disparidade entre os recursos da agência e os vastos fundos disponíveis para desenvolvedores privados de IA como OpenAI, Google e Meta. Enquanto o NIST tem um histórico de padronização em diversos campos e recentemente lançou uma estrutura de gerenciamento de riscos de IA, o desafio de testar sistemas de IA independentemente permanece assustador devido a restrições orçamentárias.
A consciência do Congresso sobre essas limitações levou a apelos bipartidários por maior transparência e preocupação com a abordagem da agência em envolver entidades privadas. Legisladores enfatizam o estado incipiente da pesquisa em segurança de IA e a necessidade de padrões claros e cientificamente sólidos, expressando preocupação sobre a direção do NIST sob as atuais restrições.
O cenário é ainda mais complicado pela natureza secreta dos modelos comerciais de IA, que apresenta desafios significativos para a medição e padronização. Especialistas defendem o papel do NIST como um corpo imparcial para navegar pelos riscos da IA, enfatizando a necessidade de suporte substancial para cumprir seu mandato efetivamente. À medida que a agência busca entrada externa para avaliar e testar adversamente os modelos de IA, enfrenta o desafio crítico de equilibrar as pressões imediatas contra o objetivo de longo prazo de desenvolver padrões globais abrangentes e responsáveis para o desenvolvimento de IA.
