security / enterprise
Por viés · 1 takes across the edition
Snyk · United States · EUA proíbem todos os estrangeiros no mundo de aceder aos modelos mais capazes da Anthropic
Análise do setor de segurança: o jailbreak citado pelo governo consistia em pedir ao modelo que lesse uma codebase e identificasse vulnerabilidades de software, uma capacidade que a Anthropic comercializava como uma funcionalidade legítima de programação. Argumenta que a suspensão estabelece um padrão em que qualquer modelo de IA capaz de realizar trabalho de segurança útil é um alvo potencial de controlo de exportações.
“O jailbreak citado era pedir à IA que revisse o código à procura de vulnerabilidades, a mesma capacidade que a Anthropic vendia como funcionalidade.”