Os Estados Unidos proibiram, nesta sexta-feira, 12, o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic; o país alega risco de “segurança nacional”. A medida é válida para estrangeiros dentro e fora dos EUA, inclusive para funcionários da startup.

A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida. O pedido não especificou qual seria o “risco de segurança nacional”, mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5. A prática consiste em utilizar engenharia de prompt ou simulações para fazer com que um bot de IA retorne algo diferente da forma que foi programado. A técnica ignora regras de segurança e princípios éticos, permitindo a execução de ações restritas.

Em comunicado, a dona do Claude afirmou que, apesar de cumprir a ordem, acredita que a diretiva do governo se trata de um “mal-entendido”. A Anthropic discorda que a possibilidade de um jailbreak seja motivo suficiente para barrar a utilização da ferramenta por milhões de pessoas. “Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, escreveu a empresa.

Qual o diferencial do novo modelo de IA?

Os novos modelos lançados pela Anthropic, Fable 5 e Mythos 5, foram disponibilizados ao público na última terça, 9, com uma expectativa inicial de que ficariam disponíveis gratuitamente por apenas 13 dias. Após a segunda-feira, 22 de junho, os usuários teriam que utilizar o modelo não sob planos tradicionais, mas via pagamento de preços de API, onde seriam cobrados por cada requisição. Essa mudança na política de acesso reflete uma tendência crescente entre startups de IA, que buscam monetização diante de crescentes regulações.

A decisão de restringir o acesso aos modelos foi tomada apenas três dias após o lançamento. Isso levanta questões sobre como o governo está lidando com startups de inteligência artificial que estão na vanguarda da inovação tecnológica, especialmente em relação a normas regulatórias. O impacto no mercado pode ser significativo, afetando tanto desenvolvedores como usuários finais que dependem de acessibilidade a tecnologias de IA.

As divergências entre a Anthropic e o governo americano não são novas. No final de fevereiro, o governo determinou que as agências parassem de usar os modelos da startup, após a empresa se recusar, por razões éticas, a permitir o uso irrestrito de suas IAs pelas forças armadas dos EUA. Isso demonstra as tensões existentes entre inovação tecnológica e preocupações de segurança.

Como se compara ao concorrente?

A nova proibição levanta comparações com outras empresas no cenário da inteligência artificial, muitas das quais também enfrentam desafios regulatórios ou de segurança. Modelos de IA de outras empresas, como OpenAI e Google, têm buscado equilibrar inovações com riscos associados. O atual contexto regulatório coloca a Anthropic em posição vulnerável, especialmente em comparação a empresas que têm uma relação mais favorável com o governo.

A história da categoria de IA é marcada pela evolução rápida e pela regulamentação lenta. Com o crescimento do interesse em IA generativa e o surgimento de novos modelos, é fundamental observar como as legislações e as diretrizes de segurança se desenvolvem. O impacto sobre a utilização de IA pode redefinir o setor em um futuro próximo.

Para os usuários finais, essa proibição pode significar um acesso mais limitado e potencialmente caros modelos de IA, dependendo da abordagem comercial das empresas no espaço. Além disso, a possibilidade de gerar inovações através da colaboração internacional se reduz, criando uma atmosfera de incerteza.

Quais as novidades do lançamento?

O desfecho dessa situação leva a uma análise das práticas de mercado e dos limites da governança em relação a inovações tecnológicas. A diretiva imposta pode ser vista como um alerta para outras startups de tecnologia, que precisam estar cientes das implicações legais de suas inovações.

Especialistas do setor argumentam que a transparência no uso de IAs é crucial no atual ambiente tecnológico. A Anthropic criticou a decisão governamental, enfatizando que a ação não está alinhada com princípios de justiça e fundamentação em fatos técnicos. A tensão pode culminar em um ambiente onde a inovação é sufocada pela regulamentação excessiva.

Os próximos passos para a Anthropic e outros players da indústria incluem a busca por diálogo com as autoridades para estabelecer um framework regulatório que não apenas proteja a segurança nacional, mas também favoreça a inovação. A continuidade dessas discussões será vital para o futuro da inteligência artificial no país e no mundo.