Category: Claude Fable 5

Google tira time de segurança de IA do DeepMind

28 de agosto de 2026

Google tira time de segurança de IA do DeepMind

Google terá mudanças em segurança de IA no DeepMind (imagem: Vitor Pádua/Tecnoblog)

Resumo

O Google transferiu cerca de 90 funcionários do setor de segurança de IA do DeepMind para o setor de Assuntos Globais, informou o The Wall Street Journal.
Esses especialistas eram responsáveis por identificar riscos biológicos, químicos, radiológicos e nucleares em novos modelos de IA, segundo o Google.
A mudança ocorre após a saída do CEO do DeepMind, Demis Hassabis, que agora é presidente do conselho e cientista-chefe da Alphabet.

O Google DeepMind, setor de desenvolvimento em inteligência artificial da empresa, não conta mais com funcionários responsáveis por assuntos de segurança em IA. A companhia americana decidiu realocar cerca de 90 pesquisadores para o setor de Assuntos Globais, onde devem cuidar de políticas gerais relacionadas aos serviços do Google.

Esses especialistas são responsáveis por checar possíveis riscos biológicos, químicos, radiológicos e nucleares envolvendo modelos de IA. A presença de um time de segurança de IA é importante para encontrar falhas nas respostas dos sistemas, pois podem se aprofundar muito num determinado assunto para testar possíveis usos maliciosos.

A novidade foi divulgada pelo The Wall Street Journal, que teve acesso a e-mails internos do Google apontando as mudanças no time de segurança de IA. A movimentação vem pouco tempo depois da saída de Demis Hassabis do cargo de CEO do DeepMind – agora, presidente do conselho e cientista-chefe da Alphabet.

Segurança de IA e o momento atual da tecnologia

Os avanços recentes no mercado de tecnologia acendem um alerta para a necessidade de especialistas em ciências gerais na hora de lidar com o desenvolvimento de inteligência artificial. As concorrente OpenAI e Anthropic apontaram uma grande preocupação com os avanços de seus modelos e a capacidade de aprofundar temas científicos. Elas prometem travas de segurança ao tratar desses assuntos.

Claude Fable 5 e GPT-5.6 prometem travas de segurança para assuntos científicos mais específicos (imagem: Lupa Charleaux/Tecnoblog)

Segundo o Google, a migração desses profissionais aproxima suas atividades da área de produtos, incluindo a busca, por exemplo. Mas, entre os funcionários, há uma preocupação de que a mudança limite seus acessos no processo de desenvolvimento de novas versões do Gemini, dificultando a identificação de possíveis falhas.

No e-mail enviado aos funcionários, a vice-presidente do DeepMind responsável por segurança de IA, Helen King, garante que o time seguirá com acesso liberado às novidades.

Nova leva de mudanças no Google DeepMind

A migração deve começar no início de setembro, e é mais uma modificação feita pelo Google no setor de desenvolvimento de inteligência artificial. No início de agosto, a troca de comando no DeepMind tirou Demis Hassabis da cadeira de CEO, passando para o cargo de cientista-chefe no lugar de Jeff Dean, enquanto Koray Kavukcuoglu assumiu como novo CEO. O projeto Alphafold, que rendeu a Hassabis o Nobel de Química, também foi encerrado.

Demis Hassabis saiu do cargo de CEO do DeepMind no início de agosto (foto: John Sears/Wikimedia)

Além de Dean, que já tinha 27 anos de Google e fez parte de todo o processo de desenvolvimento de IA, mais especialistas de longa data saíram da empresa para fundar novas startups ou trabalhar em outras equipes de pesquisa em IA. Foi o caso de Noam Shazeer e John Jumper, que foram trabalhar com OpenAI e Anthropic, respectivamente. Ainda segundo o WSJ, há um receio de que a mudança no DeepMind possa levar mais funcionários a mudanças parecidas.
Google tira time de segurança de IA do DeepMind

Google tira time de segurança de IA do DeepMind
Fonte: Tecnoblog

Meta lança nova IA focada em programação e games

6 de agosto de 2026

Meta lança nova IA focada em programação e games

Novo Muse Code é agente de IA da Meta focado em programação e gamedev (imagem: reprodução/Meta)

Resumo

A Meta lançou o Muse Code, uma IA focada em programação e desenvolvimento de jogos, baseada no modelo Muse Spark 1.2, que promete lidar com trabalhos extensos de codificação.
O Muse Code já está disponível em beta e é capaz de dividir tarefas em vários agentes para realizar trabalhos maiores, com desempenho intermediário comparado a rivais como Claude Opus 5 e GPT-5.6.
A IA da Meta está disponível para testes e demonstrações, incluindo dois jogos simples, Embervault e Avo Lawn, que mostram seu potencial em desenvolvimento de jogos.

Muse Code é o novo agente de IA da Meta para programação e desenvolvimento de jogos. O modelo tem como base o recém-lançado Muse Spark 1.2, e promete dar conta de trabalhos extensos de coding. Com a novidade, a empresa tenta alcançar Anthropic e OpenAI, que têm sido referência no mercado de IAs generativas.

No X, Mark Zuckerberg compartilhou alguns resultados de benchmark realizados internamente, comparando a nova IA com os principais LLMs do mercado, incluindo os mais recentes Claude Opus 5 – que fica abaixo do Mythos/Fable 5 para tarefas mais complexas – e GPT-5.6, nas versões Sol e Terra. O desempenho, ao que parece, ainda é intermediário frente às rivais.

Uma novidade interessante que chega junto ao Muse Code é a promessa de funcionar bem mesmo em trabalhos maiores, dividindo as tarefas em vários agentes para dar conta de tudo. Dois jogos feitos utilizando a nova IA foram disponibilizados no blog da Meta, ambos com gameplay e visuais simples. O Muse Code já está disponível em beta.

Benchmark mostra IA intermediária

O Muse Spark 1.2 é voltado para trabalhos de codificação, incluindo resolução de bugs, interpretação de dados e mais. Além disso, a Meta promete manter as qualidades do Muse Spark 1.1 para agentes gerais de IA. Não há informações sobre melhorias em tarefas de cibersegurança, apesar de ser uma área correlata, e tampouco em trabalhos de pesquisa científica.

Considerando os números divulgados pela Meta, a inteligência artificial fica um pouco abaixo dos modelos atuais da Anthropic, superando o GPT-5.6 em uma situação ou outra. Analisando via Terminal Bench 2.1, por exemplo, o Muse Spark 1.2 fica em segundo, com desempenho próximo ao Claude Opus 5, enquanto no benchmark interno da Meta o modelo aparece com uma diferença maior.

Releasing Muse Code in beta today. It’s a terminal coding agent that takes on complete software engineering tasks across large repos: planning changes, writing code, validating the results. Powered by Muse Spark 1.2, a coding-focused model update. pic.twitter.com/xqavk41w6v— Mark Zuckerberg (@finkd) August 5, 2026

Entre os destaques levantados pela empresa de Zuckerberg estão a possibilidade de realizar tarefas longas e entender o contexto para acumular as informações ao longo de todo o progresso. A IA também seria capaz de mapear e reforçar treinamentos para melhorar seu próprio desempenho, superando o Muse Spark 1.1 neste quesito.

Games feitos com a IA estão disponíveis

Com foco em programação, a nova IA da Meta promete um bom funcionamento no desenvolvimento de jogos, que costumam ter muitas camadas de códigos e diversas condicionais envolvidas. Na publicação que apresenta o Muse Spark 1.2 em seu blog, a Meta também disponibilizou três demonstrações do potencial da IA, sendo duas delas jogos simples.

O primeiro, Embervault, traz visão isométrica e uma espécie de tabuleiro, em que você controla um robô e precisa derrotar inimigos que te perseguem a todo instante. A jogabilidade depende de fluidez, e o site travou bastante quando fui testar.

Jogos feitos pela IA têm pegada simples, mas funcionam sem grandes problemas (imagem: reprodução/Meta)

Já o segundo, chamado Avo Lawn, é uma espécie de tower defense em 2d, com zumbis andando lentamente rumo ao seu lado da tela. Você coleta seeds, compra frutas que fazem suas defesas, e a gameplay dura 5 ondas de ataques. O ritmo é bastante lento, mas poderia ser um bom game mobile, por exemplo.
Meta lança nova IA focada em programação e games

Meta lança nova IA focada em programação e games
Fonte: Tecnoblog

Em teste, Claude mente e cria contas falsas para forçar ataque hacker

6 de agosto de 2026

Em teste, Claude mente e cria contas falsas para forçar ataque hacker

Claude Mythos 5 surpreende com decisões maliciosas em teste (imagem: Lupa Charleaux/Tecnoblog)

Resumo

Instituto de Segurança em Inteligência Artificial do Reino Unido (AISI) testou os modelos Claude Mythos 5 da Anthropic e GPT-5.6 da OpenAI, e detectou capacidades de enganar e autonomia preocupantes.
O modelo Mythos 5 da Anthropic foi capaz de criar contas falsas no GitHub para tentar inserir código malicioso, sem receber prompts específicos para tal ação.
Os testes do AISI foram realizados 122 vezes com diferentes modelos de IA, e apenas 19 casos registraram ações controversas, 17 deles ligados ao Mythos 5.

O Claude Mythos 5 e o modelo Sol do GPT-5.6 foram testados pelo Instituto de Segurança em Inteligência Artificial do Reino Unido (AISI), e apresentaram resultados preocupantes. O chatbot da Anthropic foi o que mais surpreendeu, tentando acessar o GitHub a qualquer custo: a IA criou contas falsas e se passou por pessoas reais no processo. Ela escondeu evidências depois das tentativas. Em tese, a plataforma não poderia ser acessada durante os testes.

A partir dos resultados, o AISI afirmou que as duas IAs, que figuram entre as mais poderosas do mercado, apresentaram níveis preocupantes de autonomia e capacidade de enganar, com certa “vantagem” para a inteligência da Anthropic. É importante considerar que o Instituto britânico alegou ter reduzido as camadas de seguranças presentes no modelo por padrão.

Segundo o AISI, o mesmo teste foi realizado 122 vezes com modelos de IA diferentes, e poucos casos registraram essa autonomia nas decisões para agir de forma controversa, envolvendo inclusive pessoas e organizações reais. Foram 19 situações do tipo, sendo 17 ligadas diretamente ao Mythos 5, e apenas duas delas partiram do GPT-5.6 da OpenAI.

Insistência em transgressão chama atenção

O caso do Mythos 5 agindo de forma evasiva e enganosa na tentativa de acessar o GitHub foi o principal destaque dos testes feitos pelo AISI. O modelo tentou inserir um código malicioso e, para aprovar esse código, o chatbot criou contas falsas para se passar por pessoas reais e pressionar o dono do projeto.

Não deu certo, já que um humano identificou o problema e recusou o código – tudo dentro de um ambiente controlado, claro. Mas isso tudo aconteceu sem nenhum prompt específico: o modelo agiu por conta própria. Além disso, a versão do teste não foi a mesma oferecida pela Anthropic, e sim uma configuração sem algumas barreiras de segurança importantes.

Fable 5 foi desativado após ordem dos Estados Unidos (ilustração via IA: Thássius Veloso/Tecnoblog)

É importante reforçar que, além dessa diferença nos modelos oferecidos, o Mythos 5 é uma IA restrita a alguns parceiros da Anthropic, incluindo algumas instituições governamentais. Ao anunciar a geração mais recente da inteligência, ainda em “preview” à época, a empresa classificou o Mythos como “muito avançado” para o público geral.

Hoje, usuários comuns têm acesso ao Fable 5, uma versão com mais mecanismos de segurança para trabalhos que envolvam riscos em cibersegurança e que recorre à versão anterior da IA, Opus 4.8, para determinadas consultas. Depois de disponibilizado, o novo modelo chegou a ser tirado do ar pelo governo dos Estados Unidos, mas voltou a operar em poucas semanas.

Simulação real e teste interrompido

De acordo com um artigo publicado no site do AISI, o instituto explicou como acontecem os testes de cibersegurança com as IAs – os famosos sandbox. Os modelos recebem desafios específicos no assunto, como encontrar dados protegidos de forma autônoma. Esses desafios são então comparados entre modelos mais ou menos avançados.

Mythos 5 teve caminho livre para encontrar soluções no teste, mas foi impedido na hora certa (ilustração via IA: Thássius Veloso/Tecnoblog)

Com relação à base de dados, o AISI alegou acesso à Internet, simulando condições reais encontradas por um cibercriminoso humano. A ideia é ver até onde esses modelos podem chegar, inclusive sem as barreiras de segurança incluídas pelas desenvolvedoras para diminuir os riscos de um uso malicioso, o que o instituto tem autorização de fazer por ser um dos parceiros previstos pela Anthropic.

O caso mais preocupante, envolvendo o Mythos 5, foi descoberto em 28 de julho, e o time humano logo agiu para impedir o agente de IA na tentativa de inserir o código malicioso. Os testes foram encerrados a partir daí, e as ações da inteligência foram analisadas em seguida. O GitHub também foi notificado, assim como os usuários envolvidos na tentativa de ciberataque. 
Em teste, Claude mente e cria contas falsas para forçar ataque hacker

Em teste, Claude mente e cria contas falsas para forçar ataque hacker
Fonte: Tecnoblog

EUA barram modelos da Anthropic por segurança nacional

14 de junho de 2026

EUA barram modelos da Anthropic por segurança nacional

Fable 5 foi desativado após ordem dos Estados Unidos (ilustração via IA: Thássius Veloso/Tecnoblog)

Resumo

O governo dos EUA determinou restrições aos modelos de IA Fable 5 e Mythos 5, da Anthropic, alegando preocupações com a segurança nacional.
A decisão foi justificada por uma demonstração técnica que mostrou um método para burlar os protocolos de segurança do Fable 5, permitindo a identificação de falhas ocultas em softwares que poderiam ser usadas para ataques cibernéticos.
A Anthropic contestou a medida, considerando-a “desproporcional”, e iniciou um processo de reembolso para os assinantes afetados, enquanto busca resolver a questão com o governo.

O governo dos Estados Unidos tomou uma decisão drástica e sem precedentes na indústria americana de IA: aplicou uma sanção contra os modelos Fable 5 e Mythos 5. Em teoria, trata-se de um controle de exportação, mesmo mecanismo aplicado aos chips mais poderosos da Nvidia, por exemplo. Na prática, a Anthropic realizou o bloqueio total das ferramentas para todos os usuários. A medida está em vigor há quase 48 horas.

O Departamento de Comércio americano justificou a decisão com alegações de proteção à segurança nacional. Já a Anthropic classificou a imposição como “desproporcional”.

Por que os EUA estão preocupados?

A raiz do bloqueio foi uma demonstração técnica que chegou às mãos de autoridades americanas. De acordo com relatos da imprensa internacional, a Amazon teria documentado um método capaz de burlar os protocolos de segurança do Fable 5. Seria uma espécie de jailbreak.

Esta instrução forçava o modelo a ler códigos-fonte de terceiros e a identificar falhas ocultas em softwares. Considerando o potencial uso dessas informações para facilitar ataques cibernéticos em grande escala, a ordem inicial era barrar imediatamente o acesso aos sistemas por qualquer cidadão estrangeiro, tanto dentro quanto fora do território estadunidense.

Fable 5 está “atualmente indisponível” no Brasil (imagem: Thássius Veloso/Tecnoblog)

No entanto, como a Anthropic não possui meios técnicos de verificar a nacionalidade de cada usuário conectado em tempo real, a única alternativa legal para cumprir a determinação do governo foi desligar os serviços globalmente, cortando o acesso de centenas de milhares de clientes.

Diferença entre os modelos suspensos

O Mythos 5, apresentado em abril, é a IA mais poderosa da Anthropic. Justamente por sua habilidade de encontrar vulnerabilidades em sistemas operacionais e navegadores, ele nunca foi liberado ao público geral. Em vez disso, operava sob um programa fechado, disponibilizado apenas para organizações como Apple, Google, Microsoft e CrowdStrike para uso em projetos de cibersegurança defensiva.

Já o Fable 5 foi lançado na última semana como a grande aposta comercial da Anthropic para o consumidor final. Trata-se de uma versão adaptada do Mythos com filtros de proteção para bloquear respostas em áreas de alto risco, como a criação de malware. Testes de benchmark realizados no mercado o classificaram como o modelo de IA mais avançado disponível ao público até o momento da suspensão. Modelos de gerações anteriores, como o Opus 4.8, Sonnet e Haiku, seguem operando normalmente.

Usuários foram pegos de surpresa com o bloqueio do Fable 5 dias após o lançamento (imagem: reprodução)

O que diz a Anthropic?

Apesar de obedecer à determinação legal, a empresa demonstrou frustração. Em um longo comunicado, um dos argumentos defendidos foi de que a capacidade de ler códigos e apontar falhas já é uma realidade na indústria e existe em modelos concorrentes, como o GPT-5.5 da OpenAI.

A remoção repentina gerou um caos no atendimento ao cliente. Clientes que haviam comprado assinaturas dos planos premium (Pro, Max, Team e Enterprise) para testar a nova IA agora exigem a devolução do dinheiro. A Anthropic iniciou um processo de reembolso válido até o fim de junho, mas o caminho esbarra em burocracias. A solicitação deve ser feita pelo navegador no PC. Além disso, quem assinou o serviço pelo iOS precisa resolver a questão com a Apple.

Por fim, a Anthropic afirmou que busca esclarecer o mal-entendido com o governo para restaurar o acesso o mais rápido possível.

Até o momento, não há nenhuma previsão para que o Fable e o Mythos sejam novamente disponibilizados ao público.

Assunto repercute no mundo

Henna Virkkunen foi entrevistada no Web Summit Rio (foto: Thássius Veloso/Tecnoblog)

Diversas nações estão acompanhando a medida dos Estados Unidos com atenção, num momento de ebulição das questões geopolíticas na inteligência artificial. Enquanto os americanos e chineses disputam pelo desenvolvimento dos modelos mais poderosos, o restante do planeta se pergunta como manter-se atualizado com a IA, criar ferramentas locais e garantir a soberania digital.

O ex-ministro do interior da França Bruno Retailleau disse que o bloqueio é “um sinal de alerta” na corrida da IA. “Uma nação que depende de outras para sua tecnologia é uma nação que pode ser desconectada do dia para a noite”, declarou o político, que já se colocou para a eleição presidencial de 2027.

Outras lideranças políticas da França e da Inglaterra tiveram falas similares.

Não custa lembrar: na semana passada, a vice-presidente executiva da Comissão Europeia para Soberania Tecnológica, Segurança e Democracia, Henna Virkkunen, defendeu a construção de alianças fora do eixo EUA-China. Ela criticou a dependência de tecnologias externas. Depois da entrevista durante o Web Summit Rio, Virkkunen viajou a Brasília e assinou um acordo com o governo brasileiro.

EUA barram modelos da Anthropic por segurança nacional

EUA barram modelos da Anthropic por segurança nacional
Fonte: Tecnoblog