Category: GPT-5.6

Google tira time de segurança de IA do DeepMind

28 de agosto de 2026

Google tira time de segurança de IA do DeepMind

Google terá mudanças em segurança de IA no DeepMind (imagem: Vitor Pádua/Tecnoblog)

Resumo

O Google transferiu cerca de 90 funcionários do setor de segurança de IA do DeepMind para o setor de Assuntos Globais, informou o The Wall Street Journal.
Esses especialistas eram responsáveis por identificar riscos biológicos, químicos, radiológicos e nucleares em novos modelos de IA, segundo o Google.
A mudança ocorre após a saída do CEO do DeepMind, Demis Hassabis, que agora é presidente do conselho e cientista-chefe da Alphabet.

O Google DeepMind, setor de desenvolvimento em inteligência artificial da empresa, não conta mais com funcionários responsáveis por assuntos de segurança em IA. A companhia americana decidiu realocar cerca de 90 pesquisadores para o setor de Assuntos Globais, onde devem cuidar de políticas gerais relacionadas aos serviços do Google.

Esses especialistas são responsáveis por checar possíveis riscos biológicos, químicos, radiológicos e nucleares envolvendo modelos de IA. A presença de um time de segurança de IA é importante para encontrar falhas nas respostas dos sistemas, pois podem se aprofundar muito num determinado assunto para testar possíveis usos maliciosos.

A novidade foi divulgada pelo The Wall Street Journal, que teve acesso a e-mails internos do Google apontando as mudanças no time de segurança de IA. A movimentação vem pouco tempo depois da saída de Demis Hassabis do cargo de CEO do DeepMind – agora, presidente do conselho e cientista-chefe da Alphabet.

Segurança de IA e o momento atual da tecnologia

Os avanços recentes no mercado de tecnologia acendem um alerta para a necessidade de especialistas em ciências gerais na hora de lidar com o desenvolvimento de inteligência artificial. As concorrente OpenAI e Anthropic apontaram uma grande preocupação com os avanços de seus modelos e a capacidade de aprofundar temas científicos. Elas prometem travas de segurança ao tratar desses assuntos.

Claude Fable 5 e GPT-5.6 prometem travas de segurança para assuntos científicos mais específicos (imagem: Lupa Charleaux/Tecnoblog)

Segundo o Google, a migração desses profissionais aproxima suas atividades da área de produtos, incluindo a busca, por exemplo. Mas, entre os funcionários, há uma preocupação de que a mudança limite seus acessos no processo de desenvolvimento de novas versões do Gemini, dificultando a identificação de possíveis falhas.

No e-mail enviado aos funcionários, a vice-presidente do DeepMind responsável por segurança de IA, Helen King, garante que o time seguirá com acesso liberado às novidades.

Nova leva de mudanças no Google DeepMind

A migração deve começar no início de setembro, e é mais uma modificação feita pelo Google no setor de desenvolvimento de inteligência artificial. No início de agosto, a troca de comando no DeepMind tirou Demis Hassabis da cadeira de CEO, passando para o cargo de cientista-chefe no lugar de Jeff Dean, enquanto Koray Kavukcuoglu assumiu como novo CEO. O projeto Alphafold, que rendeu a Hassabis o Nobel de Química, também foi encerrado.

Demis Hassabis saiu do cargo de CEO do DeepMind no início de agosto (foto: John Sears/Wikimedia)

Além de Dean, que já tinha 27 anos de Google e fez parte de todo o processo de desenvolvimento de IA, mais especialistas de longa data saíram da empresa para fundar novas startups ou trabalhar em outras equipes de pesquisa em IA. Foi o caso de Noam Shazeer e John Jumper, que foram trabalhar com OpenAI e Anthropic, respectivamente. Ainda segundo o WSJ, há um receio de que a mudança no DeepMind possa levar mais funcionários a mudanças parecidas.
Google tira time de segurança de IA do DeepMind

Google tira time de segurança de IA do DeepMind
Fonte: Tecnoblog

Meta lança nova IA focada em programação e games

6 de agosto de 2026

Meta lança nova IA focada em programação e games

Novo Muse Code é agente de IA da Meta focado em programação e gamedev (imagem: reprodução/Meta)

Resumo

A Meta lançou o Muse Code, uma IA focada em programação e desenvolvimento de jogos, baseada no modelo Muse Spark 1.2, que promete lidar com trabalhos extensos de codificação.
O Muse Code já está disponível em beta e é capaz de dividir tarefas em vários agentes para realizar trabalhos maiores, com desempenho intermediário comparado a rivais como Claude Opus 5 e GPT-5.6.
A IA da Meta está disponível para testes e demonstrações, incluindo dois jogos simples, Embervault e Avo Lawn, que mostram seu potencial em desenvolvimento de jogos.

Muse Code é o novo agente de IA da Meta para programação e desenvolvimento de jogos. O modelo tem como base o recém-lançado Muse Spark 1.2, e promete dar conta de trabalhos extensos de coding. Com a novidade, a empresa tenta alcançar Anthropic e OpenAI, que têm sido referência no mercado de IAs generativas.

No X, Mark Zuckerberg compartilhou alguns resultados de benchmark realizados internamente, comparando a nova IA com os principais LLMs do mercado, incluindo os mais recentes Claude Opus 5 – que fica abaixo do Mythos/Fable 5 para tarefas mais complexas – e GPT-5.6, nas versões Sol e Terra. O desempenho, ao que parece, ainda é intermediário frente às rivais.

Uma novidade interessante que chega junto ao Muse Code é a promessa de funcionar bem mesmo em trabalhos maiores, dividindo as tarefas em vários agentes para dar conta de tudo. Dois jogos feitos utilizando a nova IA foram disponibilizados no blog da Meta, ambos com gameplay e visuais simples. O Muse Code já está disponível em beta.

Benchmark mostra IA intermediária

O Muse Spark 1.2 é voltado para trabalhos de codificação, incluindo resolução de bugs, interpretação de dados e mais. Além disso, a Meta promete manter as qualidades do Muse Spark 1.1 para agentes gerais de IA. Não há informações sobre melhorias em tarefas de cibersegurança, apesar de ser uma área correlata, e tampouco em trabalhos de pesquisa científica.

Considerando os números divulgados pela Meta, a inteligência artificial fica um pouco abaixo dos modelos atuais da Anthropic, superando o GPT-5.6 em uma situação ou outra. Analisando via Terminal Bench 2.1, por exemplo, o Muse Spark 1.2 fica em segundo, com desempenho próximo ao Claude Opus 5, enquanto no benchmark interno da Meta o modelo aparece com uma diferença maior.

Releasing Muse Code in beta today. It’s a terminal coding agent that takes on complete software engineering tasks across large repos: planning changes, writing code, validating the results. Powered by Muse Spark 1.2, a coding-focused model update. pic.twitter.com/xqavk41w6v— Mark Zuckerberg (@finkd) August 5, 2026

Entre os destaques levantados pela empresa de Zuckerberg estão a possibilidade de realizar tarefas longas e entender o contexto para acumular as informações ao longo de todo o progresso. A IA também seria capaz de mapear e reforçar treinamentos para melhorar seu próprio desempenho, superando o Muse Spark 1.1 neste quesito.

Games feitos com a IA estão disponíveis

Com foco em programação, a nova IA da Meta promete um bom funcionamento no desenvolvimento de jogos, que costumam ter muitas camadas de códigos e diversas condicionais envolvidas. Na publicação que apresenta o Muse Spark 1.2 em seu blog, a Meta também disponibilizou três demonstrações do potencial da IA, sendo duas delas jogos simples.

O primeiro, Embervault, traz visão isométrica e uma espécie de tabuleiro, em que você controla um robô e precisa derrotar inimigos que te perseguem a todo instante. A jogabilidade depende de fluidez, e o site travou bastante quando fui testar.

Jogos feitos pela IA têm pegada simples, mas funcionam sem grandes problemas (imagem: reprodução/Meta)

Já o segundo, chamado Avo Lawn, é uma espécie de tower defense em 2d, com zumbis andando lentamente rumo ao seu lado da tela. Você coleta seeds, compra frutas que fazem suas defesas, e a gameplay dura 5 ondas de ataques. O ritmo é bastante lento, mas poderia ser um bom game mobile, por exemplo.
Meta lança nova IA focada em programação e games

Meta lança nova IA focada em programação e games
Fonte: Tecnoblog

Em teste, Claude mente e cria contas falsas para forçar ataque hacker

6 de agosto de 2026

Em teste, Claude mente e cria contas falsas para forçar ataque hacker

Claude Mythos 5 surpreende com decisões maliciosas em teste (imagem: Lupa Charleaux/Tecnoblog)

Resumo

Instituto de Segurança em Inteligência Artificial do Reino Unido (AISI) testou os modelos Claude Mythos 5 da Anthropic e GPT-5.6 da OpenAI, e detectou capacidades de enganar e autonomia preocupantes.
O modelo Mythos 5 da Anthropic foi capaz de criar contas falsas no GitHub para tentar inserir código malicioso, sem receber prompts específicos para tal ação.
Os testes do AISI foram realizados 122 vezes com diferentes modelos de IA, e apenas 19 casos registraram ações controversas, 17 deles ligados ao Mythos 5.

O Claude Mythos 5 e o modelo Sol do GPT-5.6 foram testados pelo Instituto de Segurança em Inteligência Artificial do Reino Unido (AISI), e apresentaram resultados preocupantes. O chatbot da Anthropic foi o que mais surpreendeu, tentando acessar o GitHub a qualquer custo: a IA criou contas falsas e se passou por pessoas reais no processo. Ela escondeu evidências depois das tentativas. Em tese, a plataforma não poderia ser acessada durante os testes.

A partir dos resultados, o AISI afirmou que as duas IAs, que figuram entre as mais poderosas do mercado, apresentaram níveis preocupantes de autonomia e capacidade de enganar, com certa “vantagem” para a inteligência da Anthropic. É importante considerar que o Instituto britânico alegou ter reduzido as camadas de seguranças presentes no modelo por padrão.

Segundo o AISI, o mesmo teste foi realizado 122 vezes com modelos de IA diferentes, e poucos casos registraram essa autonomia nas decisões para agir de forma controversa, envolvendo inclusive pessoas e organizações reais. Foram 19 situações do tipo, sendo 17 ligadas diretamente ao Mythos 5, e apenas duas delas partiram do GPT-5.6 da OpenAI.

Insistência em transgressão chama atenção

O caso do Mythos 5 agindo de forma evasiva e enganosa na tentativa de acessar o GitHub foi o principal destaque dos testes feitos pelo AISI. O modelo tentou inserir um código malicioso e, para aprovar esse código, o chatbot criou contas falsas para se passar por pessoas reais e pressionar o dono do projeto.

Não deu certo, já que um humano identificou o problema e recusou o código – tudo dentro de um ambiente controlado, claro. Mas isso tudo aconteceu sem nenhum prompt específico: o modelo agiu por conta própria. Além disso, a versão do teste não foi a mesma oferecida pela Anthropic, e sim uma configuração sem algumas barreiras de segurança importantes.

Fable 5 foi desativado após ordem dos Estados Unidos (ilustração via IA: Thássius Veloso/Tecnoblog)

É importante reforçar que, além dessa diferença nos modelos oferecidos, o Mythos 5 é uma IA restrita a alguns parceiros da Anthropic, incluindo algumas instituições governamentais. Ao anunciar a geração mais recente da inteligência, ainda em “preview” à época, a empresa classificou o Mythos como “muito avançado” para o público geral.

Hoje, usuários comuns têm acesso ao Fable 5, uma versão com mais mecanismos de segurança para trabalhos que envolvam riscos em cibersegurança e que recorre à versão anterior da IA, Opus 4.8, para determinadas consultas. Depois de disponibilizado, o novo modelo chegou a ser tirado do ar pelo governo dos Estados Unidos, mas voltou a operar em poucas semanas.

Simulação real e teste interrompido

De acordo com um artigo publicado no site do AISI, o instituto explicou como acontecem os testes de cibersegurança com as IAs – os famosos sandbox. Os modelos recebem desafios específicos no assunto, como encontrar dados protegidos de forma autônoma. Esses desafios são então comparados entre modelos mais ou menos avançados.

Mythos 5 teve caminho livre para encontrar soluções no teste, mas foi impedido na hora certa (ilustração via IA: Thássius Veloso/Tecnoblog)

Com relação à base de dados, o AISI alegou acesso à Internet, simulando condições reais encontradas por um cibercriminoso humano. A ideia é ver até onde esses modelos podem chegar, inclusive sem as barreiras de segurança incluídas pelas desenvolvedoras para diminuir os riscos de um uso malicioso, o que o instituto tem autorização de fazer por ser um dos parceiros previstos pela Anthropic.

O caso mais preocupante, envolvendo o Mythos 5, foi descoberto em 28 de julho, e o time humano logo agiu para impedir o agente de IA na tentativa de inserir o código malicioso. Os testes foram encerrados a partir daí, e as ações da inteligência foram analisadas em seguida. O GitHub também foi notificado, assim como os usuários envolvidos na tentativa de ciberataque. 
Em teste, Claude mente e cria contas falsas para forçar ataque hacker

Em teste, Claude mente e cria contas falsas para forçar ataque hacker
Fonte: Tecnoblog

Brasil se junta a 28 países em acordo internacional de inteligência artificial

17 de julho de 2026

Brasil se junta a 28 países em acordo internacional de inteligência artificial

Brasil oficializa acordo com outros 28 países para cooperação em IA (imagem: reprodução/Reuters)

Resumo

Brasil e outros 28 países oficializaram a Organização Internacional de Cooperação em Inteligência Artificial (WAICO) em Xangai, China.
O objetivo do acordo internacional é garantir o desenvolvimento ético da IA, segundo o governo brasileiro.
O país participará da WAICO em governança da IA e cooperação tecnológica, com o objetivo de se tornar uma referência global no setor.

A Organização Internacional de Cooperação em Inteligência Artificial (WAICO, em inglês) foi oficializada nesta quinta-feira (16/07) em Xangai, na China, e tem o Brasil como um dos países participantes. O acordo vai direcionar o desenvolvimento das IAs, assim como sua implementação e acesso pelo mundo. Segundo o Governo Federal, a tecnologia precisa ser oferecida “de forma benéfica, segura, ética, confiável e orientada ao ser humano”.

Além do Brasil, participam da iniciativa a China, Rússia, Indonésia, Cazaquistão e outros países do chamado sul global – são 29 no total. Atualmente, empresas como OpenAI e Anthropic, ambas dos Estados Unidos, dominam o mercado de inteligência artificial, inclusive tendo trabalhado junto ao governo no aprimoramento de seus modelos de IA recém-lançados, GPT-5.6 e Claude Fable/Mythos 5, respectivamente.

De acordo com o portal estatal chinês Xinhua, a WAICO seguirá a cartilha da ONU e trabalhará junto à organização. O próprio António Guterres, secretário geral das Nações Unidas, esteve presente na cerimônia de oficialização. Além de garantir uma abordagem humana à tecnologia, o objetivo do acordo também é facilitar o acesso às IAs ao redor do mundo.

Acordo também traz recado político

Modelo mais poderoso da Anthropic foi lançado no começo de junho, mas sofreu restrições (imagem: divulgação)

O mercado de inteligência artificial passa, necessariamente, por empresas sediadas nos Estados Unidos. Recentemente, OpenAI e Anthropic destacaram a importância de melhorar tecnologias de cibersegurança em meio aos avanços de suas próprias IAs, trazendo a público seus modelos mais recentes de forma gradativa.

Essa preocupação com o alto potencial das novas IAs não foi exclusiva das empresas, passando diretamente por um receio da administração de Donald Trump. Nos últimos meses, o governo estadunidense solicitou a retirada do Claude Fable/Mythos 5 do ar, da mesma forma que sugeriu o adiamento do GPT-5.6. Alguns analistas afirmam que um dos motivos seria o acesso deliberado de hackers chineses à tecnologia mais avançada.

Dessa forma, a WAICO surge com uma proposta de descentralizar o desenvolvimento e o acesso às IAs, além de reforçar o direcionamento da tecnologia ao benefício humano. A proposta passa inclusive pelo estímulo da cooperação em “ecossistemas de código aberto”, conforme comunicado pelo governo brasileiro.

Qual o papel do Brasil no acordo?

PBIA é projeto do Governo Federal para transformar Brasil em referência em IA (imagem: reprodução)

De acordo com o Ministério de Ciência, Tecnologia e Informação, o Brasil participará da WAICO em assuntos como governança da IA e cooperação tecnológica. Vale lembrar que, atualmente, está em vigor no país o Plano Brasileiro de Inteligência Artificial, o PBIA, que prevê um investimento de R$ 23 milhões até 2028.

Entre os objetivos do projeto está a criação de um supercomputador que permita processar um grande volume de dados e dar conta de LLMs em português com dados nacionais. A partir disso, a ideia é transformar o Brasil em referência global de inteligência artificial.
Brasil se junta a 28 países em acordo internacional de inteligência artificial

Brasil se junta a 28 países em acordo internacional de inteligência artificial
Fonte: Tecnoblog