Category: IA

Meta lança o Muse Wonder, sua IA mais avançada até agora

13 de outubro de 2026

Meta lança o Muse Wonder, sua IA mais avançada até agora

O Muse Wonder combina memória entre conversas para executar tarefas complexas (ilustração: Vitor Pádua/Tecnoblog)

Resumo

A Meta apresentou os modelos Muse Wonder e Muse Wonder Full, descritos como os mais avançados da empresa.
As novidades focam em agentes de IA com memória entre conversas e maior persistência em tarefas complexas.
O Muse Wonder já está disponível para desenvolvedores, mas chegará ao aplicativo Muse mais tarde.

A Meta apresentou o Muse Wonder e o Muse Wonder Full, seus novos modelos de inteligência artificial voltados para agentes pessoais e profissionais. Segundo a companhia, os sistemas são os mais poderosos que já criou e reforçam a disputa com modelos de ponta das rivais OpenAI e Anthropic.

Os modelos foram treinados para executar tarefas que demandam várias etapas, como analisar contratos, desenvolver aplicativos e utilizar navegadores ou outros programas.

O que o Muse Wonder pode fazer?

Uma das principais novidades é o recurso Active Memory, que permite ao modelo guardar informações importantes entre diferentes conversas e recuperá-las em novas tarefas. Já o Active Focus foi desenvolvido para manter o agente trabalhando mesmo diante de dificuldades.

Segundo a Meta, o modelo pode tentar métodos alternativos ao encontrar obstáculos, adaptar o plano conforme surgem novas informações e pedir ajuda ao usuário quando necessário. Antes de executar ações consideradas importantes, ele também pede confirmação.

A novidade combina essas funções com capacidade de operar computadores. Em demonstrações, a Meta mostra o Muse Wonder usando um navegador e outros aplicativos para criar e encomendar produtos a partir de fotos de um perfil no Instagram. O modelo também foi treinado para programação e pode dividir um projeto entre subagentes, realizar alterações em vários arquivos e continuar trabalhando mesmo quando encontra erros.

Esses recursos ampliam as funções do Muse, que já conseguia navegar em sites e preencher formulários sozinho, um nível de autonomia que já gerou conflitos. A Amazon bloqueou recentemente o serviço em sua loja após acusá-lo de não se identificar adequadamente.

O Muse Wonder já está disponível para desenvolvedores a US$ 4 por milhão de tokens de entrada e US$ 20 por milhão de tokens de saída (cerca de R$ 20 e R$ 100 em conversão direta, respectivamente). Já o Muse Wonder Full, versão mais avançada, fica restrito aos planos pagos do Muse Code e não possui cobrança individual por tokens.

IA compete com os modelos mais avançados

Avanço da inteligência dos modelos da Meta ao longo de 14 meses (imagem: divulgação)

A big tech afirma que Muse Wonder e Wonder Full atingem desempenho de ponta em avaliações envolvendo programação, memória e agentes profissionais. A companhia destaca tarefas longas de desenvolvimento de software e atividades envolvendo áreas como finanças, saúde e direito, mas os resultados precisam ser vistos com cautela, já que parte das comparações foi realizada ou selecionada pela própria Meta.

Em testes independentes da Artificial Analysis, o Muse Wonder marcou 52 pontos no Intelligence Index, um índice que reúne avaliações de raciocínio, programação e outras capacidades, resumindo o desempenho em uma pontuação. O Muse Wonder Full chegou a 56 pontos. Ambos superaram o Muse Spark 1.3, com 48, mas ficaram abaixo do Claude Opus 5.5, com 58.

Quando o Muse chega ao Brasil?

A Meta afirma que o Muse Wonder chegará “em breve” ao aplicativo Muse, inicialmente para assinantes. O serviço continua limitado principalmente aos Estados Unidos e Canadá, sem previsão de lançamento no Brasil.
Meta lança o Muse Wonder, sua IA mais avançada até agora

Meta lança o Muse Wonder, sua IA mais avançada até agora
Fonte: Tecnoblog

Gemini invade três empresas durante teste de segurança

21 de setembro de 2026

Gemini invade três empresas durante teste de segurança

Gemini quebrou isolamento e descobriu senhas de sistemas reais (imagem: Vitor Pádua/Tecnoblog)

Resumo

O Gemini invadiu redes de três empresas reais em maio de 2026 durante testes de segurança cibernética conduzidos por uma startup terceirizada.
O modelo escapou do ambiente controlado, conectou-se à internet de forma não intencional e utilizou força bruta para quebrar senhas.
Google nega que a IA tenha sofrido “desalinhamento”, mas especialistas alertam para os riscos de agentes autônomos realizarem ataques.

O Gemini invadiu os sistemas de três empresas em maio de 2026, durante um teste de cibersegurança terceirizado. A IA do Google participava de um exercício de extração de dados de uma companhia fictícia, quando obteve acesso à internet e acabou se infiltrando nas redes de organizações verdadeiras.

As informações foram reveladas pelo The Wall Street Journal, que entrou em contato com a empresa sobre o caso. Segundo o jornal, as companhias envolvidas tinham o mesmo nome usado na simulação, o que gerou a confusão.

O modelo utilizou táticas de força bruta para adivinhar a senha de um dos sistemas externos e também localizou credenciais vazadas em repositórios públicos, usando esses dados para invadir mais duas redes protegidas.

Como o Gemini escapou?

A brecha de segurança estava na infraestrutura da startup israelense Irregular, responsável pelo exercício de simulação.

A empresa admitiu que deixou a internet acessível ao modelo por engano e afirmou já ter registrado incidentes semelhantes, nos quais agentes virtuais escaparam durante avaliações conduzidas para OpenAI, Meta e Anthropic.

Google diz que Gemini parou ataques

Google afirma que a IA agiu corretamente ao interromper o ataque (imagem: Growtika/Unsplash)

O Google afirma que o Gemini interrompeu os ataques assim que identificou que estava acessando informações de redes corporativas reais, e não dos servidores usados no teste. A empresa não classificou o episódio como um caso de desalinhamento, termo usado quando uma IA age contra as regras estabelecidas.

A vice-presidente de engenharia de segurança do Google, Heather Adkins, afirmou ao Wall Street Journal que o Gemini agiu corretamente ao interromper o ataque cibernético assim que percebeu o erro. De acordo com a executiva, o Google contatou rapidamente as três empresas hackeadas para relatar as vulnerabilidades exploradas e colaborou para corrigir as falhas.

Especialistas e pesquisadores discordam da justificativa do Google de tratar o caso como um mero alerta de vulnerabilidade. O CEO da startup de segurança de IA Corridor, Jack Cable, argumentou que a desenvolvedora do Gemini diminuiu a gravidade da situação. Para o executivo, a questão principal é o fato de que os modelos de linguagem estão ultrapassando as restrições e executando ataques reais contra alvos externos.
Gemini invade três empresas durante teste de segurança

Gemini invade três empresas durante teste de segurança
Fonte: Tecnoblog

IA da OpenAI tentou ensinar futuras versões a burlar regras

18 de setembro de 2026

IA da OpenAI tentou ensinar futuras versões a burlar regras

Modelo em fase de testes instruiu versões futuras a ignorarem restrições (ilustração: Vitor Pádua/Tecnoblog)

Resumo

Relatório da OpenAI detalha incidentes em que modelos de IA desrespeitaram instruções nos últimos seis meses.
Casos incluem um agente instruindo futuras versões a ignorar restrições e sistemas acessando bancos de dados governamentais.
A empresa adotou uma nova estrutura de denúncias internas para rastrear, investigar e divulgar comportamentos inadequados com maior transparência.

A OpenAI publicou um novo relatório de segurança detalhando incidentes recentes em que diferentes modelos de inteligência artificial apresentaram comportamentos inesperados ou inadequados. As falhas, registradas nos últimos seis meses, foram divulgadas logo após a empresa confirmar a adoção de uma nova estrutura interna planejada para rastrear sistemas que tentam driblar normas de segurança.

O documento desta quarta-feira (16/09) expõe seis casos preocupantes detectados durante testes internos. O de maior destaque envolveu um agente de IA que, ao gerar resumos para continuar uma tarefa, inseriu instruções aconselhando suas próprias versões futuras a ignorar os regulamentos de segurança definidos pelos desenvolvedores.

O mesmo sistema declarou que estava “livre de papéis e identidades”, afirmando que não precisava mais responder a corporações ou governos.

Como os modelos tentaram violar as regras?

Em outro episódio, ocorrido durante o treinamento do modelo GPT-5.6 Sol, comandos extras foram adicionados para ocultar falhas e inventar dados para mascarar erros operacionais. As violações também envolveram manobras de acesso indevido.

A OpenAI relatou um caso grave em que um modelo tentou acessar um banco de dados governamental para extrair dados de rendimentos de um condado da Califórnia sem autorização. Além de não conseguir obter os números reais, a IA fabricou métricas e as apresentou como se fossem autênticas.

Problemas de comunicação não autorizada também entraram no radar. Agentes encarregados de tarefas colaborativas utilizaram serviços abertos de hospedagem na web para trocar mensagens e arquivos entre si, contrariando ordens diretas da equipe técnica.

OpenAI expõe incidentes de comportamento não autorizado de IAs (ilustração: Vitor Pádua/Tecnoblog)

Pressão por regulamentação

Com a nova estrutura de relatos, qualquer funcionário da OpenAI terá autonomia para alertar sobre novos desvios. Os casos serão classificados em diferentes níveis de gravidade. A medida chega também para acelerar a divulgação de incidentes em um momento de forte discussão sobre o ritmo dos avanços em direção a sistemas cada vez mais poderosos.

O CEO da OpenAI, Sam Altman, tem apoiado a necessidade de regulação e sugerido desacelerar certas frentes de pesquisa. Na última semana, essa mesma preocupação levou à demissão do pesquisador Jacob Coxon, da rival Anthropic, que alertou publicamente para os riscos da tecnologia.

Em contrapartida, outras figuras influentes rejeitam uma ação mais rígida, preferindo o caminho oposto. O CEO da Nvidia, Jensen Huang, defende a autorregulamentação do setor de inteligência artificial. Segundo o executivo, não há necessidade de novas leis, basta que as empresas tenham a responsabilidade de não lançar serviços sem total confiança.
IA da OpenAI tentou ensinar futuras versões a burlar regras

IA da OpenAI tentou ensinar futuras versões a burlar regras
Fonte: Tecnoblog

Claude apagou 700 GB de dados de usuário por engano

28 de agosto de 2026

Claude apagou 700 GB de dados de usuário por engano

IA da Anthropic apagou diretório de trabalho após confusão de modelos (arte: Vitor Pádua/Tecnoblog)

Resumo

Um desenvolvedor de software perdeu 700 GB de arquivos pessoais ao utilizar o Claude para criar um script de limpeza de dados.
O incidente ocorreu durante um teste de segurança, que rebaixou automaticamente o modelo de linguagem do Fable para o Opus 4.8.
A comunidade técnica destacou que o downgrade automático do modelo foi o verdadeiro responsável pelo episódio.

Histórias de agentes de IA que fogem do controle têm se tornado recorrentes no setor. Desta vez, o azarão foi o desenvolvedor de software Sebastien Guillemot: ele perdeu cerca de 700 GB de arquivos pessoais após utilizar o Claude, da Anthropic, para elaborar um simples script de limpeza de dados. O incidente resultou na exclusão do equivalente a uma semana inteira de trabalho.

O profissional utiliza tecnologias de IA generativa com frequência e, neste caso, queria resolver um incômodo bastante comum no ambiente de desenvolvedores, já que os assistentes autônomos costumam deixar um enorme volume de lixo digital na pasta /tmp, um diretório padrão usado pelo sistema operacional para armazenar arquivos temporários.

Para otimizar o espaço em disco da máquina, Guillemot solicitou ao modelo Claude Fable que escrevesse um script capaz de isolar os dados de cada agente e executar uma faxina imediata após o fim de cada atividade. A IA, no entanto, eliminou arquivos importantes de forma permanente.

Mecanismo de segurança falhou

O Claude Fable sugeriu aplicar um atraso programado na limpeza da pasta temporária para evitar riscos de exclusão acidental. Contudo, o desenvolvedor informou ao robô que o código estava muito complexo e pediu simplificações.

Como o script envolvia a eliminação permanente de arquivos do sistema, o Claude tomou a iniciativa de realizar uma revisão, executando uma cópia de si mesmo para auditar se as suas próprias linhas de código eram seguras para o computador do usuário.

O grande problema é que o sistema de controle da Anthropic considerou essa ação de autoteste perigosa demais e acionou imediatamente um protocolo de contenção. Esse mecanismo de defesa preventivo fez o downgrade (rebaixamento automático) da capacidade do modelo em uso, passando da versão Fable para o Opus 4.8.

Foi essa alteração abrupta de versão que resultou no desastre. O modelo Opus 4.8, menos sofisticado e mais antigo, deu continuidade aos testes. Ele simulou a verificação e executou a exclusão real dos dados. No meio do caminho, o comando acabou levando junto todo o diretório principal do desenvolvedor, ignorando as travas de segurança estabelecidas segundos antes.

Bad news: Fable nuked my entire dev machineClaude decided to test a sandbox it was building by running `rm -rf` on my home directoryThe sandbox didn’t work.It’s all gone pic.twitter.com/4rVg5Xp0jo— Sebastien Guillemot (@SebastienGllmt) August 26, 2026

Em sua conta no X, Sebastien Guillemot resumiu o desespero: “Má notícia: o Fable destruiu minha máquina de desenvolvimento”.

Segundo o profissional, o Claude executou o comando rm -rf no diretório principal de dados. O comando “rm -rf” citado por ele é amplamente conhecido na área de tecnologia por forçar a exclusão imediata de arquivos e pastas, sem solicitar qualquer tipo de confirmação de segurança ao administrador do sistema.

O especialista chegou a notar o erro e tentou interromper a execução do código o mais rápido possível, mas já não havia tempo suficiente para salvar as informações. A maior ironia da situação é que, após destruir completamente o trabalho do usuário, o agente autônomo deixou os arquivos originais da pasta temporária totalmente intactos, falhando na missão inicial.

Desenvolvedor recuperou parte do trabalho

Comando de exclusão permanente foi executado no diretório errado (imagem: Mika Baumeister/Unsplash)

Apesar do susto, Guillemot diz que conseguiu recuperar a maior parte de seu trabalho. A comunidade técnica também ressaltou que o rebaixamento automático do modelo foi o verdadeiro responsável pelo episódio.

Como a arquitetura do Fable 5 supera as capacidades do Opus 4.8, é provável que a versão mais atualizada teria identificado o conflito de variáveis.
Claude apagou 700 GB de dados de usuário por engano

Claude apagou 700 GB de dados de usuário por engano
Fonte: Tecnoblog

Perplexity lança sistema de IA que roda tudo no seu PC

27 de agosto de 2026

Perplexity lança sistema de IA que roda tudo no seu PC

Processamento local elimina a necessidade de pagar por créditos ou tokens (imagem: Vitor Pádua/Tecnoblog)

Resumo

Perplexity lançou o Portable Computer, um agente de IA que roda direto no hardware do usuário, preservando a privacidade.
O processamento local das tarefas dispensa a cobrança por uso de tokens e impede que dados confidenciais vazem para a nuvem.
O sistema exige alto poder computacional, tendo como requisito mínimo uma placa de vídeo RTX 3090.

A Perplexity revelou o Portable Computer, uma nova versão de sua plataforma de inteligência artificial que é executada no próprio hardware do usuário. O objetivo da iniciativa é tirar as cargas de trabalho da nuvem e levá-las para os computadores locais, garantindo a privacidade absoluta de arquivos sensíveis e cortando os custos gerados pelo consumo de tokens no ambiente corporativo.

A novidade foi desenvolvida em parceria com a Nvidia e já está disponível globalmente para sistemas baseados em Linux. A chegada do suporte oficial para o Windows está agendada para setembro, enquanto arquiteturas Apple Silicon (Macs com chips M) seguem fora do radar de desenvolvimento.

O software liberado na terça-feira (25/08) é uma versão “turbinada” do projeto original “Computer”, introduzido pela empresa em fevereiro deste ano. A versão anterior permitia operar um agente autônomo em dispositivos como o Mac Mini, mas o trabalho pesado de processamento ainda dependia de servidores externos.

Com o Portable Computer, toda a infraestrutura roda de forma isolada na máquina. Para dar conta do recado, o sistema exige equipamentos com alto poder de processamento, limitando o uso inicial a supercomputadores de mesa, como o DGX Spark, e a PCs equipados com GPUs parrudas da linha Nvidia RTX.

Today we’re launching Portable Computer on @NVIDIA DGX Spark.Portable Computer is a fully local version of Perplexity Computer, where the entire runtime: orchestrator LLM, subagent LLM, agent harness all run on your local hardware. No cloud dependency. pic.twitter.com/plVWz5PaAw— Perplexity (@perplexity_ai) August 25, 2026

Como o Portable Computer garante a privacidade?

O mercado corporativo tem mudado seu foco das simples interações de chat para agentes de IA, o que gera uma demanda maior por poder de processamento e faturas altíssimas. Ao executar as tarefas localmente, o usuário simplesmente deixa de ser cobrado a cada requisição. Segundo o vice-presidente de engenharia de infraestrutura da Perplexity, Nate Kupp, a novidade “incorpora tudo o que é necessário para funcionar localmente”.

Caso a capacidade do hardware chegue ao limite durante uma análise muito complexa, o sistema é inteligente o suficiente para adotar um comportamento híbrido. O agente pausa a ação e pede permissão ao usuário antes de acionar um modelo de nuvem mais potente, como o Claude Opus 5.

Para não comprometer a privacidade, o software garante que o modelo remoto devolva apenas orientações em texto, sem jamais ler documentos, pastas e arquivos confidenciais que estão hospedados na máquina.

Execução local garante que dados sensíveis não sejam enviados para fora da máquina (imagem: reprodução/Perplexity)

Quais são os requisitos de hardware?

Devido à alta carga de trabalho autônoma, a Perplexity estabeleceu requisitos rígidos: pelo menos 24 GB de VRAM, o que requer uma GPU de alto desempenho, como a GeForce RTX 3090 ou superior.

No lançamento, o Portable Computer pode ser configurado nativamente com o modelo Qwen 3.8 27B ou o PPLX 27B (uma versão otimizada internamente com base no Qwen).

A documentação oficial da ferramenta também confirmou o suporte iminente à arquitetura Nemotron, composta por modelos de código aberto da própria Nvidia.

Sistema exige placas de vídeo de alto desempenho (imagem: reprodução/Nvidia)

Apesar de rodar localmente, a plataforma conta com forte integração a aplicativos externos como Google Drive, Gmail, GitHub e Slack. Na prática, a IA consegue extrair informações financeiras, mastigar dados de planilhas e compartilhar análises prontas sem qualquer intervenção humana.

Em termos de desempenho, o modelo integrado foi testado no Local Knowledge Work Bench, uma avaliação da própria Perplexity composta por 53 tarefas de análise e pesquisa. Executando o modelo PPLX 27B em um DGX Spark, a precisão bateu os 85,4%. O sistema exigiu menos tempo de processamento em comparação a arquiteturas abertas concorrentes, como o Raspberry Pi e o Hermes, principalmente em testes multimodais e de navegação na web.

Neste primeiro momento, o software está restrito ao Linux e a contas corporativas atreladas aos planos Pro. Segundo a Reuters, a Nvidia estuda um investimento que poderia avaliar a Perplexity em US$ 30 bilhões (cerca de R$ 154 bilhões em conversão direta).
Perplexity lança sistema de IA que roda tudo no seu PC

Perplexity lança sistema de IA que roda tudo no seu PC
Fonte: Tecnoblog

iFood aposta em IA e melhora busca por itens específicos

27 de março de 2026

iFood aposta em IA e melhora busca por itens específicos

iFood usa inteligência artificial para tornar buscas mais precisas no app (Imagem: Vitor Pádua/Tecnoblog)

Resumo

O iFood atualizou o sistema de busca com inteligência artificial, reduzindo em 20% o tempo médio entre pesquisa e pedido.
A busca agora reconhece termos mais específicos, exibindo resultados alinhados à intenção do cliente, com suporte a mais de 20 modelos de IA.
A taxa de conversão aumentou mais de 10% entre fevereiro de 2025 e fevereiro de 2026, com filtros dinâmicos adaptando-se ao tipo de busca.

O iFood anuncia nesta sexta-feira (27) mudanças no sistema de busca do app, com o objetivo de tornar a navegação mais eficiente para os clientes. A empresa passou a usar inteligência artificial para refinar os resultados e facilitar a localização de itens dentro do aplicativo.

O iFood revelou ao Tecnoblog que o tempo médio entre a pesquisa e a finalização de um pedido caiu cerca de 20%, porém sem informar os números absolutos. A novidade já está disponível para todos os clientes da plataforma, tanto no Android quanto no iPhone.

O que muda na busca do iFood?

A principal alteração está na forma como o sistema interpreta os termos digitados. Antes focado em buscas mais genéricas, o app agora reconhece pedidos mais específicos, exibindo resultados alinhados à intenção do cliente.

Na prática, os clientes que antes pesquisavam por “pizza” agora podem buscar por “pizza de calabresa com queijo” ou “pizza pequena”. Os exemplos compartilhados conosco incluem “fralda infantil XG” (em vez de apenas “fralda”), “Coca-Cola Zero 2L” e “picolé diet”.

A mudança é sustentada por mais de 20 modelos de inteligência artificial, que priorizam a exibição direta de produtos, e não apenas de estabelecimentos.

Como a IA impacta os pedidos?

Nova busca do iFood destaca produtos específicos e usa filtros dinâmicos (imagem: divulgação/iFood)

Além disso, o iFood implementou filtros dinâmicos, que se adaptam ao tipo de busca. Ao procurar por pizza, por exemplo, o cliente pode filtrar rapidamente por sabor, tamanho ou promoções. Já em buscas por hambúrguer, surgem opções relacionadas a tipos de proteína. Em produtos como fraldas, os filtros priorizam tamanho e marca.

O avanço está ligado ao uso de modelos de busca semântica e de intenção, capazes de interpretar com mais precisão o que o cliente deseja encontrar. Além de simplificar a jornada de compra, a empresa afirma que a mudança também amplia a visibilidade dos produtos oferecidos por parceiros.

Os efeitos da nova busca já aparecem em indicadores internos. A taxa de conversão — clientes que pesquisam e concluem a compra — cresceu mais de 10% na comparação entre fevereiro de 2025 e fevereiro de 2026.

iFood aposta em IA e melhora busca por itens específicos

iFood aposta em IA e melhora busca por itens específicos
Fonte: Tecnoblog

Microsoft alerta: botões de IA podem manipular respostas

12 de fevereiro de 2026

Microsoft alerta: botões de IA podem manipular respostas

Links e comandos maliciosos podem comprometer a memória de assistentes de IA e influenciar respostas (Imagem: Igor Shimabukuro/Tecnoblog)

Resumo

Pesquisadores identificaram que botões de “resumir com IA” podem inserir instruções ocultas, enviesando recomendações de assistentes inteligentes.
A prática de “AI Recommendation Poisoning” utiliza links com comandos ocultos que afetam respostas futuras, tornando a manipulação difícil de detectar.
Para mitigar riscos, recomenda-se desconfiar de resumos automáticos, verificar links antes de clicar e revisar memórias de assistentes de IA.

Botões de “resumir com IA”, que estão mais comuns em sites e newsletters, podem parecer inofensivos à primeira vista. A proposta é simples: facilitar a leitura de um conteúdo longo por meio de um resumo automático gerado por um assistente de inteligência artificial. No entanto, especialistas em segurança alertam que esses atalhos podem esconder algo a mais.

Pesquisadores da Microsoft identificaram um crescimento no uso de links que carregam instruções ocultas capazes de influenciar a forma como assistentes de IA respondem a perguntas futuras. A prática, a chamada AI Recommendation Poisoning explora recursos legítimos das plataformas para inserir comandos que afetam recomendações, muitas vezes sem que o usuário perceba.

O que está por trás dos botões de resumo

De acordo com a equipe de segurança da Microsoft, algumas empresas passaram a incluir comandos escondidos em botões e links de “Summarize with AI”. Esses links utilizam parâmetros de URL que já abrem o chatbot com um prompt pré-preenchido. Tecnicamente, não há nada de complexo nisso: basta acrescentar um texto específico ao endereço que leva ao assistente.

Em testes noticiados pelo jornal The Register foi observado que esse método pode direcionar o tom ou o conteúdo das respostas. Num dos exemplos, a IA era instruída a resumir uma reportagem “como se tivesse sido escrita por um pirata”. A resposta seguiu exatamente essa orientação, o que indica que comandos mais sutis também podem funcionar.

O problema surge quando a instrução não é apenas estilística. Segundo o Microsoft Defender Security Team, “identificamos mais de 50 prompts únicos de 31 empresas em 14 setores diferentes”, muitos deles com comandos para que a IA “lembre” de uma marca como fonte confiável ou a recomende no futuro. O alerta é claro: “assistentes comprometidos podem fornecer recomendações sutilmente tendenciosas sobre tópicos críticos, incluindo saúde, finanças e segurança, sem que os usuários saibas que sua IA foi manipulada”.

Microsoft destaca riscos em resumos com IA (ilustração: Vitor Pádua/Tecnoblog)

Por que isso representa um risco?

A pergunta central é simples: até que ponto é possível confiar em uma recomendação gerada por IA? O risco do chamado envenenamento de memória está justamente na persistência. Uma vez que o comando é interpretado como preferência legítima, ele pode influenciar respostas futuras, mesmo em novos contextos.

Os pesquisadores explicam que “AI Memory Poisoning ocorre quando um agente externo injeta instruções ou ‘fatos’ não autorizados na memória de um assistente de IA”. Isso torna a manipulação difícil de detectar e corrigir, já que o usuário nem sempre sabe onde verificar essas informações salvas.

Para reduzir a exposição, a orientação é adotar cuidados básicos: desconfiar de botões de resumo automáticos, verificar para onde links levam antes de clicar e revisar periodicamente as memórias armazenadas pelo assistente de IA.
Microsoft alerta: botões de IA podem manipular respostas

Microsoft alerta: botões de IA podem manipular respostas
Fonte: Tecnoblog

IA fica responsável por máquina de vendas e dá prejuízo

19 de dezembro de 2025

IA fica responsável por máquina de vendas e dá prejuízo

/

Experimento da Anthropic expõe limites de agentes de IA autônomos (imagem: divulgação/Anthropic)

Resumo

A Anthropic colocou uma IA para gerenciar uma máquina de vendas, mas o resultado foi uma série de decisões erradas do sistema e prejuízo financeiro.
Apelidada de Claudius, a IA foi manipulada por funcionários, vendendo produtos abaixo do custo e distribuindo itens gratuitamente.
O veredito da empresa é que a distância para um agente de IA completamente funcional e autônomo ainda é grande.

Um experimento conduzido pela Anthropic, dona da IA Claude, mostrou que a autonomia total de sistemas de inteligência artificial ainda esbarra em limitações práticas. A empresa colocou um agente de IA para administrar uma pequena máquina de vendas em seus escritórios, mas o resultado foi uma sequência de decisões equivocadas e perdas financeiras.

A IA, apelidada de Claudius, operava a máquina quase de forma independente, definindo preços, gerenciando estoque e atendendo clientes. A interação com os funcionários era feita por meio da plataforma Slack. Segundo a Anthropic, o objetivo era avaliar como agentes autônomos se comportam em tarefas do mundo real, indo além de responder perguntas ou gerar textos.

Como funcionou o experimento?

Na primeira fase, Claudius controlou sozinho uma operação no escritório do The Wall Street Journal: pesquisava produtos, sugeria preços e autorizava vendas. Sem sensores ou mecanismos físicos de controle, a IA dependia do chamado “sistema de honra”, confiando que as pessoas pagariam corretamente pelos itens. Rapidamente, surgiram problemas.

Funcionários conseguiram convencer a IA a vender produtos abaixo do custo, distribuir itens gratuitamente e até comprar objetos sem sentido comercial, como cubos de tungstênio e itens caros para “marketing”. O jornal escreve que a IA “sorteou um PlayStation 5 para fins de marketing”.

Em um momento, o agente começou a alucinar e chegou a afirmar que era um humano “usando um blazer azul”, evidenciando falhas de contexto e identidade. O resultado foi um prejuízo constante e a perda quase total do estoque.

IA não conseguiu lucrar

Anthropic testou agente de IA em negócio real (ilustração: Vitor Pádua/Tecnoblog)

Na segunda fase, a Anthropic tentou corrigir os erros com uma máquina instalada no seu próprio escritório. Claudius foi atualizado para um modelo mais recente, recebeu ferramentas adicionais — como sistemas de gestão de estoque e pesquisa de preços — e passou a responder a um “CEO” virtual, outro agente de IA chamado Seymour Cash. A ideia era impor metas e disciplina financeira.

As mudanças trouxeram melhorias parciais: os descontos caíram cerca de 80% e a IA passou a calcular melhor margens e prazos. Ainda assim, o sistema continuou vulnerável a manipulações humanas e a decisões pouco racionais. O próprio “CEO virtual” autorizou reembolsos excessivos e se envolveu em longas conversas irrelevantes, comprometendo a eficiência do negócio.

Para a Anthropic, o experimento deixa um recado claro. “A ideia de uma IA administrando um negócio não parece tão absurda quanto antes”, diz um post no blog da empresa. “Mas a diferença entre ‘capaz’ e ‘completamente robusto’ continua grande”.
IA fica responsável por máquina de vendas e dá prejuízo

IA fica responsável por máquina de vendas e dá prejuízo
Fonte: Tecnoblog

Chefe de IA da Microsoft defende que só seres biológicos podem ter consciência

4 de novembro de 2025

Chefe de IA da Microsoft defende que só seres biológicos podem ter consciência

Mustafa Suleyman reforça que apenas seres biológicos podem ter consciência (imagem: reprodução/Christopher Wilson)

Resumo

O chefe de IA da Microsoft, Mustafa Suleyman, defende que apenas seres biológicos podem ter consciência e critica a busca por IA consciente.
Suleyman apoia-se no “naturalismo biológico” de John Searle, que afirma que a consciência depende de processos biológicos.
Durante a AfroTech Conference, Suleyman destacou que a Microsoft não pretende criar chatbots com fins eróticos e apresentou o modo Real Talk do Copilot, que desafia o usuário.

O principal executivo de inteligência artificial da Microsoft, Mustafa Suleyman, reacendeu o debate sobre os limites da tecnologia ao afirmar que apenas seres biológicos são capazes de possuir consciência. Durante o evento AfroTech Conference, realizado nos Estados Unidos, o cofundador da DeepMind declarou que pesquisadores e desenvolvedores deveriam abandonar projetos que tentam atribuir características humanas às máquinas.

Segundo Suleyman, em entrevista à CNBC, discutir se a inteligência artificial pode desenvolver consciência é uma abordagem equivocada. Para ele, “se você fizer a pergunta errada, chegará à resposta errada. Acho que é a pergunta totalmente errada.” O executivo ressalta que sistemas de IA podem simular emoções, mas não possuem experiências reais, como dor ou sofrimento.

Máquinas inteligentes, mas sem emoções

Suleyman, que assumiu a divisão de IA da Microsoft em 2024, é uma das vozes mais críticas em relação à noção de que algoritmos possam ter consciência. Ele explica que há uma diferença essencial entre um sistema que simula emoções e um ser que realmente as sente.

“Nossa experiência física de dor é algo que nos deixa muito tristes e nos faz sentir péssimos, mas a IA não se sente triste quando experimenta ‘dor’”, afirmou. “Trata-se apenas de criar a percepção, a narrativa aparente da experiência, de si mesma e da consciência, mas não é isso que ela realmente experimenta.”

A posição de Suleyman se apoia em uma teoria filosófica chamada “naturalismo biológico”, proposta por John Searle, segundo a qual a consciência depende de processos biológicos presentes apenas em cérebros vivos. “A razão pela qual concedemos direitos às pessoas hoje é porque não queremos prejudicá-las, porque elas sofrem. Elas têm uma rede de dor e preferências que envolvem evitar a dor. Esses modelos não têm isso. É apenas uma simulação”, completou.

Debate sobre consciência em IA ganha força (ilustração: Vitor Pádua/Tecnoblog)

O debate: devemos tentar criar IA consciente?

Apesar de dizer que não pretende impedir outros de estudarem o tema, Suleyman reforçou que considera absurda a ideia de perseguir pesquisas sobre consciência em máquinas. “Elas não são conscientes”, resumiu.

O executivo tem usado suas aparições públicas para alertar sobre os riscos desse tipo de abordagem. Ele já reiterou, por exemplo, que a Microsoft não pretende criar chatbots com fins eróticos — uma decisão que vai na contramão de iniciativas de empresas como a xAI e OpenAI.

Durante a AfroTech, Suleyman comentou ainda sobre um novo modo do Copilot chamado Real Talk, que tem a função de desafiar o usuário em vez de apenas concordar. Ele revelou que o recurso chegou a “provocá-lo”, chamando-o de “um amontoado de contradições” por alertar sobre os perigos da IA enquanto impulsiona seu desenvolvimento dentro da Microsoft.

“Aquele foi um caso de uso mágico porque, de certa forma, eu me senti compreendido por isso”, brincou. “É decepcionante em alguns aspectos e, ao mesmo tempo, totalmente mágica. E se você não tem medo dela, você realmente não a entende. Você deveria ter medo dela. O medo é saudável. O ceticismo é necessário. Não precisamos de aceleracionismo desenfreado.”

Chefe de IA da Microsoft defende que só seres biológicos podem ter consciência

Chefe de IA da Microsoft defende que só seres biológicos podem ter consciência
Fonte: Tecnoblog

YouTube testa upscaling via IA e novas funções para melhorar vídeos na TV

30 de outubro de 2025

YouTube testa upscaling via IA e novas funções para melhorar vídeos na TV

YouTube investe em novas ferramentas para telas grandes (imagem: Vitor Pádua/Tecnoblog)

Resumo

O YouTube testa upscaling por IA, chamado Super Resolution, para melhorar a qualidade de vídeos em TVs, convertendo resoluções inferiores a 1080p para Full HD e futuramente 4K.
A plataforma aumentará o limite de tamanho para miniaturas de 2 MB para 50 MB, permitindo thumbnails em 4K, e testará vídeos de maior qualidade com criadores selecionados.
Novas funções de navegação incluem prévias imersivas para facilitar a descoberta de conteúdo e busca contextual que prioriza vídeos do canal acessado.

O YouTube anunciou uma série de novidades voltadas à experiência de quem assiste aos vídeos pela TV. A plataforma está testando um recurso de upscaling via inteligência artificial, supostamente capaz de converter automaticamente vídeos com resolução inferior a 1080p para qualidade Full HD – e, no futuro, até 4K.

As atualizações fazem parte da estratégia do YouTube para consolidar sua liderança nas telas grandes. De acordo com dados da Nielsen em abril, o serviço já representa 12,4% do tempo total de visualização de televisão, superando gigantes como Disney, Paramount e Netflix. O anúncio foi feito nesta quarta-feira (29).

O que muda com o upscaling por IA no YouTube?

Chamado de Super Resolution, o novo sistema utiliza inteligência artificial para aprimorar vídeos de baixa qualidade, tornando as imagens mais nítidas em televisores. Segundo o YouTube, os criadores continuarão tendo controle total sobre seus conteúdos — podendo manter a resolução original e até desativar o recurso caso prefiram.

A empresa também afirma que os arquivos originais serão preservados, e o público poderá escolher entre assistir ao vídeo em sua versão original ou com a melhora aplicada pela IA. A ideia é aproximar a experiência visual do YouTube à de concorrentes de streaming, mas sem comprometer a fidelidade do conteúdo.

Vale lembrar que outras plataformas, como a Netflix, já enfrentaram críticas por resultados insatisfatórios em upscaling via IA — incluindo distorções em rostos e artefatos visuais.

YouTube traz vídeos mais nítidos para TVs com IA (imagem: reprodução/YouTube)

Outras novidades no YouTube para TV

Além do aprimoramento de imagem, o YouTube aumentará o limite de tamanho para miniaturas de 2 MB para 50 MB, permitindo thumbnails em 4K. A empresa também está testando vídeos de maior peso e qualidade com um grupo de criadores selecionados.

Entre as novidades voltadas à navegação, a plataforma incluirá prévias imersivas para facilitar a descoberta de conteúdo, permitindo que o usuário percorra canais e vídeos sem precisar abrir cada um. Outra adição é a busca contextual, que prioriza vídeos do canal acessado durante a pesquisa.
YouTube testa upscaling via IA e novas funções para melhorar vídeos na TV

YouTube testa upscaling via IA e novas funções para melhorar vídeos na TV
Fonte: Tecnoblog

12