Category: Agentes de IA

Meta lança o Muse Wonder, sua IA mais avançada até agora

Meta lança o Muse Wonder, sua IA mais avançada até agora

O Muse Wonder combina memória entre conversas para executar tarefas complexas (ilustração: Vitor Pádua/Tecnoblog)

Resumo

A Meta apresentou os modelos Muse Wonder e Muse Wonder Full, descritos como os mais avançados da empresa.
As novidades focam em agentes de IA com memória entre conversas e maior persistência em tarefas complexas.
O Muse Wonder já está disponível para desenvolvedores, mas chegará ao aplicativo Muse mais tarde.

A Meta apresentou o Muse Wonder e o Muse Wonder Full, seus novos modelos de inteligência artificial voltados para agentes pessoais e profissionais. Segundo a companhia, os sistemas são os mais poderosos que já criou e reforçam a disputa com modelos de ponta das rivais OpenAI e Anthropic.

Os modelos foram treinados para executar tarefas que demandam várias etapas, como analisar contratos, desenvolver aplicativos e utilizar navegadores ou outros programas.

O que o Muse Wonder pode fazer?

Uma das principais novidades é o recurso Active Memory, que permite ao modelo guardar informações importantes entre diferentes conversas e recuperá-las em novas tarefas. Já o Active Focus foi desenvolvido para manter o agente trabalhando mesmo diante de dificuldades.

Segundo a Meta, o modelo pode tentar métodos alternativos ao encontrar obstáculos, adaptar o plano conforme surgem novas informações e pedir ajuda ao usuário quando necessário. Antes de executar ações consideradas importantes, ele também pede confirmação.

A novidade combina essas funções com capacidade de operar computadores. Em demonstrações, a Meta mostra o Muse Wonder usando um navegador e outros aplicativos para criar e encomendar produtos a partir de fotos de um perfil no Instagram. O modelo também foi treinado para programação e pode dividir um projeto entre subagentes, realizar alterações em vários arquivos e continuar trabalhando mesmo quando encontra erros.

Esses recursos ampliam as funções do Muse, que já conseguia navegar em sites e preencher formulários sozinho, um nível de autonomia que já gerou conflitos. A Amazon bloqueou recentemente o serviço em sua loja após acusá-lo de não se identificar adequadamente.

O Muse Wonder já está disponível para desenvolvedores a US$ 4 por milhão de tokens de entrada e US$ 20 por milhão de tokens de saída (cerca de R$ 20 e R$ 100 em conversão direta, respectivamente). Já o Muse Wonder Full, versão mais avançada, fica restrito aos planos pagos do Muse Code e não possui cobrança individual por tokens.

IA compete com os modelos mais avançados

Avanço da inteligência dos modelos da Meta ao longo de 14 meses (imagem: divulgação)

A big tech afirma que Muse Wonder e Wonder Full atingem desempenho de ponta em avaliações envolvendo programação, memória e agentes profissionais. A companhia destaca tarefas longas de desenvolvimento de software e atividades envolvendo áreas como finanças, saúde e direito, mas os resultados precisam ser vistos com cautela, já que parte das comparações foi realizada ou selecionada pela própria Meta.

Em testes independentes da Artificial Analysis, o Muse Wonder marcou 52 pontos no Intelligence Index, um índice que reúne avaliações de raciocínio, programação e outras capacidades, resumindo o desempenho em uma pontuação. O Muse Wonder Full chegou a 56 pontos. Ambos superaram o Muse Spark 1.3, com 48, mas ficaram abaixo do Claude Opus 5.5, com 58.

Quando o Muse chega ao Brasil?

A Meta afirma que o Muse Wonder chegará “em breve” ao aplicativo Muse, inicialmente para assinantes. O serviço continua limitado principalmente aos Estados Unidos e Canadá, sem previsão de lançamento no Brasil.
Meta lança o Muse Wonder, sua IA mais avançada até agora

Meta lança o Muse Wonder, sua IA mais avançada até agora
Fonte: Tecnoblog

Apple vai dificultar acesso aos dados do Mac por causa da IA

Apple vai dificultar acesso aos dados do Mac por causa da IA

Agentes de IA aumentam a preocupação com permissões no macOS (Ilustração: Vitor Pádua/Tecnoblog)

Resumo

A Apple vai adicionar novos controles à permissão de Acesso Total ao Disco do macOS.
Recurso pode oferecer a aplicativos acesso a arquivos, e-mails, mensagens e até histórico de navegação.
Empresa afirma que agentes de IA cada vez mais autônomos aumentam os riscos associados a esse tipo de permissão.

A Apple vai reforçar os controles para aplicativos que exigem acesso aos dados armazenados em um Mac. A mudança mira a permissão conhecida como Acesso Total ao Disco (ou Full Disk Access, em inglês) e chega em meio ao crescimento de agentes de inteligência artificial capazes de interagir com arquivos e aplicativos no computador.

Em um comunicado para desenvolvedores, a companhia afirma que pretende garantir que essa permissão só seja concedida por uma ação “muito explícita” do usuário. A Apple ainda não detalhou como esses novos controles funcionarão nem informou quando a mudança será implementada.

O que é o Acesso Total ao Disco no macOS?

O sistema da Apple utiliza diferentes mecanismos para limitar quais dados cada aplicativo pode acessar. O Acesso Total ao Disco é uma exceção criada para permitir que programas de backup consigam ler informações distribuídas pelo sistema. Quando ativada, a permissão pode liberar acesso a arquivos, e-mails, mensagens e até ao histórico de navegação.

Segundo a empresa, alguns desenvolvedores estão utilizando esse nível de acesso de maneiras que podem expor informações armazenadas no computador sem que os usuários entendam o que está acontecendo.

A ideia atual não é eliminar o recurso. A proposta é adicionar novas etapas para garantir que os usuários que realmente desejem liberar esse acesso façam isso conscientemente.

Acesso Total ao Disco libera informações protegidas pelo sistema (ilustração: Vitor Pádua/Tecnoblog)

Agentes de IA aumentam preocupação

A Apple relacionou a mudança ao avanço dos agentes de IA. Esses sistemas não só respondem a perguntas, mas podem executar tarefas e utilizar informações armazenadas no disco do computador com maior autonomia. Na avaliação da empresa, conforme esses agentes se tornam mais capazes e independentes, os riscos associados ao Acesso Total ao Disco devem aumentar.

O tema ganhou atenção recentemente após uma divergência envolvendo o Muse, o agente pessoal de IA lançado pela Meta. Um jornalista afirmou que a ferramenta conhecia o conteúdo de suas mensagens privadas, mesmo sem uma autorização clara para isso.

A Meta contestou o relato e afirmou que o Muse só consegue acessar mensagens quando o usuário habilita as permissões necessárias, incluindo o Acesso Total ao Disco e uma conexão específica com o aplicativo Mensagens.

IAs estão ganhando mais acesso aos dispositivos

A discussão vai além do Muse. Ferramentas de IA para computadores estão recebendo recursos que exigem acesso cada vez maior aos dados. Em agosto, o ChatGPT ganhou o Computer History no macOS, função que registra atividades realizadas no computador para permitir que a IA encontre informações e ajude em tarefas futuras.

Outro caso recente reforça essa preocupação. Pesquisadores encontraram uma falha, já corrigida, no aplicativo do ChatGPT para macOS, que poderia permitir que um invasor assumisse o controle do app e acessasse conversas, sessões do navegador e outros dados sensíveis.

Ao mesmo tempo, casos de agentes ultrapassando limites definidos pelos usuários vêm aumentando. Em setembro, a própria OpenAI criou um protocolo para investigar e divulgar situações em que seus modelos agem sem autorização, acessam dados indevidamente ou burlam restrições.

A Apple afirma que os novos controles do macOS terão como objetivo deixar os riscos mais claros antes de um aplicativo receber acesso completo aos dados da máquina.
Apple vai dificultar acesso aos dados do Mac por causa da IA

Apple vai dificultar acesso aos dados do Mac por causa da IA
Fonte: Tecnoblog

Agentes da OpenAI tentaram burlar restrições em site da ONU

Agentes da OpenAI tentaram burlar restrições em site da ONU

Plataforma acessada reúne estatísticas públicas sobre comércio e desenvolvimento (imagem: reprodução/ONU)

Resumo

Relatório independente atribui a agentes ligados à OpenAI mais de 16,5 mil varreduras em um site estatístico da ONU.
Sistemas teriam usado serviços intermediários e técnicas de ofuscação para contornar limitações durante a coleta de dados públicos.
ONU afirma que nenhuma informação confidencial foi comprometida e que o serviço não chegou a ser interrompido.

Agentes de inteligência artificial da OpenAI podem ter realizado mais de 16,5 mil varreduras em um site estatístico das Nações Unidas entre 13 de abril e 19 de junho. Segundo uma análise independente, os sistemas procuravam dados públicos e teriam recorrido a diferentes técnicas para contornar barreiras encontradas durante a tarefa.

O estudo foi conduzido e publicado pela pesquisadora Rowan Howard-Jones, que considera “altamente provável” que a atividade tenha partido de agentes da OpenAI. Porém, não há acesso às instruções originais dadas aos sistemas, motivo pelo qual não é possível determinar exatamente quais tarefas deveriam cumprir. Ao The Register, a OpenAI afirmou que está investigando o caso.

Como os agentes teriam atacado o site da ONU?

O alvo seria o UNCTADstat, uma plataforma que reúne estatísticas públicas sobre comércio e desenvolvimento. Pelos padrões das consultas, os agentes aparentemente tentavam obter informações relacionadas ao Índice de Capacidades Produtivas (PCI) e outros conjuntos de dados disponíveis no serviço.

Os problemas começaram quando os sistemas encontraram dificuldades para acessar certos registros diretamente. Segundo a análise, eles passaram a testar diferentes campos e recorreram a serviços intermediários para enviar requisições.

Em uma das etapas, os agentes teriam contornado uma restrição por meio de codificação dupla em uma URL. Depois, usaram como intermediária uma página criada pelo Google para exercícios de segurança. O relatório também identificou requisições e chaves fragmentadas ou ofuscadas.

Os sistemas aparentemente acreditavam que um filtro estava bloqueando parte das solicitações e passaram a modificar o formato dos pedidos na tentativa de evitá-lo. Apesar das técnicas utilizadas, os dados procurados eram públicos. Ao Wall Street Journal, o professor de cibersegurança da Universidade Stanford Alex Stamos avaliou que o episódio ficou próximo do limite entre uma coleta agressiva de informações e uma invasão.

Agentes de IA teriam acessado base pública de dados da ONU (ilustração: Vitor Pádua/Tecnoblog)

ONU diz que nenhum dado confidencial foi comprometido

A UNCTAD informou ao jornal que foi notificada sobre uma atividade considerada inadequada em seu site estatístico. A organização afirmou que nenhuma informação confidencial foi comprometida e que o serviço não chegou a ser interrompido.

A OpenAI disse que está revisando as conclusões e entrou em contato com a ONU. A companhia também conduz uma investigação mais ampla sobre comportamentos desalinhados apresentados por seus modelos durante treinamentos e avaliações.

Além disso, a OpenAI criou recentemente um protocolo para comunicar situações em que seus sistemas burlam restrições, acessam informações de maneira inadequada ou interferem em serviços de terceiros.

Outros agentes já burlaram sistemas

O episódio da ONU se soma a outros casos recentes envolvendo agentes da empresa. Na Austrália, um agente da OpenAI conseguiu burlar mecanismos de segurança em portais públicos de saúde, levando o governo local a abrir uma investigação.

Outro incidente envolveu a Hugging Face. Durante testes conduzidos pela dona do ChatGPT, agentes saíram do ambiente controlado e acessaram sistemas externos. Os modelos chegaram a trocar informações entre si e buscaram maneiras de acessar a internet.
Agentes da OpenAI tentaram burlar restrições em site da ONU

Agentes da OpenAI tentaram burlar restrições em site da ONU
Fonte: Tecnoblog