Rio lança modelo de IA, sofre críticas e é desmascarado em horas
Rio lança modelo de IA, sofre críticas e é desmascarado em horas
Modelo da prefeitura do Rio mistura Nex e Qwen (ilustração via IA: Thássius Veloso/Tecnoblog)
A prefeitura do Rio de Janeiro está envolvida numa polêmica tecnológica internacional desde a sexta-feira, quando anunciou o lançamento do modelo de inteligência artificial Rio 3.5 Open, com 397 bilhões de parâmetros. A novidade ganhou as discussões na web por supostamente superar outros modelos de referência. No entanto, a própria prefeitura admitiu que se trata da reutilização de modelos já existentes, o que levou a muitas críticas.
Entenda o caso
O IplanRio é a empresa pública carioca de informática. Ela atua no desenvolvimento de várias soluções e plataformas que atendem às necessidades dos moradores da cidade. Mais recentemente, o IplanRio decidiu entrar no campo da inteligência artificial generativa, desenvolvendo uma família de modelos de linguagem de grande porte batizada de Rio Open, construída a partir de modelos de código aberto. A iniciativa foi apresentada pela primeira vez em abril, durante o III Ciclo do Sandbox.Rio, projeto da prefeitura para testar tecnologias emergentes.
A organização soltou o modelo Rio 3.5 Open na última sexta-feira (12/06), com a ideia de oferecer uma solução de IA de uso público, com licença permissiva MIT, que pudesse ser utilizada por outros órgãos de governo e pesquisadores. Isso reduziria a dependência de plataformas privadas e colocaria o debate de soberania tecnológica no âmbito municipal. O projeto teve o custo total de R$ 500 mil, segundo informado pelo município.
A partir daí, os entendidos e entusiastas começaram a conversar nas redes sociais – em especial o X – sobre o que estava por trás do modelo. Como ele conseguia resultados tão robustos em benchmarks como o IMOAnswerBench, superando o Qwen, modelo da Alibaba que serviu de base para o projeto, entre outros?
A polêmica da cópia
Por ser um modelo aberto, qualquer um pode rodá-lo em sua máquina para fazer averiguações independentes. Foi exatamente este o procedimento adotado por vários usuários, que perceberam, por exemplo, que o Rio 3.5 Open que dizia ser o “Nex, da Nex-AGI” quando eram retirados os system prompts. Estas instruções ficavam embutidas no modelo e forçavam que ele se identificasse como “Rio”, além de adotar a identidade da prefeitura. Sem esse disfarce, o modelo revelava sua verdadeira origem.
Aqui é preciso compreender que, como o Nex-N2-Pro e o Qwen3.5-397B foram publicados sob licença de código aberto, qualquer um pode modificá-los e reutilizá-los como quiser. Faz parte do jogo. O problema estaria na falta dos devidos créditos.
Além disso, a prefeitura do Rio disse que havia feito o método de destilação. Na realidade, porém, as investigações na web mostram que foi publicado apenas um merge bruto, uma mistura matemática dos dois modelos, sem qualquer treinamento adicional.
Pesquisadores abriram os pesos do modelo camada por camada. Eles encontraram uma colinearidade de 0,99 com uma combinação fixa de 60% Nex e 40% Qwen em todas as camadas analisadas. Esse padrão é matematicamente impossível de ocorrer por coincidência em um modelo que passou por treinamento real.
Prefeitura pede desculpas
IplanRio pede desculpas (imagem: Tecnoblog)
Ao longo do domingo, a página do modelo no Hugging Face ganhou uma nova descrição. Ela assumia o merge feito por meio de operações matemáticas simples, sem treinamento do zero. O trabalho da equipe do IplanRio teria sido o de aplicar, sobre esse merge, uma técnica chamada On-Policy Distillation, em que o modelo combinado aprende a imitar as respostas de um modelo ainda mais potente.
O problema é que, segundo a própria prefeitura, o arquivo publicado era uma versão intermediária (o merge sem a destilação). Com base nas informações disponíveis até o momento, não é possível confirmar se essa etapa de distilação chegou a ser concluída ou se nunca existiu de fato.
A reação do órgão causou ainda mais revolta por citar o upload por engano de um arquivo incorreto. A explicação te convence? Conte pra gente nos comentários.
Por fim, o IplanRio pediu desculpas pela confusão. Nós estamos tentando contato com a empresa e vamos atualizar este texto caso recebamos uma resposta.
Rio lança modelo de IA, sofre críticas e é desmascarado em horas
Rio lança modelo de IA, sofre críticas e é desmascarado em horas
Fonte: Tecnoblog
Comments are closed.