Mozilla cria startup para desenvolver inteligência artificial “confiável”

Mozilla cria startup para desenvolver inteligência artificial “confiável”

Todas as grandes empresas de tecnologia estão entrando na onda da inteligência artificial, e algumas fundações começam a demonstrar interesse por esse ramo. A Mozilla, famosa pelo navegador Firefox, criou uma startup com foco no setor, chamada Mozilla.ai.

Mozilla.ai (Imagem: Reprodução/Mozilla)

A Mozilla.ai chega com uma missão um pouco diferente: criar inteligências artificiais de código aberto e “confiáveis”. Quem diz isso é Mark Surman, presidente executivo da Mozilla e chefe da nova startup

“Novas tecnologias muito interessantes estão aparecendo — elas imediatamente levaram artistas, fundadores… todo tipo de pessoas a fazer coisas novas”, disse Surman, em entrevista ao TechCrunch. “A ansiedade bate quando a gente percebe que quase ninguém está olhando os limites disso.”

ChatGPT foi usado para criar malware

Muitas das tecnologias liberadas por grandes empresas ao longo de 2022 apresentaram problemas — e não estamos falando de errarem informações ou coisas do tipo.

O ChatGPT, por exemplo, pode ser usado para desenvolver malware, criar e-mails de phishing e encontrar falhas em sistemas de código aberto. As limitações criadas pela OpenAI foram facilmente dribladas.

Já a Stable Diffusion, que cria imagens a partir de pedidos em texto, foi usada para criar conteúdo pornográfico, deepfakes e imagens de violência explícita.

Mozilla já tentou, mas ninguém se interessou

O executivo lembra que a Mozilla já trabalha com pesquisas em inteligências artificiais confiáveis para o interesse público há cinco anos. Mesmo assim, outras empresas não se interessaram em usar o que sua companhia desenvolveu.

“No meio do ano passado, nós decidimos que precisávamos fazer isso sozinhos, e achar parceiros que pensam parecido para trabalharmos juntos”, conta Surman.

Mozilla.ai quer criar base para IA confiável

A Mozilla.ai recebeu um investimento de US$ 30 milhões da fundação Mozilla, que será sua única dona. Neste primeiro momento, a startup conta com pessoas com passagem por Harvard, Huawei e conselhos do governo americano sobre IA.

Surman pretende montar um time com 25 engenheiros, cientistas e gerentes de produto. Eles vão trabalhar em sistemas de recomendação e large language models (LLMs), nos moldes do GPT-4, da OpenAI. A diferença é que o foco é fazê-los de um modo que sejam confiáveis.

No horizonte, a empresa recém-fundada quer criar uma rede de companhias aliadas e grupos de pesquisa para levar adiante sua posição de desenvolver inteligências responsáveis.

A ideia é criar em uma tecnologia que sirva de base para outros produtos — Surman cita o Linux e o Apache como exemplos.

Com informações: TechCrunch
Mozilla cria startup para desenvolver inteligência artificial “confiável”

Mozilla cria startup para desenvolver inteligência artificial “confiável”
Fonte: Tecnoblog