Google tira time de segurança de IA do DeepMind
Google tira time de segurança de IA do DeepMind
Google terá mudanças em segurança de IA no DeepMind (imagem: Vitor Pádua/Tecnoblog)
Resumo
O Google transferiu cerca de 90 funcionários do setor de segurança de IA do DeepMind para o setor de Assuntos Globais, informou o The Wall Street Journal.
Esses especialistas eram responsáveis por identificar riscos biológicos, químicos, radiológicos e nucleares em novos modelos de IA, segundo o Google.
A mudança ocorre após a saída do CEO do DeepMind, Demis Hassabis, que agora é presidente do conselho e cientista-chefe da Alphabet.
O Google DeepMind, setor de desenvolvimento em inteligência artificial da empresa, não conta mais com funcionários responsáveis por assuntos de segurança em IA. A companhia americana decidiu realocar cerca de 90 pesquisadores para o setor de Assuntos Globais, onde devem cuidar de políticas gerais relacionadas aos serviços do Google.
Esses especialistas são responsáveis por checar possíveis riscos biológicos, químicos, radiológicos e nucleares envolvendo modelos de IA. A presença de um time de segurança de IA é importante para encontrar falhas nas respostas dos sistemas, pois podem se aprofundar muito num determinado assunto para testar possíveis usos maliciosos.
A novidade foi divulgada pelo The Wall Street Journal, que teve acesso a e-mails internos do Google apontando as mudanças no time de segurança de IA. A movimentação vem pouco tempo depois da saída de Demis Hassabis do cargo de CEO do DeepMind – agora, presidente do conselho e cientista-chefe da Alphabet.
Segurança de IA e o momento atual da tecnologia
Os avanços recentes no mercado de tecnologia acendem um alerta para a necessidade de especialistas em ciências gerais na hora de lidar com o desenvolvimento de inteligência artificial. As concorrente OpenAI e Anthropic apontaram uma grande preocupação com os avanços de seus modelos e a capacidade de aprofundar temas científicos. Elas prometem travas de segurança ao tratar desses assuntos.
Claude Fable 5 e GPT-5.6 prometem travas de segurança para assuntos científicos mais específicos (imagem: Lupa Charleaux/Tecnoblog)
Segundo o Google, a migração desses profissionais aproxima suas atividades da área de produtos, incluindo a busca, por exemplo. Mas, entre os funcionários, há uma preocupação de que a mudança limite seus acessos no processo de desenvolvimento de novas versões do Gemini, dificultando a identificação de possíveis falhas.
No e-mail enviado aos funcionários, a vice-presidente do DeepMind responsável por segurança de IA, Helen King, garante que o time seguirá com acesso liberado às novidades.
Nova leva de mudanças no Google DeepMind
A migração deve começar no início de setembro, e é mais uma modificação feita pelo Google no setor de desenvolvimento de inteligência artificial. No início de agosto, a troca de comando no DeepMind tirou Demis Hassabis da cadeira de CEO, passando para o cargo de cientista-chefe no lugar de Jeff Dean, enquanto Koray Kavukcuoglu assumiu como novo CEO. O projeto Alphafold, que rendeu a Hassabis o Nobel de Química, também foi encerrado.
Demis Hassabis saiu do cargo de CEO do DeepMind no início de agosto (foto: John Sears/Wikimedia)
Além de Dean, que já tinha 27 anos de Google e fez parte de todo o processo de desenvolvimento de IA, mais especialistas de longa data saíram da empresa para fundar novas startups ou trabalhar em outras equipes de pesquisa em IA. Foi o caso de Noam Shazeer e John Jumper, que foram trabalhar com OpenAI e Anthropic, respectivamente. Ainda segundo o WSJ, há um receio de que a mudança no DeepMind possa levar mais funcionários a mudanças parecidas.
Google tira time de segurança de IA do DeepMind
Google tira time de segurança de IA do DeepMind
Fonte: Tecnoblog
