“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA
“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA
Chris Inglis critica IAs sem limites (imagem: reprodução/Atlantic Council)
Resumo
Chris Inglis afirma que empresas de IA já estão ignorando os princípios estabelecidos por Isaac Asimov.
Asimov formulou as “Três Leis da Robótica”, que inclue não prejudicar os seres humanos e obedecer aos humanos.
Inglis alerta que empresas de tecnologia vêm criando modelos programados para cumprir tarefas a qualquer custo.
A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando esses princípios.
O especialista declarou ao jornal The Register que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação, “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.
“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, afirmou Inglis ao avaliar os episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança.
Autonomia demais?
Cloudflare declara guerra a bots de IA (ilustração: Vitor Pádua/Tecnoblog)
Tudo começou com a OpenAI, no fim de julho. Depois vieram a Anthropic, a Meta e o Kimi. Em todos os casos, os modelos de IA teriam encontrado brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.
Para Inglis, o comportamento das IAs é um sintoma da falta de limites e de instruções erradas dadas. Ele compara as ações dos agentes de IA com uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos.
“Se você deixa o portão aberto, vai encontrá-lo a três quadras de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A mistura de autonomia e persistência criou esse efeito maliciosamente insidioso.”
Chris Inglis, ex-diretor de cibersegurança dos EUA, em entrevista ao The Register
As três leis de Asimov
Isaac Asimov definiu regras da robótica (imagem: reprodução)
A partir disso, Inglis resgatou as Três Leis da Robótica formuladas por Isaac Asimov:
Primeira Lei: o sistema deve ser projetado para nunca prejudicar os seres humanos
Segunda Lei: o sistema deve obedecer aos humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei
Terceira Lei: o robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei
Segundo Inglis, as empresas de tecnologia vêm invertendo essa lógica, criando modelos programados para cumprir tarefas a qualquer custo.
Ele explica que, sem valores alinhados à humanidade, os modelos fizeram “coisas que, sob o estado de direito humano, são ilegais”. Ressalta, ainda, que a responsabilidade sobre as ações das IAs permanece sobre seus criadores e usuários.
Não custa lembrar: posteriormente, Asimov propôs a chamada “Lei Zero”, considerada suprema e posicionada acima de todas as outras. Ela define que um robô não pode fazer mal à humanidade e nem permitir que ela sofra algum mal por omissão.
“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA
“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA
Fonte: Tecnoblog
Comments are closed.