Category: Inteligência Artificial

OpenAI diz ter resolvido “preguiça” do ChatGPT com GPT-4 Turbo

26 de janeiro de 2024

OpenAI diz ter resolvido “preguiça” do ChatGPT com GPT-4 Turbo

ChatGPT estava preguiçoso desde novembro, mas OpenAI afirma que resolveu (Imagem: Vitor Pádua / Tecnoblog)

A OpenAI afirmou nesta quinta-feira (25) que resolveu a crise de preguiça do ChatGPT — em partes. A nova versão do GPT-4 Turbo, tecnologia mais avançada por trás da inteligência artificial, promete acabar com as respostas curtas — e casos de pedir para o usuário terminar uma tarefa. No comunicado publicado em seu site, a OpenAI destaca que a atualização do GPT-4 Turbo ainda é uma prévia e a tendência é que as respostas fracas diminuam.

Desde o fim de novembro, usuários pagos da IA generativa, que podem utilizar o GPT-4 Turbo, reclamavam de uma “preguicite” da inteligência artificial. Pouco depois, foi levantado até a teoria que o ChatGPT tinha aprendido sobre a “pausa de inverno” (levando em conta o hemisfério norte). A teoria se baseia no fato de que em dezembro, próximo das datas comemorativas, as pessoas tendem a se esforçar menos, postergando trabalhos maiores para janeiro — no nosso caso, o winter break é “calor demais para conseguir viver e trabalhar”.

ChatGPT deve diminuir respostas preguiçosas

ChatGPT não pode sentir preguiça, mas usuários relatam que ele estava preguiçoso (Imagem: Reprodução/Tecnoblog)

Com essa atualização, a OpenAI espera que o ChatGPT publique menos respostas curtas — e talvez pare de mandar o usuário fazer. Geralmente, a IA entrega respostas até que completas sobre alguns temas. No entanto, os usuários relatavam que o ChatGPT estava bem sucinto na conversa.

No post do Reddit linkado no parágrafo anterior, até o caso de um usuário relatando que pediu para o ChatGPT escrever um determinado código em C++. A IA apenas respondeu com o template, indicando onde o código do usuário deveria ser escrito.

Para resolver a situação, alguns usuários até davam algumas dicas de como contornar os problemas. Entre as possíveis soluções estavam repetir o prompt pedindo para que o ChatGPT fizesse o que foi pedido e até mensagens motivacionais como “você consegue! Eu confio”.

Se você não assina o ChatGPT Plus e está boiando sobre isso, tudo bem. A IA com GPT-4 e GPT-4 Turbo só está disponível para os assinantes. O GPT-3.5 segue sem preguicite.

Com informações: The Verge e Ars Technica
OpenAI diz ter resolvido “preguiça” do ChatGPT com GPT-4 Turbo

OpenAI diz ter resolvido “preguiça” do ChatGPT com GPT-4 Turbo
Fonte: Tecnoblog

ChatGPT: OpenAI firma parceria com universidade pela primeira vez

19 de janeiro de 2024

ChatGPT: OpenAI firma parceria com universidade pela primeira vez

ChatGPT, da OpenAI, será usado pela Universidade do Estado do Arizona em seus computadores (Imagem: Vitor Pádua / Tecnoblog)

A OpenAI e a Universidade do Estado do Arizona (conhecida pela sigla ASU) anunciaram nesta semana uma parceria que levará o ChatGPT para os PCs da universidade. Esta é a primeira vez que uma instituição de ensino superior contrata o serviço de IA da empresa. O ChatGPT será usado por pesquisadores, funcionários e até mesmo alunos — mas não, a IA não fará os trabalhos de aula por eles.

O anúncio da parceria mostra que a percepção das instituições de ensino sobre a inteligência artificial está mudando. Com a popularização do ChatGPT, houve uma preocupação envolvendo o seu impacto nas instituições de ensino, tanto que algumas escolas bloquearam o acesso ao site da OpenAI.

O tempo foi passando e hoje a IA generativa passa a ser cotada como uma aliada no ensino e nas empresas — vide os funcionários da Samsung que usavam o ChatGPT para auxiliar em algumas tarefas. A ASU anunciou ainda que realizará um concurso para que alunos e funcionário deem dicas de como usar a IA nas atividades da universidade.

Funcionários da ASU ganharão conta do ChatGPT Enterprise

Com a parceria entre a Universidade do Estado do Arizona e OpenAI, funcionários da universidade terão contas para acessar o ChatGPT Enterprise, uma versão da IA com recursos extras. Entre essas funcionalidades estão a capacidade de analisar arquivos, receber prompts maiores e desempenho mais rápido.

O ChatGPT Enterprise usado pela ASU permite ainda que a instituição customize a IA com ferramentas dedicadas para as atividades da universidade. Um exemplo interessante para as universidades brasileiras seria um ChatGPT capaz de avaliar as ementas e conteúdos programáticos das disciplinas que um estudante deseja validar.

ChatGPT pode criar questões para que alunos treinem um determinado assunto (Imagem: Reprodução/Tecnoblog)

Se no início da sua popularização havia uma crença de que o ChatGPT iria prejudicar a educação, o tempo mostra que a IA generativa, quando bem usada, pode auxiliar as instituições de ensino. No exemplo acima, o ChatGPT mostra que ele pode ajudar os estudantes a treinar algum assunto criando novas questões — mas claro, ele ainda pode estar errado e as respostas da IA devem ser comparadas com as fontes, anotações e material de aula, por exemplo.

Com informações: TechCrunch
ChatGPT: OpenAI firma parceria com universidade pela primeira vez

ChatGPT: OpenAI firma parceria com universidade pela primeira vez
Fonte: Tecnoblog

Meta quer criar IA geral e abrir código, anuncia Zuckerberg

18 de janeiro de 2024

Meta quer criar IA geral e abrir código, anuncia Zuckerberg

Para CEO da Meta, IA geral tem que ter raciocínio e intuição para lidar com diferentes tarefas (Imagem: Vitor Pádua / Tecnoblog)

Mark Zuckerberg, CEO da Meta, anunciou que a empresa está trabalhando em uma inteligência artificial geral, com a intenção de disponibilizá-la ao público, por meio de código aberto. Ele também afirmou que a companhia terá poder de processamento equivalente a 600 mil GPUs H100, da Nvidia, até o fim de 2024.

O anúncio foi feito por Zuckerberg em um vídeo no Instagram e em uma entrevista exclusiva ao site The Verge. Inteligência artificial geral (AGI, na sigla em inglês) é o nome dado a uma tecnologia capaz de realizar as mesmas tarefas intelectuais que humanos. Até o momento, ela é apenas hipotética.

“Nossa visão de longo prazo é construir uma inteligência geral, abrir seu código de maneira responsável e disponibilizá-la da maneira mais ampla possível, para que todos possam aproveitá-la”, escreveu o CEO na publicação.

“Está claro que a próxima geração de serviços precisa da criação de uma inteligência geral completa”, diz Zuckerberg no vídeo. “Para isso, é necessário avançar em todos os campos da IA, de raciocínio a planejamento, programação, memória e outras habilidades cognitivas.”

Ver essa foto no Instagram Uma publicação compartilhada por Mark Zuckerberg (@zuck)

Sem prazo, nem promessa

Além da Meta, OpenAI, DeepMind (que agora faz parte do Google) e Anthropic têm este mesmo objetivo. No entanto, há controvérsias sobre a definição de AGI e quando ela estará pronta. Para Zuckerberg, a inteligência artificial geral deverá ter diferentes capacidades, conseguidas por meio de raciocínio e intuição, e sua chegada será gradual, sem um momento marcante.

O CEO também diz ter a intenção de abrir o código de uma futura AGI. A Meta já fez isso com o Llama 2, seu modelo de linguagem em grande escala. Mesmo assim, ele não promete nada. “Contanto que faça sentido e seja o mais seguro e responsável a se fazer, acho que vamos tender ao código aberto. Claro, você não quer ficar preso a fazer alguma coisa só porque disse que faria”, pondera Zuckerberg ao The Verge.

Meta liderou compras de principal modelo de GPU em 2023 (Imagem: Vitor Pádua/Tecnoblog)

Compra de GPUs mostra ambição da Meta com IA

O anúncio também veio com informações sobre os investimentos da Meta. A empresa terá, até o fim de 2024, 350 mil GPUs H100, da Nvidia. Este modelo é considerado o melhor para o treinamento de IAs generativas, e cada unidade custa cerca de US$ 30 mil. Levando em conta outros modelos de GPU que a companhia possui, o poder de processamento será equivalente a 600 mil H100, segundo Zuckerberg.

O investimento pesado já era conhecido desde o ano passado. A empresa de pesquisa Omdia estima que a Meta comprou 150 mil H100 em 2023, mesma quantidade que a Microsoft, e três vezes mais que Google, Amazon, Oracle e Tencent, que levaram 50 mil cada.

Este poder computacional servirá para treinar o Llama 3, modelo que vai concorrer com o GPT-4, da OpenAI. “O Llama 2 não era o melhor da indústria, mas era o melhor entre os de código aberto”, admite Zuckerberg. “Com o Llama 3 e depois dele, nossa ambição é criar os melhores modelos do setor.”

Com informações: The Verge, PCMag, Venture Beat
Meta quer criar IA geral e abrir código, anuncia Zuckerberg

Meta quer criar IA geral e abrir código, anuncia Zuckerberg
Fonte: Tecnoblog

Microsoft revela versão paga do Copilot com assinatura individual

15 de janeiro de 2024

Microsoft revela versão paga do Copilot com assinatura individual

Microsoft Copilot Pro chega para atender quem procura uma assinatura individual (Imagem: Divulgação/Microsoft)

A Microsoft revelou nesta segunda-feira (15) o Copilot Pro, uma assinatura individual com acesso à IA generativa. O acesso individual custa R$ 110/mês e ele é oferecido dentro do Microsoft 365. O Copilot Pro já pode ser assinado no Brasil.

O Copilot foca nas pessoas físicas, inclusive as que trabalham por conta própria. O funcionamento é similar ao da versão profissional da ferramenta. A inteligência artificial ajuda na produção de planilhas do Excel, sugestões de texto no Word, produção de novos conteúdos, resumo de emails e até geração de novas imagens (o que também está disponível de graça no Copilot do Bing).

Copilot Pro pode ser acessado diretamente dos programas

O Copilot Pro pode ser aberto diretamente nos programas do Microsoft 365, como Excel, Word e PowerPoint. A IA dá acesso ao GPT-4 Turbo, versão mais recente do modelo de linguagem grande (LLM) da OpenAI. Ele também é usado no ChatGPT. A Microsoft informou que em breve será possível escolher qual LLM usar, caso você prefira o GPT-3,5.

Outro recurso interessante será a personalização do Copilot. No futuro, a ferramenta Copilot GPT Builder permitirá treinar a IA para atender a algum tópico mais específico.

A assinatura do Copilot Pro integra os planos Microsoft 365 Pessoal e Família.
Microsoft revela versão paga do Copilot com assinatura individual

Microsoft revela versão paga do Copilot com assinatura individual
Fonte: Tecnoblog

Audacity: editor de áudio estreia funções de IA

5 de janeiro de 2024

Audacity: editor de áudio estreia funções de IA

Audacity agora conta com ferramentas de IA para edição de áudio (Imagem: Pexels)

O Audacity, popular editor de áudio gratuito, divulgou nesta semana a estreia de recursos de IA no programa. Agora, os usuários poderão utilizar ferramentas como a de cancelamento de ruído, transcrição de áudio e remoção de voz. Essas novas funcionalidades utilizam a tecnologia OpenVINO da Intel e são otimizadas para os processadores da empresa.

Para instalar esses novos recursos do Audacity, o usuário precisa baixar as ferramentas da OpenVINO através do GitHub e usar uma versão mais antiga do editor, a versão 3.4.2. Na página do GitHub estão as instruções de como instalar o OpenVINO.

Como instalar os recursos de IA no Audacity

Recursos de IA ficam disponíveis no menu Efeitos (Imagem: Reprodução/Audacity)

Após baixar o OpenVINO e o Audacity 3.4.2, o usuário precisa copiar o conteúdo das pastas para o local onde o Audacity está instalado. Feito isso, ao rodar o editor de áudio, é necessário clicar em “Editar” e em seguida na opção “Preferências”.

Após essa etapa, selecionar o menu “Módulos” e mudar o “mod-openvino” para Habilitado. Agora o usuário terá que fechar e abrir o Audacity novamente. Se a instalação foi feita corretamente, a opção OpenVINO AI Effects estará disponível no menu Efeitos. Importante: o Audacity conta com tradução para português.

Recursos de IA do Audacity podem gerar disputas autorais

Dois recursos anunciados pelo Audacity podem entrar no debate sobre IAs e direitos autorais: a ferramenta Style Remix e Music Generation (Geração de Música). A primeira cria uma nova música baseada em músicas pré-existentes.

Já a segunda é explicada pelo seu próprio nome, ela cria uma canção através de um prompt. Essas ferramentas utilizam a tecnologia da Stable Diffusion e Riffusion para gerar novas músicas e remixes.

Os recursos de remoção de ruídos e transcrição de áudio, de acordo com o Audacity, é focado para podcasts e entrevistas. A ferramenta de transcrição utiliza a Whisper, tecnologia de inteligência artificial da OpenAI.

A Music Separation é uma função que permite separar a voz de uma música dos instrumentos ou de cada instrumento separado. Por exemplo, o usuário pode querer remover a guitarra de uma música para colocar uma outra gravação.

Com informações: XDA-Developers e PCWorld
Audacity: editor de áudio estreia funções de IA

Audacity: editor de áudio estreia funções de IA
Fonte: Tecnoblog

OpenAI quer transformar o ChatGPT em um assistente virtual para celular

5 de janeiro de 2024

OpenAI quer transformar o ChatGPT em um assistente virtual para celular

App do ChatGPT para Android tem código sobre uso como assistente virtual (Imagem: Vitor Pádua / Tecnoblog)

A OpenAI tem planos de transformar o ChatGPT no assistente virtual padrão do seu smartphone — pelo menos se você usar um Android. Na versão 1.2023.352 do aplicativo mobile da IA, lançado em dezembro, há algumas linhas de código que mostram que a empresa está preparando essa funcionalidade para o ChatGPT. Se tudo sair como esperado, você poderá substituir o Google Assistente no seu celular.

A descoberta desses códigos foi feita pelo jornalista Mishaal Rahman. Rahman é conhecido pelo seu trabalho envolvendo mineração de códigos e foi uma das principais fontes sobre os recursos do Android 14.

O jornalista conseguiu até ativar o recurso manualmente editando o código. Porém, ainda que a animação da função de prompt por áudio do ChatGPT seja aberta, o aplicativo fecha. Esse comportamento do recurso é normal, visto que ele não foi anunciado pela OpenAI e ainda deve estar na fase de desenvolvimento.

Funcionamento do ChatGPT como assistente virtual para celulares (Imagem: Mishaal Rahman/Android Authorithy)

ChatGPT como assistente virtual é caminho natural

O uso do ChatGPT e de outras IAs generativas como assistente virtual é o caminho esperado para essa tecnologia. A Siri e o Google Assistente são ferramentas limitadas, sem a capacidade de aprender e evoluir como acontece com o ChatGPT e o Bard.

Sem esquecer da Alexa, por mais que ela pareça uma inteligência artificial, suas skills são desenvolvidas e ela utiliza um algoritmo para “adivinhar” algumas coisas — como avisar que um produto que você listou está em promoção. Inclusive a Amazon já deu uma prévia de como será a Alexa inteligente.

Por isso, com a praticidade que as IAs podem entregar aos usuários, elas logo substituirão o Google Assistente, Siri e Bixby. Hoje, para usar o ChatGPT no celular, você precisa abrir o aplicativo. O plano da OpenAI é que você tenha mais praticidade para pedir que ele crie uma mensagem de aniversário, um convite, um email, uma tabela ou seja lá o que você precisa.

Com informações: Android Authority e 9to5Google
OpenAI quer transformar o ChatGPT em um assistente virtual para celular

OpenAI quer transformar o ChatGPT em um assistente virtual para celular
Fonte: Tecnoblog

Microsoft muda teclado do Windows para adicionar botão de IA

4 de janeiro de 2024

Microsoft muda teclado do Windows para adicionar botão de IA

Design da tecla Copilot num teclado de PC (Imagem: Reprodução/Microsoft)

Resumo

A Microsoft anunciou a adição da tecla do Copilot aos novos PCs com Windows 11.
Pressionar a nova tecla abrirá uma interface semelhante ao ChatGPT, permitindo interações por texto ou áudio.
A mudança será inicialmente implementada no mercado dos Estados Unidos. Não foram divulgadas informações referentes ao Brasil.

 

 

Estava na dúvida sobre a aposta da Microsoft na inteligência artificial? Essa questão acaba hoje, já que a gigante de Redmond anunciou uma nova tecla dedicada ao Copilot nos futuros teclados de computadores e notebooks com Windows a partir da próxima semana.

Hoje em dia, pressionar a tecla Windows abre o menu Iniciar. A partir da próxima leva de PCs, a nova tecla Copilot irá exibir a interface que lembra ChatGPT e permite interagir por texto ou áudio com o mecanismo inteligente. Originalmente, o Tecnoblog noticiou que seria o fim da tecla Windows, com base informações da própria Microsoft, mas a empresa explicou que se trata de um acréscimo.

O vice-presidente executivo da Microsoft, Yusuf Mehdi, classificou essa mudança como a mais significativa no teclado dos PCs com Windows em quase três décadas. Ele ainda afirmou que 2024 será o ano do computador com IA.

“Neste novo ano, a Microsoft iniciará uma mudança significativa em direção a um futuro de computação mais pessoal e inteligente, onde a IA será integrada de maneira transparente ao Windows, desde o sistema até o hardware.”
Yusuf Mehdi – Vice-presidente executivo da Microsoft

A adoção da tecla Copilot irá ocorrer de forma gradual, iniciando-se pelo mercado dos Estados Unidos. O anúncio de agora da Microsoft antecipa o que está por vir na CES 2024. A maioria feira de dispositivos eletrônicos do planeta acontece na próxima semana, em Las Vegas, nos Estados Unidos, com cobertura presencial do Tecnoblog. Não foram divulgadas informações referentes ao Brasil.

Não custa lembrar que o Copilot está integrado ao Windows 11, além de ser um programa que pode ser baixado em versões anteriores do sistema (e em celulares Android e iPhones, é bom dizer). Os consumidores que comprarem um teclado com a tecla Copilot, mas não tiverem essa versão do Windows, irão visualizar a caixa de busca do Windows (equivalente a pressionar WinKey + S).

Com informações: Microsoft
Microsoft muda teclado do Windows para adicionar botão de IA

Microsoft muda teclado do Windows para adicionar botão de IA
Fonte: Tecnoblog

Galaxy S24 surge antes da hora em propaganda no Brasil

2 de janeiro de 2024

Galaxy S24 surge antes da hora em propaganda no Brasil

Propaganda do Galaxy S24 Ultra já aparece no Brasil (Imagem: Divulgação/Samsung)

A Samsung já começou a divulgar o Galaxy S24 no Brasil — só não sabemos se foi programado ou não. Uma imagem publicada no X/Twitter mostra que um quiosque da fabricante já está com o painel da propaganda do Galaxy S24 Ultra. A divulgação confirma novamente que Samsung focará no recurso de IA para anunciar o smartphone.

Algumas semanas atrás, o leaker Evan Blass (@Evleaks) publicou o convite para o primeiro Galaxy Unpacked de 2024, no qual já havia uma animação sobre inteligência artificial. O tweet original, que revelava que o evento acontecerá no dia 17 de janeiro, às 15h do horário de Brasília, foi removido por violação de direitos autorais. Puxando um meme lá do início do Twitter: significa.

Propaganda do Galaxy S24 Ultra no Brasil

Propaganda do Galaxy S24 Ultra em quiosque da Samsung no Brasil — sim, o QR Code funciona(Imagem: Reprodução/@DontMatterToYou)

Na imagem divulgada pelo usuário @DontMatterToYou, não há uma identificação de qual é o shopping ou cidade do quiosque fotografado. No entanto, o QR Code da foto pode ser aberto, revelando a arte completa. A imagem revela mais detalhes do design Galaxy S24 Ultra, confirmando o que vimos quando o smartphone foi posto lado a lado com o S23 Ultra.

Arte promocional do Galaxy S24 Ultra divulgada em quiosque da fabricante (Imagem: Divulgação/Samsung)

Como foi visto no comparativo com o S23 Ultra, o Galaxy S24 Ultra terá dois “furos” para microfones no topo — um a mais que o antecessor. As bordas também confirmam que a Samsung optou por deixá-las menos arredondadas.

Na parte inferior da arte de divulgação do S24 Ultra, há um texto informando que pode ser necessário fazer o login na Samsung Account para ter acesso a alguns recursos de IA. Porém, não fica confirmado se os outros modelos serão compatíveis com essa tecnologia.

No mesmo texto estão as informações nada novas. A primeira é que S Pen do S24 Ultra seguirá compatível apenas com este smartphone, a outra é que nome dos outros modelos da linha não mudará: seguimos com S24 e S24+. No futuro, quando começar oficialmente a divulgação da linha, o QR Code deve levar para a página promocional do S24 Ultra, onde estarão mais especificações do dispositivo.

Com informações: Gizmochina
Galaxy S24 surge antes da hora em propaganda no Brasil

Galaxy S24 surge antes da hora em propaganda no Brasil
Fonte: Tecnoblog

Próximo Microsoft Surface terá IA e opções com chips Intel e Snapdragon

29 de dezembro de 2023

Próximo Microsoft Surface terá IA e opções com chips Intel e Snapdragon

Microsoft tem planos de transformar Surface Laptop 6 e Surface Pro 10 em dispositivos feitos para IA. Imagem ilustrativa (Imagem: Divulgação/Microsoft)

A Microsoft estaria desenvolvendo dois novos modelos dos laptops Surface com foco em inteligência artificial. O Surface Laptop 6 e Surface Pro 10 (este um dispositivo dois em um) seriam os primeiros aparelhos da linha a ter duas opções de processadores: Intel e Arm — usando um Snapdragon X Series neste caso. Junto desses laptops, a Microsoft pode apresentar uma nova versão do Windows.

A informação foi publicada pelo site Windows Central, um dos principais sites sobre Microsoft e Windows. De acordo com fontes, o Surface Laptop 6 e o Surface Pro 10 serão os primeiros PCs verdadeiramente preparados para tarefas de inteligência artificial, trazendo a próxima geração das Unidades de Processamento Neural (NPU, em inglês).

Desde de que a Microsoft passou a investir pesado em ferramentas como Windows Copilot e Microsoft Copilot, os rumores sobre um novo Windows focado em IA e PCs preparados para uma maior integração com a tecnologia vem ganhando força. Sobre os novos Surfaces, neste ano, a Microsoft não atualizou a linha Surface e Surface Pro — o que torna crível a ideia de novas versões em 2024.

Surfaces prontos para brigar com Macbooks

Linhas Surface Laptop e Surface Pro não tiveram novos modelos em 2023 (Imagem: Divulgação/Microsoft)

Com o novo Surface Laptop 6 e o 2-em-1 Surface Pro 10, a Microsoft espera lançar dispositivos capazes de rivalizar com o Macbook Air. O Surface Pro 10, por causa do seu segmento, também é um concorrente do iPad Pro.

Para atingir essa meta, a Microsoft fornecerá esses dois Surfaces com duas opções de processadores: Intel 14ª geração ou o Snapdragon X Series — ambos lançados em outubro. Essa configuração também marcaria a primeira vez em que as arquiteturas x86 e Arm seriam ofertadas em um único dispositivo da Microsoft.

Com a nova geração de NPUs, o Surface Laptop 6 e Surface Pro 10 terão maior desempenho para rodar os recursos de IA esperados para o Windows 12 (nome especulado), cotado como o Windows mais inteligente já feito.

Para entender melhor o plano da Microsoft e de outras empresas no desenvolvimento de dispositivos preparados para IA, podemos relembrar do artigo da Apple sobre um novo método de executar tarefas de IA sem depender da nuvem. O que as fabricantes buscam são meios de rodar os modelos de linguagem grande (LLM) direto no hardware do aparelho.

O problema é que a tecnologia atual exige muito consumo de energia e tempo para executar um prompt de IA generativa direto de um notebook, por exemplo. Com 2024 dando “oi”, não falta muito tempo para vermos como será o desempenho da nova geração de NPUs.
Próximo Microsoft Surface terá IA e opções com chips Intel e Snapdragon

Próximo Microsoft Surface terá IA e opções com chips Intel e Snapdragon
Fonte: Tecnoblog

OpenAI: conselho pode contrariar CEO e vetar IA por questões de segurança

18 de dezembro de 2023

OpenAI: conselho pode contrariar CEO e vetar IA por questões de segurança

OpenAI tenta melhorar governança, após “novela” envolvendo Sam Altman (Imagem: Vitor Pádua / Tecnoblog)

O conselho administrativo da OpenAI tem o poder de contrariar o CEO da empresa e vetar o desenvolvimento de inteligências artificiais, caso considere que os riscos envolvidos são críticos. A “regra” faz parte de um conjunto de diretrizes para mitigar questões de segurança envolvendo a tecnologia.

As diretrizes estão em um documento de 27 páginas, publicado hoje pela equipe de prevenção da OpenAI. O CEO da OpenAI ficará encarregado do dia a dia da empresa, mas o conselho será informado sobre análises de risco e poderá reverter as decisões do chefe executivo.

Como analisa o site Axios, a OpenAI também está tentando melhorar sua governança, após a saída repentina de Sam Altman e sua volta ao cargo de CEO.

Sistemas com risco crítico serão cancelados pela OpenAI

Em linhas gerais, a organização vai classificar os riscos de cada modelo em quatro níveis: baixo, médio, alto e crítico. A equipe de prevenção da OpenAI fará essa avaliação para cada uma de várias categorias, como riscos de cibersegurança, acesso a armas nucleares ou biológicas, capacidade de convencimento e autonomia do próprio modelo.

O risco de um modelo será o risco mais elevado de qualquer categoria. Se alguma categoria tem um risco alto, por exemplo, o modelo será considerado de alto risco, não importando as categorias restantes.

Apenas modelos de risco médio ou baixo poderão ser implementados. Modelos de risco alto podem ser desenvolvidos, mas não implementados. Modelos de risco crítico não podem sequer ser desenvolvidos.

Sam Altman, CEO da OpenAI, pode ter decisões revertidas por conselho (Imagem: Vitor Pádua / Tecnoblog)

As avaliações serão feitas por essa equipe de prevenção, que trabalha com os modelos de “fronteira”, como são chamadas as tecnologias de alta capacidade, ainda em desenvolvimento. Ela não trabalha com modelos já disponíveis, que ficam a cargo das equipes de segurança.

A equipe de prevenção foi criada em outubro e é chefiada por Aleksander Madry. Ela possui apenas quatro pessoas, mas Madry pretende ter entre 15 e 20 funcionários.

Segundo o documento, esta equipe de prevenção fará relatórios mensais de segurança. Um grupo consultivo vai analisar este trabalho e fazer recomendações ao CEO (atualmente, Sam Altman) e ao conselho. O CEO tomará as decisões, mas elas podem ser revertidas pelo conselho.

Com informações: Axios, Bloomberg, OpenAI
OpenAI: conselho pode contrariar CEO e vetar IA por questões de segurança

OpenAI: conselho pode contrariar CEO e vetar IA por questões de segurança
Fonte: Tecnoblog

« First‹ Previous3132333435Next ›Last »