Category: AI accelerator

Consumidores estão comprando novos PCs, mas não por causa da IA

25 de setembro de 2024

Consumidores estão comprando novos PCs, mas não por causa da IA

Surface Pro no campus da Microsoft em Redmond, EUA (Foto: Thássius Veloso/Tecnoblog)

PCs equipados com chips que trazem NPU para tarefas de inteligência artificial (IA), a exemplo dos SoCs Qualcomm Snapdragon X, têm aparecido aos montes. Eles estão sendo adquiridos por consumidores finais, mas o que pesa para a decisão de compra de qualquer PC novo não é a IA. É o que aponta o IDC Research.

No cenário atual, notebooks preparados para IA, principalmente dentro da categoria Copilot+, são equipados com processadores que pertencem a uma das seguintes famílias de chips:

Qualcomm Snapdragon X Plus e Snapdragon X Elite

AMD Ryzen AI 300

Intel Core Ultra 200V (Lunar Lake)

Todos os processadores dessas linhas contam com uma NPU (Unidade de Processamento Neural) de 40 TOPS ou mais (1 TOPS corresponde a 1 trilhão de operações por segundo) e, portanto, estão aptos a executar determinadas tarefas de IA de modo nativo, dependendo pouco ou nada de serviços nas nuvens.

Mas Jitesh Ubrani, gerente de pesquisa da divisão Worldwide Mobile Device Trackers do IDC, aponta que os consumidores ainda não entenderam totalmente a importância de uma NPU.

Há aqueles que sabem que esse tipo de componente é importante em aplicações de inteligência artificial. O problema é que, pelo menos no PC, a IA ainda não provou a que veio. “Embora a IA venha sendo uma palavra da moda, ela ainda não é um fator de decisão entre os compradores de PCs”, afirma Ubrani.

Nem precisamos fingir surpresa. Na atualização 24H2 do Windows 11, a ser liberada nas próximas semanas, a Microsoft incluirá um conjunto de recursos de IA no sistema operacional, especialmente no âmbito do Copilot. Mas nenhum parece ser algo que fará a diferença no dia a dia do usuário.

Entre esses recursos poderão estar um criador de imagens para o Paint e o polêmico Recall, que faz capturas de tela de ações no Windows 11, criando um histórico organizado em uma linha do tempo para permitir que o usuário recupere informações consultadas ou criadas anteriormente.

São recursos interessantes, mas nenhum deles parece ser indispensável, pelo menos até o momento.

Snapdragon X Plus é direcionado a notebooks e tem NPU para IA (imagem: divulgação/Qualcomm)

Venda de PCs está estável

O IDC prevê que 2024 terminará com 261 milhões de PCs comercializados no mundo todo. Essa número representa um aumento de apenas 0,3% nas vendas em relação a 2023, portanto, indica que o mercado está estável. Esse não é um cenário excelente, mas também não é algo que represente uma crise.

Não há informação sobre qual parte desse volume consiste em PCs com IA, mas sabe-se que essa proporção é bem modesta. A categoria deve apresentar crescimento em vendas, mas no médio ou longo prazo.

No entendimento do IDC, a América do Norte, países da Europa Ocidental e mercados asiáticos, como o Japão, devem liderar a adoção de PCs com IA nos próximos meses. Mas isso porque os consumidores precisam de novos computadores, não necessariamente porque eles fazem questão de máquinas com NPU.

Um fator que deve contribuir para isso é o fim do suporte ao Windows 10 pela Microsoft, marcado para outubro de 2025. Essa situação pode servir de incentivo para a compra de computadores novos, visto que máquinas antigas com o Windows 10 não são compatíveis com o Windows 11.
Consumidores estão comprando novos PCs, mas não por causa da IA

Consumidores estão comprando novos PCs, mas não por causa da IA
Fonte: Tecnoblog

Asus revela miniPC que traz botão Copilot no próprio gabinete

5 de setembro de 2024

Asus revela miniPC que traz botão Copilot no próprio gabinete

NUC 14 Pro AI com botão Copilot no gabinete (imagem: divulgação/Asus)

NUC 14 Pro AI é o nome do miniPC que a Asus anunciou na esteira da IFA 2024, evento de tecnologia que acontece na Alemanha. Como o nome sugere, a novidade traz recursos de inteligência artificial (IA) e leva o conceito tão a sério que incorpora até um botão Copilot na parte frontal.

A ideia é questionável, afinal, o Copilot do Windows 11 pode ser acionado pelo próprio teclado. É de se presumir que o usuário que quiser fazer uso regular da tecnologia comprará um teclado que já tenha uma tecla dedicada, a exemplo do que já ocorre em alguns notebooks atuais.

Além disso, me pergunto se não existe o risco de o usuário confundir o botão com a tecla de liga/desliga que também foi posicionada na parte frontal do NUC 14 Pro AI.

MiniPC Asus NUC 14 Pro AI (imagem: divulgação/Asus)

Com processador Intel para notebook

O que faz o NUC 14 Pro AI realmente interessante é o seu hardware. Para começar, ele pode ser equipado com um chip da recém-anunciada linha Intel Core Ultra 200V, cujos modelos contam com NPU em capacidade entre 40 e 48 TOPS, o que os torna aptos a equipar PCs de categoria Copilot+.

Os chips Core Ultra 200V foram desenvolvidos para notebooks, mas, como vemos aqui, nada impede o seu uso em outras plataformas. Uma das vantagens de sua adoção no NUC 14 Pro AI é que, além de recursos para IA, o miniPC provavelmente será mais econômico no consumo de energia.

Por outro lado, o chip deverá vir soldado à placa-mãe do equipamento, o que dificultará ou impedirá a sua substituição.

A Asus ainda não divulgou todas as especificações do NUC 14 Pro AI, mas indicou que ele suporta memórias LPDDR5X. A memória RAM deve ter, no máximo, 32 GB de tamanho, pois essa é a capacidade suportada pelos chips Core Ultra 200V.

O material de divulgação também revela que o Asus NUC 14 Pro AI suporta SSD M.2 2280, Bluetooth 5.4 e Wi-Fi 7. O equipamento traz ainda portas USB-C com Thunderbolt 4, HDMI, Ethernet, USB 3.2 Gen 1 e USB 3.2 Gen 2. Tudo isso em um equipamento que mede 130 x 130 x 34 mm.

MiniPC Asus NUC 14 Pro AI (imagem: divulgação/Asus)

Disponibilidade e preço

Ainda não há informações sobre preços e data de lançamento, mas o Verge aponta que o miniPC deve ser lançado até o fim do ano. Uma coisa é certa: ele será mais barato que os notebooks Copilot+ que tem preço inicial na cada dos US$ 1.000 nos Estados Unidos.

Falando nisso, vale destacar que os recursos do Copilot+ serão liberados para PCs com chip Intel ou AMD compatível a partir de novembro.
Asus revela miniPC que traz botão Copilot no próprio gabinete

Asus revela miniPC que traz botão Copilot no próprio gabinete
Fonte: Tecnoblog

Novo Geekbench avalia se o seu PC ou celular é bom de IA

15 de agosto de 2024

Novo Geekbench avalia se o seu PC ou celular é bom de IA

Geekbench AI 1.0 para Windows (imagem: divulgação/Primate Labs)

Uma das ferramentas de benchmark mais populares do mercado também aderiu à onda da inteligência artificial (IA). O Geekbench AI 1.0 acaba de ser anunciado como uma ferramenta capaz de medir o desempenho não só da CPU e da GPU, mas também da NPU do processador.

A NPU (Unidade de Processamento Neural) é um componente que acelera tarefas ligadas ao aprendizado de máquina ou a redes neurais, conceitos intimamente relacionados à inteligência artificial.

NPUs estão presentes há algum tempo em processadores voltados a celulares e tablets. Mas só recentemente esse tipo de recurso começou a aparecer em chips desenvolvidos para notebooks ou desktops comerciais, a exemplo do modelo Snapdragon X Plus, da Qualcomm.

Isso significa que, se um computador tem um processador com NPU, ele é habilitado para executar determinadas tarefas de IA localmente. Mas não é qualquer NPU que serve para esse fim.

Os computadores classificados como Copilot+ requerem uma NPU com capacidade superior a 40 TOPS, ou seja, capaz de realizar mais de 40 trilhões de operações por segundo.

Se há exigências mínimas, esse é um sinal de que poderemos nos deparar com uma disputa pela NPU mais poderosa. É aí que o Geekbench AI 1.0 passa a fazer sentido.

O Snapdragon X Plus é direcionado a notebooks e tem NPU para IA (imagem: divulgação/Qualcomm)

Geekbench agora testa a NPU

A versão clássica do aplicativo já mostrava resultados de testes com CPUs e GPUs, tanto em celulares ou tablets, quanto em desktops. Agora, com a nova versão, o Geekbench também irá conduzir testes com a NPU.

A ferramenta faz três tipos de testes, cada uma gerando uma pontuação distinta: dados de precisão simples, dados de meia precisão e dados quantizados.

Os testes também avaliam a precisão dos resultados. Responsável pela ferramenta, a Primate Labs explica esse ponto:

(…) O desempenho da IA não está vinculado apenas à rapidez com a qual determinada carga de trabalho é executada, mas também à proximidade de resultados verdadeiros — em outras palavras, à precisão com que o modelo consegue executar o que deve fazer.

Geekbench AI 1.0 para celulares, PCs e Macs

Durante a fase de testes, a ferramenta era chamada de Geekbench ML. O nome Geekbench AI 1.0 foi dado à sua primeira versão final. Ela está disponível para os seguintes sistemas operacionais:

Android

iOS

macOS

Linux

Windows

É preciso ter paciência. Os testes podem demorar um tempo significativo para serem concluídos, dependendo do equipamento. O benchmark que eu fiz com um iPhone 14 Pro durou quase dez minutos. Os resultados são mostrados na imagem a seguir.

Resultados do iPhone 14 Pro no Geekbench AI 1.0 (imagem: Emerson Alecrim/Tecnoblog)

Não há uma pontuação ideal ou mínima para cada parâmetro. O ideal é que os números obtidos sejam comparados com os resultados de outros dispositivos na mesma categoria para que as capacidades de IA de cada um sejam mensuradas.

Via de regra, quanto maior a pontuação, melhor. Esta página mostra os resultados de testes recentes.
Novo Geekbench avalia se o seu PC ou celular é bom de IA

Novo Geekbench avalia se o seu PC ou celular é bom de IA
Fonte: Tecnoblog

Windows Recall roda em PC sem especificações exigidas pela Microsoft

28 de maio de 2024

Windows Recall roda em PC sem especificações exigidas pela Microsoft

Usuário consegue fazer Windows Recall rodar em processador Snapdragon sem NPU (Imagem: Reprodução/Albacore)

O leaker Albacore, conhecido por revelar novidades do beta do Windows, conseguiu rodar o Windows Recall em um Galaxy Book 2 Go. O laptop dos testes usa um Snapdragon 7c+ Gen 3, sem núcleo de processamento neural (NPU), uma especificação apresentada como obrigatória pela Microsoft para executar o Recall. O recurso utiliza IA para visualizar a tela do usuário e auxiliar na busca por informações.

O Windows Recall é uma das ferramentas que estreiam o conceito de AI PC, computadores Windows desenvolvidos para tarefas de inteligência artificial desde o início.  Esses PCs foram batizados de Copilot+. Para se encaixarem nesse rótulo, os computadores precisam das seguintes especificações:

16 GB de memória RAM

256 GB de armazenamento do tipo SSD

NPU

Tela sem notch (entalhe) para webcam

Botão Copilot no teclado

Galaxy Book 2 Go entra de penetra no conceito Copilot+

Windows Recall rodando em um notebook sem NPU (Imagem: Reprodução/Albacore)

O Galaxy Book 2 Go usado por Albacore tem 4 GB de memória RAM e, como dito no início, nada de NPU. No X/Twitter, na publicação em que revelou o feito, o leaker afirma que publicará um tutorial ensinando como instalar o Windows Recall em PCs “não compatíveis” — aspas porque a incompatibilidade parece ser um ponto burlável.

De acordo com Albacore, o Recall rodou sem problemas no Galaxy Book 2 Go. O laptop foi lançado em 2023 pela Samsung. O Snapdragon 7c+ Gen 3 que o equipa conta com oito núcleos e frequência máxima de 2,4 GHz.

O vídeo do processo de adaptação do Windows Recall para o Galaxy Book 2 Go causou uma confusão. Nas imagens, é bem visível os travamentos durante a captura. Porém, Albacore afirma que isso é culpa do sistema de gravação, que utilizou uma sessão remota para a captação das imagens.

Algumas pessoas entenderam que o travamento era causado pelo fato de rodar o Recall em um chip antigo. Contudo, Albacore afirma que o seu teste mostra que será possível instalar a ferramenta em processadores AMD e Intel sem NPUs.

Confira o Windows Recall no vídeo abaixo

Ver essa foto no Instagram Uma publicação compartilhada por Tecnoblog (@tecnoblog)

Com informações: The Verge
Windows Recall roda em PC sem especificações exigidas pela Microsoft

Windows Recall roda em PC sem especificações exigidas pela Microsoft
Fonte: Tecnoblog

O que é a NPU (Unidade de Processamento Neural) do celular ou computador?

7 de julho de 2023

O que é a NPU (Unidade de Processamento Neural) do celular ou computador?

NPU (Unidade de Processamento Neural) é um processador responsável por acelerar tarefas de inteligência artificial, como aprendizado de máquina e redes neurais. Está presente em smartphones, PCs e outros eletrônicos modernos.

Neural Processing Unit (NPU) é um chip responsável por tarefas de inteligência artificial (Imagem: Vitor Pádua/Tecnoblog)

As unidades de processamento neural também podem ser chamadas de TPU (Tensor Processing Unit) pelo Google e de Neural Engine pela Apple. Outra sigla menos conhecida é IPU (Intelligence Processing Unit).

ÍndiceComo funciona um processador neural (NPU)?Quais são as aplicações das unidades de processamento neural?Qual é a diferença entre NPU e GPU?NPUs são mais rápidas que CPUs?

Como funciona um processador neural (NPU)?

Um chip neural funciona com múltiplos núcleos (cores) de processamento que trabalham em paralelo e são otimizados para cálculos matemáticos usados em tarefas de inteligência artificial, como machine learning, deep learning e redes neurais.

Dentro de um SoC (System-on-a-Chip), uma NPU se dedica às tarefas de IA, liberando a CPU para as operações gerais e a GPU para o processamento gráfico. A especialização de processadores permite executar tarefas simultâneas mais rapidamente e com menor gasto de energia.

Uma NPU representada dentro de um System-on-a-Chip (SoC), que também possui CPU e GPU (Imagem: Vitor Pádua/Tecnoblog)

Os núcleos de uma NPU podem ser projetados especificamente para calcular, de maneira mais eficiente, multiplicações de matrizes, convoluções e outras operações de álgebra linear, por exemplo. Essas tarefas são fundamentais para as redes neurais artificiais, inspiradas na estrutura de neurônios do cérebro humano.

Como uma NPU é altamente eficiente para processamento de redes neurais, é possível usar aprendizado de máquina e deep learning para treinar sistemas de identificação de padrões, classificação de imagens e reconhecimento de voz mesmo em dispositivos compactos e com bateria, como smartphones.

Quais são as aplicações das unidades de processamento neural?

As NPUs (unidades de processamento neural) podem ser utilizadas em diversos setores, desde eletrônicos de consumo até a medicina. As aplicações comuns de NPUs são:

Visão computacional: permite identificar padrões visuais, interpretar imagens em tempo real, rastrear movimentos e monitorar objetos, funções típicas de câmeras de segurança e carros autônomos;

Processamento de linguagem natural (NLP): depende de sistemas previamente treinados, geralmente com aprendizado de máquina por redes neurais, para entender textos e vozes da linguagem humana. É o campo da IA que viabiliza assistentes virtuais e chatbots;

Realidade virtual e realidade aumentada: jogos podem ficar mais realistas e imersivos com o auxílio de uma NPU que processe as informações do ambiente em tempo real com alta eficiência energética;

Big Data: NPUs podem acelerar a análise de dados e a previsão de tendências quando há um alto volume de informações, como acontece no setor financeiro. Também podem analisar um grande conjunto de imagens médicas para identificar anormalidades de saúde com maior precisão e rapidez.

Qual é a diferença entre NPU e GPU?

NPU e GPU são tipos de processadores especializados presentes em computadores e smartphones. Porém, a NPU é utilizada para redes neurais e outras tarefas de inteligência artificial, enquanto a GPU é focada em renderização gráfica, como jogos e aplicações em 3D.

Uma GPU pode processar tarefas neurais, inclusive de maneira mais eficiente que uma CPU. No entanto, por ter uma arquitetura mais complexa, a GPU tende a gastar mais energia que uma NPU nesse tipo de operação.

NPUs são mais rápidas que CPUs?

A NPU é mais rápida do que uma CPU quando executa tarefas para as quais foi otimizada, como o processamento de redes neurais. Isso porque as NPUs podem ter uma arquitetura específica para IA, o que permite executar mais operações com menor gasto de energia.

Apesar disso, não é possível afirmar genericamente que uma NPU é mais rápida que uma CPU em qualquer tarefa. NPUs são um tipo de processador especializado em cálculos matemáticos simultâneos de IA, enquanto a CPU é um chip de propósito geral que pode assumir diversas tarefas.
O que é a NPU (Unidade de Processamento Neural) do celular ou computador?

O que é a NPU (Unidade de Processamento Neural) do celular ou computador?
Fonte: Tecnoblog

O que é o Apple Neural Engine presente em iPhones, iPads e Macs?

7 de julho de 2023

O que é o Apple Neural Engine presente em iPhones, iPads e Macs?

Neural Engine é um chip neural (NPU) especializado em tarefas de inteligência artificial, como o processamento de redes neurais. A Apple utiliza esse componente para melhorar o desempenho de iPhones, iPads e Macs.

Apple M1, primeiro SoC da Apple para MacBooks, tem Neural Engine de 16 núcleos (Imagem: Reprodução/Apple)

ÍndiceComo funciona o Neural Engine da Apple?Quais tarefas são processadas pelo Neural Engine?Quando o Neural Engine foi lançado?Qual é a diferença entre Neural Engine e CPU?

Como funciona o Neural Engine da Apple?

O Neural Engine funciona como uma Unidade de Processamento Neural (NPU) dentro de um chip da Apple. Ele se dedica às operações de inteligência artificial e aprendizado de máquina, o que alivia a carga na CPU, na GPU e em outros tipos de processadores do SoC.

A arquitetura do Neural Engine é proprietária e não é detalhada publicamente pela Apple. No entanto, assim como outras NPUs, o Neural Engine traz instruções otimizadas para cálculo de operações matemáticas usadas em IA, como as multiplicações de matrizes e as convoluções.

O Apple A11 Bionic, primeiro chip da Apple equipado com o Neural Engine, era capaz de calcular 600 bilhões de operações por segundo com seus 2 núcleos. Já o Apple M2 Ultra, lançado em 2023, tinha um Neural Engine de 32 núcleos capaz de processar 31,6 trilhões de operações por segundo.

Apple A11 Bionic, primeiro SoC da Apple com Neural Engine (Imagem: Reprodução/Apple)

A arquitetura da NPU é mais especializada, portanto, pode executar mais instruções em menos tempo ou consumindo menos energia que uma CPU. Essa característica melhora a velocidade do reconhecimento de objetos no aplicativo Fotos do iPhone e a duração de bateria dos MacBooks, por exemplo.

Quais tarefas são processadas pelo Neural Engine?

Face ID: é o sistema de reconhecimento facial da Apple, que usa o Neural Engine para processar os dados biométricos em tempo real e aprender as mudanças sutis do rosto do usuário ao longo do tempo. Os dados são armazenados de forma segura no Secure Enclave, outro componente do SoC da Apple;

Processamento de linguagem natural (NLP): usado para entender e responder aos comandos de voz do usuário por meio da Siri, além de compreender a linguagem natural por meio do recurso Ditado do iOS, entre outras funções;

Realidade aumentada: o Neural Engine processa e interpreta dados de sensores e câmeras em tempo real, diminuindo a latência, identificando objetos do mundo real e dividindo a carga com outros processadores do SoC, como a CPU e a GPU;

Reconhecimento de pessoas: é o que permite a busca por pessoas no aplicativo Fotos, que analisa localmente as fotos capturadas pelo iPhone por meio do Neural Engine, sem precisar enviar os dados para a nuvem;

Reconhecimento de objetos: no Modo de Detecção do aplicativo Lupa, pode detectar portas, identificar pessoas no campo de visão da câmera e fazer descrições ao vivo dos arredores para pessoas com deficiência visual.

Quando o Neural Engine foi lançado?

O Neural Engine foi lançado em setembro de 2017 como parte integrante do Apple A11 Bionic, SoC baseado em arquitetura Arm que equipava o iPhone 8 e o iPhone X. A primeira versão do Neural Engine tinha 2 núcleos e era capaz de executar 600 bilhões de operações por segundo.

iPhone 8 com Apple A11 Bionic, primeiro SoC da Apple com Neural Engine (Imagem: Divulgação/Apple)

A NPU da Apple foi incluída em SoCs posteriores, com evoluções tanto no número de núcleos quanto na capacidade bruta. O Neural Engine do Apple A13 Bionic, de 2020, tinha 8 núcleos e processamento de 6 trilhões de operações por segundo (TOPS). Já o Apple A16 Bionic, de 2022, tinha um Neural Engine de 16 núcleos e 17 TOPS.

Qual é a diferença entre Neural Engine e CPU?

Neural Engine é um processador especializado em tarefas de IA, enquanto CPU é um processador de propósito geral que pode executar diversos tipos de tarefas.

Tanto o Neural Engine quanto a CPU estão dentro do SoC (system-on-a-chip), como o Apple Silicon, mas as instruções especializadas são direcionadas a diferentes tipos de processadores, o que libera a CPU para outras tarefas. Uma CPU também é capaz de executar operações de IA, mas de forma menos eficiente.
O que é o Apple Neural Engine presente em iPhones, iPads e Macs?

O que é o Apple Neural Engine presente em iPhones, iPads e Macs?
Fonte: Tecnoblog