A NOVA PLACA DE INTELIGÊNCIA ARTIFICIAL PRA INSTALAR ATÉ EM PCS ANTIGOS

Summary

In this insightful video, the host explores groundbreaking hardware technologies unveiled at CES 2024, particularly focusing on advancements in NPU (Neural Processing Units) and AI acceleration cards. Highlighting Lenovo's compact yet powerful ThinkCenter PCs equipped with I9 processors and RTX 4060, the video also delves into Samsung's latest Galaxy S24 mobile processors featuring built-in AI capabilities. The introduction of Intel's newest laptop processors with dedicated NPU cores for AI tasks marks a significant evolution in computing. Additionally, the video showcases an innovative AI acceleration card, Memory X MX3, capable of enhancing AI tasks on PCs without native NPU support, potentially revolutionizing AI applications in everyday software and extending the utility of older hardware configurations.

Takeaways

• 👨‍💻 The video discusses new AI accelerator cards shown at CES 2024
• 🖥️ The cards can provide AI processing power to older PCs without native AI support
• 💡 The Memory X MX3 card has 4 chips, each providing 10 teraflops of processing
• 🤖 The card was demoed accelerating an AI character mimicking human motions
• ⚙️ The architecture inside the chips is optimized for AI tasks
• 🔌 The card uses a standard M.2 connector for easy installation
• 📈 AI features are appearing in more everyday software
• 🤔 Native AI support will make older PCs obsolete faster
• 😎 The card is like old math coprocessors for early PCs
• 📅 We'll have to wait and see if these cards become mainstream

Q & A

What new hardware technology was revealed at CES 2024?

A new AI acceleration card called the Memory X MX3 was revealed. It has 4 chips that can process up to 40 teraflops of information for AI tasks.

How does the Memory X card connect to the system?

It connects via a PCI Express interface and has components for USB communication and system processing interfaces.

What type of tasks can the Memory X card accelerate?

It is designed to accelerate AI workloads like analyzing camera input to animate a 3D character.

How does the Memory X card compare to NPUs in terms of power consumption?

Each Memory X chip consumes up to 12 watts, so the 4-chip card would use around 40-50 watts. This is likely more than a CPU integrated NPU.

Can older motherboards without M.2 slots use the Memory X card?

Yes, PCI Express adapter cards allow using the Memory X card even on older boards without M.2 slots.

How are the capabilities of the Memory X card specified?

In teraflops. Each chip provides 10 teraflops, so the 4-chip MX3 card provides 40 teraflops for AI processing.

Will AI acceleration be important for future software?

Possibly. If more everyday software starts using AI features, having dedicated hardware will likely become more important.

How did the Memory X card demonstrate its capabilities?

By analyzing camera input of people and mapping joint positions to animate a 3D character in real time.

What was the historical analogy mentioned in the video?

Math coprocessors for early computers that accelerated floating point calculations similarly to the AI acceleration cards.

When can we expect AI acceleration to become mainstream?

In the next few years if companies like Intel keep adding dedicated AI cores to CPUs and acceleration cards gain adoption.

Outlines

00:00

😃 New AI acceleration boards introduced at CES 2024

Paragraph 1 discusses new AI acceleration boards shown at CES 2024. It describes ThinkCenter mini PCs with powerful specs and introduces Memory X's MX3 board with 4 AI accelerator chips, each providing 10 teraflops processing power for a total of 40 teraflops.

05:01

😲 AI acceleration boards could offset lack of native AI hardware

Paragraph 2 elaborates on how these new AI acceleration boards could help offset the lack of native AI hardware in older systems. It speculates that AI capabilities in software will increase demand for AI acceleration, making older hardware obsolete.

10:02

😯 Reminiscent of early math coprocessors

Paragraph 3 draws a parallel between these new AI accelerator boards and early math coprocessors that helped processors carry out floating point calculations. It envisions the potential of adding modular AI acceleration to systems over time.

Keywords

💡hardware

Hardware refers to the physical components that make up a computer system. In the context of the video, new hardware innovations for AI acceleration were announced at CES 2024, such as the Memory X AI accelerator card.

💡AI acceleration

AI acceleration refers to specialized hardware designed to speed up artificial intelligence workloads. The video discusses new AI accelerator cards and AI cores in CPUs aimed at boosting AI performance.

💡Memory X MX3

The Memory X MX3 is a specific AI accelerator card introduced at CES 2024, featuring 4 chips capable of up to 40 teraflops of processing power for AI workloads.

Highlights

Introducing a new type of hardware for AI acceleration called MX3 by Memory X

MX3 has 4 chips capable of 10 teraflops each, totalling 40 teraflops for AI processing

MX3 can help older hardware perform AI tasks without native NPU support

MX3 can be added via PCIe slot like other expansion cards

Each MX3 chip consumes 10-12 watts, optimized for desktops due to power and thermal limits

AI acceleration will make older hardware obsolete sooner as software relies on it more

MX3 allows performing AI assisted tasks like automatic photo cropping faster and more efficiently

MX3 is like early math coprocessors that accelerated floating point calculations

Camera fed MX3 skeletal tracking data to GPU for 3D character animation demo

AI acceleration may become essential in 5 years as software utilizes it more

Interesting to have modular add-on AI acceleration option for older hardware

MX3 enables running future software with AI features on current PCs without native AI hardware

Early example of dedicated AI processing hardware besides CPUs with NPU cores

Allows upgrading AI capacity of existing systems instead of fully replacing to run new software

Enabling emerging AI software features on readily available hardware is innovative

Transcripts

Fala galera tranquilo beleza amigel

falando aqui galera nesse vídeo de hoje

a gente vai conferir e vai conversar

sobre algo novo que é realmente novo se

tratando de hardware é tecnologia e que

é algo que apareceu na CES 2024 no

início do ano ali semana dos Dias 9 a 12

de janeiro que teve a CS ou CS 2024

aquele evento grande de tecnologia que

tem vários lançamentos de várias marcas

eu tô aqui no site PC World e esse cara

aqui o Mark hackman ele fez um vídeo

saiu no no no YouTube do PC World dele

mostrando uma bancada aqui com dois

computadores É são dois think Center da

Lenovo são aqueles PCs menorzinhos Só

que tem um I9 dentro tem uma rtx 4060

dentro um negócio pequenininho aqueles

mini PC que é poderoso workstation show

de bola até aqui tudo bem né galera o

negócio que é a notícia mais

interessante que eu achei aqui e tem

muito a ver com o que a gente tá falando

esses dias aí sobre npu que é uma nova

divisão é um novo tipo de unidade de

processamento que tá vindo nesses os

novos processadores mobile a Samsung com

s24 agora os novos Galaxy s24 tem

recurso de a embutido tem npu dentro

desses processadores para fazer tarefas

exclusivas especializadas em

Inteligência Artificial os novos

notebooks vão teré agora esses Intel

mais novos de notebooks salinha Intel

Core 5 Core 7 Ultra Core 9 Ultra também

tem dois núcleos npu nesses

processadores que são núcleos especiais

que vão aparecer pra gente lá no nosso

gerenciador de tarefas é vai ter uma aba

nova com um npu além de GPU e CPU que a

gente já tem e a gente já conversou

sobre isso vou deixar o vídeo aqui

específico que a gente conversa sobre

isso o negócio aqui que foi interessante

galera eu tirei aqui um print desse

vídeo tem nessa foto também no próprio

artigo do PC World é isso aqui que o

cara tem na mão galera olha isso aqui ó

time w que que é isso aí é um um nvme né

um SSD nvme slot m2 Uhum mas não é isso

aqui é uma placa de aceleração de a é

uma placa de aceleração de a Que viagem

é essa também o que que a gente já tem

já chama de placa de aceleração 3D que é

nossas gpus as placas de vídeo parece

que daqui pra frente a gente vai ter um

novo tipo de placa para usar a gente já

tem placa de expansão USB placa de

adaptador para de PC Express para

encaixar na placa mãe e consegui usar um

um SSD mi2 plugando aqui uma placa PC

Express e nessa placa PC Express ela tem

um slot mi2 então em placas mãe mais

antigas que nem essa aqui por exemplo eu

poderia usar um SSD nvme mesmo que a

placa não tenha slote mi2 Mas eu posso

comprar aquelas placas offboard placas

de expansão PC Express que me dá suporte

para usar um SSD nvm E aí a gente tem

placa de áudio placa de rede placa de

rede sem fio rede cabeada placa de TV

placa pct TV meu primeiro computador

tinha uma placa que tinha um uma entrada

de antena com axial antena UHF faz tempo

placas offboard tem diversos tipos isso

aqui apareceu na acess 2024 como a gente

pode ver na foto ó da empresa Memory x

esse aqui é uma placa de aceleração de a

para colocar na placa mãe do teu PC se

tu não tiver um processador que tem npu

se a gente não tiver um hardware que tem

npu para rodar tarefas de a com alta

eficiência Olha só galera estavam

rodando lado a lado aqui em duas

bancadas n dois monitores aqui com

tarefas distintas tá aqui de um lado

aqui do outro nesse outro lado aqui que

tá rodando o fmk o olho Zão ali o teste

gráfico ele tava rodando com outra placa

de aceleração de a kinara chamada esse

aqui não tem muito detalhe tá o que mais

foi falado foi sobre esse aqui que é o

memory x a gente consegue ver escrito

aqui o memory x né ele tem quatro chips

nessa placa esse modelo aqui em

específico é para ser o memory x MX3 e

esses quatro chips aqui são

microprocessadores que internamente a

arquitetura é diferente de um

processador inclusive se a gente for

entrar no site dessa Memory x aqui eles

botam aqui bem no início já a

arquitetura aqui é ao menos um um

diagrama de como é que são as unidades O

que que a gente tem aqui dentro do chip

esse MX a que é o acelerador de a Ó tem

uma parte aqui que liga com USB uma

parte de comunicação PC Express

interface de processamento do sistema os

tempos de clock para fazer a frequência

de operação do do chip e provavelmente

também sincronizar as informações desse

chip com o resto do sistema precisa de

um clock para fazer a sincronia dos

dados falando por cima é isso aqui uma

coisa interessante aqui também ó cada um

cada um desses quatro chips aqui ele é

capaz de processar 10 teraflops de

informação então nessa placa M2 que tem

quatro chips o total máximo seria de uma

potência de 40 tflops de operação para

ia aí a gente nem compara com por

exemplo Ah quando ia ser lançado o

Playstation 5 se falava ah a potência

dele é de 10 tflops nesse caso era de

processamento gráfico aqui as coisas não

se misturam n são tarefas distintas e

até agora também esse valor em si a

gente nem sabe eu não sei ao certo

quantos teraflops T de capacidade

teraflops ou tops tem de capacidade por

exemplo as npu que tem nos cpus da Intel

não sei a capacidade certa para saber se

isso aqui é bom ou é ruim mas ainda algo

que tá muito no início só que eu achei

interessante Justamente por isso a gente

vai ter muito provavelmente agora a MD

Intel lançando novos processadores Como

já começou com novos núcleos npu

embutidos e a gente pode pensar assim Ah

legal a gente tá vendo que tem e a e

tudo que é canta agora então se daqui

paraa frente a gente começar a ter

programas que a gente usa no dia a dia

atualizações desses programas seja o

programa mais comum possível sei lá um

Word um Excel a Microsoft começar a

programar e colocar algum uma tarefa de

para fazer alguma coisa de uma forma

mais fácil mais automatizada mais rápida

dentro desses programas o nosso PC comum

que tem GPU CPU provavelmente vai

conseguir rodar isso ainda porque CPU e

a GPU conseguem fazer conseguem fazer

esses cálculos de ar só que não são

otimizados para isso então vai acarretar

em numa tarefa que ela vai demorar mais

o PC ele vai demandar mais energia para

fazer essa tarefa E se a gente tivesse

um núcleo npu especializado nisso esse

programa ia usar esses núcleos npu ia

gastar menos energia para fazer a tarefa

ia provavelmente fazer isso mais rápido

rápido é eu fiquei pensando né galera

isso realmente vai datar cada vez mais o

que que a gente tem de hardware mais

antigo que nem eu tenho aqui uma placa

Man h61 lá de segunda e terceira geração

da Intel a placa mãe Chipset h61 simples

não tem slot m2 tem um slot PC Express

x16 vou usar 1,5 1,7 3770 aqui é um

hardware realmente de muitos anos atrás

dá para tirar um caldo legal ainda dá

para rodar um game legal dá para viver

tranquilo não dá para reclamar mas daqui

pra frente sei lá daqui 2 3 anos se a

vingar mesmo de verdade e começar a

aparecer e a em tudo que é canto

qualquer programa vai ter um recurso de

a e isso pegar gosto na galera mesmo

Isso aqui vai ficar realmente mais para

trás concordo com isso galera Então na

hora de comprar um PC daqui pra frente

isso possa ser algo que tenha peso no

valor do produto ou não a gente ainda

vai ver certo isso de qualquer forma o

que eu quero dizer é o quê que eu achei

muito legal ver isso aqui eu quis

compartilhar e mostrar para vocês nesse

vídeo de hoje que vai ser uma opção

plausível pra gente adicionar recursos

de a até em hardware mais antigo que não

teria chance de ter isso de forma Nativa

eu não tenho mais processador novo para

colocar nesse soquete ele já 1 55 que

vai ter uma npu mas Legal tem uma

empresa que tá fabricando uma placa m2

que eu posso depois botar lá no meu

notebook que tem slot m2 e eu vou ter

uma placa aceleradora de a para fazer

essas tarefas Talvez esse o meu notebook

aqui até mostrei no exemplo anterior no

vídeo passado no Photoshop tem um

recurso de a nesse notebook aqui não tem

npu quando uso aquele recurso que para

mim é muito útil que ele faz recorte

sozinho das coisas na na foto para fazer

tamil ajuda muito é muito mais rápido eu

ligo aquilo lá meu notebook aqui ele vai

os fã aqui estouram o bicho começa a

gritar fica louco se eu pudesse ter uma

placa dessa com aceleração de a e

botasse num slot m2 que é destinado só

para SSD hoje que a gente usa talvez V

ajudar meu notebook aqui a fazer essa

tarefa e a demandar menos energia porque

cada um desses chips aqui é para

consumir entre um do TR watts no máximo

Então no geral essa placa com quatro

chips ia consumir 10 12 wat claro que o

foco maior disso aqui ainda eu acho que

seria propriamente desktop PC de mesa

porque a gente não tem nem limitação

térmica como seria no notebook limitação

térmica e energética né imagina só

galera a gente tem PC hoje Bah quem

comprou o PC esse ano Bah que show é um

PC ótimo mas comprou e não tem um

processador com npu mas a placa mãe já

tem slot mi2 PC Express nvme nvme é o

SSD né o slot mi2 usa linhas PC Express

Então vai ser compatível com isso aqui e

tu pode colocar um recurso um hardware

de aceleração de a no teu PC se isso

aqui tudo vingar obviamente Achei bem

interessante bem legal mesmo isso aqui

me lembra bastante algo que não é da

minha época eu não peguei isso aqui não

vivenciei isso aqui mas eu li sobre isso

e vi que antigamente em computadores

mais antigos nessa época aqui ó o que a

gente tá vendo nessa foto aqui ó fujitsu

Intel 78 blá blá blá isso aqui que a

gente tá vendo esse chip Comprido é um

processador Tinho em placas mães ó lá do

tempo do we ó Ó eu não sei nem de

quantos anos atrás eu tô falando disso

aqui tá galera bem sinceramente mas é

realmente no início do dos primeiros

computadores que que tinha aqui a gente

tinha o processador principal da máquina

que fazia os cálculos cálculos de

números inteiros cálculos de números

flutuantes ponto flutuante só que junto

nas placas mães dos computadores mais

antigos mais lá do início a gente podia

instalar um coprocessador que era um

coprocessador de auxílio do processador

principal e esse coprocessador era

específico para cálculos para ajudar a

máquina de forma geral a fazer cálculos

de números com ponto flutuante ou no

nosso caso aqui no Brasil de vírgula

flutuante números que o quê calcular

número com vírgula ponto flutuante é o

quê Ah se eu pego 100 divido por 3 não

dá um resultado inteiro vai dar

33.33 33 ponto 33 BL blá até o fim até o

infinito então a vírgula ou o ponto do

número conforme o cálculo é feito essa

vírgula esse ponto ele flutua no número

são números quebrados isso antigamente

nos primeiros computadores era era muito

mais difícil de fazer fazer do que

calcular um número inteiro dividir 4 por

2is p é dois Acabou então foi criado uma

espécie de coprocessador os Intel 8087

que era para ajudar o processador

principal 8086 a fazer cálculos de ponto

flutuante V isso aqui me lembrou disso

tá quando eu li sobre esse essa história

então a gente não vai ter talvez daqui

pra frente uma máquina um processador um

notebook um computador que consegue

lidar direito com tarefas de a se a

gente for usar softwares que tem isso

mas a gente vai poder comprar uma placa

de aceleração de a para dar mais

potência pro nosso PC fazer isso e até

em hardware mais antigo vai dar para

fazer isso até em placa mãe mais antiga

que não tem slot m2 também compra

aquelas placas de adaptação de PC

Express para slot m2 encaixa vai

funcionar legal né galera aqui no mais a

notícia o que tava mostrando aqui que

tava funcionando essa placa de

aceleração de a era num programinha que

tinha aqui desse boneco 3D E aí tem a

câmera a câmera tava captando as pessoas

que estavam na frente aqui e vendo o ser

humano e criando um esqueleto ali as

dobras e articul ações é para o que que

a pessoa fazia ali na frente do PC o

boneco aquela renderização 3D fazia e

copiava o movimento Então essa placa de

aceleração Memory x MX3 estava fazendo

essa tarefa de pegar essa imagem da

câmera detectar a pessoa e criar as

articulações do esqueleto para passar

essa entrada de informações de movimento

para GPU renderizar aquele jogo aquela

animação 3D ali interessante né galera

que que vocês acharam se isso aqui for

pra frente mesmo vingar Legal será que

vocês vão comprar uma placa de

aceleração de A será que daqui a 5 anos

esse vídeo vai est aqui disponível e daí

a gente vai ver pô tava no início aqui ó

agora tô comprando uma placa de a e eu

não vivo sem só daqui uns 5 anos pra

gente saber né só no futuro pra gente

realmente saber mas achei bem legal ter

essa possibilidade show de bola mesmo

mas é isso pro vídeo de hoje galera

Espero muito que vocês tenham curtido Se

gostou Já sabe deixa o like se inscreve

no canal se juntar Nosa Tur informática

obrigado pela força de sempre grande

abraço até o próximo vídeo É isso aí

valeu

[Música]

m