Grafične kartice Hopper pred­sta­vlja­jo naj­no­vej­šo ge­ne­ra­ci­jo visoko zmo­glji­vih grafičnih pro­ce­sor­jev NVIDIA, ki so posebej zasnovani za umetno in­te­li­gen­co in visoko zmogljivo ra­ču­nal­ni­štvo (HPC). Opre­mlje­ni so z naj­so­dob­nej­šo ar­hi­tek­tu­ro z na­pre­dni­mi jedri Tensor Cores in vklju­ču­je­jo več ino­va­tiv­nih teh­no­lo­gij za doseganje največje učin­ko­vi­to­sti. Grafične kartice Hopper so idealne za široko paleto delovnih obre­me­ni­tev in podpirajo umetno in­te­li­gen­co, globoko učenje, ge­ne­ra­tiv­no umetno in­te­li­gen­co in še več.

Kakšna je ar­hi­tek­tur­na zasnova grafičnih pro­ce­sor­jev Hopper podjetja NVIDIA?

Ime »Hopper GPU« izhaja iz ar­hi­tek­tu­re Hopper, ki je mi­kro­ar­hi­tek­tu­ra GPU, ki tvori osnovo visoko zmo­glji­vih grafičnih pro­ce­sor­jev in je op­ti­mi­zi­ra­na za AI delovne obre­me­ni­tve in HPC apli­ka­ci­je. Hopper GPU-ji so pro­i­zve­de­ni s strani TSMC z uporabo 4-na­no­me­tr­ske­ga procesa in imajo več kot 80 milijard tran­zi­stor­jev, kar jih uvršča med naj­na­pre­dnej­še grafične kartice, ki so na voljo na trgu.

Z ar­hi­tek­tu­ro Hopper NVIDIA združuje naj­no­vej­šo ge­ne­ra­ci­jo jedra Tensor s petimi re­vo­lu­ci­o­nar­ni ino­va­ci­ja­mi: trans­for­ma­tor­skim motorjem, sistemi stikal NVLink/NVSwitch/NVLink, zaupnim ra­ču­nal­ni­štvom, gra­fič­ni­mi pro­ce­sor­ji druge ge­ne­ra­ci­je z več primerki (MIG) in navodili DPX. Te teh­no­lo­gi­je omogočajo GPU-jem Hopper do 30-kratno po­spe­ši­tev AI-sklepanja v pri­mer­ja­vi s prejšnjo ge­ne­ra­ci­jo (na podlagi NVIDIA-jevega chatbota Megatron 530B – najbolj ce­lo­vi­te­ga ge­ne­ra­tiv­ne­ga je­zi­kov­ne­ga modela na svetu).

Kakšne so ino­va­tiv­ne lastnosti grafičnih pro­ce­sor­jev Hopper?

Grafične kartice Hopper imajo več novih funkcij, ki pomagajo iz­bolj­ša­ti zmo­glji­vost, učin­ko­vi­tost in pri­la­go­dlji­vost. Naj­po­memb­nej­še novosti pred­sta­vlja­mo v na­da­lje­va­nju:

  • Trans­for­mer motor: S pomočjo trans­for­mer motorja lahko Hopper GPU-ji trenirajo AI modele do devetkrat hitreje. Pri nalogah sklepanja na področju je­zi­kov­nih modelov GPU-ji dosežejo do 30-kratno po­spe­ši­tev v pri­mer­ja­vi s prejšnjo ge­ne­ra­ci­jo.
  • NVLink stikalni sistem: Četrta ge­ne­ra­ci­ja NVLink za­go­ta­vlja dvosmerno GPU pasovno širino 900 GB/s, medtem ko NVSwitch za­go­ta­vlja boljšo ska­la­bil­nost H200 grozdov. To za­go­ta­vlja, da se AI modeli s trilijoni pa­ra­me­trov lahko učin­ko­vi­to ob­de­lu­je­jo.
  • Zaupno ra­ču­nal­ni­štvo: Ar­hi­tek­tu­ra Hopper za­go­ta­vlja, da so vaši podatki, AI modeli in algoritmi zaščiteni tudi med obdelavo.
  • Multi-instance GPU (MIG) 2.0: Druga ge­ne­ra­ci­ja teh­no­lo­gi­je MIG omogoča, da se en GPU Hopper razdeli na do sedem izo­li­ra­nih primerov. To omogoča več osebam, da hkrati ob­de­lu­je­jo različne delovne obre­me­ni­tve, ne da bi se med seboj motile.
  • DPX navodila: DPX navodila omogočajo dinamično pro­gra­mi­ra­ne algoritme, ki se iz­ra­ču­na­jo do sedemkrat hitreje kot z GPU-ji ar­hi­tek­tu­re Ampere.

Za katere primere uporabe so Hopper GPU-ji primerni?

Grafične kartice NVIDIA, ki temeljijo na ar­hi­tek­tu­ri Hopper, so zasnovane za široko paleto visoko zmo­glji­vih delovnih obre­me­ni­tev. Glavna področja uporabe grafičnih kartic Hopper so: ¬

  • Naloge sklepanja: GPU-ji so med vodilnimi rešitvami v in­du­stri­ji za pro­duk­tiv­no uporabo sklepanja AI. Ne glede na to, ali gre za sisteme pri­po­ro­čil v e-trgovini, me­di­cin­sko di­a­gno­sti­ko ali napovedi v realnem času za avtonomno vožnjo, GPU-ji Hopper lahko hitro in učin­ko­vi­to ob­de­lu­je­jo ogromne količine podatkov.
  • Ge­ne­ra­tiv­na umetna in­te­li­gen­ca: Vrhunske GPU-je za­go­ta­vlja­jo potrebno ra­ču­nal­ni­ško moč za uspo­sa­blja­nje in izvajanje orodij z ge­ne­ra­tiv­no umetno in­te­li­gen­co. Vzporedno ob­de­lo­va­nje omogoča učin­ko­vi­tej­še izračune za ustvar­jal­ne naloge, kot so ge­ne­ri­ra­nje besedila, slik in videov.
  • Uspo­sa­blja­nje za globoko učenje: Z visoko ra­ču­nal­ni­ško močjo so GPU-ji Hopper idealni za uspo­sa­blja­nje velikih ne­vron­skih mrež. Ar­hi­tek­tu­ra Hopper znatno skrajša čas uspo­sa­blja­nja modelov umetne in­te­li­gen­ce.
  • Kon­ver­za­cij­ski AI: GPU-ji Hopper so op­ti­mi­zi­ra­ni za obdelavo naravnega jezika (NLP) in so idealni za jezikovne sisteme na podlagi AI, kot so virtualni asistenti in AI-chatboti. Po­spe­šu­je­jo obdelavo velikih AI-modelov in za­go­ta­vlja­jo odzivno in­te­rak­ci­jo, ki se lahko brezhibno integrira v poslovne procese, kot je podpora.
  • Analiza podatkov in veliki podatki: GPU-ji Hopper ob­de­lu­je­jo ogromne količine podatkov z visoko hitrostjo in po­spe­šu­je­jo zapletene izračune z masivno vzporedno obdelavo. To podjetjem omogoča hitrejšo oceno velikih podatkov, da lahko pri­pra­vi­jo napovedi in sprejmejo ustrezne ukrepe.
  • Znanost in raziskave: Ker so GPU-ji zasnovani za HPC-apli­ka­ci­je, so idealni za zelo kom­ple­ksne si­mu­la­ci­je in izračune. GPU-ji Hopper se upo­ra­blja­jo na primer v astro­fi­zi­ki, mo­de­li­ra­nju podnebja in ra­ču­nal­ni­ški kemiji.

Trenutni modeli podjetja NVIDIA

Z izdajo NVIDIA H100 in NVIDIA H200 je ameriško podjetje na trg uvedlo dva grafična pro­ce­sor­ja Hopper. Nasprotno pa je NVIDIA A30 še vedno zasnovan na prejšnji ar­hi­tek­tu­ri Ampere. Tehnično gledano H200 ni povsem nov model, ampak iz­bolj­ša­na različica H100. V na­sle­dnjem pregledu so po­u­dar­je­ne ključne razlike med tema dvema gra­fič­ni­ma pro­ce­sor­je­ma:

  • Pomnilnik in pasovna širina: Medtem ko je NVIDIA H100 opremljen s 80 GB po­mnil­ni­ka HBM3, ima GPU H200 pomnilnik HBM3e s ka­pa­ci­te­to 141 GB. H200 je tudi jasno v prednosti glede pasovne širine po­mnil­ni­ka s 4,8 TB/s v pri­mer­ja­vi z 2 TB/s za H100.
  • Zmo­glji­vost za AI sklepanje: V pri­mer­ja­vi z NVIDIA H200 za­go­ta­vlja dvakrat večjo zmo­glji­vost sklepanja za modele, kot je LLaMA 2-70 B. To omogoča ne le hitrejše ob­de­lo­va­nje, ampak tudi učin­ko­vi­to ska­li­ra­nje.
  • Apli­ka­ci­je HPC in znan­stve­no ra­ču­nal­ni­štvo: H100 že ponuja vrhunsko zmo­glji­vost za zapletene izračune, ki jo H200 še preseže. Hitrost sklepanja je do dvakrat višja, zmo­glji­vost HPC pa za približno 20 odstotkov višja.
Go to Main Menu