Root NationAIRTEAGAILCuideachtaíÓ CUDA go AI: Rúin Ratha NVIDIA

Ó CUDA go AI: Rúin Ratha NVIDIA

-

NVIDIA - an chéad chuideachta i stair an tionscail sliseanna, ar sháraigh a chaipitliú trilliún dollar. Cad é rún an ratha?

Tá mé cinnte gur chuala go leor agaibh faoin gcuideachta NVIDIA agus ceanglaíonn an chuid is mó agaibh go sonrach é le próiseálaithe grafaice, toisc go bhfuil an frása "NVIDIA GeForce" cloiste ag beagnach gach duine.

NVIDIA

NVIDIA rinneadh stair airgeadais le déanaí sa tionscal TF. Is é an chéad chuideachta ciorcad iomlánaithe a bhfuil a luach margaidh níos mó ná trilliún dollar. Is í an cúigiú cuideachta a bhaineann le teicneolaíocht sa stair í freisin chun rath chomh mór (trí chaipitliú margaidh) a bhaint amach. Roimhe seo, ní fhéadfadh ach daoine a bheith bródúil as rátáil chomh hard sin Apple, Microsoft, Aibítir (úinéir Google) agus Amazon. Sin an fáth gur thug airgeadaithe uaireanta an "Club of Four", atá leathnaithe anois NVIDIA.

Ina theannta sin, i dtéarmaí caipitlithe margaidh, tá sé i bhfad taobh thiar de AMD, Intel, Qualcomm agus cuideachtaí teicneolaíochta eile. Ní bheadh ​​sé seo indéanta gan beartas físiúil na cuideachta, a tugadh isteach deich mbliana ó shin.

Léigh freisin: An bhfuil todhchaí ag Elon Musk's TruthGPT?

Éileamh dochreidte ar NVIDIA Croí Teannasóra H100

Cad é an rún a leithéid de mhéadú ar chaipitliú? Ar an gcéad dul síos, is é seo imoibriú an stocmhalartáin ar rathúlacht na sliseanna NVIDIA H100 Tensor Core, a bhfuil an-éileamh air i measc soláthraithe na príomhchúiseanna le bonneagar scamall agus seirbhísí ar líne. Tá na sliseanna seo ceannaithe ag Amazon, Meta agus Microsoft (dá riachtanais féin agus riachtanais a chomhpháirtí - an chuideachta OpenAI). Tá siad tíosach ar fhuinneamh go háirithe maidir le háirimh a bhaineann le hintleachta saorga giniúna a luathú, mar ChatGPT nó Dall-E. Léim dochreidte é seo ar ord méide don ríomhaireacht luathaithe. Faighimid feidhmíocht, inscálaitheacht agus slándáil gan fasach d'aon ualach oibre le NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-Tensor Core

Ag baint úsáide as córas lasctha NVIDIA Is féidir NVLink a nascadh le suas le 256 H100 GPUs chun ualaí oibre a luathú ar scála exa. Áiríonn an GPU Inneall Trasfhoirmeora tiomnaithe freisin chun samhlacha teanga a réiteach le trilliún paraiméadair. Is féidir le nuálaíochtaí teicneolaíochta comhcheangailte an H100 luasghéarú a dhéanamh ar mhúnlaí móra teanga (LLManna) ag 30x dochreidte i gcomparáid leis an nglúin roimhe seo, ag seachadadh AI comhrá atá ar thús cadhnaíochta sa tionscal. Measann na forbróirí go bhfuil sé beagnach oiriúnach le haghaidh foghlama meaisín.

- Fógraíocht -

Mar sin féin, ní raibh an H100 le feiceáil as áit ar bith. Agus, leis an fhírinne a rá, ní réabhlóideach go háirithe é. NVIDIA, cosúil le haon chuideachta eile, tá acmhainní ollmhóra á infheistiú i hintleachta saorga le blianta fada anuas. Mar thoradh air sin, is féidir le cuideachta a bhaineann go príomha le branda cárta grafaicí GeForce déileáil leis an margadh tomhaltóra beagnach mar chaitheamh aimsire. Tógann sé seo fíorchumhacht i margadh na bhfathach TF, tar éis an tsaoil NVIDIA Is féidir labhairt leo cheana féin mar dhaoine comhionann.

Suimiúil freisin: Cad iad líonraí 6G agus cén fáth a bhfuil gá leo?

An bhfuil intleacht shaorga sa todhchaí?

Inniu, tá beagnach gach duine cinnte de seo, fiú saineolaithe skeptical sa réimse seo. Anois tá sé beagnach aicsiom, a truism. Cé go NViDIA eolas faoi 20 bliain ó shin. Ar chuir mé iontas ort?

Go teicniúil, an chéad dlúth-theagmháil NVIDIA le hintleacht shaorga a tharla i 1999, nuair a bhí an próiseálaí GeForce 256 le feiceáil ar an margadh, in ann ríomhaireachtaí foghlama meaisín a luathú. ach NVIDIA thosaigh sé ag infheistiú go dáiríre in hintleachta saorga ach amháin i 2006, nuair a tugadh isteach an ailtireacht CUDA, a cheadaigh úsáid a bhaint as cumais próiseála comhthreomhar próiseálaithe grafaicí le haghaidh oiliúna agus taighde.

NVIDIA-CUDA

Cad é CUDA? Is fearr é a shainiú mar ardán ríomhaireachta comhthreomhar agus comhéadan ríomhchláraithe feidhmchlár (API) a ligeann do bhogearraí aonaid phróiseála grafaice ginearálta (GPGPUanna) a úsáid. Tugtar ríomhaireacht ghinearálta ar GPUanna ar an gcur chuige seo. Ina theannta sin, is ciseal bogearraí é CUDA a sholáthraíonn rochtain dhíreach ar an tsraith teagaisc fhíorúil agus ar eilimintí ríomhaireachta comhthreomhar an phróiseálaí grafaicí. Tá sé deartha chun oibriú le teangacha ríomhchlárúcháin mar C, C++ agus Fortran.

Is í an inrochtaineacht seo a éascaíonn d’fhorbróirí comhthreomhara leas a bhaint as acmhainní GPU, murab ionann agus APIanna roimhe seo ar nós Direct3D agus OpenGL, a raibh ardscileanna ríomhchláraithe grafaice de dhíth orthu.

NVIDIA-CUDA

Cinn thábhachtach ba ea soláthar na cuideachta NVIDIA cumhacht ríomhaireachta don líonra néarúil ceannródaíoch AlexNet. Is líonra néarúil comhraonta (CNN) é, arna fhorbairt ag Alex Kryzhevskyi de chuid na hÚcráine i gcomhar le Ilya Sutzkever agus Jeffrey Ginton.

Ba iad Líonraí Néaracha Comhdhlúite (CNNanna) an tsamhail chun oibiachtaí a aithint i gcónaí - is samhlacha cumhachtacha iad atá éasca le rialú agus fiú níos éasca le hoiliúint. Ní bhíonn taithí scanrúil acu ar rófheisteas nuair a úsáidtear iad ar na milliúin íomhánna. Tá a bhfeidhmíocht beagnach mar an gcéanna le gnáthlíonraí néaracha réamh-chothaithe den mhéid céanna. Is é an t-aon fhadhb atá ann ná go bhfuil sé deacair iad a chur i bhfeidhm ar íomhánna ardtaifigh. Éilíonn scála ImageNet nuálaíochtaí a bheadh ​​optamaithe le haghaidh GPUanna agus a laghdódh am oiliúna agus feidhmíocht a fheabhsú.

AlexNet

Ar 30 Meán Fómhair, 2012, ghlac AlexNet páirt i nDúshlán Aitheantais Amhairc ar Scála Mór ImageNet. Bhain an líonra scór de 15,3% amach sa triail cúig earráid is airde, os cionn 10,8% níos ísle ná an scór dara háit.

Ba é an príomhchonclúid ón obair bhunaidh ná go raibh castacht an mhúnla mar gheall ar a ardfheidhmíocht, a bhí an-chostasach ó thaobh ríomhaireacht de, ach a d’fhéadfaí a dhéanamh de bharr aonaid phróiseála grafaice (GPUanna) a úsáid le linn an phróisis oiliúna.

Tá ocht sraithe i ngréasán conbhlóideach néarúil AlexNet féin; is sraitheanna dronnacha iad na chéad chúig, agus tá sraitheanna cúpláilte uasta rompu ag cuid acu, agus tá na trí cinn dheireanacha ina sraitheanna lán-nasctha. Tá an líonra, seachas an tsraith dheireanach, roinnte ina dhá chóip, gach ceann ag rith ar GPU amháin.

- Fógraíocht -

Is é sin, a bhuíochas leis NVIDIA agus fós creideann formhór na saineolaithe agus na n-eolaithe gur samhail thar a bheith cumhachtach é AlexNet atá in ann ardchruinneas a bhaint amach ar thacair shonraí an-chasta. Is é AlexNet an príomh-ailtireacht le haghaidh aon tasc braite réad agus is féidir feidhmchláir an-leathan a bheith aige san earnáil fís ríomhaire le haghaidh fadhbanna hintleachta saorga. Sa todhchaí, féadfar úsáid a bhaint as AlexNet níos mó ná CNN i réimse na híomhá.

Suimiúil freisin: An feiniméan Bluesky: cén cineál seirbhíse agus an bhfuil sé ar feadh i bhfad?

Tá faisnéis shaorga ní hamháin i saotharlanna agus ionaid sonraí

В NVIDIA chonaic ionchais iontacha do AI freisin i dteicneolaíochtaí feistí tomhaltóra agus Idirlíon na Rudaí. Cé go bhfuil iomaitheoirí díreach ag smaoineamh ar infheistíocht níos leithne a dhéanamh i gcineál nua ciorcad iomlánaithe, NVIDIA ag obair cheana féin ar a n-miniaturization. Is dócha go bhfuil an sliseanna Tegra K1, a forbraíodh i gcomhar le Tesla agus cuideachtaí gluaisteán eile, thar a bheith tábhachtach.

NVIDIA-Tegra-K1

Tá próiseálaí Tegra K1 ar cheann de na chéad phróiseálaithe NVIDIA, atá deartha go sonrach le haghaidh feidhmchláir AI i bhfeistí soghluaiste agus leabaithe. Úsáideann Tegra K1 an ailtireacht GPU céanna leis an tsraith cártaí grafaicí agus córais NVIDIA GeForce, Quadro agus Tesla, a sholáthraíonn ardfheidhmíocht agus comhoiriúnacht le caighdeáin grafaicí agus ríomhaireachta mar OpenGL 4.4, DirectX 11.2, CUDA 6.5 agus OpenCL 1.2. A bhuíochas leis seo, is féidir le próiseálaí Tegra K1 tacú le halgartaim intleachta saorga chun cinn mar líonraí néaracha domhain, foghlaim athneartaithe, aithint íomhá agus urlabhra, agus anailís sonraí. Tá 1 croíleacan CUDA ag Tegra K192.

In 2016 NVIDIA scaoileadh sraith de phróiseálaithe Pascal optamaithe chun tacú le líonraí neural domhain agus samhlacha hintleachta saorga eile. Laistigh de bhliain, bhí sraith próiseálaithe Volta d'iarratais a bhaineann le hintleacht shaorga le feiceáil ar an margadh, atá níos éifeachtaí agus níos coigilte fuinnimh. In 2019 NVIDIA ceannaíonn Mellanox Technologies, déantóir líonraí ríomhaireachta ardfheidhmíochta d’ionaid sonraí agus d’ollríomhairí.

NVIDIA

Mar thoradh air sin, úsáideann siad go léir próiseálaithe NVIDIA. Sa mhargadh tomhaltóra, mar shampla, úsáideann gamers an algartam athchruthaithe íomhá DLSS réabhlóideach, a ligeann dóibh taitneamh a bhaint as grafaicí níos géire i gcluichí gan go leor airgid a chaitheamh ar chárta grafaicí. Sa mhargadh gnó, aithnítear go sliseanna NVIDIA ar go leor bealaí thar an méid a thairgeann iomaitheoirí. Cé nach bhfuil sé gur chodail Intel agus AMD go hiomlán tríd an réabhlóid intleachtúil.

Suimiúil freisin: Na huirlisí is fearr atá bunaithe ar hintleachta saorga

Intel agus AMD i réimse na hintleachta saorga

Déanaimis labhairt faoi iomaitheoirí díreacha NVIDIA sa deighleog mhargaidh seo. Tá Intel agus AMD ag obair anseo níos mó agus níos gníomhaí, ach le moill fhada.

Tá roinnt cuideachtaí AI gnóthaithe ag Intel mar Nervana Systems, Movidius, Mobileye agus Habana Labs chun a phunann teicneolaíochtaí agus réitigh AI a neartú. Cuireann Intel ardáin crua-earraí agus bogearraí ar fáil freisin le haghaidh hintleachta saorga, mar shampla próiseálaithe Xeon, FPGAanna, sliseanna NNP, agus leabharlanna optamaithe. Oibríonn Intel freisin le comhpháirtithe san earnáil phoiblí agus phríobháideach chun nuálaíocht agus oideachas AI a chur chun cinn.

Intel agus AMD

Tá sraith próiseálaithe Epyc agus cártaí grafaicí Radeon Instinct forbartha ag AMD atá optamaithe le haghaidh AI agus feidhmchláir foghlama domhain. Oibríonn AMD freisin le cuideachtaí ar nós Google, Microsoft, IBM agus Amazon, ag soláthar réitigh scamall do AI. Déanann AMD iarracht freisin a bheith rannpháirteach i dtaighde agus forbairt AI trí chomhpháirtíochtaí le hinstitiúidí acadúla agus eagraíochtaí tionscail. Tá sé ar fad go han-mhaith, áfach NVIDIA cheana féin i bhfad chun tosaigh orthu, agus tá a rath i réimse na forbartha agus tacaíochta halgartaim AI incomparable níos mó.

Suimiúil freisin: Achoimre ar Google I/O 2023: Android 14, picteilíní agus go leor AI

NVIDIA Tá baint aige le físchluichí le blianta fada

Níor cheart dearmad a dhéanamh air seo ach an oiread. NVIDIA ní sholáthraíonn sé miondealú cruinn ar a hioncam idir na margaí tomhaltóirí agus gnó, ach is féidir iad a mheas bunaithe ar na codanna oibriúcháin a nochtann an chuideachta ina ráitis airgeadais. NVIDIA Scarann ​​sé ceithre mhír oibriúcháin: Cearrbhachas, Amharcléiriú Gairmiúil, Ionaid Sonraí, agus Feithicleach.

NVIDIA

Is féidir glacadh leis go bhfuil an deighleog chearrbhachais dírithe go príomha ar mhargadh na dtomhaltóirí, ós rud é go n-áirítear díol cártaí físeán GeForce agus sliseanna Tegra le haghaidh consóil cluiche. Tá an deighleog léirshamhlaithe gairmiúla dírithe go príomha ar an margadh gnó, toisc go n-áirítear díol cártaí físeán Quadro agus sliseanna RTX le haghaidh stáisiúin oibre agus iarratais ghairmiúla. Tá deighleog an ionaid sonraí dírithe go príomha ar an margadh gnó freisin, toisc go n-áirítear ann díol GPUanna agus NPUanna (is é sin, sliseanna den chéad ghlúin eile - ní GPUanna a thuilleadh, ach atá deartha go heisiach le haghaidh AI) le haghaidh freastalaithe agus seirbhísí scamall. Díríonn an chuid feithicleach ar mhargaí tomhaltóra agus gnó araon, mar go n-áirítear ann díolachán córas Tegra agus Drive le haghaidh ionchothaithe agus tiomána uathrialaitheach.

NVIDIA

Bunaithe ar na boinn tuisceana seo, is féidir meastachán a dhéanamh ar an sciar den ioncam ó mhargaí tomhaltóirí agus gnó san ioncam iomlán NVIDIA. De réir na tuarascála airgeadais is déanaí don bhliain 2022, ioncam na cuideachta NVIDIA de réir codanna oibriúcháin bhí mar seo a leanas:

  • Cluichí: $12,9 billiún
  • Amharcléiriú gairmiúil: $1,3 billiún
  • Ionaid sonraí: $9,7 billiún
  • Gluaisteáin: $0,8 billiún
  • Gach mír eile: $8,7 billiún

Ioncam iomlán NVIDIA $33,4 billiún Má ghlacaimid leis go bhfuil deighleog na ngluaisteán roinnte go cothrom idir na margaí tomhaltóra agus gnó, is féidir na comhréireanna seo a leanas a ríomh:

  • Ioncam ó mhargadh na dtomhaltóirí: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Ioncam ón margadh gnó: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

Ciallaíonn sé seo go bhfuil thart ar 40% den ioncam NVIDIA thagann ó mhargadh an tomhaltóra, agus thart ar 60% ón margadh gnó. Is é sin, is é an príomh-threo an deighleog ghnó. Ach tugann an tionscal cluiche ioncam maith go leor freisin. Is é an rud is tábhachtaí ná go bhfásann siad gach bliain.

Suimiúil freisin: Diary of a Grumpy Old Geek: Bing vs Google

Cad a thabharfaidh an todhchaí dúinn?

Is léir go bhfuil NVIDIA tá plean ann cheana féin chun páirt a ghlacadh i bhforbairt halgartaim hintleachta saorga. Agus tá sé i bhfad níos leithne agus níos geallta ná aon cheann dá iomaitheoirí díreacha.

Ach amháin le mí anuas NVIDIA d’fhógair go leor infheistíochtaí nua in hintleachta saorga. Is é ceann acu an mheicníocht GET3D, atá in ann samhlacha casta tríthoiseach a ghiniúint de rudaí agus de charachtair éagsúla a léiríonn réaltacht go dílis. Is féidir le GET3D thart ar 20 réad in aghaidh an tsoicind a ghiniúint trí úsáid a bhaint as sliseanna grafaicí amháin.

Ba cheart tionscadal amháin níos suimiúla a lua freisin. Maidir Iosrael-1 is supercomputer do chláir hintleachta saorga, a NVIDIA a cruthaíodh i gcomhar leis an Aireacht Eolaíochta agus Teicneolaíochta Iosrael agus an chuideachta Mellanox. Táthar ag súil go mbeidh níos mó ná 7 petaflops de chumhacht ríomhaireachta ag an meaisín agus go n-úsáidfidh sé níos mó ná 1000 GPU NVIDIA Croí Teannasóra A100. Úsáidfear Israel-1 le haghaidh taighde agus forbartha i réimsí mar leigheas, bitheolaíocht, ceimic, fisic agus cibearshlándáil. Agus is infheistíochtaí caipitil an-gheallta iad seo cheana féin, mar gheall ar na hionchais fadtéarmacha.

NVIDIA

Chomh maith leis sin, tá tionscadal eile ann cheana féin - NVIDIA ACE. Is teicneolaíocht nua í atá leagtha amach chun an tionscal cearrbhachais a réabhlóidiú trí ligean don imreoir idirghníomhú le carachtar neamh-imreoir (NPC) ar bhealach nádúrtha agus réadúil. Beidh na carachtair seo in ann idirphlé oscailte a dhéanamh leis an imreoir, freagairt dá mhothúcháin agus gothaí, agus fiú a gcuid mothúchán agus smaointe féin a chur in iúl. NVIDIA Úsáideann ACE samhlacha teanga chun cinn agus gineadóirí íomhá AI-bhunaithe.

An chéad trilliún dollar i NVIDIA. Tá an chuma ar an scéal go mbeidh níos mó ann go luath. Beidh muid cinnte dul chun cinn na cuideachta a leanúint agus tú a chur ar an eolas.

Léigh freisin:

Yuri Svitlyk
Yuri Svitlyk
Mac na Sléibhte Carpathian, genius neamhaitheanta na matamaitice, "dlíodóir"Microsoft, altrúist phraiticiúil, clé-dheis
- Fógraíocht -
Clarú
Fógra a thabhairt faoi
aoi

0 Comments
Léirmheasanna Leabaithe
Féach ar gach trácht