Podjetij WEKA in NVIDIA sodelujeta pri integraciji zmogljivih NVIDIA BlueField DPU procesnih enot s platformo za shranjevanje podatkov WEKA, kar omogoča bolj učinkovito obdelavo AI nalog. Integracija prinaša izboljšave na področjih prenosa podatkov, zmanjševanja zamud in varnosti, saj WEKA klient teče neposredno na NVIDIA BlueField DPU, namesto na CPU gostiteljskega strežnika. Ta pristop ne samo da izboljša zmogljivost, ampak tudi zmanjšuje obremenitev CPU in povečuje varnost sistema s prenosom operacij shranjevanja na DPU.
Predstavitev in diskusija o teh integracijah sta bili izpostavljeni na konferenci Supercomputing 2024, kjer so udeleženci lahko v živo videli, kako izboljšane hitrosti dostopa do podatkov in učinkovitejše obdelave obremenitev pomagajo transformirati operacije v podatkovnih centrih. Za več informacij si oglejte celoten članek na NVIDIA Technical Blogu Integration of NVIDIA BlueField DPUs with WEKA Client Boosts AI Workload Efficiency | NVIDIA Technical Blog.
Gradnja multimodalnega sistema z uporabo arhitekture RAG predstavlja velik izziv. Težave izhajajo iz zajemanja in indeksiranja informacij iz različnih modalitet, vključno z besedilom, slikami, tabelami, avdio in video ter drugimi. Avtorji so v prejšnji objavi, “Enostaven uvod v multimodalni Retrieval-Augmented Generation“, razpravljali o tem, kako se spopasti z besedilom in slikami. Ta objava razširja razpravo na avdio in video. Posebej raziskujejo, kako zgraditi multimodalni RAG sistem za iskanje informacij v videoposnetkih.
Hitri razvoj rešitev z uporabo tehnologije obogatenega generiranja z iskanjem (RAG) za delovne tokove vprašanj in odgovorov z LLM je privedel do novih vrst sistemskih arhitektur. Delo v podjetju NVIDIA z uporabo umetne inteligence za notranje operacije je privedlo do več pomembnih ugotovitev za usklajevanje zmogljivosti sistemov z uporabniškimi pričakovanji.
Ugotovili so, da uporabniki, ne glede na predvideni obseg ali primer uporabe, na splošno želijo biti sposobni izvajati naloge, ki niso povezane z RAG, kot so prevajanje dokumentov, urejanje e-pošte ali celo pisanje kode. Aplikacija RAG brez dodatkov bi lahko bila izvedena tako, da izvaja iskalni proces pri vsakem sporočilu, kar vodi do prekomerne uporabe žetonov in neželene latence, saj so vključeni nepomembni rezultati.
V petek 6. decembra se je v Gospodarski zbornici Slovenije odvijal že 20. tradicionalni posvet Avtomatizacija strege in montaže – ASM ’24.
Gre za edini specializirani strokovni posvet, ki se je v organizaciji Fakultete za strojništvo, Univerze v Ljubljani odvijal in vzpodbudil veliko zanimanja podjetij za prihodnost proizvodnih procesov. Dogodek je mesto za srečevanja in posvetovanja, kjer lahko aktivno izmenjajo mnenja strokovnjaki iz področja avtomatizacij in industrije.
Inovacije in konkurenčnost, ter povezovanje, vodi v napredek gospodarstva in nas tako lahko postavi v ospredje na globalni ravni. Napredna umetna inteligenca je nepogrešljiva, tako pri planiranju, izvajanju, servisiranju ali seljenju proizvodnih procesov, saj lahko z njeno pomočjo hitreje načrtujemo optimalno izvedbo vseh aktivnosti.
XENYA d.o.o. je letos predstavila platformo NVIDIA Omniverse™, saj kot NVIDIA elitni partner želimo ponuditi slovenskemu gospodarstvu najboljšo rešitev za kreiranje, planiranje, vizualizacijo in vzpostavitev novih proizvodnih procesov.
NVIDIA Omniverse™ je odprta platforma za sodelovanje in simulacijo v virtualnem 3D okolju, ki temelji na odprtokodnem zapisu Open USD. Omniverse omogoča uporabnikom ustvarjanje, razvoj in upravljanje kompleksnih 3D virtualnih svetov v realnem času, kar omogoča vsem hkratno spreminjanje in vpogled v skupni virtualni svet. Poleg tega lahko izvaja tudi kompleksne dodatne funkcije, kot je zagotavljanje, da objekti v tem 3D svetu spoštujejo fizikalne zakone, ki veljajo v resničnem svetu. Platforma je zasnovana za oblikovalce, inženirje in razvijalce, da lahko skupaj razvijajo projekte, kot so 3D modeli, animacije, simulacije in digitalne dvojčke in pri tem uporabljajo tudi vrsto najbolj znanih programskih orodij tretjih proizvajalcev na svojem področju. Ker lahko testi v virtualnem svetu prihranijo veliko časa in stroškov, je Omniverse še posebej uporaben v industrijah, kjer je potrebna visoka stopnja realizma in natančna simulacija realnega sveta, kot so arhitektura, inženiring, avtomobilska industrija in druga kompleksna industrijska proizvodnja ter filmska industrija.
Podjetja, kot so Coca-Cola, Amazon, BMW, Wistron in mnoga druga že digitalizirajo svoje procese z NVIDIA Omniverse™. Več si poglejte na:
Agentična umetna inteligenca uporablja prefinjeno sklepanje in ponavljajoče se načrtovanje za avtonomno reševanje zapletenih, večstopenjskih problemov.
Klepetalni roboti UI uporabljajo generativno umetno inteligenco za zagotavljanje odzivov na podlagi ene same interakcije. Oseba poda poizvedbo, klepetalni robot pa odgovori z obdelavo naravnega jezika.
Naslednja meja umetne inteligence je agentična umetna inteligenca, ki uporablja prefinjeno sklepanje in iterativno načrtovanje za avtonomno reševanje kompleksnih, večstopenjskih problemov. To bo povečalo produktivnost in delovanje v različnih panogah.
Agentični sistemi umetne inteligence sprejemajo velike količine podatkov iz različnih virov, da bi samostojno analizirali izzive, razvijali strategije in izvajali naloge, kot so optimizacija dobavne verige, analiza ranljivosti na področju kibernetske varnosti in pomoč zdravnikom pri dolgotrajnih opravilih.
Zmožnost uporabe preprostih API-jev za vključevanje predhodno usposobljenih temeljnih modelov umetne inteligence v izdelke in izkušnje je znatno povečala uporabo končnih točk LLM in okvirov za razvoj aplikacij s strani razvijalcev. NVIDIA NIM™ omogoča razvijalcem in inženirskim ekipam hitro uvajanje lastnih končnih točk modelov UI za varen razvoj pospešenih generativnih aplikacij UI z uporabo priljubljenih razvojnih orodij in ogrodij
Razvijalci so povedali, da želijo lažji dostop do NVIDIA NIM™ za razvojne namene, zato so pri podjetju NVIDIA navdušeni, da lahko več kot 5 milijonom članov programa NVIDIA Developer Program omogočijo brezplačen dostop do prenosljivih mikrostoritev NIM™ za razvoj, testiranje in raziskave. Članom programa so na voljo obsežni viri, usposabljanje, orodja in skupnost strokovnjakov, ki pomagajo pri gradnji pospešenih aplikacij in rešitev
Ne glede na to, ali delate lokalno ali v oblaku, mikrostoritve NVIDIA NIM™ omogočajo razvijalcem v podjetjih enostavno uporabo optimiziranih modelov UI iz skupnosti, partnerjev in družbe NVIDIA. Kot del NVIDIA AI Enterprise, NVIDIA NIM™ ponuja varno in poenostavljeno pot naprej za hitro iteracijo in gradnjo inovacij za vrhunske generativne rešitve UI.
Z uporabo enega samega optimiziranega vsebnika lahko mikrostoritev NVIDIA NIM™ preprosto namestite v manj kot 5 minutah na pospešenih sistemih NVIDIA GPU v oblaku ali podatkovnem centru ali na delovnih postajah in osebnih računalnikih. Če se želite izogniti namestitvi vsebnika, lahko začnete prototipno razvijati svoje aplikacije z vmesniki NVIDIA NIM API iz NVIDIA API kataloga.
Odkrijte moč NVIDIA NIM™, nabor mikrostoritev, enostavnih za uporabo, zasnovanih za varno in zanesljivo uvajanje visokozmogljivega sklepanja modelov UI v oblakih, podatkovnih centrih in na delovnih postajah.
Supermicro je svoj JumpStart program razširil z vključitvijo NVIDIA GPU strežnikov, s čimer je podjetjem omogočil pospešitev aplikacij z najnovejšo grafično procesno močjo in s tem učinkovitejše izvajanje modelov UI, strojnega učenja in globokih učnih zmožnosti.
Program podjetjem omogoča enostaven način za uvedbo in integracijo visoko zmogljivih računalniških rešitev, prilagojenih njihovim specifičnim potrebam. Program vključuje vnaprej konfigurirane sisteme, hitro implementacijo in stalno podporo za maksimalno produktivnost in učinkovitost.
To je še posebej koristno za IT strokovnjake, ki lahko testirajo in optimizirajo svoje sisteme v realnih pogojih preden izvedejo investicijo v strojno opremo.
Kot zaupanja vreden partner je Xenya odlično usposobljena, da strankam pomaga skozi vse faze JumpStart programa. S strokovnim znanjem na področju visoko zmogljivega računalništva in strežniških rešitev Xenya pomaga pri izbiri, konfiguraciji in implementaciji ustreznih Supermicro sistemov, ki izpolnjujejo poslovne cilje. Njihovi izkušeni svetovalci poskrbijo za gladek proces ter pomagajo, da stranke dosežejo optimalno zmogljivost in podporo svojih sistemov.
Še več, Xenya, kot elitni NVIDIA partner, je specializirana za integracijo teh naprednih NVIDIA GPU strežnikov v okviru Supermicro, strankam pa ponuja enostavno pot do koriščenja moči za UI in aplikacije, ki zahtevajo intenzivno grafično obdelavo. Ekipa Xenye nudi strokovne nasvete pri izbiri in konfiguraciji optimalnih NVIDIA GPU strežnikov, ki ustrezajo specifičnim poslovnim potrebam.
Za več informacij o tem, kako vam lahko Xenya pomaga izkoristiti program Supermicro JumpStart za izboljšanje vaših sistemov, nas kontaktirajte po telefonu ali e-pošti.
