HomeTRENDSNvidia och Mistrals nya modell Mistral-NeMo ger AI till stationära datorer

Nvidia och Mistrals nya modell Mistral-NeMo ger AI till stationära datorer

Mistral AI och NVIDIA har lanserat Mistral NeMo 12B en toppmodern AI-modell för företag.Modellen kan anpassas för applikationer som chatbots, flerspråkiga uppgifter, kodning och sammanfattning.Mistral NeMo är tränad på NVIDIA DGX Cloud AI-plattformen.Modellen använder FP8 dataformat för att minska minnesstorleken och öka distributionshastigheten utan att förlora noggrannhet.Mistral NeMo levereras som en NVIDIA NIM-mikrotjänst för enkel distribution.Modellen kan distribueras på en NVIDIA L40S, GeForce RTX 4090 eller RTX 4500 GPU.Mistral NeMo är optimerad för hög prestanda med hjälp av NVIDIA TensorRT-LLM och NeMo utvecklingsplattform.Modellen erbjuder hög effektivitet, låg beräkningskostnad samt förbättrad säkerhet och sekretess.Modellen är tillgänglig för nedladdning via ai.nvidia.com.Mistral AI och NVIDIA har lanserat Mistral NeMo 12B en avancerad AI-modell för företag som kan anpassas för olika applikationer som chatbots, flerspråkiga uppgifter, kodning och sammanfattning. Modellen är tränad på NVIDIA DGX Cloud AI-plattformen och erbjuder hög prestanda med 12 miljarder parametrar och stöd för FP8 dataformat.Den är utformad för enkel distribution med NVIDIA NIM-mikrotjänster och erbjuder hög effektivitet, låg beräkningskostnad samt förbättrad säkerhet och sekretess.Mistral NeMo är en avancerad AI-modell med 12 miljarder parametrar (12B), utvecklad i samarbete med NVIDIA. Den erbjuder en stor kontextlängd på upp till 128k tokens, vilket gör den kapabel att hantera mycket information samtidigt.Modellen är designad för att vara en drop-in-ersättning för Mistral 7B och är enkel att integrera i befintliga system. Den är optimerad för flerspråkiga applikationer och har hög noggrannhet i resonemang, världskunskap och kodgenerering. Mistral NeMo är släppt under Apache 2.0-licensen och kommer med både förtränade bas- och instruktionstunade checkpoints.Med flexibiliteten att kunna köras var som helst moln, datacenter eller RTX-arbetsstation är Mistral NeMo redo att revolutionera AI-applikationer över olika plattformar.mistral.ai -mistral-nemomistral-nvidia-ai-modelbuild.nvidia – mistral-nemo-12b-instruct

RELATED ARTICLES

Most Popular