🔥 NVIDIA представила открытую ИИ-модель Nemotron 3.5 Lightning для автономных агентов
Модель была выпущена 11 августа. Она содержит 30 млрд параметров, из которых около 3 млрд являются активными при инференсе. Nemotron 3.5 Lightning построена на гибридной архитектуре Mixture-of-Experts, объединяющей слои Mamba-2, MoE и отдельные слои Attention, а также использует технологию Multi-Token Prediction, предусматривающую прогнозирование нескольких последующих токенов.
Подписывайтесь на @arkanewsagency
Модель была выпущена 11 августа. Она содержит 30 млрд параметров, из которых около 3 млрд являются активными при инференсе. Nemotron 3.5 Lightning построена на гибридной архитектуре Mixture-of-Experts, объединяющей слои Mamba-2, MoE и отдельные слои Attention, а также использует технологию Multi-Token Prediction, предусматривающую прогнозирование нескольких последующих токенов.
Подписывайтесь на @arkanewsagency
Թողնել պատասխան