Obrázek
Nvidia zkracuje cestu od modelu z Hugging Face k nativnímu C++: TensorRT Model Connect obchází ONNX
Nvidia zpřístupnila TensorRT Model Connect, nástroj, který má zjednodušit cestu od modelu uloženého na Hugging Face k nativnímu běhu v C++. Podporovaný checkpoint lze podle dokumentace sestavit do verzeovaného souboru
.bundle bez mezikroku v podobě exportu do ONNX. Pro vývojáře robotů, zařízení na okraji sítě nebo C++ služeb je to podstatnější změna než další chatbot s novým názvem.Projekt je od 18. srpna 2026 dostupný ve veřejném preview a jeho zdrojový kód Nvidia zveřejnila pod licencí Apache 2.0.