Optymalizacja RTX AI może nawet potroić prędkość wielkich modeli językowych

Już w najbliższych miesiącach zadebiutują komputery osobiste Copilot+ wyposażone w karty graficzne RTX, zapewniając użytkownikom zwiększoną wydajność, która sprosta wymaganiom lokalnej AI i nowym funkcjom sztucznej inteligencji od firmy Microsoft. Więcej informacji na temat tych pecetów można znaleźć tutaj.

NVIDIA zapowiedziała także nowe narzędzia dla developerów, takie jak NVIDIA Deep Learning Super Sampling (DLSS), które pozwoli deweloperom łatwiej integrować technologie sztucznej inteligencji do swoich gier i aplikacji. Dzięki temu użytkownicy będą mogli korzystać z lepszej jakości obrazu i płynniejszej rozgrywki przy mniejszym obciążeniu sprzętu.

• Wielkie modele językowe (LLM) działają teraz nawet 3 razy szybciej dzięki bibliotece uruchomieniowej ONNX Runtime (ORT) oraz zestawowi funkcji DirectML korzystając z najnowszego sterownika NVIDIA R555 Game Ready.
• Biblioteka programistyczna PyTorch będzie wspierać operacje wykonywane przez DirectML, co pozwoli deweloperom na trenowanie i wnioskowanie złożonych modeli sztucznej inteligencji natywnie w systemie Windows. Biblioteki i funkcje ORT oraz DirectML to narzędzia o wysokiej wydajności służące do lokalnego uruchamiania modeli AI na komputerach z systemem Windows.
• NVIDIA zoptymalizowała przepływ pracy AI w ramach standardu WebNN, który pomaga twórcom aplikacji internetowych przyspieszać modele głębokiego uczenia się za pomocą sprzętowych akceleratorów sztucznej inteligencji, takich jak rdzenie Tensor. Pozwala to wykorzystać potężną wydajność kart graficznych RTX bezpośrednio w przeglądarkach. Udoskonalenia te zostały stworzone w oparciu o wiodącą na świecie platformę NVIDIA AI, która przyspiesza już ponad 500 aplikacji i gier na ponad 100 milionach komputerów i stacji roboczych RTX AI na całym świecie. Co więcej, te nowe możliwości zapewniają deweloperom pełny dostęp do mocy akceleracji RTX AI za pośrednictwem standardowych bibliotek i interfejsów API firmy Microsoft, co jeszcze bardziej obniża bariery dla rozwoju i wdrażania sztucznej inteligencji w aplikacjach Windows.

NVIDIA angażuje się w ciągłe doskonalenie swoich technologii i wspieranie deweloperów, aby umożliwić im tworzenie jeszcze lepszych i bardziej zaawansowanych aplikacji wykorzystujących sztuczną inteligencję. Dzięki temu użytkownicy mogą cieszyć się jeszcze lepszymi efektami wizualnymi i wydajnością w swoich ulubionych grach i programach.

Zobacz co słychać w świecie rozrywki na

Szymon Góraj

Zastępca redaktora naczelnego