Cuda od Nvidii pomogą nie tylko programistom w rozwijaniu sztucznych inteligencji

Nowa wersja CUDA, oznaczona numerem 7.5, nie przynosi zmian takdużych, jak można byłoby oczekiwać po zmianie numeracji. To przedewszystkim położenie fundamentów pod wsparcie danychzmiennoprzecinkowych o połowicznej precyzji (FP16), wykorzystywanychgłównie tam, gdzie wyższa precyzja nie jest potrzebna (głównie wprzetwarzaniu obrazu). Zastępując nimi dane zapisane za pomocąliczb całkowitych, można zachować więcej detali związanych zcieniowaniem – a jednocześnie zużyć o połowę mniej pamięci iprzepustowości, niż dla danych o pojedynczej precyzji.

Wprowadzona przez Nvidię do frameworka CUDA obsługa FP16 pozwalaprzede wszystkim zmniejszyć obciążenie pamięci, a co za tymprzechowywać większe zbiory danych w RAM karty graficznej. Dostępnyjest też tryb mieszany, w którym 16-bitowe dane wektorowe sąużywane tam, gdzie dokładność jest mniej istotna, a dane32-bitowe, gdy to precyzja się liczy. Dodatkowo programując naprocesory Tegra X1 można wykorzystać specjalny tryb wysokiejwydajności FP16. Oficjalnie tego nie potwierdzono, ale podejrzewasię, że następcy Maxwelli, czyli GPU z rodziny Pascal, też będądysponowały tym trybem.

Oprócz tych zmian wprowadzono też wsparcie dla profileradziałającego na poziomie instrukcji, tak że programiści będąmogli z dokładnością co do pojedynczej instrukcji wyszukiwaćfragmenty kodu, które spowalniają działanie ich aplikacji.

Druga ważna nowość to wersja 3.0 biblioteki cuDNN,przeznaczonej do sprzętowego przyspieszania operacji siecineuronowych. Podobnie jak w wypadku CUDA 7.5 i tu nastawiono się nawsparcie dla danych FP16, ale też optymalizacje dla procesorówMaxwell, dzięki którym na kartach tych trenowanie sieci ma byćnawet dwa razy wyższe.

Na bazie CUDA i cuDNN działa aplikacja DIGITS, przeznaczona doprowadzenia eksperymentów z sieciami neuronowymi. Do tej pory byłatrudnym i niewdzięcznym narzędziem, sterowanym poprzez interfejs zlinii komend. Druga wersja programu przynosi przeglądarkowyinterfejs, w którym wszystkie operacje można sobie wyklikać.Dzięki temu inżynierowie i uczeni będą mogli po prostu przystąpićdo pracy, zamiast czytać dokumentację bibliotek i męczyć się zlinuksową linią komend. DIGITS2 dostępny jest za darmo dla wszystkich zarejestrowanychdeweloperów CUDA.

Oprócz tego dodano wsparcie dla konfiguracji wieloprocesorowych,szczególnie z myślą o wykorzystaniu na maszynie takiej jak DIGITSDevBox. Jest to potężna stacja robocza z procesorem Corei7-5930K, czterema kartami Titan X i 64 GB RAM, działająca podkontrolą Ubuntu 14.04, z preinstalowanym pakietem oprogramowanianaukowego. Wykorzystanie czterech GPU ma skrócić czas trenowaniasieci neuronowych o połowę.

Uzbrojona w te cuda NVIDIA wyrasta na lidera w dziedzinie technikmaszynowego rozpoznawania obrazu, dźwięku, klasyfikowania obiektów,tłumaczeń, a nawet diagnostyki medycznej. Już dziś firmyzajmujące się motoryzacją mogą kupić za 10 tys. dolarów systemDRIVE PX, który wykorzystując parę procesorów Tegra X1 i układ12 kamer efektywnie rozpoznaje otoczenie i wytycza w nim trasy dlasamoprowadzącego się pojazdu. Zainteresowanych zapraszamy doobejrzenia nagrania spotkania z Mike Houstonem z Nvidii, którywyjaśnia, jak działa DIGITS i jak DRIVE PX jest w stanierozpoznawać niuanse drogowej sytuacji – np. odróżnić furgonetkędostawczą od karetki, czy też dostrzec pieszego częściowozasłoniętego przez inny pojazd.