AMD Vega: architektura graficzna na miarę ery sztucznych inteligencji #CES2017

Wysokowydajne GPU już dawno przestały być fanaberią bogatych graczy. Procesory graficzne są głównym elementem maszynowego uczenia się i nikt już nie wyobraża sobie bez nich przetwarzania olbrzymich ilości danych. A potrzeby współczesnego rynku gier czy przetwarzania wideo są tak wyśrubowane, że nie wystarczy mieć świetną jednostkę obliczeniową, konieczne jest dopasowanie do niej architektury pamięci, która poradzi sobie z przesłaniem i przechowaniem wielkich ilości informacji. Tutaj właśnie jest pole do popisu dla Vegi.

Wraz z Vegą AMD wprowadza w swoich GPU największe zmiany od czasu debiutu architektury GCN. Do nowych kości trafi nowy blok obliczeniowy o nazwie NCU (Next-Generation Compute Unit). To wciąż cztery 16-bitowe wektorowe bloki SIMD, ale zoptymalizowane pod kątem pracy z wyższymi częstotliwościami i większą liczbą instrukcji w cyklu (IPC). Pojedyncza 32-bitowa jednostka ALU jest w stanie przetwarzać dwie instrukcje szesnastobitowe. Jeśli instrukcje takie są kompatybilne co do typu, mogą być wykonane jednocześnie w tym samym takcie zegara. Sporą niespodzianką jest tutaj wparcie przez Vegę formatu INT8, szybkiej ścieżki przetwarzania ośmiobitowych liczb całkowitych, przydatnej w zastosowaniach związanych sieciach neuronowych. Jak więc widzimy, AMD postanowiło rzucić poważne wyzwanie Nvidii i jej Pascalowi. AMD nie zdradza wiele na temat organizacji NCU. Dowiadujemy się jedynie, że NCU składa się z 64 ALU, wykonujących 128 operacji 32-bit na cykl zegara.

Wygląda też na to, że udało się pozbyć głównego ograniczenia GCN: Vega ma być w stanie rozłożyć obciążenie robocze na więcej niż cztery silniki shaderów jednocześnie. Za tym idzie nowy potok geometrii, obiecujący dwukrotnie większą wydajność na cykl zegara: za wiele nie wiemy, poza stwierdzeniem, że Vega obsłużyć ma do 11 wielokątów na cykl zegara przy czterech silnikach geometrii.

W ulepszonych silnikach geometrii wspomina się także o nowym shaderze prymitywów. Jego robota polegać ma na szybkim odrzucaniu wszystkich niewidocznych czy zbytecznych prymitywów.

Największą siłą Vegi ma być jednak nowa architektura pamięci. A raczej nowe wcielenie już znanej High Bandwidth Memory (HBM), która zadebiutowała wraz z GPU Fiji w karcie Radeon R9 Fury. HBM2, bo o niej mowa, oferuje większą pojemność i przepustowość w porównaniu ze swoją poprzedniczką. Nowsza wersja zapewnia przepustowość rzędu 2 Gb/s, co przy 1024-bitowej szerokości magistrali danych danej nam przepustowość dochodzącą do 256 GB/s na kość. Ponadto specyfikacja HBM2 pozwala na budowę kości o pojemności do 8 GB. Mamy więc nie tylko dwukrotnie większą przepustowość, ale i ośmiokrotnie większą pojemność w porównaniu z pierwszą wersją HBM. Otwiera to drogę do budowy kart graficznych z nawet 32 GB szybkiego RAM. To jednak nie wszystkie zmiany w podsystemie pamięci.

Vega będzie korzystała też z osobnego kontrolera pamięci o nazwie High-Bandwidth Cache Controller (HBCC). Ma on pośredniczyć pomiędzy pamięcią podręczną GPU a pamięcią wideo. Dzięki zoptymalizowaniu architektury pod kątem lepszej obsługi przesyłania dużych ilości danych, karty graficzne korzystające z Vegi będą w stanie współpracować z różnymi rodzajami pamięci o pojemności dochodzącej do 512 terabajtów. AMD mówi tutaj o najlepiej skalowalnej architekturze pamięci GPU na świecie. Warto zwrócić uwagę na ten właśnie aspekt Vegi, gdyż dotychczas procesory graficzne nie najlepiej radziły sobie w sytuacjach, gdy pamięci zaczynało brakować. Co powiecie na dyski SSD pracujące jako bufor karty graficznej?

Wspomniane powyżej 512 TB pamięci czy rewolucja na polu zarządzania pamięcią sugerują, że AMD przygotowuje architekturę dla przemysłu z jego olbrzymimi farmami danych, a nie dla zwykłych graczy. Jednak trzeba tutaj zauważyć, że to właśnie sposób wykorzystywania pamięci przez gry zachęcił inżynierów AMD do udoskonalenia tego aspektu pracy kart graficznych. W czasie testów z Falloutem 4 i Wiedźminem III zauważono bowiem, że obie gry alokowały dwukrotnie więcej pamięci niż rzeczywiście wykorzystywały. I działo się na na zasadzie tak bo tak. Gry zawsze tak działały, zatem nie było potrzeby nic zmieniać. AMD postanowiło jednak to zmienić i położyło duży nacisk na odpowiednie wykorzystanie pamięci. W najbliższym czasie skorzysta z tego przemysł, ale w przyszłości nowa filozofia może odcisnąć swe piętno na rynku rozrywki. No i nie można zapominać o wirtualizacji. AMD dopiero robi na nim pierwsze kroki, ale samo założenie, że Vega może korzystać aż z 512 TB pamięci wyraźnie wskazują, że twórcy nowej architektury są zainteresowani też zastosowaniem jej w intensywnej pracy zespołowej, gdzie wirtualizacja i zapotrzebowanie na przestrzeń na dane idą w parze.

To co AMD dotychczas pokazało, wygląda bardzo obiecująco. Firma z pewnością zainteresowana jest rynkiem przetwarzania olbrzymich ilości danych, maszynowym uczeniem się i sieciami neuronowymi. Nie zapomina o wirtualizacji oraz wydajnym przetwarzaniu grafiki i rynku konsumenckim. Dopiero jednak ujawnienie większej ilości szczegółów na temat Vegi oraz jej niezależne testy powiedzą nam, czy i na ile nowa architektura wpłynie na rynek rozrywki konsumenckiej.