ChatGPT to tylko wierzchołek góry lodowej o nazwie „sztuczna inteligencja”. Branża ta rozwija się niesamowicie szybko. Każdego dnia pojawiają się nowe pomysły, przełomowe rozwiązania – cały świat uczestniczy w wyścigu technologicznym. Jednym z jego efektów jest indywidualizacja pracy z AI. Dlaczego by więc nie mieć własnego, spersonalizowanego chatbota na własne potrzeby? Przecież jak najbardziej jest to możliwe. Naprzeciw oczekiwaniom wychodzi NVIDIA ze swoim ChatRTX.
Jak dzięki NVIDIA rozwija się AI?
W czerwcu tego roku świat obiegła wiadomość, że NVIDIA stała się najwyżej wycenianą firmą na świecie, wyprzedzając takie firmy jak Microsoft i Apple. Nic w tym zaskakującego – to właśnie firma słynąca z produkcji kart graficznych napędza największe usługi AI na świecie i przyczynia się do ich imponującego rozwoju. Procesory graficzne NVIDIA napędzają największego chatbota na świecie, czyli ChatGPT czy wszechstronny generator multimediów Midjourney.
Dlaczego to akurat karty graficzne sprawdzają się lepiej w trenowaniu AI, a nie procesory CPU? Z jednego prostego względu – uczenie sztucznej inteligencji wymaga równoległego działania na wielu płaszczyznach. To właśnie tutaj największy potencjał drzemie w kartach graficznych, a nie w procesorach centralnych, które działają sekwencyjnie. W rewelacyjny sposób wyjaśnia to ponadczasowy krótki filmik z udziałem popularnych „Pogromców Mitów”:
Podstawą szkolenia AI są dane. Same dane jednak nie wystarczą. Potrzeba do tego niezwykle wydajnego sprzętu. Najnowsze karty graficzne NVIDIA GeForce RTX z serii 40 są wyposażone w wyspecjalizowane rdzenie Tensor 4. generacji, które właśnie służą przede wszystkim do obliczeń związanych z AI. Duże modele językowe są trenowane w centrach danych zasilanych kartami graficznymi NVIDIA. Ten sam sprzęt napędza również komputery osobiste, na których można użytkować nowatorski ekosystem RTX AI, z którego w domowym zaciszu skorzysta zarówno programista, jak i codzienny użytkownik.
Mój własny chatbot
NVIDIA to nie tylko sprzęt, ale także oprogramowanie. Karty graficzne z serii 40 to przepustka do zupełnie nowych doświadczeń z AI. Jednym z nich jest usługa ChatRTX. Pozwala ona na spersonalizowanie pod własne potrzeby LLM’a (Large Language Model). Do wyboru są modele różnych firm – Llama 3 od Meta czy Mistral 7B od Mistral AI.
Unikalność chatbota napędzają nasze własne dane na komputerze. Chatbot po zapoznaniu się z nimi, staje się dosłownie osobistym asystentem, który zawarte w plikach treści ma „w jednym palcu”. ChatRTX doskonale orientuje się co znajduje się w danym pliku i bez problemu odpowie na nasze pytania. Wystarczy mu tylko powiedzieć, czego chcemy. Znaleźć dokument zawierający interesującą nas informację, zdjęcie z wakacyjnego wyjazdu, czy pewien szczegół z notatki sporządzonej w trakcie spotkania służbowego – wybór należy do nas. Niezależnie, czy są to dokumenty, arkusze, notatki, obrazy, maile. On sobie z tym poradzi.
Interakcja z moim asystentem przebiega w sprawdzony sposób, znany nam już z ChatGPT. ChatRTX obsługuje nie tylko klasyczne pisanie, ale również automatyczne rozpoznawanie mowy. Łatwość w obsłudze i jego wszechstronność – to dzięki temu ChatRTX okazał się tak pomocny w trakcie pracy. Dając mu dostęp do plików z artykułami, książkami, danymi, a następnie prosząc go o znalezienie interesujących mnie informacji, moja praca stała się szybsza i wygodniejsza. Mój osobisty asystent potrafił znaleźć potrzebne cytaty, daty czy statystyki. ChatRTX pomógł mi także przy wykonywaniu zadań na studia – jego organizacja plików projektów programistycznych zasługuje na pochwałę.
Co wyróżnia produkt NVIDIA od ChatGPT? Przede wszystkim to, że ChatRTX działa lokalnie, na moim komputerze – korzysta z mocy obliczeniowej mojej karty graficznej. Pozwala to na osiąganie zdecydowanie szybszych efektów pracy. Nie polegam na dostępności i sprawności serwerów czy łączu internetowym, a jedynie na moim sprzęcie. To również zaleta w kontekście bezpieczeństwa i prywatności danych, ponieważ są one przechowywane wyłącznie na moim komputerze.
NVIDIA to nie tylko ChatRTX
NVIDIA deklaruje, że z jej karty graficzne osiągają najwyższą wydajność w ponad 600 aplikacjach i grach z akceleracją AI – od nauki przez pracę po rozrywkę. Istotną częścią generatywnej AI są modele służące do tworzenia obrazów i filmów.
Jednym z nich jest interfejs AUTOMATIC1111 – w sam raz dla osób rozpoczynających swoją przygodę z bardziej zaawansowanymi modelami AI. Do jego działania niezbędne jest pobranie sieci neuronowej, którą później dostosujemy według własnych potrzeb i preferencji. Do dyspozycji mamy dziesiątki wtyczek i nakładek, za pomocą których stworzymy nie tylko obrazy, ale także animacje w jakości FullHD. Możliwości personalizacji wyników pracy AI są większe niż w np. DALL-E, który jest dostępny w ramach ChatGPT.
Bardziej zaawansowani użytkownicy mogą sprawdzić ComfyUI. W tym przypadku skonfigurowanie interfejsu trzeba przeprowadzić od samych podstaw. Istnieje jednak możliwość skorzystania z interfejsów tworzonych przez innych użytkowników. Trudno przedstawić dokładną liczbę kombinacji parametrów, które można wykorzystać do tworzenia obrazów i filmów. Potwierdza to, że jedynym ograniczeniem jest właściwie nasza wyobraźnia.
Zaawansowani użytkownicy wyposażeni w karty NVIDIA mogą także skorzystać z Open WebUI. Jest to otwartoźródłowy interfejs, który wyniesie twoje korzystanie z generatywnej AI na zupełnie nowy poziom. Tak jak ChatRTX, może działać całkowicie offline. Dzięki niemu skorzystasz z dowolnego modelu AI, a także stworzysz swojego agenta AI, który jest niczym innym jak oprogramowaniem. Jego wyróżniającą się cechą jest pełni zautomatyzowane wykonywanie zadanej pracy, podejmowanie decyzji i wchodzenie w interakcje z otoczeniem.
Warto także wspomnieć o narzędziu NVIDIA Canvas. Jego możliwości są naprawdę imponujące. Służy ono do generowania fotorealistycznych obrazów i wizualizacji architektonicznych. Nie potrzebujemy żadnej wiedzy programistycznej, czy umiejętności graficznych. Wystarczy, że narysujemy kilka prostych kształtów i linii za pomocą zwykłego pędzla w dedykowanym edytorze graficznym, które przypominają np. morskie wybrzeże. NVIDIA Canvas sama domyśli się o co nam chodzi i zaproponuje różne warianty obrazu. Letni, słoneczny dzień, bezchmurna, gwieździsta noc, a może zachód słońca? Wybór należy niezmiennie do nas. Wyniki pracy AI widzimy w czasie rzeczywistym, więc mamy pełną kontrolę nad tym, co tworzymy.
RTX: The STEM Accelerator
Karty graficzne NVIDIA GeForce RTX z serii 40 to także wydajniejsza praca z wykorzystaniem narzędzi i aplikacji STEM (science, technology, engineering, mathematics). Na przykładzie NVIDIA Canvas widzimy, jak układy te są przystosowane do interaktywnego renderowania w czasie rzeczywistym. Dotyczy to jednak nie tylko zdjęć, ale także projektowania i modelowania 3D. W sam raz dla inżynierów i architektów.
To jednak nie wszystko, ponieważ NVIDIA zapewnia, że jej układy sprawdzą się także w trakcie przetwarzania dużych zestawów danych, szkolenia modeli uczenia maszynowego i sieci neuronowych uczenia głębokiego, przetwarzania języka naturalnego, czy w trakcie pracy z danymi tabelarycznymi. Informatycy, analitycy, czy ekonomiści również znajdą coś dla siebie.
NVIDIA deklaruje, że laptopy wyposażone w układy graficzne NVIDIA GeForce RTX z serii 40 pozwalają na nawet 30 razy szybsze trenowanie modeli AI i 50 razy szybsze szkolenie sieci neuronowych TensorFlow niż laptopy bez takich układów.
Artykuł powstał w ramach współpracy reklamowej z NVIDIA
