W ciągu ostatnich kilku miesięcy firmy takie jak Microsoft, Google, OpenAI i NVIDIA trafiały na pierwsze strony gazet za swoje wysiłki na rzecz rozwoju AI. Jedna z największych firm technologicznych, Amazon, również próbuje włączyć się gry.
CNBC donosi, że dział Amazon Web Services (AWS) pracuje nad dwoma niestandardowymi chipami – Inferentia i Trainium. Mają one rywalizować z tymi wyprodukowanymi przez firmę NVIDIA, czyli układami Grace Hopper do trenowania dużych modeli językowych. AWS nie jest obce tworzenie niestandardowych chipów. Zaczęło się 10 lat temu od Nitro, a Amazon twierdzi, że obecnie w każdym serwerze AWS znajduje się co najmniej jeden taki chip.
Amazon wyraźnie ma ochotę na część tortu AI
Jest to rozwiązanie firmy, które ma dać klientom możliwość trenowania generatywnej sztucznej inteligencji LLM na serwerach AWS, z chipami stworzonymi przez Amazon, bez konieczności korzystania ze sprzętu opartego na rozwiązaniach NVIDII.
Amazon twierdzi, że jedną z największych zalet jest to, że ich usługa jest już używana przez miliony klientów, którzy są przyzwyczajeni do serwerów i ich narzędzi. Mai-Lan Tomsen Bukovec, wiceprezes ds. technologii w AWS, stwierdziła:
To kwestia prędkości. To, jak szybko te firmy mogą przejść do opracowywania tych generatywnych aplikacji sztucznej inteligencji, wynika z tego, że najpierw zaczynają od danych, które mają w AWS i korzystają z narzędzi obliczeniowych i uczenia maszynowego, które zapewniamy.
Mai-Lan Tomsen Bukovec
Podczas gdy Amazon próbuje stworzyć własne chipy do szkolenia LLM, wykorzystuje również niektóre układy NVIDII do tego samego celu w swoich serwerach AWS. W lipcu ogłosił, że instancje Amazon EC2 P5 są dostępne dla użytkowników tej usługi. Serwery te są zasilane przez procesory graficzne NVIDIA H100.
Amazon oświadczył CNBC, że „ponad 100 000” jego klientów korzysta z AWS do uczenia maszynowego. Chociaż jest to tylko ułamek ogólnej bazy użytkowników tej usługi, coraz więcej z nich może zacząć korzystać z rozwiązania Amazon, ponieważ generatywna sztuczna inteligencja rozszerza się na więcej branż.
Najnowsze Komentarze