Jeśli wiesz co robisz to wcale nie potrzebujesz najnowszej karty graficznej by móc korzystać ze sztucznej inteligencji. Wystarczy nawet przedpotopowa konsola do gier.
Na platformie X (daw. Twitter) użytkownik Andrei David pochwalił się niecodziennym osiągnięciem: uruchomił model sztucznej inteligencji oparty na Llama 2 (dokładniej llama2.c) na blisko 20-letniej konsoli Microsoft Xbox 360. Mimo iż urządzenie ma już sporo na karku a moc obliczeniowa wydaje sie śmiesznie niska, David wykorzystał specjalny bootloader i wykonał prostą instrukcję, demonstrując działanie AI w praktyce.
To kolejny krok w stronę udostępnia narzędzi AI każdemu
Inspiracją do eksperymentu był sukces grupy EXO Lab, której udało się wcześniej uruchomić Llamę na komputerze z Windows 98 i procesorem Pentium II. Okazało się jednak, że przeniesienie kodu na Xbox 360 wymagało dodatkowej optymalizacji i dostosowania do architektury PowerPC oraz charakterystycznych dla niej sposobów zarządzania pamięcią.
Jedną z istotnych różnic między PowerPC a Intel Pentium II jest podejście do tzw. endianness. Procesor PowerPC preferuje przechowywanie najważniejszej wartości w pierwszej kolejności (big-endian), podczas gdy Pentium II postępuje dokładnie odwrotnie (little-endian). W konsekwencji, oprócz standardowych modyfikacji kodu, należało też wprowadzić odpowiednie mechanizmy „byte-swappingu” i zadbać o 128-bajtowe wyrównanie danych.
Kolejne wyzwanie wiązało się ze zunifikowaną pamięcią. Choć współczesne układy często korzystają z takiego rozwiązania, w momencie premiery Xboksa 360 było to nowatorskie podejście. Urządzenie miało 512 MB RAM-u współdzielonego między CPU i GPU, co wymagało precyzyjnego zarządzania zasobami, by zmieścić 60-megabajtowy model LLM.
W komentarzach ktoś zauważył, że 512 MB pamięci konsoli w zupełności wystarczy do uruchomienia m.in. Hugging Face SmolLM czy 4-bitowego modelu 0.5B Qwen2.5. David odpowiedział krótko: „Challenge accepted! :)” – co oznacza, że możemy spodziewać się kolejnych imponujących eksperymentów z wykorzystaniem Xboxa 360 jako platformy dla AI.
Najnowsze Komentarze