Ile energii potrzebuje CrankGPT do działania?

Rozpoznawanie mowy wymaga około 8 watów, a pełna funkcjonalność (model językowy + synteza mowy) wymaga około 15 watów. Energia pochodzi wyłącznie z ręcznego korbki generatora.

Jakie modele AI wykorzystuje CrankGPT?

Urządzenie korzysta z Moonshine ASR do rozpoznawania mowy, Silero VAD do wykrywania aktywności głosowej, mniejszych modeli w llama.cpp do generowania odpowiedzi oraz Piper do syntezy mowy.

Dlaczego CrankGPT nie łączy się z chmurą?

Wszystkie komponenty działają lokalnie na Raspberry Pi, co minimalizuje pobór energii i opóźnienia. Połączenie z usługami chmurowymi wymagałoby znacznie więcej mocy i byłoby niemożliwe bez stabilnego zasilania sieciowego.

Jak rozwiązano problem niestabilnego napięcia z generatora?

Zespół zaprojektował niestandardową płytkę kondensatora, która działa jak zbiornik energii, wygładza wahania napięcia i dostarcza zmagazynowaną energię podczas przerw w rozruchu.

CrankGPT: sztuczna inteligencja napędzana korbką ręczną

Q: Dla kogo może być przydatny CrankGPT?

Urządzenie ma potencjał dla osób w obszarach bez dostępu do stabilnego zasilania elektrycznego, podczas awarii prądu, na wyprawach lub w sytuacjach nadzwyczajnych wymagających asystenta AI.

Squeez Labs stworzył CrankGPT — urządzenie z AI zasilane wyłącznie korbką ręczną.

CrankGPT to asystent sztucznej inteligencji zasilany wyłącznie ręczną korbką, który pokazuje, że zaawansowana technologia AI może funkcjonować nawet w warunkach ekstremalnego ograniczenia energii. Projekt zespołu Squeez Labs stanowi odpowiedź na rosnące koszty energetyczne związane z uruchamianiem dużych modeli językowych i generatorów obrazów.

Problem energetyczny sztucznej inteligencji

Współczesne modele AI pochłaniają ogromne ilości energii elektrycznej. Trenowanie i uruchamianie zaawansowanych systemów wymaga zasilania z dużych serwerów, co generuje znaczące koszty operacyjne dla firm. OpenAI i inne producenci usług AI rozważają obniżki cen, ale fundamentalny problem pozostaje nierozwiązany. Szukanie alternatywnych źródeł zasilania i bardziej wydajnych algorytmów staje się kluczowym wyzwaniem dla branży.

Squeez Labs postanowiła podejść do problemu inaczej. Zamiast czekać na przełomy technologiczne, zespół zademonstrował, że możliwe jest uruchomienie funkcjonalnego asystenta AI z minimalnym poborem mocy — zasilając go wyłącznie energią z ręcznego generatora.

Jak działa CrankGPT

Urządzenie opiera się na Raspberry Pi 5 wyposażonym w 8 GB pamięci RAM i wentylator chłodzący. Komputer podłączony jest do mikrofonowego modułu HAT Seeed Studio ReSpeaker, umożliwiającego całkowicie głosową interakcję z systemem. Użytkownik mówi do mikrofonu, a asystent AI odpowiada mową syntetyczną — bez konieczności dotykania ekranu czy klawiatury.

Klucz do sukcesu leży w wyborze odpowiednich komponentów oprogramowania. Zamiast polegać na usługach chmurowych (które wymagają połączenia internetowego i znacznie więcej energii), wszystkie procesy przetwarzania danych odbywają się lokalnie na Raspberry Pi.

Architektura oprogramowania

Każdy element systemu został wybrany z myślą o minimalnym zużyciu energii:

Komponent	Funkcja	Narzędzie
Rozpoznawanie mowy	Konwersja audio na tekst	Moonshine ASR
Detekcja aktywności	Wykrywanie, kiedy użytkownik mówi	Silero VAD
Generowanie odpowiedzi	Tworzenie tekstu odpowiedzi	llama.cpp (małe modele)
Synteza mowy	Konwersja tekstu na mowę	Piper

Moonshine ASR obsługuje rozpoznawanie mowy z niskim opóźnieniem, Silero VAD efektywnie wykrywa aktywność głosową, a llama.cpp pozwala uruchamiać mniejsze modele językowe bez nadmiernego obciążenia procesora. Piper został wybrany do syntezy mowy, ponieważ syntetyzuje mowę znacznie szybciej niż konkurencyjne rozwiązania — odpowiedzi są przesyłane strumieniowo zdanie po zdaniu, co pozwala urządzeniu zacząć mówić, zanim zostanie wygenerowana cała odpowiedź.

System korzysta z ograniczonej instalacji DietPi, która minimalizuje czas rozruchu i zużycie zasobów. Oprogramowanie zostało napisane specjalnie z myślą o działaniu z niskim opóźnieniem na skromnym sprzęcie.

Wyzwanie: stabilizacja napięcia

Największym technicznym wyzwaniem okazało się utrzymanie stabilnego zasilania. Rozpoznawanie mowy wymaga około 8 watów mocy, podczas gdy jednoczesne uruchamianie modelu językowego i modułu przetwarzania tekstu na mowę wymaga około 15 watów. Generator z korbką ręczną nie dostarcza stałego napięcia — skoki prądu podczas kręcenia korbką powodowały, że obwody zabezpieczające generatora się aktywowały, prowadząc do spadków napięcia, które mogły wyłączyć system.

Zespół rozwiązał ten problem, projektując niestandardową płytkę kondensatora działającą jak tymczasowy zbiornik energii. Kondensatory gromadzą energię elektryczną i mogą ją szybko oddawać, gdy napięcie spada. To rozwiązanie wygładza wahania napięcia i dostarcza wystarczającej ilości zmagazynowanej energii, aby utrzymać działanie systemu podczas krótkich przerw w rozruchu korbki.

Co to oznacza dla przyszłości AI

CrankGPT nie rozwiąże globalnego problemu energetycznego sztucznej inteligencji. Jednak projekt demonstruje kilka ważnych rzeczy. Po pierwsze, pokazuje, że zaawansowana funkcjonalność AI może działać na urządzeniach o bardzo ograniczonych zasobach, jeśli odpowiednio wybierze się modele i algorytmy. Po drugie, dowodzi, że lokalne przetwarzanie danych (edge AI) może być bardziej efektywne energetycznie niż poleganie na usługach chmurowych.

Dla praktycznych zastosowań CrankGPT może być przydatny w obszarach bez dostępu do stabilnego zasilania elektrycznego, podczas awarii prądu, na wyprawach naukowych, w działaniach humanitarnych lub w sytuacjach nadzwyczajnych. Pokazuje również, że innowacje w AI nie zawsze wymagają większych mocy obliczeniowych — czasami wystarczy bardziej kreatywne podejście do problemu.

Projekt Squeez Labs stanowi inspirację dla inżynierów i projektantów szukających sposobów na zmniejszenie śladu energetycznego sztucznej inteligencji. W miarę jak AI staje się coraz bardziej wszechobecna, takie rozwiązania mogą odgrywać ważną rolę w zapewnieniu dostępu do technologii dla wszystkich, niezależnie od infrastruktury energetycznej dostępnej w ich regionie.