Wesprzyj nas i przeglądaj Hejto bez reklam

Zostań Patronem
Sztuczna inteligencja, a zapotrzebowanie na energię, którą konsumuje, aby odpowiadać na nasze pytania...

Na przykład modele GPT są trenowane na ogromnych zbiorach danych, co wymaga tysięcy układów GPU/TPU przez tygodnie lub nawet miesiące. Co ciekawe OpenAI nie podaje oficjalnych danych na temat zużycia energii dla GPT-4, ale dla wcześniejszych modeli istnieją takie oto szacunki: GPT-3 (175 miliardów parametrów) zużył około 1285 MWh energii elektrycznej, co odpowiada rocznej konsumpcji energii przez kilkaset gospodarstw domowych, natomiast GPT-4 jest bardziej złożony, więc prawdopodobnie zużył kilka razy więcej energii. Zużycie energii zależy od liczby użytkowników i skali obliczeń.

Niektóre szacunki wskazują, że pojedyncze zapytanie do modelu GPT-3 zużywa około 0,4 Wh – 10 Wh, w zależności od złożoności odpowiedzi. Przy miliardach zapytań miesięcznie globalne zużycie energii może sięgać tysięcy megawatogodzin (MWh) miesięcznie.

Google szacuje, że jedno wyszukiwanie w ich wyszukiwarce zużywa około 0,3 Wh, a AI, takie jak GPT-4, zużywa znacznie więcej energii na jedno zapytanie niż klasyczne wyszukiwanie Google.

GPT-4 może pochłonąć tysiące megawatogodzin energii. Codzienna praca AI wymaga potężnych centrów danych i zużywa znacznie więcej energii niż klasyczne wyszukiwarki, a więc AI staje się coraz bardziej energochłonne, co budzi niepokój o zasoby energii i pytania o jej pozyskiwanie, bo powinna mieć wpływ na zrównoważony rozwój i środowisko. Jak będzie? Czas pokaże...

#sztucznainteligencja #chatgpt #gemini #deepseek
8e655e56-43ca-41ba-b551-459abf41ba98
2

Komentarze (2)

to nie pierwszy raz jak widzę takie dywagacje. Problem jest o tyle śmieszny, że gdyby był to system rozproszony (np. selfhosted LLM) to nikt nawet by tego pytania nie zadał. Więcej energii byśmy zapszczędzili gdybyśmy usunęli tryb standby z telewizorów. Google zużywa 0.3Wh na jedno zapytanie a ile na zbieranie danych, ich analizę, web scraping i parę innych rzeczy? Nie bronię openai (i z nich nie korzystam) bo jako firma są tragiczni. Bronię technologii, która każdego dnia dodaje mi sporo czasu, który mogę poświęcić na coś innego.

@mortt na samym początku policzono, ile potrzeba energii na wysłanie maila. Wyszło, że trzeba spalić coś ok. 0.5kg węgla czy coś takiego. Pamiętam, że jak krypto było modne to też ktoś policzył, że ta impreza przepala tyle prądu, co średniej wielkości państwo. Tak więc tak, zawsze ktoś dawał jebanie o to. Psy szczekają, karawana jedzie dalej.

Zaloguj się aby komentować