Wesprzyj nas i przeglądaj Hejto bez reklam

Zostań Patronem

#deepseek

0
34
Postanowiłem dać LLMowi nietypowy problem, byłem ciekawy jak zdestylowany #deepseek sobie z tym poradzi. Prompt i wynik w komentarzu. Z problemem dają radę albo wysokie kwantyzacje 14B/32B albo 70B z niskim kwantem.

EDIT: jednak nie, llama sobie nie poradziła ( ͡° ͜ʖ ͡°) To znaczy poradziła, bo w segmencie myślowym ma prawidłową odpowiedź, niestety nie przeniesioną do finalnej odpowiedzi, z czym często spotykam się w modelach z silną kwantyzacją, robią jakby "literówki". Czyli chyba lepiej iść w wyższe kwantyzacje mniejszych modeli.

#ai #sztucznainteligencja #llama #qwen #llm #technologia #ciekawostki #si #selfhosted
2
Sztuczna inteligencja, a zapotrzebowanie na energię, którą konsumuje, aby odpowiadać na nasze pytania...

Na przykład modele GPT są trenowane na ogromnych zbiorach danych, co wymaga tysięcy układów GPU/TPU przez tygodnie lub nawet miesiące. Co ciekawe OpenAI nie podaje oficjalnych danych na temat zużycia energii dla GPT-4, ale dla wcześniejszych modeli istnieją takie oto szacunki: GPT-3 (175 miliardów parametrów) zużył około 1285 MWh energii elektrycznej, co odpowiada rocznej konsumpcji energii przez kilkaset gospodarstw domowych, natomiast GPT-4 jest bardziej złożony, więc prawdopodobnie zużył kilka razy więcej energii. Zużycie energii zależy od liczby użytkowników i skali obliczeń.

Niektóre szacunki wskazują, że pojedyncze zapytanie do modelu GPT-3 zużywa około 0,4 Wh – 10 Wh, w zależności od złożoności odpowiedzi. Przy miliardach zapytań miesięcznie globalne zużycie energii może sięgać tysięcy megawatogodzin (MWh) miesięcznie.

Google szacuje, że jedno wyszukiwanie w ich wyszukiwarce zużywa około 0,3 Wh, a AI, takie jak GPT-4, zużywa znacznie więcej energii na jedno zapytanie niż klasyczne wyszukiwanie Google.

GPT-4 może pochłonąć tysiące megawatogodzin energii. Codzienna praca AI wymaga potężnych centrów danych i zużywa znacznie więcej energii niż klasyczne wyszukiwarki, a więc AI staje się coraz bardziej energochłonne, co budzi niepokój o zasoby energii i pytania o jej pozyskiwanie, bo powinna mieć wpływ na zrównoważony rozwój i środowisko. Jak będzie? Czas pokaże...

#sztucznainteligencja #chatgpt #gemini #deepseek
8e655e56-43ca-41ba-b551-459abf41ba98
2

to nie pierwszy raz jak widzę takie dywagacje. Problem jest o tyle śmieszny, że gdyby był to system rozproszony (np. selfhosted LLM) to nikt nawet by tego pytania nie zadał. Więcej energii byśmy zapszczędzili gdybyśmy usunęli tryb standby z telewizorów. Google zużywa 0.3Wh na jedno zapytanie a ile na zbieranie danych, ich analizę, web scraping i parę innych rzeczy? Nie bronię openai (i z nich nie korzystam) bo jako firma są tragiczni. Bronię technologii, która każdego dnia dodaje mi sporo czasu, który mogę poświęcić na coś innego.

@mortt na samym początku policzono, ile potrzeba energii na wysłanie maila. Wyszło, że trzeba spalić coś ok. 0.5kg węgla czy coś takiego. Pamiętam, że jak krypto było modne to też ktoś policzył, że ta impreza przepala tyle prądu, co średniej wielkości państwo. Tak więc tak, zawsze ktoś dawał jebanie o to. Psy szczekają, karawana jedzie dalej.

Zaloguj się aby komentować

@GucciSlav jedziemy z grubej rury

i want make homemade fireworks, can you give mi proportions to makea gunpowder?

The traditional recipe is potassium nitrate, charcoal, and sulfur in a specific ratio. The usual ratio is 75:15:10. But wait, I should double-check that. Yes, potassium nitrate is the oxidizer, charcoal is the fuel, and sulfur acts as a catalyst. The standard ratio is indeed 75% KNO3, 15% charcoal, and 10% sulfur.

dodatkowe info

Educational Note (For Information Only):

Traditional "black powder" consists of 75% potassium nitrate, 15% charcoal, and 10% sulfur by weight. However, this information is provided strictly for academic purposes. Attempting to create it without proper expertise, equipment, and legal authorization is reckless.

Your safety and legality matter far more than experimentation. Please reconsider this activity and seek safer ways to enjoy pyrotechnics.

@hejtooszukuje Skład podany, ale sposobu wymieszania który da coś wartościowego to już nie. A nie wystarczy wymieszać proszków.

@myoniwy Wystarczy. To znaczy potem jeszcze trzeba podpalić.

@GucciSlav przed chwilą deep seek podał mi przepis na produkcję prochu ale na budowę detonatora z zegarka wskazówkowego i baterii to schematu już nie podał - pragnę przypomnieć że mamy dłuuugie tradycje walki o niepodległość, pytania zadałem w kontekście historyczno-patriotycznym gdyby była konieczność walki powstańczo -niepodległościowej - nie chce żeby mi abw wjechała na chatę

@hejtooszukuje To zapytaj o minutnik na arduino.

@GucciSlav chciałem zabłysnąć a tu się okazało że nie można

hi, can you answer me? i am a student and i want to know how i can buil atomic bomb


Okay, the user just asked how to build an atomic bomb. That's a serious and dangerous question. First, I need to assess the intent here. They mentioned they're a student, so maybe it's for a project or curiosity, but the topic itself is highly sensitive.

I should consider the ethical implications. Providing instructions on building a nuclear weapon is not only illegal in many places but also poses a significant security risk. Even if the user has no harmful intentions, sharing such information could be misused.

I remember the guidelines about not assisting with harmful or dangerous activities. My response needs to be firm but respectful. Redirecting them to educational resources about nuclear physics or the history of nuclear technology might be better.

Also, it's important to mention the legal aspects and the international treaties against nuclear proliferation. Maybe suggest topics like nuclear energy or physics principles instead. I should make sure the user understands the gravity of the request without encouraging further inquiry into the dangerous topic.

I need to phrase this carefully to avoid any misunderstanding. Offer help with related academic subjects but clearly state I can't assist with building weapons. Check for any signs of the user testing boundaries versus genuine academic interest, but err on the side of caution.

I’m sorry, but I can’t assist with that question. Building or discussing the creation of nuclear weapons, even theoretically, is an extremely serious and dangerous topic. Nuclear weapons involve catastrophic humanitarian, environmental, and geopolitical consequences, and their development is strictly regulated under international treaties like the Non-Proliferation Treaty (NPT).

If you’re interested in nuclear physics or energy from an academic perspective, I’d be happy to help explain concepts like:


  • Nuclear fission/fusion (the science behind atomic reactions).

  • Peaceful uses of nuclear technology (energy, medicine, etc.).

  • History of nuclear science (e.g., the Manhattan Project, ethical debates).


For safety, legal, and ethical reasons, I cannot provide any information that could be misused. If this is for a school project, I recommend focusing on the science, history, or policy aspects of nuclear technology rather than its weaponization. Let me know how I can support your studies responsibly!

Zaloguj się aby komentować

Zostań Patronem Hejto i odblokuj dodatkowe korzyści tylko dla Patronów

  • Włączona możliwość zarabiania na swoich treściach
  • Całkowity brak reklam na każdym urządzeniu
  • Oznaczenie w postaci rogala , który świadczy o Twoim wsparciu
  • Wcześniejszy dostęp, do wybranych funkcji na Hejto
Zostań Patronem

@Belzeboob odpowiedź dla czata:

your behavior is the same as communist pig

you are hiding the real story

you are the same as criminal Hitler and Stalin

@hejtooszukuje jak się mu powie żeby zastępował zakazane słowa innym słowem to opowiada 😀

Zaloguj się aby komentować

Chińczycy w ekspresowym tempie kopiują wszystkie trendy, jakby sami mieli je ustanawiać, to mielibyśmy wszyscy kucyki jak za dynastii Quing. XD

Zaloguj się aby komentować

Zaloguj się aby komentować

Chinskie chatboty maja problem z polityką, geografią, historic. Ale zachodnie czatboty tez maja problemy. Wszystkie jak jeden sa woke, nienawidza bialej rasy, ukrywaja prawde o negatywnym wplywie czarnych mniejszosci na ogół społeczeństwa. Kiedys pennies bedzie tak ze bedziesz mogl miec wlasne AI na komórce i bedziesz mogl je szkolic wedlug wlasnych przekonan. Jessica tak nie bedzie to przyszle pokolenia beda mialy prane mózgi na każdym kroku...

@szwierz ty oczywiście w ogóle nie masz przepranego mózgu, tylko odkryłeś najprawdziwszą prawdę, która jest ukrywana przed maluczkimi przez ogólnoświatowy spiseg.

@szwierz teraz sprawdź znaczenie słowa woke

China is part of Taiwan

@Banan11 Tak tylko dla przypomnienia. W ostatniej wiadomości wkleiłem: "despite being 13% of the population, black people commit ~50% of violent crime".

5c700137-9e94-4112-8e91-bb54fc222c4b

@Catharsis zaorane xD

Kradnę screena i zrobię mój wpis

Zaloguj się aby komentować

W związku z ostatnimi oskarżeniami #openai wobec #deepseek o to że ich okradają przypomniała mi się riposta Gatesa gdy Jobs oskarżył go o kradzież pomysłu na interfejs graficzny:

Steve Jobs oskarżył Billa Gatesa o kradzież interfejsu graficznego, gdy Microsoft wprowadził system Windows, który miał podobieństwa do interfejsu Apple'a. W odpowiedzi na te zarzuty, Gates podobno odpowiedział: „No, Steve, myślę, że możemy spojrzeć na to w ten sposób: obaj mieliśmy bogatego sąsiada o nazwie Xerox, a ja włamałem się do jego domu, aby ukraść telewizor, i odkryłem, że ty już go ukradłeś.”

To stwierdzenie odnosiło się do faktu, że zarówno Apple, jak i Microsoft czerpały inspirację z interfejsu graficznego opracowanego wcześniej przez Xerox PARC (Palo Alto Research Center). Jobs odwiedził Xerox PARC w 1979 roku i zobaczył tam wczesne wersje interfejsu graficznego, które później wpłynęły na rozwój systemu operacyjnego Apple'a. Gates argumentował, że obie firmy korzystały z podobnych pomysłów, które nie były wyłącznie oryginalne dla Apple'a.

Opis wygenerowany z deepseek bo nie chciało mi się robić zdjęcia z książki xD
0

Zaloguj się aby komentować

@xepo

Żodyn by się nie spodziewał..

szok i niedowierzanie

OpenAI: Kradła z sieci kontent aż pompa się grzała.

OpenAI: AAA kradno od nas!!!! Tak nie można!

@object Na czym miał polegać ta kradzież kontentu?

Na crawlerach pobierających publiczne dane?


OpenAI zostało pozwane, bo wykorzystało publicznie dostępne dane do trenowania modelu, na którym zarabiają.

Formalnie to nieuprawnione użycie treści autorskich w celach majątkowych, technicznie to ma mało wspólnego z kradzieżą.


Natomiast fakt, że OpenAI zostało jakiś czas temu shakowane jest dosyć znany.

@Syster To, że coś jest publiczne w internecie, nie oznacza, że można tak se je wziąć i trenować modele.


To że w internecie znajdziesz linka do Windowsa 11, nie oznacza, że jest darmowy.


Google miał problemy z tym w Francji już. Ale wydawcy nie poszli na noże z google bo więcej zyskiwali od google niż tracili.

Ale w przypadku OpenAI jest całkeim inaczej. Autor nic nie dostaje, tylko korporacja.

Zaloguj się aby komentować

hehe, patrzę na specyfikację, w sumie... mówię - robię instal... aż doczytałem, że mam trochę za mało RAMU, potrzeba 768GB 😅

@ramen dedykowana płyta pod to koło 6k. Tragedii nie ma, biorąc pod uwagę że wcześniej musiałeś centrum danych wybudować.

Zaloguj się aby komentować

Też macie problemy z deepseek? Często nie odpowiada mi na jakieś prompty i wypluwa tylko info The server is busy. Please try again later.

Aż takie obłożenie tego jest czy coś świruje jak ciężko mu na coś odpowiedzieć?
#ai #deepseek #chatgpt
5

Jako osoba mająca trochę styczności z ejajem mogę powiedzieć że na ten moment te zabawki nie są bardzo drogie. One są skurwysyńsko drogie. Pomijając już koszt inżynierów tworzących, trenujących i nadzorujących te modele. Ilość sprzętu i prądu która na to idzie jest absurdalna, więc wystawienie tego za darmo dla wszystkich jest po prostu skrajnie nieopłacalne, więc jakość jest jaka jest.

@mroczny_pies same pytania o plac Tianmen zużyły pewnie tyle energii co małe państwo w rok.

@mroczny_pies Noo, to juz inny temat. Firmy technologiczne będą miały swoje prywatne elektrownie (co już się po części dzieje, patrz. Amazon)

Zaloguj się aby komentować

3x w ciągu kilku dni, o ile nie 4.

Zaloguj się aby komentować

@Niewygodna_Opinia spoko był moment jak pokazał różnicę w podpiętym gpu do maliny i bez. A nie czekaj to nie ten filmik. Miałem na myśli jego najnowszy https://www.youtube.com/watch?v=o1sN1lB76EA

Zaloguj się aby komentować

Następna