Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

AmebcioFenomen

Dołączył/a:

  • 346 wpisów
  • 1906 komentarzy
  • 13 obserwujących

Fenomen

w AI

12piorunów

Ciekawa sprawa: Pojawił się nowy silnik do najnowszego modelu Qwen3.8-flash-next.

Strata, bo taką nazwę nosi ten silnik ma zaskakująco niskie wymagania:

W miarę nowe 12GB GPU na PCIEx16, 64GB RAM, szybki SSD

I teraz bomba: Ten model ma 120 miliardów parametrów. Ponieważ to MoE (mixture of experts), typ który rozwija ten silnik wrzucił najczęściej używanych ekspertów do GPU, a resztę do RAMu, do tego jest dodatkowy model przewidujący trzy kolejne słowa do przodu - silnik ładuje ekspertów do GPU z wyprzedzeniem. dzięki czemu model działa szybko. Mówimy tutaj o ~40tok/s.

Na Screenie mocno wykastrowana wersja modelu zmieszczona na styk w 24GB GPU i 32GB RAM

EDIT: Ważna sprawa, traktujcie to jako wczesną betę. Koleś nie dokończył jeszcze obsługi API zgodnego z OpenAI, więc na razie to jest zabawka a nie praktyczne narzędzie.

Osobistość0piorunów

Te 130k kontekstu to rozumiem zarówno w VRAM jak i RAM?

Osobistość2piorunów

@Amebcio najszybciej na windows możesz sprawdzić to tak:
1. Uruchom menadżer zadań
2. Uruchom model z jakimś bardzo małym kontekstem 5-20k
3. Sprawdź jak podczas uruchamiania modelu wygląda zużycie RAM i VRAM

Jest zasada, że model w pełni odpalany na szybszej pamięci np. GDDR6 w GPU będzie działać szybciej niż model który "wycieka" z GDDR6 do np. DRR5 lub DDR4.
(Model w pełni odpalony = sam model + pamięć na kontekst jest w tym samym rodzaju pamięci)

Można też sprawdzić czy karta graficzna współdzieli jakąś pamięć z RAM (na obrazku: shared memory uwagę) co oznacza właśnie przepełnienie pamięci w GPU i wyciekanie modelu do RAM.

Fenomen0piorunów

@GitHub raz, że jestem pod linuxem, dwa, że tego nie widać bo ten silnik najpierw zapełnia GPU do oporu a potem resztę danych ładuje do RAM. A trzy, że ma funkcję autokalibracji gdzie wykonuje sam kilka bechmarków i testuje wydajność. Więc nawet nie wiem co dokładnie przechowuje w którym miejscu, bo to zależy od wyników testów

Pokaż więcej komentarzy (8)

Fenomen

w Hydepark

22piorunów

Widzę że wszyscy robią wpisy , to ja też dołączę

1. Death Rally - mało kto pewnie pamięta tą grę, ale dla mnie to zawsze będzie małe arcydzieło. Wszystko w tej grze było zaprojektowane świetnie, od koncepcji samochodów walczących na torze po oprawę dźwiękową po miks prostej ale agresywnie działającej ai przeciwników. Nawet animowane ikony menu i samochodów miły magiczną estetykę. Jarałem się za dzieciaka.

2. Fallout 2. Niestety Fallout 1 mi umknął w tamtych czasach jako że kiedy wyszedł wciąż posiadałem mizerne 486DX4 AMD, na którym demo gry wieszało się po kilku sekundach. Fallout 2 w polskiej wersji od CDP był wspaniałym doświadczeniem

3. Doom. Tutaj chyba nie muszę niczego tłumaczyć - gra legenda

4. Worms World Party. Niestety Worms Armageddon mi umknął ale miło wspominam WWP z sesjami gry w kila osób przy kompie.

5. Sim City 3000. Grałem we wszystkie poprzednie odsłony Sim City, ale w tej chyba zbankrutowałem i pogrążyłem w kataklizmach najwięcej miast ze wszystkich części.

6. Counter Strike. Klasyk, wszyscy nastolatkowie w to naparzali, nie byłem żadnym wyjątkiem.

7. Half-Life 2 Kolejna gra-legenda, komentarz zbędny

8. Wiedzmin 3 - jw

9. Nier: Automata - to jest dosyć unikalny przypadek. Nie jestem jakimś wielkim fanem japońskich gier, a zakup tejże produkcji był kolosalnym zbiegiem okoliczności. Czarodziej który stworzył translację API DirectX 11 do otwartego Vulkana w celu odpalania gier pod linuxem miał postać z tej gry ustawioną jako awatar na githubie. Coś musiało być na rzeczy skoro taki geniusz jest fanem. Więc kupiłem w ciemno. I potem żałowałem że mogę przejść tą grę po raz pierwszy tylko raz. Technicznie gra jest za Wieśkiem na wszystkich płaszczyznach, ale artystycznie jest IMO niesamowita.

Gruba ryba2piorunów

@Amebcio death rally okrutnie wciągało. Jak piszesz, estetyka gry była niepowtarzalna... ostatnio na yt jakiś gość streamował jak ciśnie w te gierkę, od zera do bohatera. Siedziałem po nocy że 2h, razem z resztą widowni (5 osób może) I się sliniłem jak dziecko

Pokaż więcej komentarzy (4)

Fenomen

w Gry

24piorunów

No i przeszedłem Death Stranding. Ależ to jest mindfuck fabularny.

Komponent kooperacyjny gdzie struktura ma szansę pojawić się w rozgrywkach innych graczy to bardzo fajny pomysł

Zbudowałem wszystkie segmenty autostrady idącej przez całą mapę, zebrałem masę lajków od innych graczy, rozdałem masę laików innym graczom.

Czasami niektóre elementy gry się dłużą (czasami cut scenki, czasami piesze wędrówki) , Kojima ma zapędy do bycia reżyserem filmowym. Ogólnie solidna gra, ale nie arcydzieło.

Bardzo miło się gra na Steam Controller BTW, polecam tylko wyłączyć w opcjach Steam dla tej gry przyciski na spodzie pada. (Zbyt łatwo można je wcisnąć przez przypadek)

Pokaż więcej komentarzy (4)

Fenomen

w Gry

13piorunów

No i co? Kupują!

Druga oferta to jakiś kosmos a i tak znalazł się chętny idiota

Osobistość2piorunów

Te nowe jak widziałem to były podpięte pod zły produkt, pod tego starego pada. No ale tak, pokurczów nie brakuje xD

Pokaż więcej komentarzy (8)

Fenomen

w Hydepark

13piorunów

No i już scalperzy sprzedają na allegro

Osobistość2piorunów

Ta druga oferta ma wysyłkę za 44 dni, w opisie aukcji ma tylko że "allegro blokuje linki". No i jacyś debile już kupili xD

Fanatyk4piorunów

@Amebcio zastanawiam się co w nim takiego specjalnego, że ludzie tak się rzucili? W czym jest lepszy od np. padów od ps5, xbox?

Fenomen0piorunów

@Stashqo Też mnie to dziwi. Ja go chce ze względu na współpracę z linuxem. Co siedzi w głowach pozostałych 95% ludzi mających Windowsa to nie ja nie wiem

Pokaż więcej komentarzy (15)

Fenomen

w Hydepark

11piorunów

Wyprzedał się po 3 godzinach...

Fanatyk1piorunów

jak dla mnie za daleko gałki ale może zdjęcie kłamie

Fanatyk2piorunów

@Hoszin tam fajnie że jedna i nie tak daleko tak mi się wydaje i całkiem fajnie się grało.

PS wysłałem do serwisu dual sense bo dryf i od razu wymiana na te lepsze gałki .

Pokaż więcej komentarzy (7)

Fenomen

w Hydepark

11piorunów

Ot taka mała aktualizacja

Edit: Swoją drogą widzę tu małego buga: W linuksie rozmiar liter ma znaczenie, system nie powinien przyjąć małego 't' jako akceptacji działań

Sum10piorunów

@Amebcio a ta duża litera to nie oznacza może po prostu domyślnej akcji, tzn. która opcja zostanie wybrana jak naciśniesz Enter bez podawania żadnej litery?

Autorytet3piorunów

@Amebcio w Linuxie tylko przy krytycznych akcjach rozmiar ma znaczenie - wtedy też musisz wpisać całą komendę (jak usunięcie systemowych paczek przez Linusa z LTT :P). Tutaj to tylko leniwa forma zaznaczenia, że domyślna jest akceptacja (tak jak wspomniał @psalek).

Osobistość5piorunów

@Amebcio To czy przyjmuje małe "t" jako akceptacje czy nie to jest wyłącznie decyzja osoby która napisała ten program, w tym wypadku pacmana a nie całego systemu operacyjnego. I to jest zrobione dla wygody po prostu, komu by się chciało pisać duże T. W ogóle nie musiałeś nic pisać i mogłeś dać Enter i też by przeszło btw bo jak ktoś napisał wyżej, dużą literą w tym wypadku oznacza się domyślną akcje. I wydawało mi się, że to jest standardem lol bo w wielu programach takie coś widzę.

Pokaż więcej komentarzy (11)

Fenomen

w Hydepark

6piorunów

Co ten Capcom...

https://www.youtube.com/shorts/2HATm-XCRBE

Zawodowiec4piorunów

Mnie bawi sprucie się graczy o tą grę :smiley: Dualizm jest niepojęty - z jednej strony GTA czy DOOM "tO TyLk0 GrA!!!", a z drugiej strony mała dziewczynka jako android to pdfy.

Fenomen1piorunów

@sk4ndal Moim zdaniem to wręcz self-reporting. Kiedy taki pruje się że dziecko=pdf kontent to na dysku pewnie ma brudy.

Bo nikt normalny by tego tak nie skojarzył

Pokaż więcej komentarzy (2)

Fenomen

w Hydepark

11piorunów

Jezu Chryste.

Rozmiary rysunków bez opisów długości boków są w matmie bez znaczenia. Czego oni uczą tych dzieciaków w stanach...

Wątek na reddicie https://old.reddit.com/r/mildlyinfuriating/comments/1stl0op/my_nieces_homework_problem/

Autorytet3piorunów

@Amebcio Sądząc po punktacji za zadanie, to test wielokrotnego wyboru z punktami ujemnymi, dość typowe dla USA. Bo tu wszystkie odpowiedzi są poprawne.

No albo nauczyciel ma gwóźdź w głowie, widziałem takie kwiatki z podstawówek w PL na Facebooku :P

Edit: Nevermind, komentarze wskazują jednak na wypadek z pistoletem do gwoździ u autora tego zadania XD

Fenomen

w Hydepark

4piorunów

[ENG] Dlaczego Sora od OpenAI upadła?

Koszt generowania klipów wideo przy pomocy AI był 10x większy niż przychody generowane przez użytkowników platformy, dodatkowo OpenAI zostało pozwane przez wytwórnie filmowe o naruszenia praw autorskich, wymuszając wdrożenie cenzury w modelu. 99% użytkowników zrezygnowało z używania Sory po czym

Fenomen

w NSFW

14piorunów

Jako że jest bardzo zimno, wrzucam coś na rozgrzewkę

<--- Czarnolistuj jak cycki AI nie pasują

Pokaż więcej komentarzy (6)

Fenomen

w Hydepark

182piorunów

Po 5 latach prowadzenia aplikacji pogodowej, IMGW zabrało mu dane

Pozwolę sobie przekleić treść posta na reddicie o tym co ta chora instytucja bezprawnie odwala: Cześć, przychodzimy do was ze sprawą dla nas dość ważną i w naszej opinii wartej nagłośnienia. Treść jest słowami Marka Zięby, twórcy aplikacji o której mowa. “No więc tak jak w tytule - przez ponad 5 lat

Fenomen

w Hydepark

17piorunów

Ciekawostka. Grok od elona muska posiada osobną stronę na której można robić prywatne obrazki.

...Tylko że nie są one wcale prywatne. Google indeksuje całą stronę grok.com/imagine.

Jeśli wpiszecie w Google site:grok.com/imagine pojawią się randomowe obrazki i filmiki zrobione przez użytkowników.

Taguję i bo Bóg wie co tam znajdziecie

GURU1piorunów

Xddd syto ale jakos nic mega hard

Pokaż więcej komentarzy (6)