Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

Czy generatory obrazków osiągnęły już szczyt? - Computerphile

Lider

w Sztuczna inteligencja

2piorunów

Maj 2024. Publikacja sugeruje malejące korzyści z coraz większych modeli sztucznej. Dr Mike Pound omawia ten temat.

No "Zero-Shot" Without Exponential Data: Pretraining Concept Frequency Determines Multimodal Model Performance
https://arxiv.org/abs/2404.04125

Komentarze (1)

GURU0piorunów

@Deykun w sumie to typ ma rację.
Wspomina, że modele świetnie odnajdują się w koncepcjach które widziały miliony razy i słabo w tych które były rzadkie w danych trenujących.
Also wielkość modeli, llama 8b nie nadaje się do niczego bo ma wodogłowie i działa na laptopie ale 700b już można pogadać ale na sprzęcie za 1,5mln złotych.
Do następnego kroku potrzeba innej technologii i innej generalizacji pojęć w modelach