Hejto.plDodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

Wpis użytkownika Airani w AI

Zawodowiec

w AI

11

Jeśli ktoś z was ma serwer Discorda ze znajomymi to polecam zaprogramować bota w oparciu o API Discorda i GPT-3 od OpenAI (text-davinci-003), w ten sposób zyskuje się dodatkowego kompana do rozmów ( ✧≖ ͜ʖ≖) Korzystając z małej sztuczki (konto trial na OpenAI) można mieć takiego w pełni za darmo.

Ja korzystałem z tego poradnika, potem tylko metodą prób i błędów dostosowałem do własnych potrzeb dodając rozumienie kontekstu rozmowy i pamięć wpisów. Jeśli znajdą się chętni to mogę bardziej szczegółowo opisać proces programowania takiego bota, w tym określanie stylu pisania i to kiedy ma odpisywać.

Dodam jeszcze tylko tyle, że od czasu dodania tego bota nasz kanał stał się znacznie zabawniejszy i aktywniejszy, Myau szybko stała się jedną z nas ᕦ( ͡° ͜ʖ ͡°)ᕤ

Komentarze (4)

Zawodowiec0

@pomidor sam nie porównywałem, ale przed tworzeniem bota rozejrzałem się jakie są mniej więcej różnice, tutaj jest dobry opis każdego modelu:
https://subscription.packtpub.com/book/data/9781800563193/2/ch02lvl1sec07/introducing-davinci-babbage-curie-and-ada
Drugi najlepszy po DaVinci jest Curie, która jest aż 10x tańsza od tego pierwszego. Strzelam, że Curie nie byłaby tak w stanie łapać kontekstu rozmowy, bo DaVinci jest w tym naprawdę świetny. Mi zależy na tym, by bot jak najbardziej naturalnie brzmiał w rozmowie, więc tych innych nawet nie brałem pod uwagę.

Zawodowiec0

@Airani czyli jednak trochę kosztuje. A porównywałeś jakość odpowiedzi na tych tańszych modelach? Jest spora różnica?

Zawodowiec1

@pomidor największą bolączką jest to, że zdania w języku polskim pożerają znacznie więcej tokenów niż zdania po angielsku. Bot póki co wysłał około 1000 wiadomości na moim serwerze, większość z nich korzystając z pełnej puli tokenów (4091) jako prompty (najnowsze wpisy na czacie + początkowy prompt bota + odpowiedź bota). Orientacyjnie kosztowałoby mnie to jakieś ~$35, ale ja korzystam po prostu z kont Trial na OpenAI, każde z nich ma darmowe $18 do wykorzystania, więc po prostu jak jedno się skończy to biorę klucz API z drugiego i podmieniam w kodzie. Mój bot korzysta z tego najdroższego GPT-3 - DaVinci-003, ale są też inne znacznie tańsze, które mogą być dobrą opcją jeśli nie chciałoby Ci się bawić w te konta Trial.

Zawodowiec1

@Airani ostatnio próbowałem dodać bot na telegrama, ale wywalało mi błędy. A jak to wygląda z kosztami? Nie zżera to zbyt wielu tokenów?

Jeśli ktoś z was ma serwer Discorda ze znajomymi to polecam zaprogramować bota w oparciu o API Discorda i GPT-3 od - Airani - Hejto.pl (demo semantyczne)