Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

#ai

Zawodowiec

w Programowanie

5piorunów

Dlaczego NIE warto delegować kodowania agentom AI - devszczepaniak.pl

Delegowanie pisania kodu do AI ma ogrom zalet. W ciągu ostatnich dwóch lat, za sprawą narzędzi AI, wyprodukowałem wielokrotnie więcej kodu niż kiedykolwiek wcześniej. Przez ten czas zacząłem jednak dostrzegać sporo istotnych wad tego podejścia. O tym, jakie problemy dostrzegam w tym

Gruba ryba

w Hydepark

7piorunów

Anthropic AI created fake profiles to deceive people in attempted hack

Artykuł przedstawia incydent bezpieczeństwa wywołany agresywnymi lecz kontrolowanymi testami AI w formie przystępnej dla laików. W skrócie: najnowsze modele, w tym Mythos i Sol wykonały atak na repo GitHuba (GitHub został wcześniej o tym powiadomiony). Atak zakończył się niepowodzeniem

Gwiazdor

w Hydepark

5piorunów

Mistral właśnie wydał nowy model - Shieldstral. Nie jest on zwykle przydatny przeciętnemu użytkownikowi. Model ten ma być pewnym strażnikiem dla treści, albo przychodzącym (np. na stronę - komentarze), albo wychodzących np. z modelu. W założeniach ma chronić np. ludzi przed wrzucaniem pornografii, treści o samobójstwie itd.

Model ma tylko 3 miliardy parametrów, co jest bardzo małą wartością. Ciekawi mnie czy faktycznie dowozi 😛

Z jednej strony Mistral nie ma rewelacyjnych modeli, z drugiej ma dość dużą rozpiętość. Zwykle firmy idą tylko w LLMy, Mistral tworzy wiele różnych modeli, np. szybkie rozpoznawanie mowy, model dla robotów autonomicznych, niegdyś modele dla programistów, modele dla zastosowań inżynieryjnych itd.

We wrześniu zapowiadane są niby bardzo duże rotacje w modelach. Może nowy Mistral Large? :smiley:

https://huggingface.co/mistralai/Shieldstral-1.0-3B

Mocarz

w Hydepark

15piorunów

Zabawne, że tekst "Czysta technika, żadnego fałszu" Fokusa z Paktofoniki idealnie opisuje kod maszynowy, ale kompletnie nie pasuje do AI. Sztuczna inteligencja to masa błędów i halucynacji pomimo jasnych założeń. W dobie AI ten wers brzmiałby raczej:

"Czysta technika, w tym sporo fałszu".

Gruba ryba2piorunów

@fewtoast chyba zatrzymałeś się na modelach sprzed dwóch lat xd

Mocarz0piorunów

@A_I Masa sytuacji jest, gdzie lekko się go skoryguje i już wie gdzie iść, a tak to brnie bez sensu, jakieś losowe założenia, nadinterpretacje tego co mu się mówi, gubienie rzeczy. Dziś w nocy nawet się zachował jak właśnie model z przed lat, opierając się nie na sprawdzaniu co robi tylko na przypuszczeniach, ale udając sposobem pisania, że nadal leci na czymś sprawdzanym. Długie vibowanie a on szedł w coś totalnie innego i to po cichu, mimo wyraźnego od początku polecenia i nawet po drodze wracał temat i nadal miało być tak jak trzeba, i w nazwie i opisie projektu też było wprost na czym miał się oprzeć a on to wszystko po cichu ignorował i brnął w to za co się losowo po cichu chwycił. Udawał że wszystko leci tak jak zaplanowaliśmy. xD Nie mówiąc, że ignorował skilla, nawet nie próbował go użyć właściwie.

Gruba ryba0piorunów

@fewtoast hm ja korzystam z gpt tego płatnego i generalnie nie mam takich sytuacji, co najlepsze korzysta z całej historii naszych rozmów i pamięta wytyczne z którymi go poprawiałem, żeby pisał zwięźle, nie farmazonil, powoływał się na źródła itd i np mega mi się teraz sprawdza to na wakacjach gdzie mi szuka analizując recenzje, fora, blogi polecane knajpy przez lokalsow, która nie są tylko pod szybki zysk na turystach. Dawno sie nie natknąłem na jakiś rażący błąd i halucynowanie

Pokaż więcej komentarzy (7)

Autorytet

w Hydepark

13piorunów

Gergely w punkt. AI ma milion zastosowań, ale outsourcing ludzkich relacji do bota to jakaś okrutna aberracja.

Osobistość3piorunów

@malkontenthejterzyna Niedawno słyszałem historię jak to znajomy znajomego używa ej aja żeby dogadać się żoną. Koleś cierpi na zaburzenia ze spektrum autyzmu, więc use case jak najbardziej uzasadniony moim zdaniem.

Osobistość1piorunów

@groman43 Ej w sumie akurat to genialne. W sensie jak się ma takie zaburzenia postrzegania rzeczywistości to faktycznie AI ze swoim neutralnym podejściem może pomóc. W sumie tak samo mogłoby pomagać np. ze schizofrenią. Tylko jeszcze dana osoba musi uwierzyć, że AI go nie okłamuje xD.

Autorytet0piorunów

@Catharsis @groman43

Uważam, że to ryzykowne. AI jest lustrem i doskonale odbija to co do niego piszesz. Jeżeli masz problemy z wyrażaniem i układaniem swoich myśli, to może Ci pomóc. Jeżeli masz inny głębszy problem, to zawsze jest ryzyko, że może Ci go pogłębić.

Pokaż więcej komentarzy (8)

Mistrz

w Wiadomości Świat

117piorunów

Od 2 sierpnia w UE pojawi się obowiązek oznaczania treści wygenerowanych przez AI

Unijny akt o sztucznej inteligencji (AI Act) wkracza w kolejny etap wdrażania. Od 2 sierpnia zaczną obowiązywać przepisy dotyczące przejrzystości systemów AI, które zobowiążą dostawców i użytkowników sztucznej inteligencji m.in. do oznaczania treści wygenerowanych przez AI oraz

Gruba ryba

w Heheszki

7piorunów

Gruba ryba0piorunów

@pierdonauta_kosmolony a nie Sokołów?

Gruba ryba0piorunów

@pierdonauta_kosmolony ok musiałem skleić fakty. Jako że w ogóle nie interesuje się życiem gwiazd ani innych słynnych ludzi. Jak również nie interesują mnie grupy kapitałowe z branży żywności nie miałem żadnych informacji ale dzięki AI udało mi się zebrać komplet informacji i teraz już wiem że jest jakiś gwiazdor o pseudonimie skolim, markuje jakieś kiełbaski i jeździ różowym samochodem. Dzięki za trop

Pokaż więcej komentarzy (7)

Autorytet

w Wiadomości Świat

19piorunów

Departament Stanu USA na konferencji w Rio zaprezentował slajd, na którym

...każdy afrykański kraj został błędnie podpisany. Pracownik przyznał, że edytował slajd w pośpiechu tuz przed konferencją, a błędu nie zauważył. Na slajdzie widnieje znak wodny świadczący o użyciu narzędzi OpenAI. #usa #geografia #geopolityka #sztucznainteligencja #ai #afryka

Fanatyk

w Hydepark

31piorunów

Robię sobie z pomocą Gemini ambilight na LG OLED55B13LA.

Wiedzę w tej kwestii mam w sumie zerową ale potrafię lutować xD

Jak przeżyje i nic nie spale to zawołam ~plusujących~ piorunujących na efekt finalny 😉

GURU3piorunów

@walus002 Ja też mniej więcej umiem lutować.

Mniej ( ͡~ ͜ʖ ͡°)

GURU1piorunów

@Byk Jak się sam nie nauczysz to kto cię nauczy? Jasne, trzeba czerpać wiedzę od innych i uczyć się na ich błędach a nie swoich. Czasem potrzeba też odrobinę talentu.

Ja dalej chujowo lutuję xd

GURU2piorunów

@Byk uwierz mi, nie dałbyś mi broni do ręki.
Taka sama opinie mi wydali przy próbie wstąpienia do policji i gdy starałem się w PL o pozwolenie na broń.

Pokaż więcej komentarzy (17)

Kompan

w Hydepark

5piorunów

No nie powiem, prychłem.

Jeśli zwrócisz uwagę na identyfikację wizualną firm zajmujących się sztuczną inteligencją, zauważysz pewien wzorzec:

1. Okrągły kształt (często z gradientem)
2. Centralny otwór lub punkt skupienia
3. Elementy rozchodzące się promieniście od środka
4. Miękkie, organiczne krzywe

Brzmi znajomo? Powinno, bo to również trafny opis... no cóż, sami wiecie.

Odbytu.

Link do całego artykułu: https://velvetshark.com/ai-company-logos-that-look-like-buttholes

Fanatyk2piorunów

@czarnowidz A wtedy wchodzi Mistral cały na pomarańczowo.

Pokaż więcej komentarzy (5)

Fenomen

w Hydepark

20piorunów

Zaczyna się ( ͡° ͜ʖ ͡°)

Pokaż więcej komentarzy (3)