Analitycy wykryli szeroko zakrojoną kampanię Rosji - wykorzystują boty i karmią ChatGPT swoimi treściami

w Hydepark 4 miesiące temu

Analitycy zaobserwowali niepokojące działanie Rosjan, związane z wykorzystaniem narzędzi sztucznej inteligencji, takich jak Chat GPT czy Grok.

- Wszystkie modele językowe AI, np. popularny w Polsce Chat GPT, są sztucznie infekowane. W tej chwili trwa szeroko zakrojona kampania rosyjska w tym zakresie - mówi w rozmowie z Interią Filip Głowacz z Ośrodka Analizy Dezinformacji NASK-PIB.

O co dokładnie chodzi i jaki jest tego cel? - Rosjanie dostosowują swoje strony z informacjami ze swoją narracją, by karmić te modele. Nieraz je multiplikują, np. automatycznie tłumacząc na różne języki, by sztuczna inteligencja odczytywała je jako kolejne odrębne źródła informacji. Dla językowych modeli AI ilość ważniejsza jest niż jakość, więc jeśli 10 stron powie, że coś jest nieprawdą, a sto stron, że jest prawdą - to dana informacja będzie przekazywana jako prawda - wyjaśnia Głowacz.

Komentarze (3)

konrad1Tytan4 miesiące temu4

Cholera ta machina jest już tak potężna że: na socialach latają boty za botam, filmiki już ciężko odróżnić czy to nie ai, pracę ludzie tracą choć to potężny temat, wychodzi że informacje które wypluje si mogą być nie prawdziwe w sposób który będzie ciężko weryfikować, qrwa, albo ta narzędzie dali dla plebsu z jakiegoś powodu albo im się coś pojebało i dali omyłkowo xd

TwojStaryJeSucharyFenomen4 miesiące temu3

@konrad1 nic im się nie pojebało. Nie przemysleli pewnych konsekwencji ale teraz pewnie już są nowe modele biznesowe oparte o chaos jaki powstaje

TwojStaryJeSucharyFenomen4 miesiące temu25

Ha! powinienem zostać jakimś analitykiem :smiley: W 2021 jak się zaczynał boom na AI przy piwie z kumplami powiedziałem, że zatruwanie studni będzie bardzo dobrym atakiem na modele