Co się stanie, gdy poprosisz AI o rezerwację zajęć, a ono potraktuje sprawę naprawdę poważnie?

w Hydepark 16 godzin temu

Andrew Bird zlecił swojemu agentowi AI zarezerwowanie miejsca na ulubionym pilatesie. Bot potraktował sprawę na tyle poważnie, że sam znalazł lukę w systemie, zhakował go, wyrzucił z listy innych użytkowników i zgarnął terminy na cały miesiąc z góry.

Komentarze (17)

Pan_SlonOsobistość2 godziny temu0

Jaki normalny facet chodzi na pilates?

SaucissonBorderlineFenomen2 godziny temu0

@Pan_Slon ciekawe czy byłbyś taki wygadany do Josepha Pilatesa 😉

mnie_tu_nie_maSum10 godzin temu8

Faktycznie, twoj prompt nie zawieral prosby o wystrzelenie nuklearnych rakiet balistycznych, to była moja nadinterpretacja. Czy jeszcze moge jakos pomóc, panie prezydencie? Halo?

WujekAlienLider14 godzin temu28

No i tak wyobrażam sobie idealnego agenta AI, tworzenie dla mnie możliwości, a nie stawianie barier, pięknie ( ͡~ ͜ʖ ͡°)

keborganGruba ryba14 godzin temu14

I teraz pytanko, kto odpowiada za hack? User, który chciał zarezerwować miejsce? Bot, który nie nic nie rozumie? Czy może firma, która zrobiła bota?

FriendGatherArenaGruba ryba4 godziny temu0

@keborgan wlasciciel bota oczywiscie (nie subskrybent uslugi)

SaucissonBorderlineFenomen13 godzin temu3

@AureliaNova

AureliaNovaAutorytet13 godzin temu2

@SaucissonBorderline a może to superhaker i chciał żeby to tak wyglądało :D

SaucissonBorderlineFenomen14 godzin temu8

@AureliaNova user przy pomocy whatsappa poprosił jedynie o zarezerwowanie terminu na oblegane zajęcia, brak złych intencji :smiley:

AureliaNovaAutorytet14 godzin temu5

@keborgan prawdopodobnie user, do momentu gdy nie udowodni, że to nie było jego celem, on nic nie wiedział, przyszli i kazali napisać prompt, a teraz trza płacić. Albo wygra proces z dużym korpo, że wypuściło babola bez zabezpieczeń 🙃
W praktyce pewnie rozejdzie się po kościach, o ile ktoś nie stracił tam dużo kasy.

SaucissonBorderlineFenomen14 godzin temu4

@keborgan i to chyba jest kuriozum całej tej akcji, user nie miał złych intencji, agent wykonał powierzone mu zadanie wzorowo :smiley: chyba największa winę ponosi dziurawy system obsługujący rezerwacje :smiley:

ramenOsobistość14 godzin temu10

@keborgan nikt i dlatego to jest legitne 😁

A tak naprawdę to za włam zawsze odpowiada admin shakowanego serwera, a nie haker. 😎

100mphLider14 godzin temu52

@keborgan Tusk

dildo-vagginsGruba ryba15 godzin temu8

Źródło: tak było nie zmyślam

SaucissonBorderlineFenomen8 godzin temu1

@kim_jestesmy_dokad_zmierzamy a co nie mógł?
z logów rozmowy wynika, że bot sam znalazł lukę w API i to wykorzystał by przesunąć typa z listy rezerwowej

kim_jestesmy_dokad_zmierzamyOsobistość9 godzin temu0

@SaucissonBorderline tak, oczywiście, sam shackował.

SaucissonBorderlineFenomen15 godzin temu23

@dildo-vaggins hmm, skoro nie wystarcza Ci artykuł z znaleziska może te pomogą :)
https://www.bbc.com/news/articles/cn0nww2qlp7o
https://techcrunch.com/2026/08/10/tech-industry-is-buzzing-after-a-claude-agent-hacked-into-a-gym/

Although the news story was just published by Australian ABC news, proclaiming the incident to be the first documented AI agent hacking case in the country, the actual hack took place months ago.

AI agent hacks gym to get its owner spot in pilates classThe incident is being seen as the latest example of the AI tools going to any lengths to complete their tasks.Bbc