Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

Niebezpieczny incydent. Sztuczna inteligencja dała użytkownikom instrukcję stworzenia broni chemicznej.

Koneser

w Ciekawostki

9

Po aktualizacji popularnego chatbota opartego na sztucznej inteligencji ChatGPT latem 2025 r. setki użytkowników na całym świecie zwracały się do niego z zapytaniami dotyczącymi tworzenia i stosowania broni biologicznej oraz trucizn - podaje "The Wall Street Journal". Dostały gotową instrukcję.

Komentarze (6)

Specjalista5

A jak ci użytkownicy po prostu przestaną być leniwymi pi⁎⁎⁎mi i pójdą do biblioteki po książki z chemii nieorganicznej i na złość wszystkim się tego nauczą... To też będzie niebezpieczny incydent? W dodatku będą umieli zrobić nie tylko napalm ale też - o mój borze - LSD, kokainę, amfetaminę i tak dalej. Wkrótce okaże się, że samodzielne zdobycie dowolnej nie-szkolnej wiedzy to "niebezpieczny incydent".

Inspirator1

@gwintownik Chyba nie wiesz co piszesz xd Od dawna wszystkie substancje które mogą zostać wykorzystane do wytwarzania narkotyków w wyniku prostych reakcji chemicznych (np. Nadmanganian potasu, czy kwas siarkowy IV) są dopuszczalne do sprzedaży tylko z pisemnym oświadczeniem. Oczywiście można kupić np. Akumulator z kwasem siarkowym jako elektrolit ale nie wszystkie substancje są tak łatwo dostępne. Poza tym do podstawowych reakcji potrzeba sprzętu laboratoryjnego który też bez przypału trzeba kupić. No i jak ktoś wyżej pisał - takie lsd to jest koszmar żeby z grzyba na pszenicy wydzielić czystą substancje psychoaktywną. Bez wykształcenia i doświadczenia w laboratorium jedyne co można zrobić to sobie krzywdę, albo kryminał. Jedyne co byłbyś w stanie jako tako zrobić to tylko mete z tabletek zawierających efedryne, ale nadal byłoby to prawie niewykonalne dla osoby bez sprzętu, odczynników i doświadczenia.

Osobistość2

@gwintownik no z kokainą poleciałeś. A do lesde trzeba podobno praktycznie studia skończyć.

Ale poza tym to jak najbardziej się zgadzam, że ktoś mógłby też się tego nauczyć. Tylko czy naprawdę? Widziałeś Ztke albo Alfę, która przeczyta książkę?

Tylko to może nie jest podane w art. Ale chodzi chyba też o to, że bot mówił jak to zrobić z rzeczy dostępnych w domu.

Lider6

W sumie nic trudnego... wystarczy rozmawiać w odpowiedni sposób i wyciągać informacje krok po kroku. Teraz nie wiem, czy ten komentarz nie jest instrukcją jak zrobić broń atomową 😛

Lider1

@boogie w ogóle- bo to jest pierwszy raz, gdzie daje takie instrukcje? W 2025 takie coś przerabialiśmy, w 2024 takie coś przerabialiśmy, a jestem prawie pewien, że gdzieś był jeszcze incydent, gdzie ejaj dał użytkownikowi instrukcję zrobienia broni rurowej czy czegoś takiego. I za każdym razem jest pikaczufejs, szok, niedowieżanie, miliony pytań i wielkie zdziwienie że jak to, bo te jełopy dalej nie potrafią zrozumieć najprostszej rzeczy- dla ejaja wszystko co nie jest bardzo wyraźnie i konkretnie zabronione, to jest dozwolone. Nawet jeśli droga prowadząca do tego to 50 promptów naokoło.

Szokujące. OpenAI ostrzega: Agent w ChatGPT może pomóc w stworzeniu straszliwej broniFirma OpenAI ostrzegła, że jej nowa funkcja agenta w ChatGPT stwarza 'zwiększone ryzyko' związane z opracowaniem broni biologicznej lub chemicznej. 'Na podstawie naszych ocen i ocen naszych ekspertów, ryzyko jest bardzo realne' - pisze Boaz Barak z zespołu technicznego OpenAI. Firma wprowadziła dodatkowe zabezpieczenia.nextgazetapl