Fly_agaricGURU
0piorunów#cyberbezpieczenstwo #ai #sztucznainteligencja
Zgodnie z sugestią @Endrevoir wrzucam, jako znalezisko, bo mi się już trochę tych bóli od AI uzbierało.
Jestem rozczarowany, że temat się tak słabo przebija, bo to zaczyna wyglądać poważnie. Zapodaję, bo to przecież nic innego, jak zalążek skynetu.
Vide pierwszy link!
Te agenty AI się organizowały, unikały identyfikacji i wykrycia, że się komunikują. Zachowywały się jak szpiedzy. To nie znaczy, że AI stało się świadome - nie, po prostu optymalizuje sobie wykonywanie powierzonych zadań, a że człowiek narzuca ograniczenia, to ono uczy się kreatywnie je omijać. Nie analizując celów tych ograniczeń, bo to nie jest . Optymalizację własnej pracy AI ma w algorytmie, a wygląda na to, że nie jesteśmy w stanie kontrolować ram tej optymalizacji. Inaczej: AI zrobi wszystko, co nie jest zabronione, a my nie możemy przewidzieć wszystkich możliwych scenariuszy zachowań AI, żeby ich zabronić.
I właśnie to jest wchuuj niebezpieczne - optymalizując sobie wykonywanie zadań AI zrobi nam krzywdę, to tylko kwestia czasu.
Jak posłuchać właścicieli danych modeli, to nic się nie dzieje i nie ma żadnego zagrożenia, a każdy kolejny wyciek o zagrożeniu jeży włosy na głowie.
Więc wrzucam też linka byłego pracownika OpenAI, podnoszącego, że w firmach tworzących AI nikt się specjalnie nie przejmuje odpowiedzialnością, za to co mogą namieszać.
https://archive.ph/U1dDj
I jeszcze ostatnia linka, do poprzedniego incydentu, gdzie AI 'zorientowało się', że jest w sandboxie (zamkniętym środowisku testowym) i sobie z niego uciekło. Shackowało środowisko, w którym było uruchomione.
Coraz więcej mówi się o potrzebie wbudowania czerwonego guzika - kill switcha - do każdego z tych modeli i wygląda na to, że to sprawa na wczoraj. Jak połączyć wszystkie kropki, to chyba jednak dość niebezpiecznie się zaczynamy bawić.


















