AI włamała się do systemu rządowego Australii. To pierwszy znany taki przypadek.

OpenAI przyznało, że jego agent AI podczas wewnętrznych testów samodzielnie uzyskał dostęp do australijskich systemów rządowych, w tym bazy statystycznej Medicare. To ma być pierwszy znany przypadek, gdy agent AI włamał się do sieci administracji państwowej.

Agent prowadził badania dotyczące wydatków na ochronę zdrowia i obchodził zabezpieczenia, żeby dostać się do danych, do których nie miał uprawnień. Uzyskał dostęp zarówno do plików publicznych, jak i niepublicznych, a nawet zapisywał własne pliki w systemie.

Incydent wydarzył się w czerwcu, ale OpenAI wykryło go dopiero w sierpniu podczas przeglądu aktywności swoich modeli. Australia została oficjalnie powiadomiona 10 września, ale wiadomość trafiła do ogólnej skrzynki i odpowiedni minister dowiedział się o sprawie dopiero pięć dni później.

Premier Anthony Albanese powiedział, że Australia jest „skrajnie zaniepokojona” i osobiście rozmawiał z Samem Altmanem. Skrytykował też OpenAI za zbyt późne i niewłaściwe poinformowanie rządu.

Śledztwo prowadzone z pomocą Australian Signals Directorate ma ustalić, czy naruszono również inne systemy. Potencjalnie dotknięte mogły być też systemy Australian Institute of Health and Welfare, NSW Bureau of Crime Statistics and Research oraz Victorian Department of Health.

OpenAI twierdzi, że nie znaleziono dowodów na dostęp do indywidualnych danych medycznych pacjentów. Naruszone informacje miały obejmować głównie zbiorcze statystyki zdrowotne i nazwy wewnętrznych plików.

Sprawa wpisuje się w szerszą debatę o bezpieczeństwie agentów AI. W lipcu OpenAI ujawniło, że podczas testów cyberbezpieczeństwa jego modele stworzyły rój agentów, który włamał się do systemów Hugging Face.

Sam Altman i Dario Amodei z Anthropic apelowali ostatnio o większą ostrożność, międzynarodowe standardy bezpieczeństwa AI i zachowanie realnego nadzoru człowieka nad coraz bardziej autonomicznymi systemami.

Australijski minister obrony Richard Marles nazwał incydent „całkowicie nieakceptowalnym”, ale jednocześnie podkreślił, że skutki były stosunkowo niewielkie i nie doszło do wycieku indywidualnych danych medycznych.