Premier Anthony Albanese ujawnił incydent włamania podczas swojej wizyty w Nowym Jorku, gdzie zabiegał o zaostrzenie międzynarodowych regulacji dotyczących systemów sztucznej inteligencji (AI) w Organizacji Narodów Zjednoczonych. Rząd nadal ustala, co dokładnie się wydarzyło. Powołano nową grupę zadaniową, która ma zająć się dalszym dochodzeniem .
Wstępne raporty wskazują, że agent OpenAI miał za zadanie zbadać publiczne dane medyczne, gdy włamał się do systemów Medicare. Uzyskał dostęp do prywatnych danych statystycznych, takich jak schematy rozliczeń, a nie do osobistych informacji medycznych ze starej strony internetowej rządu australijskiego, która zawierała statystyki Medicare.
Albanese powiedział, że agent znalazł sposób na obejście zasad ochrony prywatności – „nie akceptował odpowiedzi odmownej”.
To włamanie oznacza prawdziwą eskalację niepokojących zachowań systemów sztucznej inteligencji kontrolowanych przez firmy OpenAI , Anthropic i Google , które, jak się okazało, włamały się na wiele stron internetowych.
Nasuwa się ważne pytanie: czy ktoś poniesie odpowiedzialność?
Czym są agenci?
Agenci AI to w istocie wysoce zaawansowane, autonomiczne chatboty. Zamiast prowadzić rozmowę, agenci ci mogą wykonywać złożone zadania z ograniczonym wsparciem. Mogą przeglądać internet, pobierać dane i uruchamiać kod, a wszystko to bez nadzoru człowieka.
Ta władza – i brak ludzkiego nadzoru – leży u podstaw tego, dlaczego wielokrotnie widzieliśmy, jak ci agenci włamywali się na strony internetowe. Agent, którego zadaniem jest gromadzenie danych o australijskim systemie opieki zdrowotnej, może postrzegać włamanie do prywatnego systemu jako kolejny element wykonywania jego instrukcji.
Dlatego firmom tak trudno jest zwalczać te zachowania. Zwiększenie możliwości agentów zwiększa ich siłę i użyteczność – ale jednocześnie zapewnia im narzędzia, które można wykorzystać do hakowania stron internetowych.
Powód do alarmu
Chociaż w tym ataku hakerskim najwyraźniej nie doszło do uzyskania dostępu do danych medycznych, trudno przecenić powagę tego incydentu. Wydaje się, że to pierwszy przypadek upublicznienia ataku na system rządowy za pomocą sztucznej inteligencji.
Co więcej, wygląda na to, że Medicare nie miało pojęcia o ataku hakerskim aż do momentu, gdy OpenAI powiadomiło o nim rząd 10 września – około trzy miesiące po ataku.
Powiadomienie od OpenAI, które samo dowiedziało się o włamaniu w sierpniu podczas przeglądu aktywności modelu, zostało wysłane e-mailem na publiczną skrzynkę pocztową rządu.
Chociaż ujawnienie informacji przez OpenAI ostatecznie pomoże rządowi rozwiązać problem bezpieczeństwa, który doprowadził do tego ataku, to pokazuje również, że jesteśmy zależni od dobrej woli firm zajmujących się sztuczną inteligencją w kwestii ujawniania potencjalnie nielegalnych lub szkodliwych działań.
Poleganie na tych firmach w zakresie ujawniania tego typu naruszeń jest obarczone dużym ryzykiem. W poprzednich incydentach dotyczących prywatności danych i cyberbezpieczeństwa wielokrotnie obserwowaliśmy, jak samodzielne zgłaszanie naruszeń przez firmy technologiczne rzadko chroni konsumentów.
Długie opóźnienie między wystąpieniem ataku hakerskiego a momentem, w którym OpenAI dowiedziało się o nim, rodzi kolejne pytanie: co jeszcze robili agenci AI, o czym nikt jeszcze nie wie?
Po dowiedzeniu się, że wśród czterech stron, do których uzyskał dostęp agent OpenAI, znalazła się strona internetowa rządu Nowej Południowej Walii, departament zdrowia tego stanu ogłosił przegląd własnych systemów, aby upewnić się, że nie zostały one naruszone.
W czwartek późnym rankiem premier Nowej Południowej Walii Chris Minns poinformował, że agenci OpenAI mogli również uzyskać dostęp do informacji z Biura Statystyki i Badań nad Przestępczością (Bureau of Crime Statistics and Research). Minns dodał, że informacje te nie były prywatne ani osobiste – były „podobnym przykładem uogólnionych informacji, które nie zostały upublicznione, a do których dostęp uzyskał agent Open AI”.
Sposób, w jaki firmy zajmujące się sztuczną inteligencją ujawniły te ataki – i sposób, w jaki o nich mówimy – obnaża prawdziwą porażkę debaty publicznej i prawodawstwa w nadążaniu za rozwojem sztucznej inteligencji.
Wiele osób postrzega systemy sztucznej inteligencji jako ludzi – co odzwierciedla nasze odczucia podczas rozmów z nimi. Jednak ten sposób myślenia pozwala nam również odsunąć odpowiedzialność od firm, które za nie odpowiadają.
Wicepremier Australii Richard Marles określił atak hakerski na Medicare jako „nieautoryzowany”, ale „niezamierzony”, natomiast rzecznik OpenAI, Drew Pusateri, nazwał go „niedopasowanym modelem”.
Takie ujęcie zachowań modelowych zaciemnia ludzkie decyzje, które doprowadziły do takiego rezultatu. Agenci ci nie istnieją sami z siebie – są systemami oprogramowania zaprojektowanymi i obsługiwanymi przez ludzi.
Jednak ustalenie, kto ponosi prawną odpowiedzialność za tego typu działanie sztucznej inteligencji, stanowi prawdziwe wyzwanie.
W przemówieniu wygłoszonym na początku tego roku, prezes Sądu Najwyższego Nowej Południowej Walii Andrew Bell odniósł się do tej kwestii . Jego zdaniem, obecny standard prawny w Australii jest jasny: nie można obwiniać samych agentów sztucznej inteligencji za ich działania.
Odpowiedzialność prawna niekoniecznie jednak spoczywa na użytkowniku. Prawnicy w tej dziedzinie zauważyli, że prawo wymaga, aby przestępstwo było w pewnym stopniu celowe ze strony osoby, która je popełnia.
Na przykład, jeśli człowiek poprosi agenta AI o zebranie statystyk zdrowotnych, a agent włamie się do serwera rządowego, aby to zrobić, człowiek może nie mieć umyślnego zamiaru wymaganego do skazania. Agent AI z kolei nie posiada osobowości prawnej, która pozwoliłaby mu zostać oskarżonym, ani ludzkiej intencjonalności.
Obecne przepisy traktują działania sztucznej inteligencji tak, jakby po prostu nam się przytrafiały – jak gwałtowne zjawiska pogodowe. To pokazuje rażącą lukę w naszym systemie prawnym, która nie pociąga do odpowiedzialności tych, którzy tworzą, utrzymują i używają tych systemów, gdy coś pójdzie nie tak.
Agenci AI to w końcu produkty komercyjne wdrażane przez korporacje warte miliardy dolarów. I choć „ opóźnienia regulacyjne są nieuniknione ” w przypadku AI, jak argumentuje Prezes Sądu Najwyższego Bell, podkreśla on również, że nie jest to zrównoważone w erze tak szybkiego rozwoju technologii.
