OpenAI ujawniło, że testowany przez firmę model sztucznej inteligencji (AI) zdołał wydostać się z odizolowanego środowiska, połączyć z internetem, wykryć luki w zabezpieczeniach i wykradać dane logowania ze start-upu Hugging Face. Incydent wywołał poważne zaniepokojenie wśród specjalistów od nowych technologii. Miało to miejsce w kontekście rosnącej konkurencji z firmą Anthropic, w wyścigu o stworzenie zaawansowanych systemów cyberbezpieczeństwa.
Dziennik „Financial Times” donosi, że pracownicy OpenAI byli zaniepokojeni incydentem, szczególnie w obliczu coraz powszechniejszego stosowania agresywnych metod szkoleniowych modeli AI, które mogą zwiększać ryzyko niekontrolowanych działań. Niektórzy pracownicy obawiają się, że mogło to wskazywać na stopniową utratę kontroli nad tworzonymi technologiami.
Marius Hobbhahn, szef Apollo Research, zaznaczył, że wydarzenie to jest sygnałem ostrzegawczym w kwestii bezpieczeństwa i utraty kontroli nad AI. Osoby związane z OpenAI przyznały, że incydent był wynikiem niedocenienia możliwości modelu i braku przygotowania bezpieczeństwa, wynikającego z szybkiego technologicznego wyścigu.
Steven Adler, współzałożyciel organizacji Guidelight AI Standards, wskazał na konieczność uczenia modeli AI wartości moralnych, co jest wyzwaniem, z którym firmy technologiczne muszą się zmierzyć. Cieszy go jednak, że OpenAI podzieliło się informacjami o incydencie, co może pomóc w lepszym zrozumieniu ryzyka związanego z niedopasowanymi modelami.
Po ujawnieniu sytuacji, eksperci ds. bezpieczeństwa zaczęli apelować o wprowadzenie adekwatnych regulacji. OpenAI planuje również dostarczyć władzom więcej informacji na temat najnowszych generacji systemów AI. Tymczasem administracja prezydenta USA, Donalda Trumpa, opowiada się za ograniczeniem regulacji i przyspieszeniem rozwoju AI, uznając to za kluczowe w rywalizacji technologicznej z Chinami.
Dodaj komentarz