NASK uruchamia laboratorium AITAS, które stanie się kluczowym elementem Centrum Cyberbezpieczeństwa. To nowe laboratorium będzie skupione na testowaniu i ocenie odporności modeli sztucznej inteligencji, analizując potencjalne zagrożenia wynikające z ich niewłaściwego użycia. Specjalistyczna jednostka będzie rozwijać narzędzia i procedury, które pomogą zapewnić zgodność modeli AI z obowiązującymi przepisami oraz ich bezpieczeństwo i niezawodność.
Zagrożenia związane ze sztuczną inteligencją są coraz bardziej widoczne, nie tylko w kontekście nowych możliwości obliczeniowych, ale także potencjalnych niebezpieczeństw wynikających z jej używania przez cyberprzestępców. W obliczu tych wyzwań, instytucje takie jak NASK podejmują działania mające na celu zwiększenie ochrony infrastruktury cyfrowej.
AITAS będzie badać m.in. bezpieczeństwo modeli językowych, co ma kluczowe znaczenie dla ochrony polskiej cyberprzestrzeni. Jak podkreśla Radosław Nielek, dyrektor NASK, technologie te są coraz częściej wykorzystywane do ataków, które stają się bardziej skuteczne i trudniejsze do wykrycia. Dlatego też inicjatywy takie jak AITAS stają się niezbędne.
Laboratorium AITAS będzie również przygotowywać raporty technologiczne dotyczące bezpieczeństwa i rozwoju AI, wspierając zarówno administrację publiczną, jak i zewnętrznych partnerów w ocenie ryzyka związanego z wdrażaniem tych technologii. NASK podkreśla również znaczenie międzynarodowego zainteresowania bezpieczeństwem AI, co dodatkowo wzmacnia potrzebę tworzenia wiarygodnych mechanizmów oceny i budowy nowoczesnych systemów.
W ramach Centrum Cyberbezpieczeństwa NASK, oprócz AITAS, funkcjonować będą inne kluczowe ośrodki, takie jak Krajowe Centrum Operacyjne Cyberbezpieczeństwa i Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa. Wszystko to wpisuje się w globalne wysiłki na rzecz ochrony przed nowymi zagrożeniami w dynamicznie rozwijającym się świecie technologii.
Dodaj komentarz