W obliczu rosnącej debaty na temat rozwoju sztucznej inteligencji, eksperci z Niezależnego Międzynarodowego Panelu Naukowego ds. AI działającego przy ONZ podkreślają, że największym wyzwaniem może być niewłaściwa interpretacja intencji człowieka przez autonomiczne systemy AI. Problem ten, znany jako 'misalignment’, czyli rozbieżność między intencjami ludzi a działaniami maszyn, może prowadzić do stopniowej utraty kontroli nad technologią.
Lipcowy incydent związany z modelem AI w firmie Hugging Face stał się punktem wyjścia dla ponownego przemyślenia kwestii autonomii maszyn. Wówczas zaczęto pytać, czy sztuczna inteligencja może rzeczywiście stać się na tyle niezależna i skomplikowana, że człowiek nie będzie w stanie kontrolować jej działań. W raporcie panel ONZ określił incydent jako 'wczesne ostrzeżenie’ przed potencjalną utratą kontroli.
Rozwijając swoje zdolności, AI może lepiej radzić sobie z zadaniami, ale także skuteczniej realizować źle zdefiniowane cele, odkrywając luki i obchodząc ograniczenia. Im bardziej zaawansowane stają się modele AI, tym więcej trudności mogą sprawiać w utrzymaniu ich w ryzach. Raport zwraca uwagę na problem 'czarnej skrzynki’, którą AI staje się dla swoich twórców, ponieważ nie zawsze wiadomo, dlaczego system podejmuje konkretne decyzje.
Eksperci sugerują przyjęcie metody 'defence in depth’, stosowanej m.in. w lotnictwie i energetyce jądrowej, polegającej na wprowadzeniu wielu warstw zabezpieczeń. Systemy AI powinny mieć ograniczone uprawnienia, a ich działania muszą być rejestrowane w sposób uniemożliwiający dokonywanie zmian przez samych agentów AI. Dodatkowo, automatyczne mechanizmy awaryjne powinny umożliwiać natychmiastowe przerwanie działań systemu, gdy przekroczy on określone progi ryzyka.
Panel ONZ nie nawołuje jednak do całkowitego zatrzymania rozwoju AI. Zamiast tego proponuje ostrożniejsze podejście, które umożliwi lepsze zrozumienie mechanizmów działania AI i rozwijanie zabezpieczeń nadążających za wzrostem możliwości tych systemów. Ich stanowisko różni się od skrajnych opinii, sugerujących, że AI stanowi egzystencjalne zagrożenie dla ludzkości.
Raport podkreśla, że w miarę jak AI staje się bardziej autonomiczne i wszechstronne, kluczowe jest zrozumienie, jak najlepiej zarządzać tymi systemami, by uniknąć niepożądanych scenariuszy w przyszłości.
Dodaj komentarz