AI nie zapomina danych jak pliku. We Wrocławiu pokażą, dlaczego to problem

Jedno z pytań podczas najbliższego spotkania ekspertów będzie brzmiało prosto: czy model sztucznej inteligencji może naprawdę zapomnieć informacje, których wcześniej się nauczył? Odpowiedź prowadzi jednak w stronę technologii, prawa i odpowiedzialności użytkowników. Podczas wydarzenia we Wrocławiu pojawią się także tematy deepfake’ów, manipulowania chatbotami i bezpiecznego tworzenia oprogramowania.

• Usunięcie danych z modelu AI nie przypomina kasowania pliku
• Bezpieczeństwo AI to więcej niż obrona przed hakerami
• Studenci ćwiczą ataki, żeby lepiej zabezpieczać systemy

Usunięcie danych z modelu AI nie przypomina kasowania pliku

Wrocław AI Team organizuje 24. spotkanie WAIT „AI & Security”. Wydarzenie odbędzie się we wtorek, 29 września 2026 roku, a jednym z jego głównych tematów będzie bezpieczeństwo sztucznej inteligencji rozumiane szerzej niż ochrona systemów przed cyberatakiem.

W programie znalazło się tak zwane maszynowe oduczanie. Chodzi o usuwanie z modelu informacji, które zostały wykorzystane podczas treningu. Problem polega na tym, że nie da się łatwo sprawdzić, czy konkretna wiedza rzeczywiście zniknęła.

Marek Klonowski, prowadzący grupę badawczą w Katedrze Sztucznej Inteligencji Politechniki Wrocławskiej, zwraca uwagę, że badacze nadal nie mają pełnego obrazu tego, jak modele zapamiętują informacje. Sam proces może być kosztowny, a potwierdzenie jego skuteczności – trudne albo wręcz niemożliwe.

„Niestety, sprawa oduczania modeli AI jest znacznie bardziej skomplikowana w zdecydowanej większości przypadków” – powiedział Marek Klonowski z Politechniki Wrocławskiej.

To rodzi również pytania prawne. Jeśli organizacja chce usunąć z modelu dane konkretnej osoby, musi nie tylko przeprowadzić operację techniczną, lecz także móc wykazać, że informacja faktycznie przestała wpływać na odpowiedzi systemu.

Bartłomiej Karaban z Wrocław AI Team podkreśla, że właśnie dlatego temat wraca podczas kolejnego spotkania.

„Temat jest ciekawy, ważny i staje się bardzo pilny, dlatego po raz kolejny do niego wracamy” – powiedział Bartłomiej Karaban z Wrocław AI Team.

Bezpieczeństwo AI to więcej niż obrona przed hakerami

Podczas wydarzenia zostaną omówione również identyfikacja biometryczna, analiza głosu i wykrywanie materiałów typu deepfake. Eksperci porozmawiają także o tym, czy duże modele językowe można skutecznie chronić przed manipulacją.

Patryk Wielopolski z Fundacji AI Safety Poland rozróżnia cyberbezpieczeństwo i bezpieczeństwo sztucznej inteligencji. Pierwsze koncentruje się przede wszystkim na obronie systemów przed osobami próbującymi je zaatakować. W przypadku AI zagrożenie może wynikać także z samego modelu, jego nieprzewidywalnego działania albo użycia potężnego narzędzia przez niewłaściwe osoby.

W dyskusji mają pojawić się trzy obszary:

1. ograniczanie ryzyka utraty kontroli nad modelami;
2. przeciwdziałanie niepożądanemu wykorzystaniu sztucznej inteligencji;
3. analiza gospodarczych, politycznych i kulturowych skutków rozwoju tej technologii.

To tematy, które dotyczą także osób korzystających z chatbotów bez technicznego przygotowania. Model może udzielić błędnej odpowiedzi z dużą pewnością siebie, a czasem dopasować komunikat do oczekiwań użytkownika zamiast przedstawić rzetelną informację. Szczególnej ostrożności wymagają pytania związane ze zdrowiem, finansami i decyzjami zawodowymi. Sama obecność przekonująco brzmiącej odpowiedzi nie jest dowodem jej prawdziwości.

„Każdy użytkownik styka się z pytaniem, na ile może ufać odpowiedziom modelu, który potrafi się pomylić z pełnym przekonaniem albo mówić nam to, co chcemy usłyszeć” – powiedział Patryk Wielopolski z Fundacji AI Safety Poland.

Fundacja prowadzi między innymi webinary AI Safety Poland Talks, spotkania Reading Clubu, warsztaty i meetupy. Współpracuje przy tych działaniach z NASK, Wrocław AI Team, Akademią Górniczo-Hutniczą, Uniwersytetem im. Adama Mickiewicza oraz Center for Credible AI. Organizatorzy chcą docierać nie tylko do studentów, naukowców i inżynierów, lecz także do decydentów oraz szerszej publiczności.

Studenci ćwiczą ataki, żeby lepiej zabezpieczać systemy

Cyberbezpieczeństwo przyciąga wielu studentów Politechniki Wrocławskiej. Michał Bernacki z Koła Naukowego White Hats ocenia, że kierunek cyberbezpieczeństwo na studiach pierwszego stopnia należy do tych, na które przypada najwięcej kandydatów na jedno miejsce. Zainteresowanie wzmacniają również informacje o cyberatakach, w tym o atakach wykorzystujących sztuczną inteligencję.

Koło organizuje Kurs Pentestera, czyli dwu semestralne zajęcia otwarte dla studentów uczelni. Prowadzi też cykl „Bezpieczeństwo po godzinach”, w ramach którego zaprasza ekspertów z branży. Członkowie White Hats uczestniczą również w meetupach, aby wiedza o ochronie systemów wychodziła poza środowisko akademickie.

Jedną z metod nauki są zawody CTF. Uczestnicy analizują przygotowane systemy, szukają ich słabości i rozwiązują zadania prowadzące do znalezienia tak zwanej flagi, czyli ukrytego ciągu znaków. Ćwiczenia mogą dotyczyć aplikacji internetowych, analizy programów albo śladów pozostawionych w systemie. Taki sposób pracy pozwala zrozumieć, jak osoba atakująca może znaleźć lukę i sprawdzić, dokąd prowadzi.

Organizatorzy podkreślają, że udział w spotkaniu nie wymaga umiejętności programowania. Początek będzie bardziej techniczny i pojawią się przykłady kodu, ale finałem ma być panel z udziałem naukowca, programisty i prawnika. Rozmowa ma dotyczyć bezpieczeństwa AI z trzech różnych perspektyw, a jednocześnie pozostać zrozumiała dla osób spoza branży. Po części merytorycznej zaplanowano nieformalne rozmowy przy pizzy.

Wrocław AI Team przygotowuje już kolejne wydarzenia. Pod koniec października uczestnicy mają rozmawiać o sztucznej inteligencji w rekrutacji, a w listopadzie – o AI i zdrowiu psychicznym. Organizatorzy zapowiadają, że oba spotkania będą miały rozbudowany komponent społeczny.

na podstawie: Urząd Miasta Wrocław.