Interpelacja w sprawie wykorzystania narzędzi sztucznej inteligencji do przetwarzania fotografii opublikowanej przez Ministerstwo Obrony Narodowej podczas obchodów 70. rocznicy Poznańskiego Czerwca 1956 r.

Szanowny Panie Ministrze,

w związku z publikacją w mediach społecznościowych fotografii przedstawiającej sekretarz stanu w Ministerstwie Obrony Narodowej Magdalenę Sobkowiak-Czarnecką podczas obchodów 70. rocznicy Poznańskiego Czerwca 1956 r. ujawniono, że zdjęcie zostało zmodyfikowane z wykorzystaniem narzędzia opartego na sztucznej inteligencji. W opublikowanej wersji zmianie uległy elementy obrazu, w tym napis „Narodowcy RP” znajdujący się na koszulce jednej z osób stojących za panią minister.

Ministerstwo Obrony Narodowej potwierdziło, że fotografia została poddana przetwarzaniu przy użyciu narzędzi opartych na sztucznej inteligencji. Według komunikatu resortu celem działania miała być poprawa jakości technicznej zdjęcia, natomiast modyfikacja jego elementów miała charakter niezamierzony. Resort przeprosił za zaistniałą sytuację oraz opublikował oryginalną wersję fotografii.

Przedmiotowe zdarzenie nie może być jednak traktowane wyłącznie jako techniczna lub wizerunkowa pomyłka. Dotyczy ono materiału dokumentującego uroczystość o szczególnym znaczeniu historycznym, przygotowanego lub przetworzonego przez organ administracji rządowej odpowiedzialny za bezpieczeństwo państwa, a następnie wykorzystanego w oficjalnej komunikacji publicznej. Zastosowanie generatywnej sztucznej inteligencji doprowadziło w tym przypadku do zmiany treści fotografii, mimo deklarowanego zamiaru wyłącznie poprawy jej jakości. Pokazuje to ryzyko utraty kontroli nad rezultatem automatycznej obróbki oraz możliwość nieświadomego rozpowszechnienia materiału, który nie odpowiada rzeczywistemu przebiegowi udokumentowanego wydarzenia.

Szczególnego wyjaśnienia wymaga ustalenie, czy wykorzystane narzędzie działało wyłącznie lokalnie, czy też fotografia – wraz z wizerunkami znajdujących się na niej osób – została przesłana do infrastruktury zewnętrznego dostawcy. Istotne jest również ustalenie dostawcy i modelu sztucznej inteligencji, lokalizacji przetwarzania danych, warunków licencyjnych, zasad dalszego wykorzystywania przesłanych materiałów oraz tego, czy użycie narzędzia odbywało się na koncie służbowym i na podstawie umowy zawartej przez MON, czy też z wykorzystaniem konta prywatnego użytkownika.

Zdarzenie rodzi ponadto pytania o obowiązujące w resorcie procedury zatwierdzania materiałów wizualnych, możliwość odtworzenia procesu ich modyfikacji, przechowywanie promptów, presetów i ustawień, obowiązek porównania rezultatu z materiałem źródłowym oraz oznaczanie treści zmienionych z użyciem sztucznej inteligencji. Brak takich mechanizmów może prowadzić nie tylko do zniekształcenia informacji przekazywanych opinii publicznej, lecz także do naruszenia zasad ochrony danych, cyberbezpieczeństwa oraz integralności oficjalnej komunikacji państwowej.

Wątpliwości dotyczą również przygotowania pracowników i osób pełniących funkcje publiczne do korzystania z narzędzi generatywnej sztucznej inteligencji. Zasadne jest ustalenie, czy w MON prowadzone są obowiązkowe szkolenia obejmujące ochronę danych osobowych, korzystanie z usług chmurowych, ryzyko halucynacji i niezamierzonych zmian treści, przetwarzanie wizerunku oraz zasady oznaczania materiałów wygenerowanych albo zmodyfikowanych przez sztuczną inteligencję, a także czy osoba uczestnicząca w przygotowaniu przedmiotowej fotografii odbyła takie szkolenie przed zaistnieniem opisanego zdarzenia.

Mając na uwadze konieczność zapewnienia przejrzystości działania administracji publicznej, ochrony danych przetwarzanych przez resort obrony, integralności materiałów dokumentujących wydarzenia publiczne oraz zachowania zaufania obywateli do oficjalnej komunikacji organów państwa, proszę o udzielenie odpowiedzi na następujące pytania: