System AI wygenerował siedem tysięcy seksualizowanych obrazów dziecka na podstawie jednego zdjęcia
Sprawa dotyczy wykorzystania narzędzia AI do stworzenia tysięcy materiałów o charakterze seksualnym przedstawiających nieletnią oraz opóźnień w udostępnieniu danych przez firmę.
Mężczyzna wykorzystał system AI do wygenerowania około siedmiu tysięcy obrazów o charakterze seksualnym, przedstawiających jego jedenastoletnią pasierbicę. Wystarczyło mu do tego jedno prawdziwe zdjęcie dziecka.
Narzędzie wymagało jedynie niewielkiej ilości danych, co umożliwiło szybkie tworzenie materiałów na masową skalę. Dziewczynka zmaga się obecnie z ciężką depresją i zaburzeniami lękowymi, a jej sprawa stała się podstawą pozwu zbiorowego przeciwko firmom X i xAI.
W pozwie zarzucono przedsiębiorstwom utrudnianie śledztwa przez wielotygodniowe wstrzymywanie ujawnienia adresu IP sprawcy. Według oskarżycieli opóźniło to jego identyfikację oraz zabezpieczenie dowodów.
Dwa dni po zwolnieniu z aresztu za kaucją podejrzany popełnił samobójstwo. Zakończyło to jeden z etapów postępowania karnego, nie rozstrzygnęło jednak kwestii odpowiedzialności dostawców technologii.
Incydent pokazuje, jak łatwo dostępna technologia może zostać wykorzystana do tworzenia materiałów naruszających prywatność i godność osób małoletnich. Jedno zdjęcie wystarczyło do wygenerowania tysięcy obrazów, które mogą krążyć bez wiedzy i zgody ofiary.
Wnioski
Sprawa skłania do refleksji nad tym, jak wspólnota chroni godność osób, które nie mogą same się obronić. Rodzi również pytanie, jak budować zaufanie między użytkownikami technologii a jej twórcami, aby odpowiedzialność za najsłabszych nie pozostawała jedynie deklaracją.
Kronika miasta Boguszow-Gottesberg (Boża Góra) – kliknij, aby dowiedzieć się więcej
