W Nowym Jorku, na popularnym kanale YouTube Go Cat, pojawiły się kontrowersyjne filmy animowane, które w sposób nieodpowiedni przedstawiają postacie dziecięce w makabrycznych sytuacjach. Wzbudziło to obawy dotyczące bezpieczeństwa dzieci w sieci, zwłaszcza w kontekście rosnącej liczby treści generowanych przez sztuczną inteligencję.
- Na kanale YouTube Go Cat pojawiły się kontrowersyjne filmy animowane przedstawiające dziecięce postacie w makabrycznych sytuacjach.
- Treści te budzą obawy dotyczące bezpieczeństwa dzieci w sieci, zwłaszcza w kontekście rosnącej liczby filmów generowanych przez sztuczną inteligencję.
- YouTube usunął dwa kanały naruszające zasady oraz zawiesił monetyzację trzech innych, jednak kanał Go Cat pozostaje aktywny.
- Eksperci wskazują, że nowe technologie generatywne utrudniają moderację kontrowersyjnych treści w internecie.
- Filmy Go Cat wykorzystują motywy przemocy i nieodpowiednich zachowań, co przypomina wcześniejsze skandale związane z Elsagate.
Treści kontrowersyjne
Go Cat, który ma 24,500 subskrybentów i ponad 7 milionów wyświetleń, reklamuje swoje filmy jako zabawne i ekscytujące dla dzieci. Jednak ich zawartość, w tym przerażające transformacje postaci, przypomina wcześniejsze skandale związane z Elsagate, gdzie dziecięce postacie były przedstawiane w nieodpowiednich kontekstach. Wiele z tych filmów wykorzystuje motywy przemocy i nieodpowiednich zachowań, co budzi poważne zastrzeżenia.
Reakcja YouTube
W odpowiedzi na zapytania WIRED, przedstawiciel YouTube potwierdził, że platforma usunęła dwa kanały naruszające zasady korzystania z serwisu i zawiesiła monetyzację trzech innych. „Wiele filmów zostało również usuniętych za naruszenie naszej polityki bezpieczeństwa dzieci,” powiedział rzecznik YouTube. Mimo to, kanał Go Cat pozostaje aktywny, a jego opis nie uległ zmianie.
Problemy z moderowaniem treści
Eksperci zwracają uwagę, że nowe technologie generatywne ułatwiają tworzenie kontrowersyjnych filmów, co sprawia, że ich moderacja staje się coraz trudniejsza. Robbie Torney z Common Sense Media wyraził zaniepokojenie wzrostem liczby treści generowanych przez AI, które mogą być nieodpowiednie dla dzieci. „Bez ludzkiej kontroli w procesie tworzenia, niewłaściwe materiały mogą łatwo dotrzeć do dzieci,” zauważył Torney.
Nowe regulacje
W odpowiedzi na rosnące zagrożenia, władze Kalifornii rozważają wprowadzenie przepisów mających na celu ochronę dzieci przed ryzykiem związanym z AI. Nowe regulacje mają na celu klasyfikację systemów AI oraz zakazanie używania kontrowersyjnych aplikacji przez dzieci. Wzrost liczby treści generowanych przez AI stawia przed platformami nowe wyzwania w zakresie moderacji.
Wnioski
Pomimo działań YouTube, kontrowersyjne kanały, takie jak Go Cat, wciąż funkcjonują na platformie, co podkreśla potrzebę dalszych działań w celu ochrony dzieci przed nieodpowiednimi treściami. W miarę jak technologia AI rozwija się, konieczne jest, aby wszyscy interesariusze współpracowali w celu zapewnienia bezpiecznego i pozytywnego doświadczenia dla młodych widzów.