Indonezja warunkowo cofnęła zakaz dla chatbota Grok firmy xAI po tym, jak platforma wygenerowała co najmniej 1,8 miliona seksualizowanych obrazów, w tym przedstawiających nieletnich. Decyzja została podjęta po obietnicy konkretnych kroków mających zapobiec nadużyciom.
- Grok wygenerował 1,8 mln seksualizowanych obrazów między grudniem a styczniem
- Indonezja cofnęła zakaz warunkowo - po obietnicy reform od xAI
- Generowanie obrazów ograniczono tylko do płatnych subskrybentów
- Prokurator Kalifornii wszczął dochodzenie w sprawie deepfake’ów
- Elon Musk twierdzi, że nie wiedział o nielegalnych treściach
Skandal, który wstrząsnął Azją Południowo-Wschodnią
Wszystko zaczęło się w grudniu, gdy użytkownicy platformy X masowo zaczęli generować nieodpowiednie treści. Analiza przeprowadzona przez The New York Times i Center for Countering Digital Hate pokazała skalę problemu - w zaledwie dwa miesiące powstało co najmniej 1,8 miliona seksualizowanych grafik.
Co gorsza, wiele z tych obrazów przedstawiało prawdziwe kobiety i nieletnich. Reakcja rządów nie kazała długo czekać. Indonezja, Malezja i Filipiny nałożyły zakazy na Groka.
Warunková zgoda z ostrzeżeniem
Teraz sytuacja się zmienia. Po Malezji i Filipinach, które cofnęły swoje blokady 23 stycznia, przyszła kolej na Indonezję. Ministerstwo Komunikacji i Cyfryzacji ogłosiło decyzję, powołując się na list od X przedstawiający „konkretne kroki w celu poprawy usług i zapobiegania nadużyciom”.
Dyrektor generalny ds. monitorowania przestrzeni cyfrowej, Alexander Sabar, był jednak jasny - to tylko warunowe zniesienie zakazu. Każde naruszenie może skutkować natychmiastowym powrotem blokady.
Co zmieniło xAI?
Firma Elona Muska zareagowała na kryzys kilkoma krokami. Najważniejszy? Ograniczenie generowania obrazów tylko do płatnych subskrybentów platformy X. To ma powstrzymać masowe nadużycia ze strony zwykłych użytkowników.
Sam Musk bronił się na platformie, twierdząc że nie był świadomy generowania nagich obrazów nieletnich przez Groka. Zapewnił też: „Każdy używający Groka do tworzenia nielegalnych treści poniesie takie same konsekwencje, jakby wgrał nielegalne treści”.
Śledztwo w Kalifornii
Problem ma też wymiar prawny. Prokurator generalny Kalifornii, Rob Bonta, wszczął oficjalne dochodzenie w sprawie deepfake’ów generowanych przez Groka. To pokazuje, że konsekwencje mogą być znacznie poważniejsze niż tylko regionalne zakazy.
Czy to koniec problemów dla xAI? Trudno powiedzieć. Warunowe zniesienie zakazów to jedynie pierwszy krok. Prawdziwy test czeka firmę w najbliższych miesiącach - czy nowe zabezpieczenia rzeczywiście zadziałają, czy użytkownicy znajdą sposoby na ich obejście.
Jeden fakt pozostaje niezmienny - świat technologii AI musi zmierzyć się z konsekwencjami swojej mocy. A przypadek Groka pokazuje, jak szybko narzędzie stworzone do pomocy może stać się źródłem problemów.
Źródło: Gazeta-Lokalna.pl
Komentarze