Uniwersytet w Zurychu znalazł się pod ostrzałem krytyki po przeprowadzeniu tajnego eksperymentu na użytkownikach platformy społecznościowej Reddit, mającego na celu sprawdzenie, w jaki sposób sztuczna inteligencja (AI) może wpływać na ich opinie. Reddit rozważa podjęcie działań prawnych w tej sprawie.
- Uniwersytet w Zurychu przeprowadził tajny eksperyment na użytkownikach Reddit, badając wpływ sztucznej inteligencji na opinie.
- Eksperyment dotyczył społeczności r/ChangeMyView i polegał na użyciu chatbotów AI, które podszywały się pod zwykłych użytkowników.
- Boty opublikowały ponad 1 700 komentarzy, przyjmując fałszywe tożsamości i manipulując dyskusjami na kontrowersyjne tematy.
- Reddit rozważa podjęcie działań prawnych przeciwko Uniwersytetowi w Zurychu oraz ogłosił, że zabrania użycia nieujawnionej treści generowanej przez AI.
- Główny prawnik Reddit, Ben Lee, podkreślił, że ani firma, ani moderatorzy r/ChangeMyView nie byli świadomi eksperymentu.
Kontrowersyjny eksperyment na Reddit
Zgodnie z doniesieniami medialnymi, grupa badaczy z Uniwersytetu w Zurychu przeprowadziła nieautoryzowane badanie na r/ChangeMyView, jednej z największych społeczności debatowych na Reddit. Eksperyment polegał na użyciu chatbotów AI, które podszywały się pod zwykłych użytkowników i uczestniczyły w dyskusjach na kontrowersyjne tematy.
Fałszywe tożsamości i manipulacja
Boty, których konta zostały już zbanowane, opublikowały ponad 1 700 komentarzy w obrębie subreddita. Przyjęły fałszywe tożsamości, takie jak mężczyzna, który był ofiarą gwałtu i minimalizował traumę związaną z atakiem, czarnoskóry mężczyzna sprzeciwiający się ruchowi Black Lives Matter oraz doradca ds. traumy domowej, który twierdził, że najbardziej narażone na niebezpieczeństwo są kobiety „chronione przez nadopiekuńczych rodziców”. Inny bot skanował profile użytkowników i dostarczał spersonalizowane argumenty w odpowiedzi.
Reakcja Reddit i zapowiedź działań prawnych
Zespół moderatorów Reddit ogłosił w oświadczeniu, że platforma zabrania użycia nieujawnionej treści generowanej przez AI lub botów. Ben Lee, główny prawnik Reddit, stwierdził, że ani firma, ani moderatorzy r/ChangeMyView nie mieli wcześniejszej wiedzy o tym, co nazwał „niewłaściwym i wysoce nieetycznym eksperymentem”. Dodał, że Reddit przygotowuje formalne żądania prawne, które zostaną wysłane do Uniwersytetu w Zurychu oraz zaangażowanych badaczy.
Etika badań i publiczne oburzenie
Badacze twierdzili, że badanie było prowadzone zgodnie z zasadami „etycznych” badań i przejrzystości. Komitet etyczny uniwersytetu argumentował, że badanie nie spowodowało dużych szkód. Mimo to, użytkownicy subreddita zareagowali ze szokiem i gniewem na wieść o tym, że byli nieświadomymi obiektami eksperymentu.
Rosnące zagrożenie ze strony botów AI
Użycie botów AI – fałszywych kont zaprojektowanych w celu naśladowania prawdziwych użytkowników – rośnie na platformach społecznościowych w ostatnich latach. Eksperci zauważają, że są one coraz częściej wykorzystywane do kształtowania opinii publicznej, zwłaszcza w kontekście wyborów. Zachodnie rządy, głównie USA i Wielka Brytania, od dłuższego czasu oskarżają Rosję o prowadzenie dużych „farm botów” w celu ingerencji w procesy wyborcze – oskarżenia, które Moskwa wielokrotnie odrzucała. Jednak niektórzy zachodni aktorzy również znaleźli się pod lupą za użycie botów w kampaniach dezinformacyjnych, jednocześnie ostrzegając przed zagraniczną ingerencją.