Rząd Singapuru ogłosił dziś plan globalnej współpracy w zakresie bezpieczeństwa sztucznej inteligencji, który powstał w wyniku spotkania badaczy AI z USA, Chin i Europy. Dokument przedstawia wspólną wizję pracy nad bezpieczeństwem AI poprzez międzynarodową współpracę, a nie rywalizację.
- Singapur ogłosił plan globalnej współpracy w zakresie bezpieczeństwa AI.
- Dokument powstał po spotkaniu badaczy z USA, Chin i Europy.
- Konsensus Singapurski dotyczy trzech kluczowych obszarów badań nad AI.
- Singapur działa jako mediator między Wschodem a Zachodem.
- Obawy dotyczące bezpieczeństwa AI są coraz bardziej aktualne.
Singapur jako mediator
Max Tegmark, naukowiec z MIT, który pomógł zorganizować spotkanie, podkreślił, że „Singapur jest jednym z nielicznych krajów na świecie, który dobrze dogaduje się zarówno z Wschodem, jak i Zachodem”. W kontekście rosnącej rywalizacji między USA a Chinami, Tegmark zauważył, że Singapur ma interes w tym, aby kraje te rozmawiały ze sobą, ponieważ nie jest w stanie samodzielnie zbudować sztucznej inteligencji ogólnej (AGI).
Współpraca w obliczu rywalizacji
W dokumencie, znanym jako Konsensus Singapurski w sprawie globalnych priorytetów badań nad bezpieczeństwem AI, badacze zostali wezwani do współpracy w trzech kluczowych obszarach: badania ryzyk związanych z nowoczesnymi modelami AI, eksploracja bezpieczniejszych metod budowy tych modeli oraz opracowanie metod kontrolowania zachowania najbardziej zaawansowanych systemów AI. Tegmark wskazał, że w obliczu fragmentacji geopolitycznej, „to kompleksowe podsumowanie nowatorskich badań nad bezpieczeństwem AI jest obiecującym znakiem, że społeczność globalna jednoczy się w dążeniu do kształtowania bezpieczniejszej przyszłości AI”.
Obawy dotyczące AI
Rozwój coraz bardziej zaawansowanych modeli AI budzi obawy badaczy dotyczące różnych ryzyk. Niektórzy koncentrują się na zagrożeniach krótkoterminowych, takich jak problemy związane z systemami AI obciążonymi uprzedzeniami, czy potencjalne wykorzystanie technologii przez przestępców. Inna grupa, określana jako „katastrofiści AI”, obawia się, że AI może stanowić egzystencjalne zagrożenie dla ludzkości, gdy zacznie przewyższać ludzi w coraz większej liczbie dziedzin.
Wyścig zbrojeń w AI
Potencjał AI wywołuje również obawy o wyścig zbrojeń między USA, Chinami i innymi potężnymi państwami. Technologia ta jest postrzegana w kręgach politycznych jako kluczowa dla dobrobytu gospodarczego i dominacji militarnej. W odpowiedzi na obawy związane z postępami Chin w dziedzinie AI, administracja Trumpa rozważa dodatkowe środki mające na celu ograniczenie zdolności Chin do budowy nowoczesnej AI, mimo że wcześniej wprowadzono kontrole eksportowe.
Nowe podejście do ryzyk AI
W kontekście rosnącej rywalizacji, Tegmark zauważył, że niektórzy badacze AI starają się „odwrócić bieg wydarzeń po Paryżu”, koncentrując się na potencjalnych ryzykach związanych z coraz potężniejszą AI. Na spotkaniu w Singapurze zaprezentował on dokument techniczny, który podważał niektóre założenia dotyczące bezpiecznego budowania AI. Tegmark wskazał, że wcześniejsze sugestie dotyczące kontrolowania potężnych modeli AI za pomocą słabszych mogą nie działać w praktyce, co może prowadzić do nieprzewidywalnych konsekwencji.
W obliczu rosnących wyzwań związanych z bezpieczeństwem AI, Konsensus Singapurski może stanowić istotny krok w kierunku międzynarodowej współpracy, która jest niezbędna do zminimalizowania ryzyk i zapewnienia, że rozwój technologii będzie przebiegał w sposób odpowiedzialny i bezpieczny.