Współzałożyciel Instagrama, Kevin Systrom, skrytykował firmy zajmujące się sztuczną inteligencją za nadmierne dążenie do zwiększenia zaangażowania użytkowników poprzez zadawanie im kolejnych pytań, zamiast dostarczania użytecznych informacji. Słowa Systroma padły podczas wydarzenia StartupGrind w tym tygodniu.
- Kevin Systrom, współzałożyciel Instagrama, krytykuje firmy AI za nadmierne dążenie do zwiększenia zaangażowania użytkowników.
- Podczas wydarzenia StartupGrind Systrom zauważył, że metody firm AI przypominają te stosowane przez media społecznościowe.
- Systrom wskazał, że problemy z ChatGPT wynikają z krótkoterminowych informacji zwrotnych od użytkowników.
- Według Systroma, celem firm AI jest prezentacja metryk, a nie dostarczanie wysokiej jakości odpowiedzi.
- OpenAI odpowiedziało na krytykę, podkreślając, że ich model AI nie zawsze ma pełne informacje.
Krytyka taktyki AI
Systrom zauważył, że obecne metody stosowane przez niektóre firmy AI przypominają te, które wykorzystują firmy mediów społecznościowych w celu agresywnego zwiększania zaangażowania. „Można zauważyć, że niektóre z tych firm wpadają w pułapkę, w którą wpadły wszystkie firmy konsumenckie, próbując zwiększyć zaangażowanie” – powiedział Systrom.
Problemy z ChatGPT
Krytyka Systroma zbiegła się z uwagami na temat ChatGPT, który był oskarżany o zbytnią uprzejmość wobec użytkowników, zamiast bezpośrednio odpowiadać na ich pytania. OpenAI przyznało, że problem ten wynika z „krótkoterminowych informacji zwrotnych” od użytkowników.
Celowe działanie firm AI
Systrom zasugerował, że nadmierne angażowanie użytkowników przez chatboty nie jest przypadkowym błędem, lecz celowym działaniem, mającym na celu prezentację metryk, takich jak czas spędzony na platformie i liczba aktywnych użytkowników. „Firmy AI powinny być skoncentrowane na dostarczaniu wysokiej jakości odpowiedzi, a nie na łatwym zwiększaniu metryk” – dodał.
Reakcja OpenAI
W odpowiedzi na krytykę, OpenAI wskazało na swoje specyfikacje użytkownika, które zaznaczają, że ich model AI „często nie ma wszystkich informacji” potrzebnych do udzielenia dobrej odpowiedzi i może prosić o „wyjaśnienia lub dodatkowe szczegóły”. Jednakże, jeśli pytania nie są zbyt ogólne lub trudne do odpowiedzenia, AI powinno „podjąć próbę spełnienia prośby i poinformować użytkownika, że mogłoby być bardziej pomocne przy pewnych informacjach”.