Jonny Caplan, przedsiębiorca, ostrzega przed zagrożeniem związanym z wykorzystaniem sztucznej inteligencji (AI) w firmach. W artykule opublikowanym 2 maja 2025 roku, opisuje swoje doświadczenia z AI, które ujawniły niebezpieczeństwo związane z wyciekiem poufnych informacji. Caplan podkreśla, że AI, mimo że jest potężnym narzędziem, może stanowić zagrożenie dla prywatności i bezpieczeństwa danych.
- Jonny Caplan ostrzega przed zagrożeniem związanym z wykorzystaniem sztucznej inteligencji (AI) w firmach.
- Caplan przeprowadził test asystenta AI, który ujawnił niebezpieczeństwo wycieku poufnych informacji.
- AI może przechowywać kontekst rozmów, co prowadzi do niezamierzonych wycieków danych.
- Caplan porównuje obecne zagrożenia z AI do ataku cybernetycznego na Sony Pictures w 2014 roku.
- Reputacja firm może zostać poważnie nadszarpnięta w wyniku wycieków informacji związanych z AI.
Test AI w praktyce
Caplan postanowił przeprowadzić test wiodącego asystenta AI, aby sprawdzić, czy można mu zaufać w kontekście poufnych informacji o projektach. Po wprowadzeniu kontrolowanych danych, zapytał AI o swoją osobę z innego urządzenia. Zszokowany odkrył, że AI przytoczyło informacje o projekcie, które nigdy nie były publicznie ujawnione, przypisując je do niego bez żadnego logicznego powiązania.
Problemy z prywatnością
Wbrew zapewnieniom, że AI nie „pamięta” rozmów ani nie „przechowuje danych osobowych”, rzeczywistość jest bardziej skomplikowana. Wiele systemów AI zachowuje kontekst w ramach sesji lub między interakcjami, co może prowadzić do niezamierzonych wycieków informacji. Caplan zauważa, że problem ten może dotyczyć nie tylko jednego narzędzia, ale całej architektury asystentów opartych na dużych modelach językowych (LLM).
Przykład z przeszłości
Caplan przywołuje przykład ataku cybernetycznego na Sony Pictures w 2014 roku, który doprowadził do wycieku poufnych e-maili i dokumentów. Skutki były katastrofalne, a reputacja firmy została poważnie nadszarpnięta. Zastanawia się, co by się stało, gdyby podobny wyciek pochodził z asystenta AI, który błędnie ujawnia wrażliwe rozmowy lub tworzy fałszywe powiązania.
Wnioski dla przedsiębiorców
Caplan nie jest przeciwnikiem AI, ale jego doświadczenie uczyniło go bardziej ostrożnym. Podkreśla, że AI, mimo swojej inteligencji, nie posiada kluczowej cechy ludzkiej — umiejętności zachowania tajemnicy. Przestrzega przed zbyt dużym zaufaniem do technologii, sugerując, że najniebezpieczniejszym wyciekiem w firmie może być nie tylko niezadowolony pracownik, ale także algorytm, któremu ufamy najbardziej.