Naczelny Sąd Administracyjny zwrócił uwagę na niepokojący problem, który coraz częściej pojawia się w praktyce sądowej: pisma procesowe przygotowywane przez zawodowych pełnomocników przy użyciu sztucznej inteligencji, zawierające tzw. halucynacje AI. Sprawa dotyczyła zażalenia, w którym pojawiły się błędnie wskazane orzeczenia oraz tezy, które w rzeczywistości nigdy nie padły w powołanych sprawach. Sąd nie pozostawił wątpliwości – takie praktyki są niezgodne z etyką zawodową.
Halucynacje AI to zjawisko dobrze znane osobom korzystającym z narzędzi opartych na dużych modelach językowych. Polega ono na tym, że system generuje treści brzmiące wiarygodnie i profesjonalnie, ale niezgodne z rzeczywistością – w tym przypadku chodziło o wymyślone lub błędnie przypisane orzeczenia sądowe wraz z nieistniejącymi tezami prawnymi.
Co dokładnie zarzucił NSA
W ocenianym zażaleniu sąd zidentyfikował ślady działania narzędzi sztucznej inteligencji, które nie zostały poddane weryfikacji przed złożeniem pisma. Problem nie leżał w samym fakcie skorzystania z AI, lecz w braku kontroli nad wygenerowaną treścią. Pełnomocnik, powołując się na konkretne wyroki i sformułowane w nich tezy, przedstawił sądowi materiał, który po weryfikacji okazał się nieprawdziwy.
Źródło: forsal.pl
Dlaczego to problem etyczny, a nie tylko techniczny
NSA podkreślił, że klient płacący za profesjonalną pomoc prawną ma prawo oczekiwać pisma spełniającego standardy rzetelności i profesjonalizmu. Skorzystanie z narzędzia dostępnego dla każdego, bez późniejszej weryfikacji jego wyników, stawia pod znakiem zapytania sens korzystania z usług zawodowego pełnomocnika. Klient nie płaci bowiem za dostęp do popularnego chatbota, lecz za wiedzę, doświadczenie i odpowiedzialność prawnika.
Odpowiedzialność zawodowa pełnomocników
Z komunikatu sądu wynika jasno, że to na pełnomocniku – a nie na narzędziu, którym się posłużył – spoczywa obowiązek weryfikacji każdego elementu składanego pisma. Powoływanie się na orzecznictwo sądowe wymaga sprawdzenia, czy dany wyrok faktycznie istnieje i czy przypisywana mu teza rzeczywiście się w nim znajduje. W przeciwnym razie pełnomocnik naraża się na zarzut naruszenia zasad etyki zawodowej.
Można wskazać kilka konsekwencji, jakie niesie za sobą taka sytuacja:
- utratę zaufania klienta do jakości świadczonych usług prawnych,
- ryzyko wprowadzenia sądu w błąd co do stanu orzecznictwa,
- możliwe konsekwencje dyscyplinarne wynikające z naruszenia standardów zawodowych,
- osłabienie autorytetu zawodów prawniczych jako gwarantów rzetelności.
AI jako narzędzie, nie substytut wiedzy prawniczej
Stanowisko NSA nie jest wyrazem sprzeciwu wobec korzystania z nowoczesnych technologii w pracy prawnika. Problemem nie jest sam fakt sięgania po narzędzia AI przy tworzeniu pism procesowych, lecz brak krytycznej weryfikacji ich wyników. Sztuczna inteligencja może wspierać pracę pełnomocnika, przyspieszać wyszukiwanie informacji czy porządkować argumentację, ale nie zwalnia to prawnika z obowiązku samodzielnego sprawdzenia, czy przywoływane treści są zgodne z rzeczywistością.
Co to oznacza w praktyce dla kancelarii
Sprawa opisana przez NSA powinna być sygnałem ostrzegawczym dla wszystkich podmiotów świadczących profesjonalną pomoc prawną, które korzystają lub planują korzystać z narzędzi generatywnej sztucznej inteligencji. Kluczowe staje się wdrożenie wewnętrznych procedur weryfikacji treści tworzonych z pomocą AI, zanim trafią one do sądu.
Warto zwrócić uwagę na kilka praktycznych wniosków płynących z tej sprawy:
- każde powołanie się na orzeczenie sądowe wymaga sprawdzenia jego treści w oficjalnych bazach orzecznictwa,
- korzystanie z AI nie zwalnia pełnomocnika z odpowiedzialności za finalną treść pisma,
- klienci mają prawo oczekiwać, że opłacona usługa prawna została rzetelnie zweryfikowana przez człowieka,
- brak takiej weryfikacji może zostać uznany za naruszenie etyki zawodowej.
Stanowisko Naczelnego Sądu Administracyjnego pokazuje, że postęp technologiczny w pracy prawników niesie ze sobą nie tylko korzyści, ale i realne ryzyka. Sztuczna inteligencja może stać się cennym wsparciem w codziennej praktyce, jednak odpowiedzialność za ostateczny kształt i treść dokumentu procesowego zawsze pozostaje po stronie człowieka – zawodowego pełnomocnika, który podpisuje się pod danym pismem.