Ekspert 3M użył ChatGPT do sporządzenia raportu w sprawie wybuchu w Houston

Ekspert wynajęty przez 3M do przygotowania raportu w sprawie wybuchu w zakładzie Watson Grinding w Houston w 2020 roku wykorzystał ChatGPT do napisania znaczącej części swojego opracowania. Wybuch ten spowodował śmierć trzech osób oraz zniszczenie około 200 domów. W wyniku zdarzenia doszło do licznych pozwów sądowych, a firma Watson Grinding ogłosiła upadłość.

Raport ekspercki, którego koszt wyniósł około 90 tysięcy dolarów, został w dużej mierze stworzony przy pomocy sztucznej inteligencji. Josh Autenrieth z Knighthawk Engineering, zatrudniony przez 3M, korzystał z ChatGPT, aby opracować dokument broniący standardów opieki i obsługi firmy 3M w kontekście wybuchu. Podczas procesu ujawniono, że raport był w 85–90% wygenerowany przez AI.

Wykorzystanie ChatGPT w przygotowaniu raportu eksperckiego

Autenrieth zwracał się do ChatGPT z poleceniami, które miały na celu stworzenie „wyjątkowego raportu eksperckiego” broniącego 3M oraz wykazującego, że firma nie ponosi odpowiedzialności za wybuch. W trakcie przygotowań ekspert przesłał do AI setki dokumentów sądowych i prosił o uwzględnienie ich w raporcie.

Wśród ujawnionych materiałów znalazł się dokument o nazwie „Citation Overlay”, który został rozpoznany przez prawników strony powodowej jako wygenerowany przez AI. Po żądaniu dostępu do wszystkich promptów, czyli poleceń wprowadzanych do ChatGPT, prawnicy otrzymali około 350 stron rozmów Autenrietha z chatbotem.

Ekspert wielokrotnie prosił ChatGPT o poprawę i ocenę raportu, a także o wskazanie potencjalnych słabych punktów, które mogłyby zostać podważone przez stronę przeciwną. W jednym z dialogów AI oceniło raport na 97 punktów na 100.

Autenrieth korzystał również z ChatGPT do analizy technicznych aspektów sprawy, na przykład przesłał zdjęcie detektora gazu i pytał o jego charakterystykę. System wykrywania gazu był kluczowym elementem pozwów przeciwko 3M, które zarzucały firmie niewłaściwą obsługę tego urządzenia.

Reakcje i przebieg procesu

Podczas przesłuchania Autenrieth przyznał, że większość raportu została stworzona przez ChatGPT, jednak podkreślił, że jego opinie i doświadczenie zawodowe stanowiły podstawę dokumentu. Zaznaczył, że AI służyło mu jako narzędzie do tworzenia wstępnych wersji, które następnie modyfikował zgodnie ze swoimi poglądami.

Przedstawiciel Knighthawk Engineering oświadczył, że firma stoi za profesjonalizmem swoich inżynierów i że wykorzystanie AI miało charakter wspomagający, nie zastępujący ich ocen i opinii.

Prawnicy strony powodowej zwrócili uwagę na fakt, że ekspert wykorzystywał AI nie jako narzędzie pomocnicze, lecz w zasadzie polegał na ChatGPT przy formułowaniu swoich opinii i pisaniu raportu. Jeden z adwokatów wskazał, że polecenia wprowadzane do AI były ukierunkowane na obronę 3M i miały na celu wykazanie braku winy firmy.

W toku procesu ujawniono, że 3M zapłaciło za raport około 90 tysięcy dolarów, a stawka godzinowa Autenrietha wynosiła 475 dolarów.

Jury przyznało powodowym odszkodowanie w wysokości ponad 61 milionów dolarów, przypisując 30% odpowiedzialności firmie 3M, a 70% firmie Watson Grinding. Wcześniejsze decyzje sądowe przyznały poszkodowanym kwoty 118 milionów i 38 milionów dolarów.

Sprawa ta jest jednym z przykładów wykorzystania sztucznej inteligencji w materiałach dowodowych i ekspertyzach sądowych. Ujawnienie promptów i rozmów z AI stało się częścią procesu odkrywania dowodów, co podkreśla znaczenie transparentności w korzystaniu z takich narzędzi podczas przygotowywania opinii eksperckich.

Ekspert korzystał z ChatGPT także w sytuacjach mniej formalnych, na przykład podczas jazdy samochodem, aby przypomnieć sobie informacje o producentach detektorów gazu.

W sprawach sądowych dotyczących odpowiedzialności za wybuch w Houston kluczową rolę odegrały kwestie związane z obsługą i konserwacją systemu wykrywania gazów, a także analiza techniczna przyczyn zdarzenia, które według raportu amerykańskiej agencji bezpieczeństwa chemicznego zostało spowodowane przez nieszczelny wąż propanowy.

Proces ujawnił, że wykorzystanie AI w przygotowaniu opinii eksperckich może stać się przedmiotem analizy i dyskusji podczas postępowań sądowych, a materiały z rozmów z chatbotami mogą być włączone do dokumentacji sprawy.

W efekcie, choć ekspert podtrzymał swoje kwalifikacje i doświadczenie, to zakres wykorzystania ChatGPT w przygotowaniu raportu stał się istotnym elementem przebiegu procesu i dyskusji prawnych.