Były pracownik OpenAI apeluje o zaostrzenie zabezpieczeń AI na wzór elektrowni jądrowych

David Robinson, były pracownik OpenAI odpowiedzialny za bezpieczeństwo sztucznej inteligencji, zwrócił uwagę na niewystarczające zabezpieczenia stosowane przez firmy rozwijające zaawansowane modele AI. W eseju opublikowanym w "The Atlantic" podkreślił, że obecne praktyki OpenAI opierają się na metodzie prób i błędów, co w kontekście rosnących możliwości modeli niesie ze sobą ryzyko nieprzewidzianych konsekwencji.

Robinson porównał konieczność wprowadzenia bardziej rygorystycznych standardów bezpieczeństwa w branży AI do tych obowiązujących w sektorze energetyki jądrowej. Według niego firmy powinny stosować warstwy redundancji oraz staranne i czasochłonne planowanie, aby zapobiec katastrofom wynikającym z błędów ludzkich.

Ocena działań OpenAI i propozycje zmian

David Robinson, który wcześniej kierował zespołem ds. przejrzystości w OpenAI, zaznaczył, że pracownicy firmy są inteligentni i starają się podejmować dobre decyzje, jednak szybkie tempo kolejnych premier modeli nie zapewnia odpowiedniego poziomu ostrożności adekwatnego do potencjalnego ryzyka.

W odpowiedzi na rosnące zagrożenia OpenAI zapowiedziało wzmocnienie procedur bezpieczeństwa w środowiskach badawczych i testowych. Firma rozwija szkolenia modeli w zakresie odpowiedzialnego wykonywania zadań, współpracę z niezależnymi ewaluatorami oraz monitoring w czasie rzeczywistym, mający na celu wykrywanie niepożądanych zachowań modeli.

Debata o bezpieczeństwie sztucznej inteligencji

W ostatnich latach wielu pracowników czołowych firm zajmujących się sztuczną inteligencją ostrzegało przed potencjalnymi katastrofalnymi zagrożeniami związanymi z rozwojem tej technologii. Niektórzy z nich wyrażali opinię o bardzo dużym ryzyku, że AI może w przyszłości doprowadzić do unicestwienia rodzaju ludzkiego.

Debata dotycząca bezpieczeństwa AI obejmuje obecnie całą branżę. Dyrektor generalny firmy Anthropic, Dario Amodei, opowiadał się za ostrożniejszym tempem rozwoju najbardziej zaawansowanych modeli oraz zapowiedział wykorzystanie niezależnych ekspertów do ich oceny. Podobne postulaty publicznie wyrażał także szef OpenAI, Sam Altman.

Wraz ze wzrostem skali możliwości modeli AI, kwestie testowania, monitoringu oraz niezależnej oceny bezpieczeństwa stają się kluczowymi elementami dyskusji o dalszym rozwoju tej technologii.

David Robinson podkreślił potrzebę stosowania w branży AI standardów podobnych do tych, które obowiązują w sektorze energetyki jądrowej, gdzie bezpieczeństwo opiera się na wielowarstwowych zabezpieczeniach i dokładnym planowaniu, aby zminimalizować ryzyko katastrofy spowodowanej błędem ludzkim.

OpenAI wprowadza zmiany w procedurach bezpieczeństwa, które obejmują szkolenia modeli, współpracę z niezależnymi ewaluatorami oraz monitoring w czasie rzeczywistym. Te działania dotyczą zwiększenia kontroli nad zachowaniem modeli oraz ograniczenia ryzyka niepożądanych zdarzeń.

W dyskusji o bezpieczeństwie AI uczestniczą również inni przedstawiciele branży, którzy podkreślają znaczenie niezależnej oceny i ostrożnego podejścia do rozwoju technologii.