Anthropic i wyzwania związane z rywalizacją AI na tle geopolitycznym

Anthropic, startup specjalizujący się w sztucznej inteligencji, znalazł się pod presją ze strony amerykańskich władz z powodu obaw o potencjalne powiązania z Chinami i zagrożenia związane z bezpieczeństwem. Sprawa dotyczy dostępu do jednego z najpotężniejszych modeli AI firmy, Claude Mythos, który w ramach programu Project Glasswing został udostępniony południowokoreańskiemu operatorowi telekomunikacyjnemu SK Telecom. Według informacji serwisu Wired, ten ruch zwrócił uwagę amerykańskich służb bezpieczeństwa, które podejrzewały, że za SK Telecom mogą stać powiązania z Chinami.

Obawy w Waszyngtonie nasiliły się, gdy Amazon zgłosił podatności w zmodyfikowanej wersji modelu Mythos, nazwanej Fable 5, która została publicznie udostępniona na początku czerwca. Badacze Amazona wykazali, że zabezpieczenia systemu można obejść, co umożliwia nieautoryzowany dostęp do funkcji związanych z cyberbezpieczeństwem. W konsekwencji amerykańskie władze uznały, że potężne narzędzie AI, zdolne do wykrywania luk w oprogramowaniu, mogło trafić do partnera mającego powiązania z Chinami, co stanowiło zagrożenie dla bezpieczeństwa.

W odpowiedzi na te obawy Biały Dom wprowadził restrykcje eksportowe, nakazując wycofanie dostępu do modeli Mythos i Fable 5 dla wszystkich obcokrajowców, aby uniemożliwić przepływ danych do Pekinu. Ze względu na trudności techniczne związane z filtrowaniem użytkowników według narodowości w sposób zgodny z ochroną danych osobowych, Anthropic zdecydował się na całkowite wyłączenie tych modeli.

Powiązania SK Telecom i reakcja Anthropic

Firma SK Telecom, która znalazła się pod szczególnym nadzorem amerykańskich władz, jest częścią większego konglomeratu prowadzącego działalność w sektorach półprzewodników i energetyki w Chinach. Ponadto SK Telecom utrzymuje od ponad dwudziestu lat joint venture UNISK z państwowym chińskim operatorem China Unicom. Wcześniej amerykańskie władze zakazały działalności China Unicom w USA, uzasadniając to powiązaniami z chińskim wojskiem oraz wprowadzając zakazy inwestycji. Te okoliczności były podstawą do podjęcia decyzji o zablokowaniu dostępu do modeli AI Anthropic dla zagranicznych użytkowników.

W obliczu tych wydarzeń Anthropic zwiększył swoje działania lobbingowe na Kapitolu, potroił obecność w Waszyngtonie, otworzył tam biuro oraz zatrudnił byłych pracowników administracji Trumpa i prominentnych republikanów. Obie strony prowadzą codzienne negocjacje nad rozwiązaniem, które mogłoby umożliwić wznowienie dostępu do modeli poprzez wspólny proces technicznej weryfikacji.

Propozycja spowolnienia rozwoju AI i wyzwania geopolityczne

W tym samym czasie CEO Anthropic, Dario Amodei, opublikował esej, w którym zaproponował spowolnienie tempa rozwoju sztucznej inteligencji. Wskazał, że największym wyzwaniem jest brak współpracy ze strony państw takich jak Chiny, które mogą nie zastosować się do podobnych ograniczeń. Amodei zaproponował trzyetapowy plan, który obejmuje m.in. udostępnienie zewnętrznym ekspertom dostępu do firmy w celu weryfikacji praktyk bezpieczeństwa, koordynację standardów bezpieczeństwa wśród firm z demokratycznych krajów oraz współpracę między rządami demokratycznymi i autorytarnymi.

Wśród liderów branży AI pojawiło się wsparcie dla tej inicjatywy. Sam Altman, CEO OpenAI, wyraził zgodę na potrzebę „ustabilizowania tempa” rozwoju AI, a Demis Hassabis z Google DeepMind oraz Elon Musk również poparli propozycję Amodei. Musk podkreślił, że kontrola wzajemna przez konkurentów jest właściwym kierunkiem działań.

Jednakże, jak wskazuje materiał, administracja Trumpa przyjęła twarde stanowisko wobec Anthropic, co jest częściowo związane z odmową Amodei podporządkowania się politycznym wymaganiom. W przeciwieństwie do tego, OpenAI podjęło działania dostosowawcze, zatrudniając byłych pracowników administracji i inwestując w centra danych zgodnie z oczekiwaniami rządu USA. CEO OpenAI uczestniczył również w niedawnym szczycie G7 obok Donalda Trumpa, podczas gdy Amodei reprezentował swoją firmę na spotkaniu z prezydentem Francji Emmanuelem Macronem.

W branży technologicznej rośnie obawa, że podejrzenia dotyczące Chin mogą stać się standardem weryfikacji użytkowników w Dolinie Krzemowej, co może mieć szerokie konsekwencje dla dostępu do zaawansowanych technologii.

W efekcie Anthropic znalazł się w trudnej sytuacji, starając się jednocześnie prowadzić dialog z władzami USA i proponując rozwiązania mające na celu zwiększenie bezpieczeństwa rozwoju sztucznej inteligencji.

W artykule przedstawiono zatem zarówno kwestie związane z geopolitycznymi napięciami dotyczącymi dostępu do zaawansowanych modeli AI, jak i inicjatywy podejmowane przez Anthropic w celu regulacji tempa rozwoju tej technologii.