Amerykańscy liderzy rynku AI tworzą własne zasady kontroli modeli
Przedstawiciele OpenAI, Anthropic oraz Google DeepMind prowadzą od kilku tygodni rozmowy na temat ustalenia wspólnych zasad bezpieczeństwa dla zaawansowanych modeli sztucznej inteligencji. Informację tę potwierdził szef do spraw polityki globalnej w OpenAI, Chris Lehane, podczas spotkań z amerykańskimi ustawodawcami w Waszyngtonie. Rozmowy dotyczą między innymi wprowadzenia zewnętrznych audytów oraz stworzenia organizacji nadzorującej branżę.
Rozmowy o kontrolowaniu rozwoju najnowszych modeli
Rozmowy między przedsiębiorstwami stanowią odpowiedź na apel szefa Anthropic, Dario Amodeiego, który wezwał do kontrolowanego spowolnienia prac nad najbardziej zaawansowaną sztuczną inteligencją w celu uniknięcia zagrożeń katastrofalnych. Stanowisko to poparli szefowie innych kluczowych podmiotów, w tym Sam Altman z OpenAI, Demis Hassabis z Google DeepMind oraz Elon Musk. Sam Altman zadeklarował, że OpenAI zamierza wdrożyć rozwiązanie zaproponowane przez Anthropic i wpuścić do firmy zewnętrznych ekspertów w celu weryfikacji procedur bezpieczeństwa. Jednocześnie pojawiły się obawy, że taka współpraca może zostać uznana za naruszenie prawa antymonopolowego poprzez ograniczanie konkurencji. Choć Amodei zaproponował wystąpienie o specjalne wyłączenie rządowe, Chris Lehane stwierdził, że przedsiębiorstwa nie potrzebują takiego zezwolenia.
Plany utworzenia niezależnego organu normatywnego
Z doniesień medialnych wynika, że trzy przedsiębiorstwa dążą do powołania własnego organu standaryzacyjnego dla sektora sztucznej inteligencji. Według informacji przekazanych pracownikom przez Sama Altmana, rozwiązanie to powinno powstać niezależnie od wsparcia ze strony władz federalnych. Pomysł ten odpowiada wcześniejszym wypowiedziom Demisa Hassabisa, który sugerował utworzenie państwowego nadzoru posiadającego uprawnienia do badania zaawansowanych algorytmów i koordynowania ewentualnego spowolnienia prac. Ponadto OpenAI wyraziło poparcie dla zapisów ustawy FRONTIER Act, które nakładałyby na czołowe laboratoria obowiązek udostępniania modeli niezależnym organizacjom weryfikującym.
Sprzeciw władz i odmienne spojrzenie na ryzyko
Działania przedsiębiorstw technologicznych spotykają się z odmiennym podejściem ze strony administracji państwowej. Prezydent Donald Trump określił obawy dotyczące bezpieczeństwa mianem przesadzonych i opowiedział się przeciwko wprowadzaniu surowych regulacji, argumentując, że jakiekolwiek spowolnienie prac da przewagę Chinom. Podobne stanowisko wyraził jego doradca do spraw sztucznej inteligencji David Sacks, według którego ryzyko egzystencjalne jest wyolbrzymiane. Mimo stanowiska polityków czołowe przedsiębiorstwa kontynuują rozmowy mające na celu wypracowanie wewnętrznych mechanizmów kontroli.
Najnowszy numer
Najnowszy numer