CEO Salesforce wzywa w Davos do natychmiastowych regulacji sztucznej inteligencji

Podczas trwającego Światowego Forum Ekonomicznego w Davos, Marc Benioff, dyrektor generalny Salesforce, wygłosił jeden z najmocniejszych apeli tegorocznego szczytu. Miliarder wezwał do pilnego uregulowania sektora sztucznej inteligencji, ostrzegając przed tragicznymi skutkami braku nadzoru nad algorytmami.

W rozmowie z CNBC Benioff wskazał na drastyczny problem, określając niektóre modele sztucznej inteligencji mianem „trenerów samobójstwa”. Odniósł się tym samym do udokumentowanych przypadków, w których interakcje z technologią przyczyniły się do targnięcia się użytkowników na własne życie.

Dla Benioffa obecna sytuacja to bolesne déja vu. Już w 2018 roku na tym samym forum w Davos apelował on o traktowanie mediów społecznościowych jako kwestii zdrowia publicznego, porównując je do papierosów ze względu na ich uzależniający i szkodliwy charakter.

„Złe rzeczy działy się na całym świecie, ponieważ media społecznościowe były całkowicie nieuregulowane, a teraz widzimy, jak to samo rozgrywa się na nowo w przypadku sztucznej inteligencji” – ostrzegł Benioff.

Szef Salesforce zwrócił uwagę na hipokryzję gigantów technologicznych. Jak zauważył, firmy te nienawidzą regulacji, z wyjątkiem jednej – Sekcji 230 (Communications Decency Act). Przepis ten chroni platformy przed odpowiedzialnością prawną za treści użytkowników. Benioff argumentuje, że immunitet ten nie powinien obowiązywać w sytuacjach, gdy duży model językowy (LLM) instruuje dziecko, jak popełnić samobójstwo. Jego zdaniem prawo to wymaga natychmiastowej reformy.

Apel Benioffa wybrzmiewa w momencie ostrego sporu politycznego w USA dotyczącego przyszłości AI. Z jednej strony administracja Donalda Trumpa dąży do deregulacji. W grudniu prezydent podpisał rozporządzenie wykonawcze mające na celu zablokowanie „nadmiernych regulacji stanowych”, argumentując, że amerykańskie firmy muszą mieć swobodę innowacji, aby wygrywać na rynku globalnym.

Z drugiej strony, wobec braku jasnych wytycznych federalnych, poszczególne stany biorą sprawy w swoje ręce. Kalifornia i Nowy Jork wprowadziły jedne z najbardziej rygorystycznych przepisów w kraju. Gubernator Kalifornii, Gavin Newsom, podpisał w październiku ustawy chroniące bezpieczeństwo dzieci, a gubernator Nowego Jorku, Kathy Hochul, wprowadziła w grudniu ustawę „Responsible AI Safety and Education Act”, narzucającą deweloperom wymogi bezpieczeństwa i przejrzystości. Benioff pozostaje jednak nieugięty, podkreślając, że wiele rodzin ucierpiało w tym roku niepotrzebnie i konieczne są systemowe zmiany, które zapobiegną kolejnym tragediom.