Salesforce i NVIDIA prezentują Koa, nowy model AI do wnioskowania w biznesie

Podczas konferencji Dreamforce firma Salesforce zaprezentowała swój pierwszy model o nazwie Koa, opracowany we współpracy z NVIDIĄ. Rozwiązanie powstało na bazie otwartego modelu Nemotron i zostało przystosowane do zadań związanych z obsługą klientów, marketingiem oraz sprzedażą. Nowe narzędzie stanowi alternatywę dla zamkniętych modeli komercyjnych, zapewniając przedsiębiorstwom wyższy poziom ochrony danych oraz mniejsze wydatki na operacje obliczeniowe.

 

Odejście od zewnętrznych modeli 

Dotychczas platforma Agentforce wykorzystywała mniejsze modele do prostych zadań, ale w przypadku skomplikowanych procesów wymagających logicznego myślenia przekierowywała zapytania do zewnętrznych rozwiązań, takich jak Claude czy ChatGPT. Jayesh Govindarajan, wiceprezes Salesforce AI, wyjaśnił, że firma od dawna planowała stworzenie własnego modelu, jednak na rynku brakowało otwartej bazy o odpowiedniej jakości i jasnym pochodzeniu danych. Sytuację zmieniło udostępnienie modelu Nemotron przez NVIDIE, co umożliwiło stworzenie autonomicznego rozwiązania zintegrowanego z wewnętrznymi mechanizmami bezpieczeństwa Salesforce.

 

 

Szkolenie na danych syntetycznych gwarantuje ochronę prywatności

W procesie dostosowywania modelu Koa nie wykorzystano realnych danych klientów, co wyklucza ryzyko ich wycieku do zewnętrznych systemów. Zamiast tego przygotowano syntetyczne zbiory danych odzwierciedlające rzeczywiste scenariusze biznesowe. Jayesh Govindarajan opisał, że w środowisku testowym symulowano pracę działów obsługi, uwzględniając między innymi rozmowy z trudnymi klientami oraz działania przedstawicieli handlowych. Pozwoliło to precyzyjnie przygotować model do pracy w przedsiębiorstwach bez naruszania poufności informacji firmowych.

 

Niższe koszty i wyższa wydajność w operacjach biznesowych

Model Koa projektowano z myślą o zużywaniu mniejszej liczby tokenów podczas wykonywania zadań w porównaniu do komercyjnych modeli ogólnego przeznaczenia. Kari Ann Briski, wiceprezes NVIDII do spraw oprogramowania generatywnej AI dla przedsiębiorstw, zauważyła, że kluczowe dla zastosowań firmowych jest połączenie suwerenności danych, szybkiego czasu reakcji oraz wydajnego wnioskowania. Mimo wprowadzenia własnego rozwiązania Salesforce utrzymuje relacje z dotychczasowymi dostawcami technologii, o czym świadczy zapowiedź nowej usługi Claudeforce rozwijanej z firmą Anthropic.