Powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK

Ministerstwo Cyfryzacji podało, że w ramach działań mających na celu zaspokojenie rosnących potrzeb zapewnienia bezpieczeństwa i przejrzystości w rozwoju AI, w NASK powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji.

Na czele Ośrodka, który zainicjowany został w konsekwencji przekształcenia Pionu Sztucznej Inteligencji, stanął dr hab. inż. Szymon Łukasik, prof. AGH z Wydziału Fizyki i Informatyki Stosowanej. Zmiana jest podyktowana potrzebą skupienia się konkretnych zagadnieniach związanych z rozwojem AI.

„Główne zadania jakie stoją przed nami to rozwój i wprowadzanie nowych technologii sztucznej inteligencji. Ze szczególną uwagą będziemy skupiać się na uwzględnieniu metod bezpiecznych, transparentnych i wyjaśnialnych w kluczowych obszarach, takich jak administracja publiczna, bezpieczeństwo sieci oraz ochrona cyberprzestrzeni. Ośrodek ma również za zadanie edukować i wspierać społeczeństwo w świadomym korzystaniu z nowoczesnych technologii AI” – mówi Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.

W ramach funkcjonowania Ośrodka będą funkcjonowały następujące jednostki:

• Zakład Analiz Audiowizualnych i Systemów Biometrycznych, który prowadzi badania nad biometryczną weryfikacją tożsamości oraz przetwarzaniem informacji z wykorzystaniem uczenia głębokiego;.
• Zakład Inżynierii Lingwistycznej i Analizy Tekstu, zajmujący się przetwarzaniem języka naturalnego i analizą tekstu, w tym wykrywaniem nielegalnych lub wrażliwych treści;
• Zakład Nauki o Danych, który rozwija metody analizy dużych zbiorów danych, w tym związanych z cyberbezpieczeństwem oraz zwalczaniem dezinformacji;
• Zakład Zastosowań Sztucznej Inteligencji w Medycynie i Analizie Danych Wrażliwych, którego celem jest rozwój systemów AI wspomagających diagnostykę i analizę danych medycznych;
• Niebawem prace rozpocznie także Zakład Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji, który będzie koncentrował się na badaniach nad bezpieczeństwem i wyjaśnialnością modeli AI, a także wspiera krajowe i międzynarodowe inicjatywy w tym zakresie. Obecnie trwa budowa zespołu.

Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji ma za zadanie stworzyć możliwości realizacji ambitnych projektów badawczych i współpracować z innymi instytucjami naukowymi i badawczo-rozwojowymi. Ośrodek będzie też zaangażowany w popularyzację wiedzy na temat sztucznej inteligencji, prowadząc liczne inicjatywy edukacyjne i społeczne.