AI Act – znaczenie dla firm szkoleniowych
Dla firm szkoleniowych AI Act ma znaczenie głównie wtedy, gdy wykorzystują narzędzia AI w procesie szkoleniowym, HR, sprzedaży lub tworzeniu treści edukacyjnych.
1. Najczęstsza sytuacja – niskie lub ograniczone ryzyko
Większość zastosowań w firmach szkoleniowych (np. generowanie materiałów szkoleniowych, chatboty obsługi klienta, automatyczne tłumaczenia, analiza ankiet) będzie traktowana jako:
-
minimalne ryzyko – brak dodatkowych obowiązków,
-
ograniczone ryzyko – obowiązek poinformowania użytkownika, że korzysta z AI (np. chatbot szkoleniowy).
2. Potencjalnie wysokie ryzyko – obszar HR i rekrutacji
Jeżeli firma szkoleniowa:
-
używa AI do oceny kandydatów, selekcji CV, testów kompetencyjnych,
-
wykorzystuje systemy AI do oceny pracowników lub uczestników szkoleń, które mogą wpływać na decyzje zawodowe,
narzędzie może zostać uznane za system wysokiego ryzyka, co oznacza m.in.:
-
konieczność dokumentacji działania systemu,
-
nadzór człowieka nad decyzjami,
-
zarządzanie ryzykiem i kontrolę jakości danych.
3. Obowiązki informacyjne w szkoleniach
Jeżeli w szkoleniu:
-
uczestnicy pracują z generatywną AI,
-
materiały zostały wygenerowane przez AI,
-
symulacje wykorzystują AI,
firma powinna zapewnić transparentność (informację, że wykorzystywana jest sztuczna inteligencja).
4. Odpowiedzialność przy tworzeniu własnych narzędzi AI
Jeżeli firma szkoleniowa tworzy własne systemy AI (np. platformę adaptacyjnego uczenia), może zostać uznana za dostawcę systemu AI i podlegać pełnym obowiązkom AI Act.
Wniosek praktyczny
Dla większości firm szkoleniowych AI Act oznacza przede wszystkim:
-
konieczność wprowadzenia polityki korzystania z AI,
-
informowania użytkowników o użyciu AI,
-
szczególnej ostrożności przy zastosowaniach AI w HR i ocenie ludzi.
