Nowe przepisy nie wymagają rezygnacji z AI. Wymagają wiedzy, jakie zastosowania są dopuszczalne, kto za nie odpowiada i jak to udokumentować.
Przepisy nie traktują wszystkich tak samo. Zanim odpowiesz, co urząd musi zrobić, trzeba ustalić, w jakiej roli występuje.
Tworzy system AI albo udostępnia go pod własną nazwą.
Podmiot, który buduje rozwiązanie lub zleca jego zbudowanie, a następnie wprowadza je do obrotu albo oddaje do użytku pod własną marką. Odpowiada za sam system, nie tylko za sposób korzystania z niego.
W JST rzadko — zwykle wtedy, gdy urząd zamawia autorskie narzędzie i udostępnia je pod własną nazwą.
Korzysta z gotowego systemu AI we własnej działalności.
Podmiot, który nie tworzy narzędzia, tylko go używa — kupuje licencję, korzysta z usługi chmurowej albo z funkcji AI wbudowanej w posiadane oprogramowanie. To rola, w której JST występuje najczęściej.
W JST najczęściej — dotyczy praktycznie każdego urzędu, w którym pracownicy korzystają z narzędzi AI.
Rola determinuje zakres obowiązków. Nie jest przy tym przypisana raz na zawsze — ta sama jednostka bywa podmiotem stosującym dla jednego narzędzia i dostawcą dla innego. Dlatego rolę ustalamy osobno dla każdego zastosowania, a nie zbiorczo dla całego urzędu.
AI Act porządkuje zastosowania według tego, jak bardzo mogą wpłynąć na ludzi. Im wyższy poziom, tym więcej nadzoru i dokumentacji.
Poziom 1
Wąska grupa zastosowań zakazanych — bez względu na to, jak wygodne wydawałyby się w użyciu. Dla urzędu oznacza to krótką, jednoznaczną listę rzeczy, których po prostu się nie robi.
Poziom 2
Systemy działające tam, gdzie skutki dotykają sytuacji obywatela — m.in. w obszarach wpływających na dostęp do usług publicznych. To tu pojawia się najszerszy zestaw obowiązków: ocena ryzyka, jakość danych, nadzór człowieka i rejestrowanie działania.
Poziom 3
Zastosowania, przy których najważniejsza jest przejrzystość. Podstawowy obowiązek to poinformowanie odbiorcy, że ma kontakt z systemem AI albo że treść powstała automatycznie.
Poziom 4
Większość codziennych narzędzi wspierających pracę biurową: redagowanie tekstu, streszczanie, tłumaczenia, porządkowanie notatek. Formalnych wymagań prawie nie ma — wewnętrzne zasady i tak się przydają.
Klasyfikacja konkretnego zastosowania wymaga analizy w kontekście danego urzędu — to jeden z elementów AI Governance.
Zgodność nie jest opinią prawną w segregatorze. To zestaw dokumentów i nawyków, z których urząd faktycznie korzysta.
Wewnętrzny dokument, który mówi, z jakich narzędzi wolno korzystać, jakich danych nie wolno w nich umieszczać i kto rozstrzyga wątpliwości. Urząd zyskuje jedną odpowiedź zamiast kilkudziesięciu prywatnych interpretacji.
Lista narzędzi używanych w urzędzie wraz z celem, właścicielem i przypisanym poziomem ryzyka. Bez niej nie da się ani ocenić ryzyka, ani odpowiedzieć na pytanie, gdzie AI jest wykorzystywana.
Analiza skutków prawnych, organizacyjnych i tych dotyczących danych — przeprowadzana przed wdrożeniem, a nie po incydencie. Pokazuje, które zastosowania wymagają dodatkowych zabezpieczeń, a które można uruchomić od razu.
Kompetencje pracowników: jak formułować polecenia, jak rozpoznać błędną odpowiedź i kiedy z narzędzia lepiej nie korzystać. Przeszkolony urzędnik jest skuteczniejszym zabezpieczeniem niż kolejny zapis w regulaminie.
Zasada, że wynik działania AI jest materiałem roboczym, a decyzję podejmuje i podpisuje urzędnik. Ustalamy, w których procesach weryfikacja jest obowiązkowa i jak ją odnotować.
Rozstrzygnięcie, jakie kategorie danych mogą trafiać do narzędzi AI, gdzie są przetwarzane i kto ma do nich dostęp. Spina zasady korzystania z AI z obowiązkami, które urząd i tak już realizuje.
Pytania, które słyszymy najczęściej od sekretarzy i kierowników jednostek.
15 pytań. 5 minut. Bez zobowiązań.
Otrzymasz raport z wynikiem, mapę obszarów wymagających uwagi i rekomendację pierwszego kroku dopasowaną do sytuacji Twojej jednostki.
