UMP o projekcie Aktu w sprawie Sztucznej Inteligencji (tzw. AI act)

W ocenie Unii Metropolii Polskich przyszłe regulacje Unii Europejskiej muszą stanowić wsparcie  w rozwoju systemów sztucznej inteligencji oraz wdrożeniu technik w działalności sektora prywatnego i publicznego. Jednak na obecnym etapie rozwoju systemów sztucznej inteligencji jest jeszcze za wcześnie na określenie  kategorycznego podziału systemów AI na poziomie aktu rozporządzenia AI.   

Niestety wbrew treściom motywów wskazujących na konieczność wspierania innowacji w zakresie wykorzystania sztucznej inteligencji układ treści oraz podział logiczny aktu o sztucznej inteligencji nie wspiera rozwoju technik uczenia maszynowego i powinien zostać zmieniony.  

Nowy akt powinien stanowić ramy stosowania sztucznej inteligencji, jednak nie wychodzące od zakazów stosowania danego rodzaju systemów lub wskazywania na ryzyko jego stosowana a od określenia zakresu dopuszczalności stosowania sztucznej inteligencji oraz produktów ją wykorzystujących.  

W tym zakresie Unia Metropolii Polskich popiera propozycję opinii Komisji Polityki Społecznej, Edukacji, Zatrudnienia, Badań Naukowych i Kultury (SEDEC) Europejskiego Komitetu Regionów sprawie Europejskiego podejścia do sztucznej inteligencji. Akt o sztucznej inteligencji ² w którym podkreślono, że przy formułowaniu przepisów prawa w zakresie wykorzystania sztucznej inteligencji zasadne jest przyjęcie podejścia opartego na uczeniu się. Przepisy te powinny być wprowadzone zamiast przepisów o charakterze sektorowym i podziału określonych technik AI i sposobów jej wykorzystywania jako „zakazanych” lub „sztucznego ryzyka”. 

Jak słusznie wskazano ww. projekcie opinii Komisji SEDEC Komitetu Regionów³, najważniejszym kryterium określającym AI obarczoną wysokim poziomem ryzyka jest stopień, w jakim człowiek może wpływać na proces decyzyjny, oraz wpływ podejmowania decyzji na prawa i rzeczywiste działanie obywatelek i obywateli.   

Unia Metropolii Polskich przestawiła również uwagi do projektu rozporządzenia o charakterze generalnym, w których wskazuje m.in., konieczność doprecyzowania definicji sztucznej inteligencji i podmiotu publicznego, regulację wprost wskazującą na możliwość stosowania AI przez podmioty publiczne, a także konieczność uwzględnienia złożoności struktury publicznej w projektowanych regulacjach.  

Szczegółowe uwagi o charakterze generalnym, konkretne propozycje regulacji, a także szereg uwag o charakterze szczegółowym Unia Metropolii Polskich przedstawia w stanowisku poniżej.