EU AI Act: Praktický průvodce pro HR lídry

Umělá inteligence už není něčím, na co se organizace teprve připravují. Je součástí každodenní práce. Náboráři používají AI při přípravě pracovních inzerátů, manažeři s pomocí AI asistentů shrnují porady, zaměstnanci ji využívají při tvorbě reportů a také HR platformy stále častěji obsahují funkce založené na umělé inteligenci.

S tím, jak se AI stává běžnou součástí fungování firem, přichází nová otázka: Jak AI používat zodpovědně?

Právě tím se zabývá EU AI Act.

Mnoho HR lídrů se může domnívat, že AI Act je především záležitostí IT, právního oddělení nebo compliance. Přestože všechny tyto oblasti hrají důležitou roli, ani HR by nemělo podceňovat vlastní odpovědnost. Řada systémů umělé inteligence, které AI Act označuje jako vysoce rizikové, se totiž používá právě v procesech souvisejících se zaměstnáváním a zaměstnanci.

HR se tak stává jedním z klíčových aktérů při zavádění AI odpovědným způsobem.

Tento článek vznikl ve spolupráci se společností FledgeWorks a jeho účelem není poskytovat podrobný právní výklad AI Actu. Zaměřuje se na to, co nové nařízení znamená z pohledu HR a především na praktické kroky, které mohou HR lídři podniknout.

Co je EU AI Act?

EU AI Act je první komplexní právní rámec upravující oblast umělé inteligence. Nereguluje AI pouze jako technologii, ale zaměřuje se především na způsob, jakým je AI vyvíjena, zaváděna a používána, zejména v situacích, kdy může ovlivňovat práva, bezpečnost nebo příležitosti lidí.

Nařízení vychází z jednoduchého principu: čím větší může být dopad AI na člověka, tím větší odpovědnost nese organizace, která ji používá.

AI Act proto využívá přístup založený na míře rizika. AI používaná například ke shrnutí poznámek z porady představuje zcela jinou úroveň rizika než systém, který hodnotí uchazeče o zaměstnání, doporučuje povýšení nebo posuzuje pracovní výkon zaměstnanců.

Pro HR je toto rozlišení obzvlášť důležité. Používání AI při rozhodování v oblasti zaměstnávání totiž patří mezi nejpřísněji regulované oblasti.

Proč by se o AI Act mělo HR zajímat?

HR vždy neslo odpovědnost za navrhování a zlepšování procesů, které ovlivňují celý životní cyklus zaměstnance. Patří sem nábor, onboarding, řízení pracovního výkonu, vzdělávání a rozvoj, kariérní růst, plánování nástupnictví, odměňování i plánování pracovní síly.

Dnes se AI postupně stává součástí všech těchto oblastí.

Náboráři ji využívají k tvorbě pracovních inzerátů nebo identifikaci relevantních dovedností a kompetencí. Manažeři ji mohou používat při přípravě na hodnocení pracovního výkonu nebo při vytváření osobních pracovních plánů a cílů.

Vzdělávací platformy mohou doporučovat rozvojové aktivity na základě vyhodnocených kompetencí. AI může podporovat také kariérní rozvoj tím, že pomáhá identifikovat potenciál zaměstnanců nebo vhodné nástupce pro klíčové pozice.

Tyto možnosti mohou šetřit čas a zvyšovat efektivitu. Současně ale přinášejí důležitou otázku: pokud AI ovlivňuje rozhodnutí týkající se člověka, kdo za toto rozhodnutí nese odpovědnost?

Odpovědnost zůstává na organizaci a na lidech, kteří rozhodnutí přijímají. V případě procesů navrhovaných a řízených HR má proto zásadní odpovědnost také HR.

AI může rozhodování podporovat, ale odpovědnost za něj zůstává na lidech.

AI Act nepožaduje, aby HR přestalo používat AI

Jedním z častých omylů spojených s AI Act je představa, že nové nařízení omezuje inovace nebo organizacím říká, aby AI přestaly používat.

Není tomu tak.

AI Act požaduje především to, aby organizace věděly, kde AI používají, dokázaly vyhodnotit související rizika, zajistily odpovídající lidský dohled a zachovaly vysvětlitelnost důležitých rozhodnutí.

Z pohledu HR proto AI Act nemusí být vnímán pouze jako další administrativní nebo compliance povinnost. Může být také příležitostí ke zvýšení kvality HR procesů.

Mnoho principů podporovaných AI Act totiž odpovídá tomu, co kvalitní HR prosazuje již dlouhou dobu – strukturovaný nábor, transparentní řízení výkonu, konzistentní rozhodování, spolehlivá data a jasně stanovenou odpovědnost.

Co musí HR podle EU AI Act dělat?

AI Act nepřenáší veškerou odpovědnost na HR a neočekává, že se z HR profesionálů stanou odborníci na umělou inteligenci.

Odpovědné používání AI vyžaduje spolupráci mezi HR, IT, právním oddělením, compliance, informační bezpečností, nákupem a vedením společnosti.

Protože je však mnoho aplikací AI využíváno právě v procesech souvisejících se zaměstnáváním, hraje HR zásadní roli při zajištění toho, aby byly tyto systémy zaváděny a řízeny odpovědně.

Jednou z klíčových oblastí je AI gramotnost. HR profesionálové, manažeři i zaměstnanci používající AI by měli rozumět jejím možnostem, omezením a rizikům.

Stejně důležitý je lidský dohled. AI by neměla samostatně přijímat důležitá rozhodnutí v oblasti zaměstnávání. Manažeři musí její výstupy kontrolovat, kriticky posuzovat a nadále nést odpovědnost za nábor, povyšování, hodnocení výkonu nebo další zásadní personální rozhodnutí.

HR by zároveň mělo identifikovat oblasti, ve kterých AI ovlivňuje nábor, screening kandidátů, řízení výkonu, kariérní rozvoj, plánování nástupnictví nebo plánování pracovní síly. Právě tyto procesy mohou vyžadovat důkladnější řízení a dohled.

Důležitou roli hraje také transparentnost. Tam, kde je to vyžadováno, by kandidáti a zaměstnanci měli vědět, že je AI používána, a měli by rozumět tomu, jakým způsobem podporuje rozhodování.

Neméně důležitá je kvalita dat. AI je závislá na spolehlivé architektuře pracovních pozic, kompetenčních modelech, záznamech o zaměstnancích a údajích o pracovním výkonu. Čím kvalitnější jsou vstupní data a procesy, tím kvalitnější mohou být také výsledná doporučení.

Organizace by měly také dokumentovat, kde se AI používá, kdo kontroluje její doporučení, jak je zajištěn lidský dohled a jaké kontrolní mechanismy jsou zavedeny.

Správa a řízení AI přitom nemůže být odpovědností jediného oddělení. HR by mělo spolupracovat s IT, právním oddělením, compliance, informační bezpečností a vedením společnosti na jasném stanovení pravidel, odpovědností a schvalovacích procesů.

Pozornost je potřeba věnovat také dodavatelům HR technologií. Organizace by měly rozumět tomu, jak jejich AI funkce fungují, jak jsou generována doporučení, zda je možné je vysvětlit a jak dodavatelé podporují soulad s AI Act.

A nakonec je důležitý průběžný monitoring. HR procesy podporované AI by měly být pravidelně kontrolovány s cílem identifikovat případnou zaujatost, nezamýšlené důsledky a možnosti dalšího zlepšení.

Řízení AI není jednorázový projekt. Je to dlouhodobý proces.

Jak převést principy do praxe

Principy AI Act poskytují základní přehled o tom, co nové nařízení znamená pro HR. Skutečnou výzvou je ale jejich převedení do každodenní praxe.

1. Zjistěte, kde se AI již používá

Mnoho organizací si při zmínce o AI okamžitě představí umělou inteligenci integrovanou přímo v jejich HR platformě. To je ale pouze část celkového obrazu.

Náboráři používají AI asistenty, manažeři využívají veřejně dostupné nástroje k přípravě dokumentů nebo shrnutí porad a zaměstnanci se při každodenní práci stále více spoléhají na generativní AI.

Než může HR používání AI efektivně řídit, musí nejprve získat přehled o tom, kde se AI skutečně využívá.

Prověřte proto celý životní cyklus zaměstnance – od náboru přes rozvoj a řízení výkonu až po offboarding – a identifikujte oblasti, kde AI podporuje nebo ovlivňuje HR procesy.

Takový přehled představuje základ všech dalších aktivit. Bez znalosti toho, kde se AI používá, není možné správně vyhodnotit rizika, nastavit governance ani zajistit soulad s AI Act.

2. Identifikujte vysoce rizikové HR procesy

AI Act využívá přístup založený na míře rizika. Ke každému použití AI se proto nepřistupuje stejně.

Použití AI k vytvoření návrhu interní směrnice, shrnutí poznámek z porady nebo přípravě školicích materiálů představuje výrazně nižší riziko než využití AI při rozhodování o zaměstnancích.

HR by proto mělo rozlišovat mezi AI, která především zvyšuje efektivitu práce, a AI, která ovlivňuje rozhodnutí s dopadem na kariéru nebo pracovní podmínky konkrétních lidí.

Zvláštní pozornost je potřeba věnovat například screeningu a hodnocení kandidátů, hodnocení pracovního výkonu, doporučování povýšení, kariérnímu rozvoji, plánování nástupnictví, přidělování pracovní síly nebo monitorování zaměstnanců.

Pokud AI tyto procesy podporuje, mělo by HR zajistit odpovídající dokumentaci, skutečný lidský dohled a možnost vysvětlit způsob, jakým bylo rozhodnutí přijato.

3. Zajistěte skutečný lidský dohled

Jedním z nejdůležitějších principů AI Act je skutečnost, že odpovědnost za rozhodování nadále nesou organizace a lidé.

AI může analyzovat informace, identifikovat vzorce a vytvářet doporučení. Konečná rozhodnutí ale musí zůstávat v rukou lidí.

Lidský dohled proto znamená mnohem více než jen zkontrolovat výstup vytvořený AI a následně kliknout na tlačítko „Schválit“.

Manažeři musí rozumět tomu, jak AI daný proces podporuje, jaké informace využívá, kde má své limity a kdy by měl profesionální úsudek převážit nad doporučením systému.

Každé důležité rozhodnutí týkající se zaměstnanců by mělo být vysvětlitelné a mělo by být jasné, kdo za něj odpovídá.

AI by měla manažerům pomáhat přijímat lepší rozhodnutí. Neměla by nahrazovat úsudek a odpovědnost, které jsou nezbytnou součástí vedení lidí.

4. Zvyšte kvalitu HR dat

Umělá inteligence je závislá nejen na spolehlivých informacích, ale také na dobře navržených a digitalizovaných HR procesech.

Nekvalitní data a roztříštěné procesy mohou vést k nekvalitním doporučením AI.

Před rozšířením využívání AI by proto HR mělo posoudit, zda má organizace vytvořeny správné základy. Měly by být jasně definovány pracovní pozice, role a odpovědnosti, aktuální kompetenční a dovednostní rámce a spolehlivé záznamy o zaměstnancích.

Stejně důležité je, aby bylo hodnocení pracovního výkonu založeno na jasných kritériích a aby byly HR procesy digitalizované, standardizované a konzistentně uplatňované.

Organizace se často soustředí na samotné zavádění AI a přitom přehlížejí význam kvalitní digitalizace.

AI je ale pouze tak kvalitní, jak kvalitní jsou procesy a data, ze kterých vychází.

Pokud jsou informace rozptýlené v tabulkách, e-mailech a vzájemně nepropojených systémech, samotná AI nedokáže zajistit konzistentnost ani kvalitní řízení.

Technologie nemůže napravit špatný organizační design. Pracuje s procesy, které již existují, a může zesílit nejen jejich silné stránky, ale také jejich nedostatky.

5. Budujte AI gramotnost

Jednou z prvních povinností zavedených EU AI Act je AI gramotnost. Organizace musí zajistit, aby zaměstnanci používající AI měli odpovídající úroveň znalostí potřebnou k jejímu odpovědnému používání.

Pro HR to představuje novou oblast odpovědnosti.

AI gramotnost by se měla stát součástí vzdělávání a rozvoje zaměstnanců, rozvoje vedoucích pracovníků i onboardingu lidí, kteří budou AI používat při každodenní práci.

Neznamená to učit zaměstnance technické detaily fungování AI modelů. Důležité je především to, aby lidé chápali, kde může AI rozhodování podporovat, kde musí mít přednost lidský úsudek a jaká rizika a omezení mohou mít výstupy generované AI.

Zaměstnanci by také měli vědět, jaké důvěrné nebo osobní informace není vhodné zadávat do veřejně dostupných AI nástrojů a kdy je potřeba doporučení vytvořené AI zpochybnit namísto jeho automatického přijetí.

S tím, jak se AI stává běžnou součástí práce, může být AI gramotnost stejně důležitá, jako byla v minulých desetiletích gramotnost digitální.

6. Prověřte své dodavatele AI řešení

Implementace softwaru využívajícího AI nepřenáší odpovědnost za její používání na dodavatele. Přestože mají poskytovatelé softwaru podle EU AI Act vlastní povinnosti, organizace nadále odpovídají za způsob, jakým AI používají ve svých HR procesech, a za rozhodnutí přijatá na základě jejích doporučení.

Pro HR to znamená úzkou spolupráci s IT, nákupem, právním oddělením a compliance při výběru a hodnocení HR technologií. Při výběru řešení je důležité rozumět tomu, jaké AI funkce platforma obsahuje, které HR procesy ovlivňuje, jakým způsobem AI podporuje rozhodování a kde zůstává nezbytný lidský dohled.

Organizace by také měly vědět, zda lze doporučení vytvořená AI vysvětlit, jak řešení pracuje s rizikem zaujatosti, kvalitou dat a bezpečností a jak dodavatel podporuje soulad s EU AI Act.

Výběr HR platformy proto již není pouze otázkou funkcionality. Stále více jde také o transparentnost, governance a důvěru.

7. Nastavte governance pro AI

Odpovědné používání AI nemůže být výhradní odpovědností jediného oddělení. Vyžaduje jasné řízení, definované odpovědnosti a spolupráci napříč celou organizací.

Governance AI znamená zajistit, aby byla AI zaváděna, používána a monitorována transparentním a odpovědným způsobem, který je v souladu s obchodními cíli organizace i regulatorními požadavky.

Každá část organizace má přitom jinou roli. IT implementuje a spravuje technologie, právní oddělení interpretuje regulatorní požadavky, compliance vytváří rámec governance, informační bezpečnost chrání firemní data a nákup hodnotí dodavatele.

Vedoucí pracovníci nadále nesou odpovědnost za rozhodnutí přijímaná v jejich týmech.

HR pak zajišťuje, aby AI podporovala spravedlivé, transparentní a konzistentní personální procesy, a současně pomáhá manažerům rozvíjet schopnosti potřebné k jejímu odpovědnému používání.

Jedním z nejdůležitějších aspektů governance AI je jednoznačnost. Každý zapojený člověk by měl vědět, kde se AI používá, kdo kontroluje její výstupy, kdo přijímá konečné rozhodnutí a jak lze toto rozhodnutí v případě potřeby vysvětlit.

Správa AI není pouze další HR iniciativou ani IT projektem. Je to schopnost celé organizace používat AI odpovědně, budovat důvěru zaměstnanců a současně dodržovat požadavky EU AI Act. 👇

Proč je to pro HR příležitost?

Mnoho organizací vnímá EU AI Act jako další compliance projekt. Lze se na něj ale dívat také jiným způsobem. Nařízení posiluje řadu principů, které HR prosazuje již mnoho let – jasné organizační struktury, transparentní procesy, odpovědné rozhodování, spolehlivá data a schopné manažery.

Tyto oblasti byly vždy základem kvalitního řízení lidí. AI Act z nich pouze činí ještě důležitější předpoklad pro organizace, které chtějí umělou inteligenci využívat odpovědně. Organizace, které do těchto základů investovaly již dříve, budou mít při zavádění AI výrazně lepší výchozí pozici. Ty, které tak neučinily, mohou naopak zjistit, že AI jejich organizační nedostatky neřeší, ale spíše odhaluje.

Technologie může výrazně zvýšit efektivitu. Nemůže ale napravit špatný organizační design.

Pro HR lídry je právě toto jedním z hlavních poselství EU AI Act. Nejde pouze o splnění požadavků nového nařízení. Jde také o zajištění toho, aby způsob, jakým organizace řídí své zaměstnance, byl dostatečně strukturovaný, transparentní a robustní pro odpovědné používání AI.

Jak mohou pomoci HR technologie?

Role moderních HR platforem dnes sahá daleko za pouhou automatizaci administrativních úkolů. Měly by organizacím poskytovat strukturu, transparentnost a konzistentnost potřebnou pro odpovědné používání AI.

Umělá inteligence je pouze tak spolehlivá, jak spolehlivé jsou procesy a data, na kterých stojí.

Jasná architektura pracovních pozic, dobře definované role, rámce kompetencí a dovedností, spolehlivá data o zaměstnancích, standardizované workflow, dokumentované schvalovací procesy a auditní záznamy přispívají ke kvalitnějším rozhodnutím podporovaným AI.

Současně pomáhají organizacím prokazovat transparentnost, odpovědnost a kvalitní governance – tedy principy, které stojí v samotném centru EU AI Act.

Věříme, že AI by měla profesionální úsudek posilovat, nikoli nahrazovat.

Automatizací opakujících se administrativních činností a poskytováním relevantních informací manažerům může AI umožnit HR profesionálům soustředit se na oblasti, které přinášejí největší hodnotu – rozvoj lidí, zlepšování schopností organizace a přijímání kvalitnějších rozhodnutí.

Technologie přináší největší hodnotu tehdy, pokud stojí na pevných HR základech.

Odpovědná AI začíná odpovědným HR.

Související řešení FledgeWorks

EU AI Act zdůrazňuje význam strukturovaných HR procesů, spolehlivých dat a transparentního rozhodování.

FledgeWorks pomáhá organizacím vytvářet tyto základy prostřednictvím architektury pracovních pozic, strukturovaného náboru a ATS, řízení pracovního výkonu, práce s kompetencemi a dovednostmi, kariérního rozvoje, plánování nástupnictví a HR analytiky.

Tyto oblasti pomáhají vytvářet jasnější role a odpovědnosti, transparentnější a konzistentnější náborové procesy, kvalitnější práci s výkonem zaměstnanců i lepší podmínky pro jejich dlouhodobý kariérní rozvoj.

Díky spolehlivým datům a strukturovaným procesům mohou organizace současně vytvářet kvalitnější základ pro odpovědné využívání AI.

----------------------------------------------------------------------------------

Autorka: Jasmina Ridzi

Jasmina Ridzi je HRM konzultantkou ve společnosti FledgeWorks, odbornicí na talent management a spoluzakladatelkou společnosti Amitas d.o.o. Má více než 20 let zkušeností v oblasti HR, organizačního rozvoje a personální strategie.

Její odbornost zahrnuje talent a performance management, kompetenční modely, organizační design a profilování kandidátů.

Překlad: Filip Šmidoch