Online kurz BOZP AI

Víte o tom, jaké povinnosti poskytovatelů, zavádějících subjektů a uživatelů AI přináší Akt o umělé inteligenci, který vstoupil v platnost v červnu 2024?

Povinné školení už od roku 2025

Subjekty mají povinnost zajistit, aby jejich zaměstnanci zapojení do vývoje, implementace nebo používání systémů AI byli pravidelně školeni a informováni o příslušných regulačních požadavcích a etických zásadách. To zahrnuje pochopení rizik spojených s AI, způsobů jejich zmírňování a zásad zodpovědného používání.

My vám tyto povinnosti pomůžeme splnit.

Porušení Aktu o umělé inteligenci může zahrnovat širokou škálu činů nebo opomenutí, pokud nejsou v souladu s požadavky a povinnostmi stanovenými v tomto nařízení.
My vám tyto povinnosti pomůžeme splnit. Zanedlouho spustíme online školení pro všechny, kterých se Akt o umělé inteligenci týká.
Vzdělávání povede Mgr. Marek Grác, Ph.D., věnující se problematice umělé inteligence na Masarykově univerzitě v Brně a zakladatel společnosti Phalanx.
Každému úspěšnému absolventovi školení vystavíme certifikát. Základní školení stojí 10 eur na osobu na rok.

Nařízení Evropského parlamentu a Rady (EÚ) 2024/1689 z 13. června v článku 4 Gramotnost v oblasti umělé inteligence uvádí:

Poskytovatelé systémů AI a subjekty zavádějící AI přijímají opatření, aby v co největší možné míře zajistili dostatečnou úroveň gramotnosti v oblasti AI u svých zaměstnanců i u všech dalších osob, které se jejich jménem zabývají provozem a používáním systémů AI, s přihlédnutím k jejich technickým znalostem, zkušenostem, vzdělání a odborné přípravě a prostředí, v němž mají být systémy AI používány, a s ohledem na osoby nebo skupiny osob, na kterých mají být systémy AI používány.

Doktor Marek Grác
se více než 10 let věnuje oblasti strojového učení a umělé inteligence.

Na Masarykově univerzitě vyučuje předměty o umělé inteligenci, jako jsou například Aplikované strojové učení a Aktuální trendy v NLP/AI. Věnuje se také zvyšování povědomí o možnostech současných nástrojů umělé inteligence v rámci předmětu Velké jazykové modely v praxi, který je určen zájemcům z řad studentů napříč univerzitou. Během svého působení na univerzitě vedl desítky bakalářských a diplomových prací zabývajících se aktuálními tématy, například Přizpůsobení velkých jazykových modelů pro specifickou doménu nebo Generování bakalářské práce v češtině pomocí LLM.

V roce 2019 založil společnost Phalanx, která se zaměřuje na aplikování AI (zpracování přirozeného jazyka) na zákaznickou zkušenost, a to jak v češtině, tak i slovenštině.

Marek Grác o umělé inteligenci píše pro nejznámější technologický časopis na světě Wired.

Akt o umělé inteligenci

Akt o umělé inteligenci (AI Akt) je právní předpis Evropské unie, který reguluje používání a zavádění systémů umělé inteligence (AI) v členských státech EU.
AI Akt stanovuje různé povinnosti pro vývojáře, poskytovatele a uživatele systémů AI v závislosti na kategorii rizika spojeného se systémy.
Je velmi důležité, aby subjekty zapojené do ekosystému AI pochopily a začlenily tyto povinnosti do svých činností a zabezpečily úspěšnou adaptaci na nové regulační prostředí.

Koho se nová bezpečnostní opatření týkají?

Zavádějící subjekty

Definice v AI Aktu:
Pojem „zavádějící subjekt“ uvedený v tomto nařízení by měl být vykládán jako jakákoli fyzická nebo právnická osoba, včetně veřejného orgánu, agentury nebo jiného subjektu, která v rámci své pravomoci používá systém AI, s výjimkou případů, kdy je tento systém AI používán při osobní neprofesionální činnosti. V závislosti na typu systému AI může používání systému ovlivňovat jiné osoby než zavádějící subjekt.

Vlastními slovy

To znamená, že pokud používáte např. GPT4 na generování marketingových sloganů, jste zavádějící subjekt. Pokud máte vlastní nebo vámi upravený systém AI, dostáváte se do kategorie poskytovatele. Proto zaměstnanci, kteří se systémem přijdou do kontaktu, musí být vhodně proškoleni. Nezáleží tedy na tom, zda jste IT firma nebo vytváříte návrhy třiček pomocí AI.
Právě pro takové zaměstnance je primárně určeno naše online školení. Pro vedoucí nebo vývojáře pak dokážeme realizovat školení na míru.

Dovoz, distribuce, prodej

Nové povinnosti se týkají také dovozců, kteří dodávají systémy AI do EÚ na redistribuci nebo použití, distributorů a prodejců, kteří zabezpečují poskytování systémů AI stanovením norem transparentnosti a bezpečnosti těchto systémů určených pro spotřebitelský trh.

Subjekty zapojené do vývoje, distribuce nebo používání vysoce rizikových systémů AI musí také zabezpečit posouzení shody, registraci vysoce rizikových systémů AI, zodpovědnost a náhradu škody, průběžné monitorování a aktualizace, spolupráci s regulačními orgány, odbornou přípravu a vzdělávání, zohlednění etických a sociálních aspektů, ochranu soukromí a údajů a stejně tak mezinárodní spolupráci a přenos údajů.

Jaké následky má porušení povinností stanovených AI Aktem?

S ohledem na důraz, který AI Akt klade na bezpečnost, transparentnost, zodpovědnost a ochranu základních práv a svobod v souvislosti s vývojem, distribucí a používáním systémů AI, se porušení dělí do více kategorií:

nedodržení požadavků na bezpečnost a technické normy,
porušení transparentnosti a informačních povinností,
porušení práv subjektů údajů,
použití zakázaných praktik,
nedodržení požadavků na lidský dozor,
neúplné nebo nesprávné posouzení rizik,
nedostatečný dohled po uvedení na trh.

Porušení AI Aktu může mít vážné následky včetně uložení pokut, nápravných opatření a v krajním případě i zákazu dalšího používání nebo distribuce konkrétních systémů AI. Proto je velmi důležité, aby všechny subjekty zapojené do ekosystému AI plně pochopily a zajistily dodržování svých povinností podle AI Aktu.

KONTAKTUJTE NÁS

Máte otázky?

Napište nám

Phalanx Czech s.r.o.

IČO: 07118759