Školský digitálny koordinátor
Interná smernica školy o využívaní informačných technológií
Zavádzanie a využívanie nástrojov umelej inteligencie (AI) v podmienkach školy
Prevádzkovateľ Základná škola - Alapiskola, Školská 330, Jelenec
so sídlom: Školská 330/330
IČO: 37865587
Článok I
Predmet a účel smernice
- Tento dokument upravuje pravidlá zavádzania, používania, evidencie a kontroly nástrojov umelej inteligencie (ďalej len „AI nástroje“) v prostredí školy, a to v rámci výchovno-vzdelávacieho procesu, interného riadenia a podpory zamestnancov školy.
- Účelom je zabezpečiť zodpovedné, bezpečné a zákonné využívanie AI nástrojov v súlade s:
- Plánom zodpovedného využívania AI vo vzdelávaní 2025 – 2027, vydaného Ministerstvom školstva, výskumu, vývoja a mládeže Slovenskej republiky
- zákonom č. 245/2008 Z. z. o výchove a vzdelávaní (školský zákon) a o zmene a doplnení niektorých zákonov,
- NARIADENÍM EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov)
- zákonom č. 18/2018 Z. z. o ochrane osobných údajov a o zmene a doplnení niektorých zákonov.
Článok II
Definícia pojmov
Na účely tohto dokumentu a v nadväznosti na terminológiu používanú v právne záväzných dokumentoch Európskej únie, právnych predpisoch Slovenskej republiky a vnútorných predpisoch školy sa ustanovuje nasledovné vykladanie pojmov. Tento článok je záväzný pre výklad pojmov v celom texte dokumentu a v prípade nejasnosti má prednosť pred inými výkladmi, ak nie je v konkrétnom ustanovení uvedené inak.
1. Umelá inteligencia (ďalej len „AI“)
sa na účely tejto smernice rozumie autonómny alebo poloautonómny systém, nástroj alebo súbor algoritmicky riadených technológií schopných samostatne spracúvať vstupné údaje, prijímať rozhodnutia alebo generovať výstupy bez priameho a nepretržitého ľudského zásahu, a to najmä prostredníctvom mechanizmov strojového učenia, hlbokého učenia, analýzy vzorov, predikčného modelovania, spracovania prirodzeného jazyka, generatívneho modelovania alebo iných relevantných techník definovaných v odborných štandardoch vedy o údajoch a výpočtovej inteligencie.
2. AI nástroj
je technické alebo softvérové riešenie, ktoré vykazuje znaky umelej inteligencie podľa bodu 1 tohto článku, pričom je určené na použitie v pedagogickom, hodnotiacom, administratívnom, metodickom, riadiacom alebo analytickom kontexte v rámci školy alebo školského zariadenia, a to buď ako samostatná aplikácia alebo ako súčasť komplexnejšej digitálnej platformy. Za AI nástroj sa považuje aj taký systém, ktorý bol výslovne označený ako AI výrobcom, zriaďovateľom, odborným garantom alebo inštitúciou schvaľujúcou jeho využitie vo vzdelávacom procese.
3. Použitie AI nástroja
znamená akúkoľvek činnosť, v rámci ktorej pedagogický, odborný alebo iný zamestnanec školy, ako aj žiak alebo iná oprávnená osoba, interaguje s AI nástrojom formou zadania vstupných dát, požiadavky alebo inštrukcie, pričom očakáva výstup spracovaný na základe algoritmického rozhodovania alebo generovania obsahu.
4. Zodpovedná osoba pre AI (ďalej len „zodpovedná osoba“)
je zamestnanec určený riaditeľom školy na výkon kontrolných, evidenčných a koordinačných činností súvisiacich s používaním AI nástrojov v podmienkach školy, najmä vo vzťahu k právnym povinnostiam vyplývajúcim z predpisov o ochrane osobných údajov, digitálnej bezpečnosti a pedagogickej zodpovednosti. Táto osoba zároveň zabezpečuje metodickú podporu a odborné stanoviská v prípade potreby. Touto osobou je školský digitálny koordinátor (ďalej „ŠDK“)
5. Osobný údaj
sa na účely tohto dokumentu rozumie akýkoľvek údaj týkajúci sa identifikovanej alebo identifikovateľnej fyzickej osoby, najmä meno, priezvisko, dátum narodenia, adresa, IP adresa, identifikátor v školských systémoch, výsledky vzdelávania, vyjadrenia, odpovede, prejavy alebo iný údaj, ktorý umožňuje priamu alebo nepriamu identifikáciu žiaka, rodiča, zamestnanca alebo inej dotknutej osoby.
6. Automatizované rozhodovanie
znamená situáciu, v ktorej rozhodnutie týkajúce sa osoby (najmä žiaka) je prijaté výlučne prostredníctvom výstupu AI nástroja, bez aktívneho ľudského zásahu, kontroly alebo overenia výstupu zodpovednou pedagogickou osobou, a ktoré môže mať právne účinky alebo obdobný významný dopad na práva a povinnosti tejto osoby.
7. Edukačné prostredie školy
označuje akýkoľvek fyzický alebo digitálny priestor, platformu, nástroj alebo systém, ktorý je používaný na účely výchovy a vzdelávania v rámci plnenia štátneho alebo školského vzdelávacieho programu, vrátane školského informačného systému, elektronickej žiackej knižky, LMS systémov, videokonferenčných nástrojov a iných digitálnych komponentov.
Článok III
Povolené využívanie nástrojov umelej inteligencie (AI nástrojov)
1. Východiskové ustanovenie
Na účely riadneho, systematického a právne konformného využívania nástrojov umelej inteligencie v podmienkach školy sa ustanovuje, že všetky aktivity spojené so zavádzaním, testovaním, prevádzkovaním a hodnotením AI nástrojov v edukačnom, organizačnom alebo administratívnom prostredí školy musia byť v súlade s týmto dokumentom, ako aj s príslušnými právnymi predpismi platnými a účinnými na území Slovenskej republiky a v rámci Európskej únie.
2. Podmienky povoleného používania AI nástrojov
(1) AI nástroje možno používať výhradne vtedy, ak sú splnené všetky nižšie uvedené podmienky:
- nástroj bol identifikovaný a klasifikovaný ako AI nástroj v zmysle Článku II tohto dokumentu,
- nástroj bol schválený vedením školy na základe návrhu predloženého pedagogickým, odborným alebo technickým zamestnancom,
- bol vykonaný záznam do centrálneho registra AI nástrojov vedeného ŠDK po predchádzajúcom súhlase vedenia školy
- nástroj bol nasadený v súlade s technickými, personálnymi a organizačnými opatreniami, ktoré zaručujú jeho bezpečné a etické používanie bez neprimeraného zásahu do práv dotknutých osôb.
(2) AI nástroje, ktoré neprešli procesom schválenia podľa tohto článku, alebo ktorých prevádzka nebola explicitne povolená vedením školy, sú považované za neautorizované technológie a ich používanie je zakázané, a to bez ohľadu na formu, účel alebo okolnosti použitia.
3. Revízia a spätné hodnotenie AI nástrojov
(1) Všetky AI nástroje používané v škole podliehajú pravidelnej ročnej revízii, ktorú vykonáva zodpovedná osoba v spolupráci s vedením školy.
(2) Revízia zahŕňa:
- analýzu súladu nástroja s aktuálnymi právnymi predpismi,
- posúdenie spätnej väzby od pedagogických zamestnancov, žiakov a zákonných zástupcov,
- overenie aktuálnosti evidovaných údajov v registri AI nástrojov,
- kontrolu výskytu incidentov, nežiaducich vplyvov alebo etických pochybností súvisiacich s použitím nástroja.
(3) Ak sa v priebehu používania nástroja zistí podozrenie na zásah do práv alebo slobody dotknutej osoby, vedenie školy bezodkladne pozastaví jeho používanie až do riadneho prešetrenia.
5. Výnimky a mimoriadne situácie
(1) V mimoriadnych prípadoch (napr. núdzové vzdialené vzdelávanie, krízové riadenie školy) môže vedenie školy povoliť dočasné využitie AI nástroja aj mimo riadneho schvaľovacieho procesu, ak je to nevyhnutné na zabezpečenie kontinuity edukačného procesu, a ak je zároveň zabezpečená primeraná ochrana práv dotknutých osôb.
6. Záverečné ustanovenia
Porušenie podmienok ustanovených v tomto článku môže byť kvalifikované ako porušenie pracovnej disciplíny, porušenie pravidiel ochrany osobných údajov alebo porušenie vnútorných predpisov školy, s následkami vyplývajúcimi z platnej legislatívy a interných opatrení zriaďovateľa.
Článok IV
Ochrana osobných údajov pri používaní nástrojov umelej inteligencie
1. Zákaz spracúvania osobných údajov prostredníctvom AI nástrojov
AI nástroje nesmú byť v škole používané na spracúvanie osobných údajov žiakov, zamestnancov alebo iných osôb. Každé vloženie, nahratie alebo poskytnutie údajov, ktoré umožňujú identifikáciu osoby, je zakázané, keďže ide o technologicky nebezpečný a neprimerane rizikový spôsob spracúvania, ktorý nie je pod kontrolou školy.
2. Zákaz profilovania a automatizovaného hodnotenia žiakov
AI nástroje nesmú byť používané na hodnotenie žiakov, profilovanie ich správania, výkonu, schopností alebo výsledkov učenia. Akýkoľvek výstup AI, ktorý by mohol viesť k vytvoreniu profilu žiaka alebo k posudzovaniu jeho výkonu, je zakázaný.
3. Zákaz rozhodovania s právnym alebo obdobne významným dopadom
AI nástroj nesmie samostatne rozhodovať o žiakovi ani poskytovať výstupy, ktoré by mali právny alebo obdobne významný dopad (napr. hodnotenie, známkovanie, odporúčanie zaradenia do skupiny, diagnostické výstupy, rizikové hodnotenia, posudky). Akékoľvek rozhodovanie musí byť výhradne v rukách pedagogického zamestnanca.
4. Zákaz využívania AI v pedagogicky citlivých situáciách
AI nástroje nesmú byť používané pri riešení konfliktov medzi žiakmi, disciplinárnych situáciách, pri podozreniach zo šikany, kyberšikany alebo pri spracovaní akýchkoľvek údajov, ktoré sa týkajú správania, emočného stavu či sociálnych vzťahov žiaka.
5. Zákaz vkladať do AI akékoľvek texty, dáta alebo dokumenty obsahujúce identifikovateľné informácie
Zamestnanci školy nesmú vkladať do AI nástrojov dokumenty (napr. žiadosti, mailovú komunikáciu, opis incidentov, známky, komentáre učiteľov, individuálne plány, údaje z triednej knihy), ak z obsahu možno priamo alebo nepriamo identifikovať konkrétneho žiaka, rodiča alebo zamestnanca.
6. Povinnosť používať AI výhradne s anonymizovanými a vzorovými údajmi
Ak je AI nástroj používaný na metodickú, vzdelávaciu alebo prípravnú činnosť, možno doň zadávať iba anonymizované, vzorové alebo fiktívne údaje, ktoré neumožňujú identifikáciu žiadnej fyzickej osoby.
7. Porušenie zákazu
Porušenie vyššie uvedených pravidiel sa považuje za závažné porušenie povinností v oblasti ochrany osobných údajov a môže viesť k disciplinárnym a právnym následkom podľa pracovného poriadku školy a príslušnej legislatívy.
Článok V
Informovanie žiakov a zákonných zástupcov o používaní nástrojov umelej inteligencie
1. Úvodné ustanovenie
(1) Transparentné, pravdivé, zrozumiteľné a včasné informovanie žiakov a ich zákonných zástupcov o skutočnostiach súvisiacich s používaním nástrojov umelej inteligencie v rámci výchovno-vzdelávacieho procesu je základnou podmienkou výkonu práva na ochranu osobných údajov, práva na informácie o spôsobe vzdelávania a práva na aktívnu účasť v edukačnom prostredí.
(2) Vedenie školy je povinné zabezpečiť, aby každé nasadenie AI nástroja, ktorý bude akýmkoľvek spôsobom používaný v kontakte so žiakom alebo bude mať priamy či nepriamy vplyv na výstupy, správanie alebo dokumentáciu, bolo sprevádzané plnohodnotným informačným procesom smerom k žiakom a zákonným zástupcom.
4. Práva a povinnosti školy, rodičov a žiakov
(1) Zákonný zástupca žiaka má právo:
- požadovať vysvetlenie účelu a fungovania AI nástroja,
- namietať proti použitiu AI nástroja v individuálnom prípade, ak sa domnieva, že je ohrozené právo na ochranu osobných údajov alebo iné práva žiaka,
- požiadať o alternatívnu formu výučby, ak by AI nástroj znamenal prekážku rovného prístupu k vzdelávaniu.
(2) V prípade podanej námietky je vedenie školy povinné:
- preskúmať dôvodnosť námietky,
- prerokovať situáciu so zákonným zástupcom,
- rozhodnúť o ďalšom postupe a výsledok oznámiť písomne.
(3) Žiaci sú povinní:
- oboznámiť sa so školským semaforom používania AI a riadiť sa podľa jeho bodov a pokynov učiteľa,
- priznávať použitie AI pri vypracovaní školských zadaní v konkrétnom rozsahu,
- chrániť osobné údaje pri práci s AI,
Článok VI
Evidencia a revízia používania nástrojov umelej inteligencie
1. Úvodné ustanovenie
(1) Za účelom zabezpečenia právnej istoty, efektívneho riadenia rizík, vnútornej transparentnosti a riadneho výkonu povinností vyplývajúcich z platných právnych predpisov v oblasti ochrany osobných údajov, školského riadenia a bezpečného používania digitálnych technológií, sa zavádza systém povinnej centrálnej evidencie a pravidelnej revízie všetkých nástrojov umelej inteligencie (ďalej len „AI nástroje“), ktoré sú využívané v podmienkach školy, bez ohľadu na ich poskytovateľa, technickú formu alebo rozsah použitia.
(2) Evidencia a revízia sú neoddeliteľnými nástrojmi správy životného cyklu AI nástrojov a sú povinnou súčasťou vnútornej dokumentácie školy.
2. Register používaných AI nástrojov
(1) Vedenie školy vedie centrálny register AI nástrojov (ďalej len „register“), ktorý má charakter riadneho evidenčného nástroja spravovaného poverenou zodpovednou osobou a vedeného v listinnej alebo elektronickej forme, pričom zabezpečuje úplnosť, pravdivosť, preukázateľnosť a aktualizovanosť údajov.
(2) Každý AI nástroj, ktorý je schválený na použitie v pedagogickom, administratívnom alebo inom procese školy, musí byť bez zbytočného odkladu zaevidovaný do registra, a to prostredníctvom zápisu obsahujúceho najmä tieto povinné náležitosti:
- názov AI nástroja a verzia,
- dátum schválenia nástroja vedením školy,
- účel a kontext použitia v podmienkach školy (napr. predmet, ročník, skupina žiakov, administratívne využitie)
- dátum začatia a ukončenia používania nástroja (ak je časovo ohraničené),
(3) Register sa považuje za interný evidenčný dokument školy a podlieha kontrole vedenia školy, prípadne kontroly zo strany zriaďovateľa, orgánov verejnej správy alebo iných oprávnených subjektov.
3. Priebežná aktualizácia a zodpovednosť
(1) Zodpovedná osoba určená vedením školy za správu registra AI nástrojov je povinná zabezpečiť jeho priebežnú aktualizáciu, najmä pri:
- nasadení nového AI nástroja,
- zmene účelu alebo rozsahu používania existujúceho nástroja,
- ukončení používania alebo výmene AI nástroja,
- výskyte bezpečnostného incidentu alebo podozrenia na porušenie práv dotknutých osôb.
(2) Každý pedagogický, odborný alebo technický zamestnanec, ktorý iniciuje alebo realizuje používanie AI nástroja, je povinný:
- bezodkladne poskytnúť úplné a pravdivé údaje potrebné pre evidenciu,
- spolupracovať so zodpovednou osobou pri ich zápise do registra,
- oznamovať všetky zmeny relevantné pre aktualizáciu evidencie.
4. Revízia AI nástrojov
(1) Vedenie školy zabezpečuje pravidelnú, minimálne raz ročne vykonávanú revíziu všetkých evidovaných AI nástrojov, zameranú na posúdenie ich:
- aktuálnosti a účelnosti v pedagogickej alebo administratívnej praxi,
- právnej a etickej súladu s aktuálnou legislatívou a vnútornými predpismi školy,
- technickej funkčnosti a bezpečnosti,
- spätnej väzby od pedagógov, žiakov a zákonných zástupcov,
- výskytu incidentov alebo podozrení na zásah do práv dotknutých osôb.
(2) Na základe záverov revízie môže vedenie školy:
- potvrdiť pokračovanie používania nástroja,
- nariadiť jeho dočasné pozastavenie alebo aktualizáciu,
- rozhodnúť o jeho vyradení z evidencie a ukončení používania.
5. Mimoriadna revízia
(1) V prípade výskytu vážneho podozrenia na porušenie zákonných povinností, bezpečnostný incident alebo sťažnosť zo strany dotknutej osoby, zriaďovateľa alebo dozorného orgánu, je vedenie školy povinné vykonať mimoriadnu revíziu používaného AI nástroja, a to bez zbytočného odkladu.
(2) Mimoriadna revízia má prednosť pred všetkými plánovanými aktivitami a jej výsledky sú bezodkladne oznámené zriaďovateľovi, ak sa zistí riziko porušenia zákona, interných predpisov alebo práv žiakov.
6. Archivácia dokumentácie
(1) Register AI nástrojov sa archivuje po dobu minimálne piatich (5) rokov odo dňa vyradenia posledného záznamu, pričom sa zabezpečí ich nedotknuteľnosť, úplnosť a ochrana pred neoprávneným zásahom.
(2) Dokumentácia musí byť kedykoľvek prístupná vedeniu školy a osobám povereným kontrolou zo strany zriaďovateľa, Štátnej školskej inšpekcie, alebo Úradu na ochranu osobných údajov.
Článok VII
Záverečné ustanovenia
1. Nadobudnutie účinnosti
(1) Tento dokument nadobúda účinnosť dňom_______________
(2) Účinnosť tohto dokumentu sa vzťahuje na všetkých pedagogických, odborných, nepedagogických a technických zamestnancov školy, ako aj na zmluvných partnerov školy, ktorí prichádzajú do kontaktu s AI nástrojmi, priamo alebo nepriamo, v rámci výkonu pracovných, funkčných alebo zmluvných povinností.
2. Právna záväznosť a prioritná aplikácia
(1) Ustanovenia tohto dokumentu majú záväzný charakter a sú súčasťou vnútorného predpisového rámca školy s rovnakou právnou silou ako interné smernice schválené riaditeľom školy.
(2) V prípade, ak dôjde k rozporu medzi ustanoveniami tohto dokumentu a inými internými predpismi školy, tento dokument má prednosť, pokiaľ špecificky upravuje využívanie nástrojov umelej inteligencie.
3. Výkladové a koordinačné ustanovenia
(1) Výklad ustanovení tohto dokumentu prislúcha výlučne vedeniu školy v spolupráci so zodpovednou osobou určenou na správu a koordináciu využívania AI nástrojov.
(2) V prípade nejednoznačnosti, interpretačných sporov alebo výskytu nových technologických okolností, ktoré nie sú explicitne upravené týmto dokumentom, je vedenie školy oprávnené vydať výkladové stanovisko, ktoré má doplňujúci metodický a záväzný charakter, a to až do prípadného zapracovania zmien formou dokumentu alebo novelizácie.
4. Monitorovanie a kontrola dodržiavania
V prípade zistenia porušenia povinností vyplývajúcich z tohto dokumentu môže vedenie školy:
- vyzvať na okamžité odstránenie nedostatkov,
- pozastaviť alebo zakázať používanie príslušného AI nástroja,
- iniciovať disciplinárne alebo pracovnoprávne konanie,
- oznámiť závažné zistenia zriaďovateľovi alebo príslušnému orgánu verejnej správy.
5. Evidencia a dostupnosť dokumentu
(1) Každý zamestnanec školy je povinný sa s obsahom tohto dokumentu oboznámiť a potvrdiť jeho prijatie formou podpisu prezenčnej listiny.
6. Zmena a zrušenie dokumentu
(1) Ak dôjde k významným technologickým, právnym alebo organizačným zmenám, ktoré si vyžadujú úpravu tohto dokumentu, vedenie školy vypracuje jeho novelizáciu alebo vydá nový dokument.
(2) Zrušenie tohto dokumentu je možné len formou riadneho rozhodnutia vedenia školy v súlade s vnútornými predpismi školy a po konzultácii so zriaďovateľom.