На Факултетот за информатички науки во Скопје се најавува презентација со наслов „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“. Насловот звучи беспрекорно — писменост, етика, локални јазици, практична поддршка во секојдневната работа со учениците. И токму во таа беспрекорност лежи прашањето што никој не го поставува: кога еден наставник, совршено писмен и совесен, ќе вклучи комерцијален генеративен модел во својата настава, кој одговара за она што моделот ќе го произведе пред учениците?
Дискусијата за вештачката интелигенција во образованието по правило се води токму во тој регистар — како прашање на вештини: како наставникот да состави добар промпт, кои алатки се корисни, како да се користат етички и внимателно. Тоа прашање е легитимно, но не е централното. Централното прашање не е дали образованието ќе користи вештачка интелигенција — тоа е веќе решено од самата технолошка реалност — туку под чија одговорност ќе ја користи. А одговорноста во образованието не е работа на индивидуална совест; таа е законски лоцирана во институцијата. Токму тоа поместување, од компетенцијата на поединецот кон одговорноста на институцијата, е местото каде целата расправа добива поинаков облик.
Што дискурсот за писменост не може да го каже
Јавниот говор за вештачката интелигенција во образованието денес гравитира околу неколку поими: практична примена, дигитална и медиумска писменост, етичка употреба, поддршка на локални јазици, мотивација на учениците. Тоа не е погрешна лексика. Напротив, таа го отвора неопходното прашање за компетенциите на наставниците и студентите во средина во која генеративните системи стануваат секојдневие. Илустрацијата е блиску: најавата за „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“, што ќе се одржи на Факултетот за информатички науки во Скопје, ја сместува вештачката интелигенција токму во тој регистар — како практична поддршка во секојдневната работа со учениците, со практични демонстрации на современи решенија и со повик кон критичко размислување и претпазливост.
Проблемот не е во настанот, кој во својот регистар е и корисен и потребен. Проблемот е што целиот тој регистар работи на еден слој — слојот на поединецот. Тој го оспособува поединецот успешно да ги користи алатките. Меѓутоа, постои прашање што тој слој структурно не може да го допре: кога една алатка на вештачка интелигенција, преку својата функција во наставниот процес, престанува да биде приватно помагало и станува дел од образовната испорака, кој ја презема одговорноста за она што таа го произведува? Колку и да е писмен и совесен наставникот, неговата писменост не ја преместува институционалната одговорност, ниту ја извршува. Може да се замисли совршено писмен наставен кадар што совесно користи комерцијална алатка, додека јазот на отчетноста на установата останува целосно недопрен. Писменоста на корисникот не ѝ дава на институцијата контрола врз содржината за која сепак одговара.
Асиметријата меѓу одговорноста и контролата
Во класичниот образовен систем учебниците, наставните средства, наставните и студиските програми и критериумите за оценување не се произволни ресурси — тие се дел од регулирана архитектура. Училиштата, факултетите и универзитетите не се обични корисници на содржини; тие вршат законски дефинирана образовна функција, врзана со прописите за основното, средното и високото образование и со правилата за учебници и наставни средства. Кога системот на вештачка интелигенција се користи како приватна алатка на студентот или наставникот, прашањето останува во рамки на академскиот интегритет: плагијат, транспарентност, индивидуална одговорност. Но штом истиот или сличен систем влезе во наставата, туторството, поддршката на учењето или институционално организираната комуникација со студентите, повеќе не станува збор за приватна употреба. Станува збор за образовна функција извршувана преку дигитален посредник — а таа функција ја носи институцијата.
Оттука произлегува носечкиот аргумент, кој важи без оглед на тоа како ќе го класифицираме системот на вештачка интелигенција. Правната одговорност на образовната институција е дадена и непренослива: таа останува таму каде што правото ја сместило, без оглед на тоа преку каков медиум се испорачува содржината. Директниот пристап до комерцијален генеративен модел ѝ дава на институцијата одговорност без контрола — таа останува отчетна за содржината што се испорачува под нејзино име и во нејзин контекст, но нема никаква моќ да ја обликува, прегледа, ограничи или ревидира. А не може да се биде правно одговорен за излез што не се создава, не се гледа и не се контролира. Општата безбедност на еден комерцијален модел не е исто што и неговата образовна легитимност: моделот може да биде технички напреден, корисен, па дури и релативно безбеден во општ контекст, а образовната институција сепак да нема начин да гарантира релевантност, недискриминација и усогласеност со образовните програми.
Од ова следува заклучок по пат на исклучување. Образовниот систем не може да се однесува како обичен претплатник на дигитална услуга кога услугата почнува да ја врши функцијата на наставен посредник. За да може својата непренослива одговорност воопшто да ја изврши — да ја претвори од номинална во реална — институцијата мора да го интернализира системот доволно за да го контролира. Тоа е структурно барање, не вредносна преференца: локусот на одговорноста мора да се совпадне со локусот на безбдноста.
Кога четот станува наставно средство
Ако одговорноста се определува според функцијата што системот ја врши, а не според неговата техничка форма, тогаш следи дека еден бот што објаснува лекции, генерира задачи, структурира учење, препорачува извори или дава повратна информација влегува во полето на наставните средства — без оглед на тоа што технички е чет-интерфејс, а не печатена книга. Тука вреди да се биде искрен околу една отворена точка. Генеративниот систем не е завршен, фиксен артефакт каков што е учебникот: режимот за одобрување учебници претпоставува статичен текст што се одобрува еднаш, додека ботот произведува променлив, недетерминистички излез при секоја интеракција. Затоа не може да се тврди дека ботот е учебник во строга правна смисла.
Сепак, најверојатната регулаторна траекторија е тој да биде третиран како дигитално учебно помагало или како негов функционален еквивалент — токму затоа што критериумот на регулација е образовната функција, а носител на одговорноста е институцијата што го распоредува. Оваа траекторија не е претпоставка: регулативата на Европската Унија за вештачка интелигенција (Регулатива (ЕУ) 2024/1689) веќе ги класифицира како високоризични системите наменети за оценување на исходите од учењето, вклучително кога тие исходи се користат за насочување на процесот на учење во образовни институции на сите нивоа. Со други зборови, токму логиката „функцијата, не формата“ е веќе позитивно право, со обврски за документација, податочно управување и следливост што паѓаат врз институцијата-обезбедувач. Бидејќи нашата земја е земја-кандидат, тоа доаѓа по линија на хармонизација без оглед на тоа што домашен закон за вештачка интелигенција сè уште нема; до тогаш, како преоден режим, мерливи остануваат прописите за основното, средното и високото образование. Значи прашањето кое институцијата ќе го затекне не е дали нејзиниот образовен бот ќе биде регулиран, туку како — и дали ќе биде поставен така што воопшто да може да го издржи тој режим.
Од декларативна кон извршлива норма
Тука лежи разликата што ги дели двете парадигми посуштински од секоја техничка карактеристика. Во моделот на непосредувана употреба на ВИ, наставникот се обучува како индивидуален корисник, а нормата останува надворешна препорака: користи внимателно, проверувај, не внесувај чувствителни податоци, размислувај критички. Тоа е етика како препорака — декларација запишана во кодекс или упатство, што корисникот треба доброволно да ја почитува, додека самиот систем не знае за неа. Во институционално посредуваниот модел, нормата може да се вгради во архитектурата на системот: контроли поставени пред генерирањето одговори на ВИ системите, проверки по неа и траги што овозможуваат институцијата да препознава обрасци наместо изолирани инциденти. Тоа е етика како оперативна архитектура.
Разликата ја менува самата логика на одговорност. Прашањето престанува да биде „дали овој конкретен одговор е добар?“ и станува „дали системот има повторлив, проверлив и институционално управуван режим што ги намалува ризиците низ многу интеракции?“. Во првиот случај институцијата може да се скрие зад индивидуалната одговорност на наставникот. Во вториот, таа ја презема задачата да создаде систем кој е одговорен затоа што е дизајниран да биде одговорен — куриран, дисциплинарно специфициран, ограничен, означен, тестиран и ревидиран како дел од нејзината образовна функција. Декларацијата секогаш може да остане мртво слово; извршливата норма е условот без кој институционалната отчетност останува само реторика.
Зошто институционалниот систем не е автоматско решение
Поместувањето на одговорноста во институцијата не е бесплатно и не е без свои опасности — а текст што тоа не го признава би бил наивен. Институционалниот систем носи ризик од монокултура: единствен куриран систем лесно може да наметне една рамка на дисциплината и еден „одобрен“ сет одговори, што е спротивно на академскиот плурализам. Носи ризик од прекумерно управување и од „театар на усогласеност“, во кој контролите служат да изгледа дека е сторено нешто, а не вистински да го намалат ризикот. И носи ризик да произведе побавна, посиромашна алатка од добро одржуваната комерцијална, особено таму каде што капацитетот е најмал — иронично, токму во основното и средното образование, каде нормативниот случај за заштитен систем е најсилен, а техничкиот капацитет најслаб.
Затоа институционалната контрола мора да биде пропорционална, документирана, ревидирачка и оспорлива. Контролата не е добра само затоа што е вградена во код; од друга страна, вградена непрозирна контрола е само порафинирана форма на автоматизација. Поентата не е дека институционалниот систем е сам по себе подобар, туку дека е единствениот начин непреносливата одговорност да стане извршлива. Дека тој систем потоа ќе биде добар или лош зависи од тоа дали неговите контроли се отворени за проверка и оспорување — што е работа на дизајн и на академска култура, не на сама институционалност.
Кој одговара кога ботот ќе проговори
Прашањето што го поставивме, не е технолошко туку институционално. Образовните установи не мора да градат сопствени фундаментални модели — тоа за повеќето е речиси невозможно. Поентата е дали ќе изградат сопствен режим на употреба врз постојните модели: куриран, дисциплинарно обликуван и нормативно управуван слој преку кој непреносливата одговорност станува извршлива, наместо да остане декларација на хартија додека содржината тече низ комерцијална црна кутија што институцијата не ја контролира.
Дека тоа не е само теорија покажува конкретен домашен пример. AI Платформата на Филозофскиот факултет во Скопје (aifzf.org) не упатува на надворешни алатки, туку е проект на самиот факултет, со агенти организирани по дисциплини — филозофија, историја, педагогија, психологија, социологија, родови студии — замислени да ги поддржуваат студентите и професорите во рамки на курикулумот. Тоа што платформата си поставува за цел академска и етичка рамка за одговорна имплементација и што е институционален проект поддржан од Министерството за образование и наука, ја сместува одговорноста токму таму каде што треба да биде — во институцијата што ја обезбедува содржината. А тоа што се самоопределува како истражување и студија на случај, а не како готов и непогрешлив производ, не е слабост, туку правилна поставеност: институционалниот систем е легитимен само доколку се испитува, ревидира и оспорува.
Вистинскиот ризик, значи, не е во тоа што образованието ќе користи вештачка интелигенција, туку во тоа што ќе ја користи како да не е образование — туку како пазарна услуга наместо како регулиран јавен и академски процес. Ако АИ-системите стануваат дигитални посредници на знаење, тие мора да подлежат на истата логика што го прави образованието образование: законитост, релевантност, недискриминација, проверливост и усогласеност со програмите.
Затоа иднината не почнува со забрана на користење на АИ, туку од јасно прашање што секоја институција мора да си го постави пред нивниот бот да проговори пред студентите: кога овој систем станува дигитално учебно помагало, кој го одобрува, кој го контролира, кој го ревидира и кој одговара за неговиот излез.