Кога мислењето станува стока: за економијата на вештачката интелигенција

„Knowledge is and will be produced in order to be sold, it is and will be consumed in order to be valorized in a new production: in both cases, the goal is exchange. Knowledge ceases to be an end in itself, it loses its ‘use-value’.“ — Jean-François Lyotard, The Postmodern Condition: A Report on Knowledge (1984, English translation).

Уште во 1979 година Жан-Франсоа Лиотар го најави преломот што денес го живееме. Во „Постмодерната состојба“ тој забележа дека знаењето сè повеќе се произведува за да биде продадено, а се користи за да биде вложено во нова продукција — со други зборови, дека престанува да биде цел сама за себе и ја губи својата „употребна вредност“, претворајќи се во чиста стока за размена. Лиотар притоа го имаше предвид кодифицираното, преносливо знаење: она што може да се запише, да се пренесе и да се вгради во информациските системи.

Овој текст тргнува оттаму каде што Лиотар застана. Она што тој го воочи на рамниште на знаењето, вештачката интелигенција сега го доведува до крај на рамниште на самото мислење. Во стока не се претвора само готовиот, запишан производ на умот, туку и живата мисловна способност што го создава тој производ — обработката, синтезата и, на крајот, расудувањето. Ако кај Лиотар знаењето ја губеше употребната вредност преобразувајќи се во разменска, тука истата судбина ја снаоѓа самата когниција: мислењето се разложува на единици што можат да се мерат, да се копираат и да се продаваат на парче. Цитатот на почетокот, така, не е само мото, туку и почетна точка на аргументот што следува.

Воведна теза

За вештачката интелигенција најчесто се зборува како за уште еден чекор во автоматизацијата — машината презема задачи, некои работни места исчезнуваат, други се преобликуваат. Овој текст предлага поинакво гледиште. Вештачката интелигенција не е само нов чекор во механизацијата; таа е првата технологија која го претвора самото мислење во стока — нешто што може да се кодифицира, да се разложи на дискретни единици и да се продаде на парче. Со тоа се менува кој вид човечка способност останува вреден, кој станува евтин и кој останува редок токму затоа што не може да се замени.

Тезата може да се изрази накратко. Вештачката интелигенција не ја уништува вредноста на човечкото мислење; таа ја префрла во еден тесен простор — во просторот на самостојното расудување — а истовремено ги поткопува условите под кои тоа расудување може да се развива и да се одржува. Аргументот што следува ја реконструира и разјаснува линијата изложена кај Mahroum (2026).

Когницијата како ограничен и затоа вреден ресурс

Аргументот тргнува од една базична граница на човечкиот ум. Џорџ Милер (Miller, 1956) покажа дека работната меморија истовремено може да задржи само мал број единици информации — наодот познат како „магичната бројка седум“. Истата интуиција Херберт Сајмон ја вгради во својата теорија за ограничената рационалност: бидејќи самата мисловна способност е оскуден ресурс, луѓето не го бараат најдоброто можно решение, туку се задоволуваат со она што е доволно добро во рамките на нивните когнитивни можности (Simon, 1955). Подоцна Сајмон ја формулира и импликацијата за информациското општество — богатството на информации создава сиромаштија на внимание (Simon, 1971).

Импликацијата не е психолошка, туку економска. Ако човечкиот капацитет за обработка е по природа ограничен и редок, тогаш тој станува ресурс за кој се плаќа. Мислењето отсекогаш било потенцијална стока — но без технологија која можела да го одвои од конкретниот човек, тоа никогаш не можело да стане стока во полна смисла.

Границата што ја поставуваше когнитивниот капитализам

Кога знаењето стана главен извор на вредност во економијата, теоретичарите на когнитивниот капитализам, пред сè Карло Верчелоне (Vercellone, 2007), на оваа поставка ѝ додадоа една важна ограда. Потпирајќи се на Марксовиот поим за „општиот интелект“ (Marx, 1973), тие тврдеа дека капиталот може да присвои многу нешта, но не и најпродуктивниот дел од мислењето — премолченото знаење, расудувањето стекнато преку искуство и чувството за контекст. Овие облици на знаење се неоделиви од личноста што ги носи. За разлика од машината, ваквото знаење не може целосно да се одвои од работникот, да се запише во процедура и да се пренесе по волја. Мисловната работа беше единствениот производен влог што не подлежи на потполна комодификација, токму поради своето вкоренување во конкретниот човек.

Вештачката интелигенција ја побива токму оваа ограда. Премолченото разбирање акумулирано во поединците и во институциите — она што се сметаше за неоделиво од нив — сега може да се изведе од нивните практики, да се копира и да се распредели во голем обем. Така се отвора пазар за нешто за кое Верчелоне беше уверен дека не може да стане стока — самата човечка мисловна способност.

Расчленувањето на когницијата

Претходната теорија ја третираше когницијата како единствена, неделива целина, поради што прашањето за нејзината комодификација беше поставено бинарно — може или не може да се присвои. Аналитичкиот придонес на интерпретацијата што ја следиме е токму во отфрлањето на таа претпоставка. Когницијата не е „една работа“ и не може да се мери на едно единствено ниво.

Корисна оптика овде нуди моделот на работна меморија на Бадли (Baddeley & Hitch, 1974; Baddeley, 2000). Во својата оригинална форма моделот разликува централен извршител и неколку потсистеми кои се грижат за вербалните и за визуелно-просторните содржини, на кои подоцна е додаден и епизоден бафер што ги поврзува информациите од различните извори. За потребите на овој аргумент доволно е да се задржи функционалното јадро во три различни функции — способноста да се задржи и обработи вербалната информација; способноста за синтеза, односно за спојување податоци од повеќе извори во една кохерентна целина; и над нив, она што Бадли го нарекува „централен извршител“, односно функцијата што поставува цели, распределува внимание, се справува со нови ситуации и одредува што е важно.

Оваа поделба има непосредни економски импликации, зашто трите функции не се заменливи меѓу себе и не подлежат на комодификација на ист начин. Вештачката интелигенција веќе ги репродуцира првите две — обработката и синтезата — брзо, во голем обем и за дел од трошокот што денес го имаат институциите за работата на аналитичарите, советниците и стратешките тимови. Она што таа сè уште не може да го реплицира е способноста да дефинираат приоритети, да се расудува во ситуации на неизвесност и да оцени што заслужува внимание.

Повлекувањето на вредноста нагоре

Според ваквото гледиште за когницијата, произлегува една последица што претходната теорија не можеше да ја види. Способностите кои порано даваа предност на пазарот на трудот (читањето, обработката и синтезата на информации) повеќе не функционираат како компаративна предност, бидејќи стануваат универзално достапни. Вреден останува единствено оној слој од мислењето што машината сè уште не може да го репродуцира — самостојното расудување, способноста да се постави сосема ново, оригинално прашање и умеењето да се дејствува во ситуации за кои не постои готов преседан од минатото.

Оваа динамика ја преобликува и социјалната слика на пазарот на знаење. На долното ниво — кај општите и лесно повторливи функции — пристапот се демократизира, така што истражувач во Најроби сега може да изведе многу од истите аналитички задачи како партнер во голема консултантска фирма. На горното ниво, пак — кај специјализираното расудување на онкологот, на геополитичкиот аналитичар или на адвокатот — знаењето се изведува од нивните практики и се концентрира во затворени производи на неколку компании. Истата технологија истовремено и социјализира мислење одоздола и приватизира мислење одозгора. Тоа не се два различни процеса, туку еден процес гледан на две различни перспективи.

Стапица: расудувањето како најзагрозениот ресурс

Овој дел од аргументот ја преобразува дескрипцијата во предупредување. Слојот кон кој се преместува вредноста — самостојното расудување — е истовремено и најкршливиот од трите. Расудувањето не настанува само од себе; тоа се формира токму преку вежбањето на пониските мисловни функции, преку непосредниот контакт со материјалот и преку навиката за самостојна обработка и синтеза. Кога овие функции систематски се препуштаат на машината, исчезнува самиот терен врз кој расудувањето може да расте.

Ендру Ј. Питерсон (Peterson, 2024) оваа динамика ја нарекува колапс на знаењето — кога машината постојано се справува подобро од просечниот човек, поттикот да се развива и да се одржува сопствена аналитичка способност полека слабее. Опасноста овде не доаѓа од неуспехот на технологијата, туку од нејзиниот премногу голем успех. Општеството може да престане да ја негува самата суровина од која зависи и таа технологија.

Заклучокот е парадоксален. Во економија во која машините можат да обработуваат, копираат и распределуваат знаење за речиси никаков трошок, единственото што останува навистина редок ресурс е она што не може да се репродуцира — способноста да се постави прашањето кое никој дотогаш не го поставил, да се види она што другите го промашиле и да се расудува таму каде што нема преседан. Таа способност станува поскапоцена од кога и да било во минатото, а истовремено секојдневно е поткопувана од стимулите на самата технолошка средина во која живееме. Самостојното мислење е и најреткиот вид на стока и најзагрозениот од сите.

Граници на аргументот

Аргументот изложен дотука е оправдан во повеќето чекори, но еден од нив бара резерва. Тврдењето дека расудувањето нужно атрофира штом пониското мислење се препушти на машината е веродостојно, но не е докажано. Тоа е емпириска претпоставка, а не логичка нужност. Во принцип постои можност расудувањето да се одржува и да се негува и преку други практики, дури и кога машината ја носи рутинската обработка. Дали навистина следи колапс или само ризик од колапс под одредени услови, останува отворено емпириско прашање и токму тоа е главната точка на која понатамошните истражувања можат продуктивно да се сосредоточат.

Покрај тоа, аргументот свесно одбегнува едно поголемо прашање. Ако знаењето што ги храни системите на вештачката интелигенција е колективно произведено, како плод од трудот на милиони аналитичари, истражувачи и советници, тогаш прашањето за припадноста на приносите станува политичко-економско. Перспективата на commonfare, односно на колективното управување со плодовите од општествената соработка (Fumagalli, Giuliani, Lucarelli, & Vercellone, 2019), останува надвор од видното поле на аргументот. Тој се задржува на грижата за зачувување на човечкиот капацитет и не оди до прашањето за сопственоста и за прераспределбата. Тоа е простор за следната фаза на анализа.

Користена литература

Baddeley, A. (2000). The episodic buffer: A new component of working memory? Trends in Cognitive Sciences, 4(11), 417–423.

Baddeley, A. D., & Hitch, G. (1974). Working memory. In G. H. Bower (Ed.), The psychology of learning and motivation (Vol. 8, pp. 47–89). Academic Press.

Fumagalli, A., Giuliani, A., Lucarelli, S., & Vercellone, C. (2019). Cognitive capitalism, welfare and labour: The commonfare hypothesis. Routledge.

Lyotard, J.-F. (1984). The postmodern condition: A report on knowledge (G. Bennington & B. Massumi, Trans.). University of Minnesota Press. (Оригинално напишано 1979)

Mahroum, S. (2026, јуни). Cognition for sale. Project Syndicate.

Marx, K. (1973). Grundrisse: Foundations of the critique of political economy (M. Nicolaus, Trans.). Penguin Books. (Оригинално напишано 1857–1858)

Miller, G. A. (1956). The magical number seven, plus or minus two: Some limits on our capacity for processing information. Psychological Review, 63(2), 81–97.

Peterson, A. J. (2024). AI and the problem of knowledge collapse (arXiv:2404.03502). arXiv.

Simon, H. A. (1955). A behavioral model of rational choice. The Quarterly Journal of Economics, 69(1), 99–118.

Simon, H. A. (1971). Designing organizations for an information-rich world. In M. Greenberger (Ed.), Computers, communication, and the public interest (pp. 37–72). The Johns Hopkins University Press.

Vercellone, C. (2007). From formal subsumption to general intellect: Elements for a Marxist reading of the thesis of cognitive capitalism. Historical Materialism, 15(1), 13–36.

Институтот за родови студии — водечка единица во примената на вештачката интелигенција на Филозофскиот факултет

Институтот за родови студии при Филозофскиот факултет во Скопје се издвои како единицата со најинтензивна примена на вештачката интелигенција во наставниот и истражувачкиот процес, според првата систематска аналитика на институционалната ВИ-платформа на Факултетот, спроведена во рамките на проектот „Потенцијали и предизвици на примената на вештачката интелигенција во наставата, учењето и истражувањата во општествените и хуманистичките науки“.

Податоците говорат недвосмислено. Во разгледуваниот период, ВИ-агентот на Институтот за родови студии генерирал 7.784 сесии — највисок резултат меѓу сите дванаесет институтски единици на Факултетот и приближно 40% од вкупната активност на институтскиот слој. За споредба, соодносот меѓу Институтот за родови студии и единицата со најниска активност изнесува близу 29 спрема 1. Овие бројки не доаѓаат од самопроценка или анкета, туку од објективната метрика на самата платформа, што им дава тежина на проверлив факт.

Она што го прави овој резултат особено значаен не е само неговиот волумен, туку и она што стои зад него. Аналитиката покажува дека интензитетот на усвојување на вештачката интелигенција не зависи од големината на академската заедница, туку од нејзината култура — од отвореноста кон рефлексивни, интердисциплинарни и текстуално интензивни методи на работа. Токму по тоа Институтот за родови студии, заедно со психологијата и специјалната едукација, се издвојува: неговата истражувачка ориентација кон критичко промислување, интердисциплинарност и работа со текст се покажува како плодна почва за смислена, а не површна интеграција на новите технологии.

Истовремено, успехот на Институтот не е изолиран потфат, туку дел од пошироката институционална рамка што проектот ја гради. ВИ-агентите на платформата се развиени на технологијата Chipp и функционираат врз архитектура на снипети — програмски вградени инструкции преку кои етичките и институционалните барања на Универзитетот „Св. Кирил и Методиј“ и на Филозофскиот факултет се операционализираат директно во однесувањето на секој агент. На тој начин секоја интеракција се одвива во рамки што самата институција ги дефинира и ги контролира, со што примената на вештачката интелигенција останува во служба на академскиот интегритет и на самостојната работа на студентите, наместо да ја замени.

Резултатите на Институтот за родови студии така не се само показател за технолошка ажурност, туку и потврда дека одговорната, институционално посредувана интеграција на вештачката интелигенција наоѓа свое природно место таму каде што постои подготвеност за критичко и рефлексивно мислење. Во контекст во кој високообразовните институции во регионот сè уште се движат меѓу забрана и нерегулирана употреба, искуството на Институтот нуди конкретен пример дека постои и трета, осмислена можност.

Дигиталниот јаз и структурните неправедности

Дигиталниот јаз претставува расчекор во однос на пристапот до ИКТ и нивната употреба на интернетот помеѓу поединците, домаќинствата и географските области со различно социо-економски ниво . Глобалниот развој на вештачката интелигенција е доминиран од т.н. WEIRD (Западни, Образовани, Индустријализирани, Богати и Демократски) држави, кои при развојот на софтверот подразбираат ресурси како стабилна електрична енергија и интернет со висок проток, што во земјите од Глобалниот Југ често не се достапни. Овој јаз дополнително се продлабочува поради нееднаквиот пристап до инфраструктура и диспаритетот во дигиталните вештини кај луѓето во посиромашните региони.

Развојот на ВИ технологиите е често подложен на „технолошко-колонијален притисок“, каде алгоритамската логика ја еродира оригиналноста и диверзитетот на локалните практики. Бидејќи моделите се тренираат претежно на податоци од WEIRD популации, тие тешко се применуваат во други културни контексти, што води кон длабока културна пристрасност. Големите технолошки компании од Глобалниот Север (како Google и Microsoft) создаваат монопол во дигиталниот простор со што се диктираат образовните политики и се наметнуваат западните вредности како универзален стандард. Оваа „колонијална“ природа е манифестирана и во хегемонијата на англискиот јазик во AIED системите, со што се намалува нивната пристапност за говорниците на други јазици и заедниците со специфични културни референци.

Глобалниот дигитален јаз: глобален Север vs. глобален Југ

Инфраструктурните бариери во земјите од глобалниот Југ се најзначајната препрека за поширока имплементација на ВИ системите. Софтверот развиен на Север подразбира ресурси кои често се земаат здраво за готово, како што се стабилна електрична енергија, моќни компјутери и интернет со висок проток, кои во многу делови од светот се ретки или недостапни. Поради тоа, многу интелигентни системи за учење не функционираат како што е предвидено во контексти каде што корисниците немаат сопствени уреди или постојана конекција, што дополнително ја искривува репрезентативноста на податоците кои истражувачите можат да ги соберат.

Колонијалните структури се видливи и во етичките дебати и управувањето со ВИ, каде што земјите со низок и среден приход (LMICs) се недоволно застапени. Доминацијата на големите технолошки компании од Северот создава монопол кој им овозможува да ги диктираат образовните политики и практики низ целиот свет. УНЕСКО нагласува дека меѓународната соработка мора да се стреми кон надминување на овој асиметричен пристап до знаење и технологија, гарантирајќи дека ниту една земја нема да биде запоставена во заштитата од негативните импликации на ВИ.

Родовата димензија на дигиталниот јаз

Родовата димензија на дигиталниот јаз може да се дефинира како разлика или нееднаквост помеѓу поединците, домаќинствата и заедниците во однос на пристапот до ИКТ и употребата на интернетот, при што жените често се соочуваат со дополнителни структурни препреки. Ваквите нееднаквости водат до состојба на „информативен мрак“, каде што жените остануваат исклучени од придобивките на технолошкиот развој поради недостиг на ресурси и дигитални вештини. Глобалните податоци укажуваат дека постои сериозен ризик вештачката интелигенција (ВИ) дополнително да ги засили постоечките нееднаквости.

Истражувањата спроведени од женските организации во Македонија откриваат исклучително симптоматична состојба во поглед на техничката опременост кај жените. Податоците покажуваат дека голем број на жени, посебно жените со понизок социо-економски статус не располагаат со ресурси и вештини потребни за користење на напредните технологии, со што директно се оневозможува нивната дигитална партиципација и влијание врз политиките.

Во контекст на вештачката интелигенција, овој јаз се продлабочува преку алгоритамската пристрасност и репрезентациските штети. Бидејќи ВИ системите предоминантно се обучуваат на податоци кои не го одразуваат диверзитетот на женското искуство, тие често ги репродуцираат и засилуваат постоечките стереотипи. За надминување на овие предизвици, меѓународните рамки како тие на УНЕСКО инсистираат на проактивно вклучување на жените во сите фази на развој на ВИ, како и на наменски фондови за родово-сензитивни дигитални политики.

Колонијалните структури во развојот на ВИ технологиите

Доминацијата на т.н. WEIRD држави (Западни, Образовани, Индустријализирани, Богати и Демократски) создава технолошко-колонијален притисок, каде алгоритамската логика ја еродира оригиналноста и диверзитетот на локалните образовни и културни практики. Бидејќи моделите се тренираат предоминантно на западни извори, тие претставуваат сериозен епистемолошки предизвик за културите кои не се вклопуваат во овие доминантни рамки.

Структурната нерамнотежа е видлива во пристрасноста на податоците за тренирање, кои најчесто потекнуваат од специфични социо-географски средини како Северна Америка, додека остатокот од светот останува недоволно претставен. Ваквата редуцирана репрезентативност води кон системи кои го привилегираат искуството на белиот, добро ситуиран маж како универзален стандард. Дополнително, големите технолошки компании од Северот (Big Tech) се во постојана конкуренција за структурна доминација врз дигиталните инфраструктури на образованието, што ги прави јавните институции долгорочно зависни од приватни, екстрактивни платформи.

Колонијалното влијание се протега и врз јазичната хегемонија, каде доминацијата на англискиот јазик во јазичните модели ја намалува пристапноста за нематичните говорници и заедниците со специфични културни референци. Земјите со низок и среден приход (LMICs) се често подзастапени, што води кон занемарување на локалното знаење и културниот плурализам во развојот на глобалните стандарди.

Како одговор на овие структури, современите рамки инсистираат на деколонијални перспективи кои го афирмираат правото на заедниците да го контролираат сопственото културно наследство и знаење во ВИ системите. Се предлага усвојување на „двонасочен модел на учење“, во кој автохтоните и западните системи на знаење се третираат како комплементарни, а не како хиерархиски поставени.

Алтернативни и деколонијални перспективи за ВИ

ВИ системите ја дефинираат креативноста и знаењето низ механички и униформни рамки, еродирајќи ја оригиналноста на локалните практики. Како одговор на ова, деколонијалниот пристап бара препознавање на ситуираното знаење и отфрлање на идејата за „неутрална“ објективност, тврдејќи дека секоја технологија е политизиран артефакт што ги рефлектира моќта и интересите на своите креатори.

Алтернативниот пристап предлага афирмирањето на изворните знаења и правото на овие заедници да управуваат со сопственото културно наследство во дигиталната сфера. Ова подразбира почитување на суверенитетот на изворните податоци преку примена на начелата CARE (Колективна придобивка, Авторитет за контрола, Одговорност и Етика), кои се спротивставуваат на експлоативните практики на големите технолошки компании.

Во поглед на глобалната праведност, алтернативните перспективи инсистираат на меѓународна солидарност за да се спречи ВИ дополнително да ги продлабочи нееднаквостите помеѓу Глобалниот Север и Глобалниот Југ. Ова вклучува дизајнирање на ВИ интервенции за помалку софистицирани технолошки платформи и мобилни уреди, наместо да се подразбира постојан пристап до моќна инфраструктура и брз интернет, кои често се недостапни во посиромашните региони. Дополнително, деколонијалниот пристап бара заштита на јазичниот диверзитет преку развој на системи за обработка на природен јазик (NLP) кои ќе ги препознаваат нијансите на загрозените јазици и локалните дијалекти, наместо да ја наметнуваат лингвистичката хегемонија на англискиот јазик.

Вештачката интелигенција во образованието: одговорност без контрола – меѓу комерцијалната алатка и институционалниот систем

На Факултетот за информатички науки во Скопје се најавува презентација со наслов „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“. Насловот звучи беспрекорно — писменост, етика, локални јазици, практична поддршка во секојдневната работа со учениците. И токму во таа беспрекорност лежи прашањето што никој не го поставува: кога еден наставник, совршено писмен и совесен, ќе вклучи комерцијален генеративен модел во својата настава, кој одговара за она што моделот ќе го произведе пред учениците?

Дискусијата за вештачката интелигенција во образованието по правило се води токму во тој регистар — како прашање на вештини: како наставникот да состави добар промпт, кои алатки се корисни, како да се користат етички и внимателно. Тоа прашање е легитимно, но не е централното. Централното прашање не е дали образованието ќе користи вештачка интелигенција — тоа е веќе решено од самата технолошка реалност — туку под чија одговорност ќе ја користи. А одговорноста во образованието не е работа на индивидуална совест; таа е законски лоцирана во институцијата. Токму тоа поместување, од компетенцијата на поединецот кон одговорноста на институцијата, е местото каде целата расправа добива поинаков облик.

Што дискурсот за писменост не може да го каже

Јавниот говор за вештачката интелигенција во образованието денес гравитира околу неколку поими: практична примена, дигитална и медиумска писменост, етичка употреба, поддршка на локални јазици, мотивација на учениците. Тоа не е погрешна лексика. Напротив, таа го отвора неопходното прашање за компетенциите на наставниците и студентите во средина во која генеративните системи стануваат секојдневие. Илустрацијата е блиску: најавата за „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“, што ќе се одржи на Факултетот за информатички науки во Скопје, ја сместува вештачката интелигенција токму во тој регистар — како практична поддршка во секојдневната работа со учениците, со практични демонстрации на современи решенија и со повик кон критичко размислување и претпазливост.

Проблемот не е во настанот, кој во својот регистар е и корисен и потребен. Проблемот е што целиот тој регистар работи на еден слој — слојот на поединецот. Тој го оспособува поединецот успешно да ги користи алатките. Меѓутоа, постои прашање што тој слој структурно не може да го допре: кога една алатка на вештачка интелигенција, преку својата функција во наставниот процес, престанува да биде приватно помагало и станува дел од образовната испорака, кој ја презема одговорноста за она што таа го произведува? Колку и да е писмен и совесен наставникот, неговата писменост не ја преместува институционалната одговорност, ниту ја извршува. Може да се замисли совршено писмен наставен кадар што совесно користи комерцијална алатка, додека јазот на отчетноста на установата останува целосно недопрен. Писменоста на корисникот не ѝ дава на институцијата контрола врз содржината за која сепак одговара.

Асиметријата меѓу одговорноста и контролата

Во класичниот образовен систем учебниците, наставните средства, наставните и студиските програми и критериумите за оценување не се произволни ресурси — тие се дел од регулирана архитектура. Училиштата, факултетите и универзитетите не се обични корисници на содржини; тие вршат законски дефинирана образовна функција, врзана со прописите за основното, средното и високото образование и со правилата за учебници и наставни средства. Кога системот на вештачка интелигенција се користи како приватна алатка на студентот или наставникот, прашањето останува во рамки на академскиот интегритет: плагијат, транспарентност, индивидуална одговорност. Но штом истиот или сличен систем влезе во наставата, туторството, поддршката на учењето или институционално организираната комуникација со студентите, повеќе не станува збор за приватна употреба. Станува збор за образовна функција извршувана преку дигитален посредник — а таа функција ја носи институцијата.

Оттука произлегува носечкиот аргумент, кој важи без оглед на тоа како ќе го класифицираме системот на вештачка интелигенција. Правната одговорност на образовната институција е дадена и непренослива: таа останува таму каде што правото ја сместило, без оглед на тоа преку каков медиум се испорачува содржината. Директниот пристап до комерцијален генеративен модел ѝ дава на институцијата одговорност без контрола — таа останува отчетна за содржината што се испорачува под нејзино име и во нејзин контекст, но нема никаква моќ да ја обликува, прегледа, ограничи или ревидира. А не може да се биде правно одговорен за излез што не се создава, не се гледа и не се контролира. Општата безбедност на еден комерцијален модел не е исто што и неговата образовна легитимност: моделот може да биде технички напреден, корисен, па дури и релативно безбеден во општ контекст, а образовната институција сепак да нема начин да гарантира релевантност, недискриминација и усогласеност со образовните програми.

Од ова следува заклучок по пат на исклучување. Образовниот систем не може да се однесува како обичен претплатник на дигитална услуга кога услугата почнува да ја врши функцијата на наставен посредник. За да може својата непренослива одговорност воопшто да ја изврши — да ја претвори од номинална во реална — институцијата мора да го интернализира системот доволно за да го контролира. Тоа е структурно барање, не вредносна преференца: локусот на одговорноста мора да се совпадне со локусот на безбдноста.

Кога четот станува наставно средство

Ако одговорноста се определува според функцијата што системот ја врши, а не според неговата техничка форма, тогаш следи дека еден бот што објаснува лекции, генерира задачи, структурира учење, препорачува извори или дава повратна информација влегува во полето на наставните средства — без оглед на тоа што технички е чет-интерфејс, а не печатена книга. Тука вреди да се биде искрен околу една отворена точка. Генеративниот систем не е завршен, фиксен артефакт каков што е учебникот: режимот за одобрување учебници претпоставува статичен текст што се одобрува еднаш, додека ботот произведува променлив, недетерминистички излез при секоја интеракција. Затоа не може да се тврди дека ботот е учебник во строга правна смисла.

Сепак, најверојатната регулаторна траекторија е тој да биде третиран како дигитално учебно помагало или како негов функционален еквивалент — токму затоа што критериумот на регулација е образовната функција, а носител на одговорноста е институцијата што го распоредува. Оваа траекторија не е претпоставка: регулативата на Европската Унија за вештачка интелигенција (Регулатива (ЕУ) 2024/1689) веќе ги класифицира како високоризични системите наменети за оценување на исходите од учењето, вклучително кога тие исходи се користат за насочување на процесот на учење во образовни институции на сите нивоа. Со други зборови, токму логиката „функцијата, не формата“ е веќе позитивно право, со обврски за документација, податочно управување и следливост што паѓаат врз институцијата-обезбедувач. Бидејќи нашата земја е земја-кандидат, тоа доаѓа по линија на хармонизација без оглед на тоа што домашен закон за вештачка интелигенција сè уште нема; до тогаш, како преоден режим, мерливи остануваат прописите за основното, средното и високото образование. Значи прашањето кое институцијата ќе го затекне не е дали нејзиниот образовен бот ќе биде регулиран, туку како — и дали ќе биде поставен така што воопшто да може да го издржи тој режим.

Од декларативна кон извршлива норма

Тука лежи разликата што ги дели двете парадигми посуштински од секоја техничка карактеристика. Во моделот на непосредувана употреба на ВИ, наставникот се обучува како индивидуален корисник, а нормата останува надворешна препорака: користи внимателно, проверувај, не внесувај чувствителни податоци, размислувај критички. Тоа е етика како препорака — декларација запишана во кодекс или упатство, што корисникот треба доброволно да ја почитува, додека самиот систем не знае за неа. Во институционално посредуваниот модел, нормата може да се вгради во архитектурата на системот: контроли поставени пред генерирањето одговори на ВИ системите, проверки по неа и траги што овозможуваат институцијата да препознава обрасци наместо изолирани инциденти. Тоа е етика како оперативна архитектура.

Разликата ја менува самата логика на одговорност. Прашањето престанува да биде „дали овој конкретен одговор е добар?“ и станува „дали системот има повторлив, проверлив и институционално управуван режим што ги намалува ризиците низ многу интеракции?“. Во првиот случај институцијата може да се скрие зад индивидуалната одговорност на наставникот. Во вториот, таа ја презема задачата да создаде систем кој е одговорен затоа што е дизајниран да биде одговорен — куриран, дисциплинарно специфициран, ограничен, означен, тестиран и ревидиран како дел од нејзината образовна функција. Декларацијата секогаш може да остане мртво слово; извршливата норма е условот без кој институционалната отчетност останува само реторика.

Зошто институционалниот систем не е автоматско решение

Поместувањето на одговорноста во институцијата не е бесплатно и не е без свои опасности — а текст што тоа не го признава би бил наивен. Институционалниот систем носи ризик од монокултура: единствен куриран систем лесно може да наметне една рамка на дисциплината и еден „одобрен“ сет одговори, што е спротивно на академскиот плурализам. Носи ризик од прекумерно управување и од „театар на усогласеност“, во кој контролите служат да изгледа дека е сторено нешто, а не вистински да го намалат ризикот. И носи ризик да произведе побавна, посиромашна алатка од добро одржуваната комерцијална, особено таму каде што капацитетот е најмал — иронично, токму во основното и средното образование, каде нормативниот случај за заштитен систем е најсилен, а техничкиот капацитет најслаб.

Затоа институционалната контрола мора да биде пропорционална, документирана, ревидирачка и оспорлива. Контролата не е добра само затоа што е вградена во код; од друга страна, вградена непрозирна контрола е само порафинирана форма на автоматизација. Поентата не е дека институционалниот систем е сам по себе подобар, туку дека е единствениот начин непреносливата одговорност да стане извршлива. Дека тој систем потоа ќе биде добар или лош зависи од тоа дали неговите контроли се отворени за проверка и оспорување — што е работа на дизајн и на академска култура, не на сама институционалност.

Кој одговара кога ботот ќе проговори

Прашањето што го поставивме, не е технолошко туку институционално. Образовните установи не мора да градат сопствени фундаментални модели — тоа за повеќето е речиси невозможно. Поентата е дали ќе изградат сопствен режим на употреба врз постојните модели: куриран, дисциплинарно обликуван и нормативно управуван слој преку кој непреносливата одговорност станува извршлива, наместо да остане декларација на хартија додека содржината тече низ комерцијална црна кутија што институцијата не ја контролира.

Дека тоа не е само теорија покажува конкретен домашен пример. AI Платформата на Филозофскиот факултет во Скопје (aifzf.org) не упатува на надворешни алатки, туку е проект на самиот факултет, со агенти организирани по дисциплини — филозофија, историја, педагогија, психологија, социологија, родови студии — замислени да ги поддржуваат студентите и професорите во рамки на курикулумот. Тоа што платформата си поставува за цел академска и етичка рамка за одговорна имплементација и што е институционален проект поддржан од Министерството за образование и наука, ја сместува одговорноста токму таму каде што треба да биде — во институцијата што ја обезбедува содржината. А тоа што се самоопределува како истражување и студија на случај, а не како готов и непогрешлив производ, не е слабост, туку правилна поставеност: институционалниот систем е легитимен само доколку се испитува, ревидира и оспорува.

Вистинскиот ризик, значи, не е во тоа што образованието ќе користи вештачка интелигенција, туку во тоа што ќе ја користи како да не е образование — туку како пазарна услуга наместо како регулиран јавен и академски процес. Ако АИ-системите стануваат дигитални посредници на знаење, тие мора да подлежат на истата логика што го прави образованието образование: законитост, релевантност, недискриминација, проверливост и усогласеност со програмите.

Затоа иднината не почнува со забрана на користење на АИ, туку од јасно прашање што секоја институција мора да си го постави пред нивниот бот да проговори пред студентите: кога овој систем станува дигитално учебно помагало, кој го одобрува, кој го контролира, кој го ревидира и кој одговара за неговиот излез.

Родова пристрасност во ВИ системите

Родовата пристрасност во системите на вештачка интелигенција (ВИ) е длабоко вкоренета во историските и структурните нееднаквости на општеството. Оваа пристрасност често влегува во системите преку податоците за тренирање, кои ги одразуваат веќе постоечките културни и социјални стереотипи на човештвото. Технолошкиот сектор историски е доминиран од мажи, што довело до вградување на машката перспектива и вредности во самиот дизајн на алгоритмите. Почетоците на ВИ истражувањата се врзани за т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски), чии податоци доминираат во моделите и често не се претставителни за остатокот од светот или за маргинализираните групи.

Пристрасноста во податоците за тренирање

Пристрасноста во податоците за тренирање на системите на вештачка интелигенција (ВИ) е емергентен феномен на ситуираното знаење и општествените структури на моќ. Според феминистичката епистемологија, технологијата никогаш не е неутрална, таа ги рефлектира вредностите на своите креатори и историскиот контекст во кој е создадена. Историските и структурните причини за оваа пристрасност се вплетени во самиот процес на прибирање, обработка и означување на податоците.

Историската пристрасност произлегува од податоци кои во себе носат веќе постоечки културни и социјални стереотипи, генерирани во време кога дискриминаторските обрасци биле нормализирани. Ова често се манифестира преку родово обоени јазични модели, каде што професиите се поврзуваат со специфичен пол, на пример, „медицинска сестра“ како женски род наспроти „доктор“ како машки род, со што алгоритмите само ги засилуваат патријархалните кодови на општеството.

Структурните причини за пристрасност се огледуваат во доминацијата на т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски) во базите на податоци што се користат за тренирање. Овој дисбаланс значи дека ВИ моделите се обучуваат на искуствата на привилегираните групи, додека маргинализираните заедници, како луѓето со различна боја на кожа или лицата од пониските социо-економски класи остануваат невидливи или се третираат како „отстапување“ од нормата. Кога ваквите непретставителни податоци се користат за системи што донесуваат одлуки во образованието, вработувањето или судството, тие резултираат со дискриминаторски исходи кои ги продлабочуваат социјалните поделби.

Дополнително, се јавува ризикот од „mode collapse“ (колапс на модусот), каде што алгоритмите ги фаворизираат најчестите (доминантните) исходи, дополнително потиснувајќи ги специфичните културни наративи кои се веќе недоволно застапени во дигиталните архиви. Појавата на ваквата системска нерамнотежа е рзултат на тренингот на јазичните модели кои најчесто учат од секундарни извори, она што луѓето го напишале за одредена култура, а не од директно набљудување, што дополнително ја искривува реалноста во корист на оние кои имаат поголема моќ на претставување.

Репрезентацијата на жените во технолошката индустрија и нејзиното влијание

Репрезентацијата на жените во технолошката индустрија не претставува само прашање на еднакви можности за вработување, образование, здравство и сл. Технолошкиот сектор историски е карактеризиран со значајна машка доминација, што директно влијае врз начинот на кој се развиваат и имплементираат новите технологии. Доминантната „bro-culture“ во ИТ индустријата дејствува како бариера што ги оддалечува жените од технологијата, со што се одржува родовата нерамнотежа и се ограничува диверзитетот на перспективи во развојните тимови.

Недостатокот на женска репрезентација во дизајнот води кон вградување на патријархални стереотипи во самите производи. Дигиталните асистенти, како Siri и Alexa, често се дизајнирани со женски гласови и субмисивни карактеристики, со што се нормализира и репродуцира културната претстава за жената како услужна фигура. Оваа „родова перформантивност“ на машините влијае врз социјалната перцепција и ги зајакнува традиционалните родови улоги, каде што машките агенти се доживуваат како рационални и авторитативни, додека женските како емоционални и услужни. Ваквиот дизајн не е случаен, тој е резултат на развојни процеси во кои искуствата на белите, добро ситуирани мажи се земаат како стандардна норма, додека потребите на жените остануваат во „слепа точка“.

Влијанието на ниската застапеност на жените се протега и врз алгоритамската дискриминација во реалниот свет. Истражувањата покажуваат дека алгоритмите за препорака на работни места често ги фаворизираат машките кандидати за технички и раководни позиции, со што директно се засилува родовата сегрегација на пазарот на труд. Во контекст на академските истражувања, историскиот фокус на мажите довел до недоволно препознавање на придонесите на жените и недостаток на анализа за нивните специфични потреби. Овој „информативен мрак“ е особено видлив во истражувањата спроведени кај женските невладини организации во Македонија, каде што слабата техничка опременост и недостигот на дигитални вештини дополнително ги исклучуваат жените од влијание врз ИКТ политиките.

Феминистичка критика на дизајнот на ВИ системите

Феминистичката критика на дизајнот на системите на вештачка интелигенција (ВИ) започнува со деконструкција на митот за технолошката неутралност, тврдејќи дека технологијата ги рефлектира вредностите и моќта на оние што ја создаваат. Според феминистичката епистемологија, секое знаење е ситуирано, што значи дека социјалната позиција на дизајнерот директно ја обликува објективноста и авторитетот на системот. Се посочува дека историската машка доминација во ИТ индустријата довела до вградување на маскулини вредности во кодот, притоа занемарувајќи ги емоционалноста, интуицијата и контекстуалноста како релевантни фактори за дизајнот.

Феминистичките теоретичарки аргументираат дека ВИ системите често оперираат врз основа на бинарни и хетеронормативни претпоставки, што води кон маргинализација на квир, транс и небинарните идентитети кои не се вклопуваат во овие фиксни социјални категории. Современата критика го користи концептот на „киборг феминизам“ на Дона Харавеј, кој предлага надминување на строгите граници помеѓу човечкото тело и технологијата, како и помеѓу традиционалните машко-женски опозиции.

Феминистичкиот дизајн инсистира на препознавање на различностите и вклучување на маргинализираните гласови уште во почетните фази на развојот на алгоритмите. Ваквата перспектива ги разоткрива репрезентациските штети кои настануваат кога „стандардниот корисник“ во дизајнот се замислува исклучиво како млад, бел и технички писмен маж. Овој пристап создава системски „слепи точки“ каде што другите групи се третираат како „отстапување“ од нормата или се целосно невидливи за системите за препознавање лица и медицинските класификации. Како одговор, се предлагаат методологии како „Safety by Design“ и survivor-centered пристапи, кои бараат проактивно вградување на етички и безбедносни механизми во самата архитектура на системите за да се спречи технолошки фасилитираното насилство

Интерсекционалноста применета на ВИ

Интерсекционалниот пристап во проучувањето на вештачката интелигенција (ВИ) нуди аналитичка рамка за разбирање на тоа како различните оски на идентитетот, расата, родот, класата, сексуалната ориентација и попреченоста, се преплетуваат и создаваат специфични искуства на дискриминација или привилегија. Оваа перспектива ја деконструира идејата за технологијата како неутрална алатка, откривајќи дека ВИ системите често дејствуваат како носители на кодови кои истовремено ги зајакнуваат и реинтерпретираат доминантните наративи на нееднаквост. Кога алгоритмите се дизајнираат без интерсекционална свесност, тие ризикуваат да ги репродуцираат комплексните структури на предрасуди вкоренети во социо-културниот контекст.

Пристрасноста во податоците и алгоритмите често произлегува од фактот што „стандардниот корисник“ во технолошката индустрија историски се замислува како млад, бел, технички писмен и добро ситуиран маж. Оваа привилегирана позиција води кон т.н. репрезентациски штети, каде што одредени групи, особено жените со различна боја на кожа, се „бришат“ или остануваат невидливи за алгоритмите. Еден од најекспонираните примери е неспособноста на технологиите за препознавање лица прецизно да ги идентификуваат корисниците со потемна боја на кожа, што директно влијае врз безбедноста и граѓанските права на овие заедници. Во „општеството на црната кутија“, ваквите интерсекционални пристрасности стануваат тешко видливи и уште потешки за преиспитување.

Во контекст на образованието и вработувањето, интерсекционалноста ги разоткрива механизмите преку кои ВИ може да ги продлабочи класните нееднаквости. Таков е примерот со предвидливото моделирање на успехот на учениците во Обединетото Кралство, каде алгоритмите покажале диспропорционално негативно влијание врз учениците од пониските социо-економски слоеви и етничките малцинства. Дополнително, истражувањата покажуваат дека дури и со ист ангажман на платформите за учење, студентите од маргинализираните расни групи имаат помали шанси за успех во споредба со нивните бели врсници, што укажува на вградена системска нерамнотежа која ВИ само ја автоматизира.

Интерсекционалниот пристап е клучен и за справување со технолошки фасилитираното родово базирано насилство (ТФРБН). Решенијата за борба против дигиталното насилство, како што се deepfakes или неовластеното споделување интимни слики, мора да бидат „survivor-centered“ и да ги земаат предвид испреплетените фактори на дискриминација. Без ваква анализа, постои опасност технолошките механизми за заштита да останат неефикасни за жените кои припаѓаат на повеќекратни маргинализирани групи.

Алгоритамската пристрасност и нејзините општествени ефекти

Алгоритамската пристрасност е сериозен социо-технички предизвик кој произлегува од човечките предрасуди вградени во податоците за обука и во самиот дизајн на системите. Таа се манифестира кога алгоритмите за машинско учење статистички ги репродуцираат историските и структурните нееднаквости под превезот на математичка објективност што дава „илузија на неутралност“.

„Илузијата на неутралност“ кај вештачката интелигенција претставува погрешна перцепција дека алгоритмите, поради нивната математичка и логичка основа, се инхерентно објективни и ослободени од човечките предрасуди. Оваа верба во „непогрешливоста“ на автономните системи често се заснова на претпоставката дека пресметковните процеси, како деривати на математиката, се неутрални и автоматски способни да бидат праведни. Сепак, ова е само привид кој го замаглува фактот дека дизајнот и имплементацијата на ВИ се општествено обликувани и ги рефлектираат вредностите, приоритетите и пристрасностите на нивните создавачи.

Наместо да ја отстранат дискриминацијата, алгоритмите честопати ја кодираат и „перат“ (Bias Laundering), претворајќи ги длабоко политичките и социјалните одлуки во привид на објективни факти кои изгледаат природни и неизбежни. Како што истакнуваат критичарите, моделите не се ништо повеќе од „мислења вградени во математика“. Игнорирањето на овие вградени пристрасности под маската на неутралност води кон „алгоритамска опресија“, каде историските нееднаквости се засилуваат и проектираат во општеството преку системи кои изгледаат технички точни, но произведуваат социјално неправедни исходи.

Алгоритамската опресија е системски и инхерентен дел од функционирањето на современите информациски системи кои ги напојуваат пребарувачите и другите веб-апликации. Преку процесот на т.н. „софтверизација“ на дискриминацијата, постоечките општествени нееднаквости се кодираат и перпетуираат во нетранспарентни и интелектуално заштитени машини, а маргинализираните групи се подложени на автоматизирана опресија без реална можност за оспорување на одлуките.

Студии на случај

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)

Овој систем се користел во американското правосудство за предвидување на ризикот од рецидивизам (висок ризик за повторување на делото). Меѓутоа, студиите открија сериозна расна пристрасност каде црните обвинети биле означувани како „лажно позитивни“ со двојно поголема стапка од белите обвинети. Бидејќи алгоритмот е заштитен како трговска тајна, на обвинетите им е оневозможено да ја оспорат неговата логика, што го загрозува правото на праведен правен процес.

Amazon Rekognition

Во овој случај, Amazon мораше да ја повлече својата тајна алатка за регрутирање бидејќи систематски ги дискриминирала жените. Системот учел од историски успешни апликации (кои во технолошкиот сектор доминантно биле машки) и ги казнувал резимеата за вработување што вклучувале „женски“ карактеристики, како на пример, студирање на женски колеџи или учество во женски хобија. Дури и кога се отстрануваат директните индикатори за пол, вештачката интелигенција користи proxy варијабли кои сепак водат до пристрасни одлуки.

Комерцијалните системи за препознавање лица покажуваат драстични интерсекционални разлики во точноста. Истражувањата покажуваат дека системите имаат највисока стапка на грешки кај жените со потемна кожа, додека кај белите мажи грешката е минимална. Ова се должи на податочните збирки кои се во голем дел составени од субјекти со посветол тен како и недостатокот на диверзитет кај тимовите што ги развиваат.

Математичко претставување на праведноста (Fairness)

Математичкото претставување на праведноста во машинското учење е исклучително сложено прашање, бидејќи во академската заедница постојат повеќе од 20 различни математички дефиниции за овој концепт. Истражувачите нагласуваат дека праведноста не може да се сведе на еден концизен статистички или математички проблем, бидејќи различните дефиниции често се меѓусебно некомпатибилни. Овој технички предизвик е всушност обид за математичко моделирање на моралните интуиции, што го прави процесот подложен на вредносните претпоставки и политичките позиции на развивачите. Честопати, овие математички модели се обидуваат да ги претворат двосмисленоста и контекстот во објективно мерливи квантитети, што може да доведе до т.н. заблудата дека квантитативните мерки се инхерентно подобри и пообјективни од другите набљудувања.

Клучните математички пристапи се поделени на групна праведност (Group Fairness) и индивидуална праведност (Individual Fairness). Групната праведност се фокусира на еднаквоста на исходите за различни заштитени групи, често користејќи го „правилото 4/5“ (adverse impact ratio), каде стапката на успех за маргинализираната група не смее да биде пониска од 80% од стапката на доминантната група. Индивидуалната праведност, пак, налага сличните поединци да добиваат слични резултати од алгоритмот. Дополнително, се разликуваат дистрибутивна праведност, која ја мери праведноста на конечниот исход, и процедурална праведност, која се фокусира на етиката и транспарентноста на самиот процес на одлучување. Посовремените методи вклучуваат контрафактичка праведност (Counterfactual Fairness), која го тестира алгоритмот во „симулација“ со замислување свет во кој поединецот би припаѓал на друга демографска група за да се види дали предвидувањето на системот би се променило. Друга важна техника е multi-accuracy ревизијата, која гарантира дека системот постигнува добра прецизност не само на агрегатно ниво, туку и кај специфични интерсекционални потпопулации, како што се повозрасните жени од малцинските етнички групи. Преку овој пристап се овозможува квантифицирање на перформансите низ пресекот на расата, возраста и полот, идентификувајќи ги специфичните комбинации на вештачки неврони одговорни за пристрасните класификации.

Тензии и предизвици

Главниот предизвик е математичката неможност истовремено да се задоволат сите дефиниции за праведност во сите услови. Постои инхерентна некомпатибилност помеѓу калибрацијата на системот и балансирањето на стапките на лажно позитивни и лажно негативни резултати помеѓу групите. Поради ова, развивачите често се соочуваат со компромис (trade-off) помеѓу точноста на моделот и неговата праведност, каде што процесите на де-биасирање можат да ја намалат предвидливата моќ на системот.

Најексплицитниот компромис во машинското учење е оној помеѓу точноста (accuracy) и праведноста (fairness). Честопати, процесите на де-биасирање (отстранување на пристрасноста) на моделите можат да доведат до полошо обучени системи или да ја намалат нивната ефикасност во реална употреба. Постои тензија помеѓу стремежот ВИ системот да не биде сексистички и истовременото обезбедување на податочни збирки кои овозможуваат тој да биде ефективен за својата примарна намена. Ова значи дека оптимизацијата на еден параметар често доаѓа на трошок на друг, што во високоризични сектори како вработувањето или правосудството може да претставува сериозна етичка дилема. Изборот на специфична метрика за праведност е всушност вредносно-ориентирана одлука која рефлектира одредена политичка или социјална позиција на развивачите.

Друг клучен компромис се појавува во областа на документацијата и транспарентноста, поточно помеѓу информираноста и претпазливоста (judiciousness). Иако, за ревизија на пристрасноста е неопходна детална документација за податочните збирки , прекумерното откривање информации може да ја загрози приватноста на поединците чии податоци биле користени за обука или да им помогне на малициозни актери. Истражувачите во владината сфера исто така забележуваат постоење на компромис помеѓу минимизацијата на податоци (заради приватност) и потребата од собирање демографски податоци за да се извршат прецизни проценки за расни или родови диспаритети.

Во поширок социо-технички контекст, овие компромиси поставуваат прашања на одговорност. Научниците мораат да донесуваат одлуки за тоа колкава грешка е дозволена и кој тип на грешка е поприфатлив (на пр. лажно позитивни наспроти лажно негативни резултати во медицината), што директно зависи од проценката на потенцијалната штета врз луѓето. Крајниот предизвик за институциите е да одредат дали социјалните трошоци на овие алгоритамски компромиси се оправдани во однос на придобивките што ги нуди технологијата.

Институтот за родови студии подготви предлог – Етички кодекс за одговорна употреба на вештачката интелигенција Филозофскиот факултет Скопје

Институтот за родови студии при Филозофскиот факултет на Универзитетот „Св. Кирил и Методиј“ во Скопје подготви предлог-драфт на Етички кодекс за етичка и одговорна употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет.

Документот е замислен како основа за поширока академска, институционална и јавна дискусија за тоа како вештачката интелигенција може да се користи во високото образование на начин што ја унапредува наставата и истражувањето, но истовремено ги штити академската чесност, критичкото мислење, приватноста, недискриминацијата, родовата еднаквост и јавниот интерес.

Предлог-драфтот поаѓа од фактот дека вештачката интелигенција веќе е дел од секојдневниот академски живот. Студентите ја користат за ориентација во поими, јазична помош, структурирање идеи и самопроверка на знаењето. Наставниците ја користат за подготовка на наставни материјали, анализа на содржини и поттикнување дискусија. Истражувачите ја користат за организација на информации, обработка на текстови и анализа на податоци. Затоа, прашањето повеќе не е дали вештачката интелигенција ќе биде присутна во академскиот простор, туку како таа да се користи одговорно, транспарентно и критички.

Основната порака на предложениот кодекс е дека вештачката интелигенција може да биде корисна алатка, но не може и не смее да ја замени човечката мисла, академската одговорност, самостојниот интелектуален придонес и моралното расудување. Кодексот ја поставува ВИ како поддршка во наставата, учењето и истражувањето, а не како замена за знаењето, анализата и критичката интерпретација.

Особено значајно е што предлог-драфтот не ја третира вештачката интелигенција како неутрална техничка алатка. Напротив, документот укажува дека ВИ системите можат да репродуцираат пристрасности, стереотипи и нееднаквости, вклучително родови, социјални, културни, етнички и други форми на дискриминација. Токму затоа, Институтот за родови студии ја нагласува потребата од критичка и одговорна употреба на овие технологии, особено кога се создаваат наставни материјали, јавни содржини или научно-истражувачки публикации со поширок општествен дофат.

Предлог-кодексот предвидува дека употребата на вештачка интелигенција треба да биде транспарентна секогаш кога таа има значајна улога во создавањето наставни, студентски, истражувачки или јавни содржини. Тоа значи дека кога ВИ се користи за генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи, таквата употреба треба јасно да се наведе. Од друга страна, рутинската употреба, како правописна и граматичка проверка или превод на поединечни зборови и изрази, не мора да се наведува, освен ако наставникот, предметната програма или уредничките стандарди не бараат поинаку.

Документот посебно внимание посветува и на студентската употреба на вештачката интелигенција. Студентите можат да ја користат ВИ како поддршка во процесот на учење, но таа не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес. Предлог-кодексот истовремено инсистира наставниците јасно да ги информираат студентите за дозволената и недозволената употреба на ВИ во рамки на конкретниот предмет, особено пред изработка на позначајни задачи. На тој начин се избегнуваат нејаснотии, произволни толкувања и неправедно третирање на студентите.

Во научно-истражувачката работа, предлог-драфтот дозволува употреба на ВИ како поддршка за анализа на податоци, обработка на текстови и организација на информации, но јасно утврдува дека одговорноста за научната валидност, интерпретацијата, оригиналноста и точноста на резултатите останува кај истражувачот. Забранета е употреба на ВИ за фабрикување, манипулирање или прикривање научни податоци, резултати или извори.

Еден од поважните аспекти на документот е заштитата на личните, чувствителните, доверливите и необјавените податоци. Предлог-кодексот предупредува дека вакви податоци не смеат да се внесуваат во системи на вештачка интелигенција без соодветна правна и институционална основа. Ова е особено важно за истражувања што вклучуваат интервјуа, анкети, фокус-групи, теренски материјали, докторски тези во подготовка, необјавени ракописи или други материјали со висока чувствителност.

Предлог-драфтот отвора и прашање што често останува занемарено во јавните дебати за вештачката интелигенција: јазичниот суверенитет. Во документот се нагласува дека академски, наставни и истражувачки содржини на македонски јазик, внесени во комерцијални ВИ системи, можат да станат дел од процесите на обработка и обука на тие системи, согласно условите на давателите на услугите. Затоа се препорачува внимателност, особено при работа со необјавени и чувствителни материјали, како и следење на можностите за користење локални или институционално контролирани решенија.

Со овој предлог-драфт, Институтот за родови студии сака да поттикне поширока расправа за тоа како академската заедница треба да одговори на брзите технолошки промени. Намерата не е да се забрани употребата на вештачката интелигенција, туку да се воспостави јасна етичка рамка што ќе овозможи нејзина корисна, правична, транспарентна и академски одговорна примена.

Кодексот е предложен како отворен документ, подложен на дискусија, дополнување и натамошно усогласување со универзитетските политики, законските прописи и потребите на академската заедница. Во таа смисла, Институтот за родови студии го поканува наставно-научниот кадар, студентите, истражувачите, административниот персонал и пошироката заинтересирана јавност да се вклучат во расправата, да дадат свои забелешки и да придонесат кон создавање заедничка култура на одговорна употреба на вештачката интелигенција.

ЕТИЧКИ КОДЕКС за етичка и одговорна употреба на вештачката интелигенција

во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје

I. ОПШТИ ОДРЕДБИ

Член 1

Со овој Етички кодекс се утврдуваат основните начела, правила и одговорности за употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје.

Овој кодекс има за цел да обезбеди етичка, транспарентна и академски одговорна примена на вештачката интелигенција, во согласност со вредностите на академската заедница, човековите права и јавниот интерес.

Член 2

Етичкиот кодекс е усогласен со Етичкиот кодекс и со Декларацијата за етичка и одговорна употреба на вештачката интелигенција на Универзитетот „Св. Кирил и Методиј“ во Скопје и претставува нивна факултетска спецификација.

Одредбите на овој кодекс се применуваат доколку не се во спротивност со повисоките универзитетски и законски акти.

II. ПРЕДМЕТ И ОПФАТ

Член 3

Овој кодекс се применува на наставно-научниот кадар, соработниците, студентите, истражувачите и административниот персонал на Филозофскиот факултет, како и на сите лица вклучени во наставни и истражувачки активности на Факултетот.

Кодексот се однесува на употребата на сите системи на вештачка интелигенција, вклучително и генеративни модели, автоматизирани системи за анализа, препорака и создавање содржина.

Член 3-а

За потребите на овој кодекс:

Вештачка интелигенција, односно ВИ, означува компјутерски системи или апликации кои создаваат, анализираат, класифицираат, препорачуваат, преведуваат или обработуваат содржини врз основа на податоци, алгоритми или модели.

Генеративна ВИ значи системи кои создаваат нова содржина, како текст, слики, аудио, видео, код, резимеа, анализи, наставни или истражувачки материјали.

Значајна употреба на ВИ означува употреба која суштински влијае врз содржината, структурата, анализата, аргументацијата, методологијата или заклучоците на трудот или материјалот. Таква употреба е, на пример, генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи.

Рутинска употреба на ВИ значи ограничена техничка или јазична помош која не влијае суштински врз содржината, аргументацијата или заклучоците, како правописна и граматичка проверка, техничко форматирање или превод на поединечни зборови и изрази.

Чувствителни податоци означува лични, доверливи, необјавени или истражувачки податоци, вклучително интервјуа, анкети, фокус-групи, теренски материјали и податоци што можат да идентификуваат лица или групи.

Академски придонес значи самостојна интелектуална работа изразена преку критичко читање, анализа, интерпретација, аргументација, методолошка одлука и заклучување.

Широка дисеминација означува објавување или споделување содржини надвор од непосредниот наставен или интерен работен контекст, како научни трудови, јавни објави, наставни материјали со трајна употреба, извештаи и интернет-содржини.

Кога постои сомнеж дали употребата е значајна или рутинска, се препорачува таа да се наведе.

III. ОСНОВНИ ЕТИЧКИ НАЧЕЛА

Член 4

Употребата на вештачката интелигенција се заснова на начелата на почитување на човековото достоинство, академската слобода, академската чесност и професионалната одговорност.

Системите на ВИ не се неутрални алатки и нивната употреба бара критичка рефлексија.

Вештачката интелигенција се користи како поддршка која не ја заменува човечката мисла, критичкото расудување и моралната одговорност.

Член 5

Употребата на вештачката интелигенција мора да биде правична и недискриминаторска.

Не е дозволена употреба на вештачка интелигенција која директно или индиректно создава или продлабочува родова, социјална, културна, етничка или друга форма на нееднаквост.

Содржините создадени со вештачка интелигенција наменети за широка дисеминација — наставни материјали со траен дофат, јавни објави и истражувачки публикации — подлежат на проверка за пристрасни и стереотипни претстави пред објавувањето.

Надлежното факултетско тело од член 18 прима пријави за повреди на ова начело и ги координира методолошките упатства за идентификација на пристрасни излези, во соработка со Институтот за родови студии и другите институти со релевантна експертиза.

IV. ТРАНСПАРЕНТНОСТ И ОДГОВОРНОСТ

Член 6

Секој корисник на вештачка интелигенција е одговорен за содржината, резултатите и последиците од нејзината употреба. Корисникот треба да биде свесен дека системите на вештачка интелигенција можат да генерираат содржини што изгледаат веродостојно, но содржат неточни тврдења или измислени извори, и одговорноста за нивна проверка останува кај него.

Вештачката интелигенција не може да биде носител на академска, научна или етичка одговорност.

Член 7

Кога вештачката интелигенција има значајна улога во создавање на наставни, истражувачки или јавни содржини, нејзината употреба мора да биде јасно и соодветно наведена.

Под јасно и соодветно наведување се смета: во научни трудови — наведување на користениот систем, верзијата доколку е достапна, и природата на употребата (јазична редакција, помош при структурирање, анализа на податоци и слично); во наставни материјали — кратка ознака за тоа дали и како вештачката интелигенција е користена; во студентски работи — наведување согласно правилата на конкретниот предмет.

Не се бара наведување за рутинска употреба на правописни и граматички проверувачи, ниту за машински превод на одделни поими, освен ако наставникот или уредничкиот стандард на публикувањето бараат поинаку.

Транспарентноста претставува предуслов за зачувување на довербата во наставниот и научно-истражувачкиот процес.

V. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАСТАВАТА

Член 8

Во наставниот процес, вештачката интелигенција може да се користи како дидактичка поддршка за појаснување на поими, анализа на содржини, подготовка на наставни материјали и поттикнување критичка дискусија.

Наставникот останува главен носител на наставниот процес и ја има целосната педагошка и етичка одговорност за нејзината употреба.

Член 9

Наставниците се должни јасно да ги информираат студентите за дозволената и недозволената употреба на вештачката интелигенција во рамки на конкретниот предмет, по правило на почетокот на семестарот и пред секоја позначајна задача.

Правилата за употреба мора да бидат усогласени со целите на наставата и начелата на академската чесност.

Институтите најмалку еднаш годишно одржуваат колегиум посветен на педагошките импликации од употребата на вештачката интелигенција, со цел разменување искуства и развивање заеднички препораки за тоа што во конкретната дисциплина претставува самостојно знаење и самостоен академски придонес, без да се ограничи педагошката слобода на поединечниот наставник.

VI. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО УЧЕЊЕТО

Член 10

Студентите можат да користат вештачка интелигенција како поддршка во процесот на учење, особено за ориентација во поими, јазична корекција, структурирање идеи и самопроверка на знаењето.

Употребата на вештачка интелигенција не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес.

Член 11

Недозволена е употреба на вештачка интелигенција за целосно извршување на задачи и обврски кои се наменети за проверка на самостојното знаење и вештини на студентот, освен ако тоа не е изрично дозволено од наставникот.

Студентот има право на јасна информација за дозволената и недозволената употреба согласно член 9. Кога правилата не се претходно соопштени, користењето на вештачка интелигенција од страна на студентот не може автоматски да се третира како повреда на академската чесност, освен ако се работи за очигледна повреда на општите начела од овој кодекс.

VII. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАУЧНО-ИСТРАЖУВАЧКАТА РАБОТА

Член 12

Во научно-истражувачката работа, вештачката интелигенција може да се користи како поддршка за анализа на податоци, обработка на текстови и организација на информации.

Одговорноста за научната валидност, интерпретацијата и оригиналноста на резултатите останува кај истражувачот.

Член 13

Забранета е употреба на вештачка интелигенција за фабрикување, манипулирање или прикривање на научни податоци, резултати или извори.

VIII. ЗАШТИТА НА ПОДАТОЦИ, ПРИВАТНОСТ И ЈАЗИЧЕН СУВЕРЕНИТЕТ

Член 14

При користење на вештачка интелигенција мора строго да се почитуваат прописите за заштита на лични податоци и доверливи информации.

Не е дозволено внесување на чувствителни, необјавени или доверливи податоци во системи на вештачка интелигенција без соодветна правна и институционална основа.

Член 15

При употребата на комерцијални системи на вештачка интелигенција, наставниот, научниот и административниот кадар се поттикнува да биде свесен дека текстови, истражувачки материјали и наставни содржини на македонски јазик внесени во такви системи можат да станат дел од нивните процеси на обработка и обука, под условите на соодветните даватели на услуги.

За работа со необјавени истражувачки податоци, докторски тези во подготовка и слични материјали со висока чувствителност, се препорачува користење на локални или институционално одобрени системи, наместо отворени комерцијални платформи.

Факултетот го следи развојот на отворени и институционално контролирани решенија за вештачка интелигенција, особено оние што го поддржуваат македонскиот јазик, и информира за алтернативи кога такви се достапни.

IX. ИНСТИТУЦИОНАЛНА КООРДИНАЦИЈА, РЕСУРСИ И РАЗВОЈ НА КАПАЦИТЕТИ

Член 16

Филозофскиот факултет може да утврди официјални институционални ресурси и платформи за вештачка интелигенција за настава, учење и истражување.

Утврдувањето на официјални ресурси не подразбира исклучивост. Наставниците и истражувачите задржуваат право, во рамки на својата академска слобода, да користат и други системи на вештачка интелигенција што ги сметаат за соодветни за конкретната наставна или истражувачка цел, под услов да се почитуваат останатите одредби од овој кодекс.

Употребата на алатки надвор од официјалните ресурси во рамки на наставата подлежи на пријавување до надлежните факултетски органи, согласно интерните процедури. Пријавувањето има информативен, а не одобрителен карактер.

Член 17

Факултетот обезбедува континуирани обуки за наставниот, научниот и административниот кадар за етичка, методолошки соодветна и критички свесна употреба на системите на вештачка интелигенција.

Институтот за родови студии, во соработка со останатите институти, може да предложи модули за обука посветени на родовите и социјалните импликации од вештачката интелигенција.

Член 18

За следење на примената на овој кодекс, Факултетот може да формира работно тело или да определи постоечко тело со таа надлежност, кое најмалку еднаш годишно изготвува краток извештај за искуствата, проблемите и предлозите за измена на кодексот.

Извештајот се разгледува на седница на надлежниот факултетски орган и е достапен на интернет-страницата на Факултетот.

X. ЗАВРШНИ ОДРЕДБИ

Член 19

Овој Етички кодекс претставува рамковен акт кој служи како основа за понатамошно уредување и развој на практиките поврзани со вештачката интелигенција на Филозофскиот факултет.

Со оглед на брзината на развој на технологиите на вештачка интелигенција, кодексот задолжително се преразгледува најмалку еднаш на секои две години, врз основа на извештајот од член 18 и собраните искуства.

Кодексот се применува од денот на неговото донесување.

Три нивоа на автономија кај LLM-засновани системи: Од чет до самостоен агент

Критичка анализа на индустриска визуелна конвенција и предлог за академски одбранлива поделба

Институт за родови студии, Филозофски факултет, Универзитет „Св. Кирил и Методиј“, Скопје

Апстракт

Во индустрискиот дискурс за вештачка интелигенција сè почесто се сретнува троделна поделба на LLM-засновани системи на „generative AI“, „agentic AI“ и „AI agents“. Поделбата циркулира преку корпоративни блогови, инфографики на социјални мрежи и наставни материјали, но најчесто без академски извори и со внатрешни концептуални противречности. Овој текст ја анализира една таква широко споделувана инфографика како репрезентативен случај, ги изложува нејзините технички и логички недостатоци, и нуди прецизирана поделба заснована на единствена оска: кој носи одлуки за контролниот тек на системот — корисникот, кодот или моделот. Прецизираната поделба ја задржува троделната структура која е педагошки корисна, ѝ дава операционализирани дефиниции, и експлицитно ја мапира кон конкурентните терминолошки конвенции кај Anthropic, Google Cloud и MIT Sloan. Заклучокот укажува дека ваквите инфографики функционираат како „гранични објекти“ во дискурсот за вештачка интелигенција: педагошки корисни како почетна точка, но епистемолошки ризични кога се користат како единствен извор за концептуализација.

Клучни зборови: вештачка интелигенција, големи јазични модели, агентни системи, автономија, индустриска терминологија, инфографика, педагогија.

1. Вовед

Во последните две години, со растечката достапност на големи јазични модели (LLM) и нивно вградување во разни облици на производи, во индустрискиот и медиумскиот дискурс за вештачка интелигенција се востанови една специфична визуелна конвенција: тро-делена компаративна табела или тро-колонски процесен дијаграм во кој се прикажуваат „generative AI“, „agentic AI“ и „AI agents“ како три различни типа на системи. Овие инфографики циркулираат на LinkedIn, корпоративни блогови, обуки за менаџери, а сè почесто навлегуваат и во наставни материјали на универзитетски курсеви.

Иако визуелизациите од овој тип имаат педагошка функција — им помагаат на читателите да градат прва ментална мапа на едно ново и брзо менувачко поле — тие истовремено создаваат специфичен епистемолошки ризик. Тие репродуцираат како „факт“ една категоризација која во самата академска и техничка литература сè уште не е стабилизирана, и често ја прават тоа без наведување извор, автор или датум. Резултатот е дискурзивна формација во која конвенцијата претходи на дефиницијата.

Овој текст ја анализира една таква инфографика — широко споделувана на социјалните мрежи во 2024 и 2025 година — како репрезентативен случај. Прв чекор е дескриптивен: што точно прикажува инфографикот и кои се неговите структурни недостатоци. Втор чекор е дискурзивен: како вакви визуелизации функционираат во индустрискиот семантички систем дури и кога се концептуално нестабилни. Трет чекор е конструктивен: нуди прецизирана поделба со операционализирани дефиниции и експлицитно мапирање со конкурентните терминолошки конвенции во литературата.

Тезата на текстот не е дека тро-делената поделба треба да се отфрли, туку дека треба да се реконструира врз единствена концептуална оска и со експлицитна свест за нејзината терминолошка локалност. Поделбата „чет / чет + алатки / самостоен извршител“ е педагошки корисна и одбранлива, под услов да биде поставена врз оската на автономија и контрола, а не како онтолошки различни „типови“ на вештачка интелигенција.

2. Анализа на инфографиката како случај

Инфографиката што се анализира тука прикажува три паралелни вертикални колони со наслови „Generative AI“, „Agentic AI“ и „AI Agents“. Секоја колона содржи процесен дијаграм со осум до девет чекори означени со икони и стрелки, а под трите колони се наоѓа компаративна табела со пет реда: цел, функционалност, примери, интеракција со системот и способност за учење. Инфографиката нема наведен автор, нема датум и нема библиографски извори.

Иако визуелно делува информативно и сеопфатно, на поблиско читање покажува неколку структурни проблеми кои го компромитираат нејзиното функционирање како научен материјал.

2.1. Замаглување на фазите на тренирање и инференција

Процесниот дијаграм за „Generative AI“ ги мапира следните чекори: специфицирање на задача, собирање податоци, рафинирање на податоците, поставување на индекс за пребарување и векторска база, тренирање на модел, распоредување (deployment), евалуација и генерирање резултати. Овој ред меша две сосема различни нешта: фаза на создавање на моделот (од собирање податоци до тренирање и распоредување) и фаза на користење на моделот (специфицирање задача, генерирање резултати).

Креирањето на модел е процес што го извршуваат компании како OpenAI, Anthropic или Google со огромни ресурси и временски рокови; користењето на готов модел е процес што го извршува секој краен корисник за неколку секунди по испратеното барање. Прикажувањето на овие два процеса како чекори во ист тек создава впечаток дека секој корисник на ChatGPT минува низ фаза на „тренирање на модел“ како дел од својата интеракција, што е суштинска грешка во разбирањето на тоа како функционираат LLM-засновани системи.

2.2. Структурна идентичност на колоните „Agentic AI“ и „AI Agents“

Процесните дијаграми за „Agentic AI“ и „AI Agents“ при внимателно споредување се покажуваат како структурно идентични. Колоната за „Agentic AI“ опфаќа: избор на LLM, интеграција на алатки и API, вградување на логика и итерации, подобрување и еволуирање, „агентно-водени“ одлуки, имплементирање на акции и самостојни одлуки. Колоната за „AI Agents“ опфаќа: преземање корисни податоци, надворешни операции, дизајнирање на повеќестепен процес, прилагодување за идна употреба, применување на итеративна логика, имплементирање на акции, освежување на меморија и повикување на API.

Чекорите „вградување логика и итерации“ и „дизајнирање повеќестепен процес“ опишуваат истата активност со различни именки. Истото важи за „агентно-водени одлуки“ и „применување на итеративна логика“, како и за двата „имплементирање на акции“. Разликата меѓу овие две колони е реторичка, не процедурна, и токму затоа функционира како визуелна реторика на „напредност“ без вистинска концептуална основа.

2.3. Внатрешно противречно тврдење за способноста за учење

Долната табела во редот „способност за учење“ содржи следните тврдења: „Updated through retraining to enhance creativity“ за Generative AI, „Limited learning without algorithm integration“ за Agentic AI, и „Designed to learn through interactions“ за AI Agents.

Тврдењето за Agentic AI е концептуално нејасно — фразата „ограничено учење без интеграција на алгоритми“ не значи ништо одредено во техничка смисла, бидејќи секој LLM-заснован систем по дефиниција содржи алгоритамска компонента. Дополнително, ако „AI Agents“ во оваа поделба се поедноставен пример (како што колоната за Agentic AI визуелно сугерира со помал број чекори), не може истовремено да биде претставен како подобар во учењето. Редот „способност за учење“ се самокомпрометира — категоризацијата што визуелно расте по сложеност текстуално опаѓа по способност за учење на средната точка.

2.4. Мешани онтолошки нивоа во редот „примери“

Редот „примери“ во долната табела ги наведува следните единици: GPT-3 и DALL-E за Generative AI, чет-ботови и виртуелни асистенти за Agentic AI, и автономни возила и интелигентни роботи за AI Agents. Тие три ставки припаѓаат на три сосема различни онтолошки нивоа: конкретни производи (GPT-3, DALL-E), категории на софтвер (чет-ботови, виртуелни асистенти), и физички автономни системи (возила, роботи). Дополнително, „автономни возила“ и „интелигентни роботи“ не се LLM-засновани агенти во строга смисла; тие припаѓаат на полето на робототика и computer vision со свои децениски истражувачки традиции, кои се појавиле многу пред современите LLM-системи и користат различни архитектури.

2.5. Отсуство на извор, автор и датум

Инфографиката нема наведен автор, институција, датум на изработка ниту библиографски извори. Овие елементи се стандард во академскиот дискурс не како формалност, туку како епистемолошка гаранција: тие му овозможуваат на читателот да провери, контекстуализира и спореди тврдењата со други извори. Нивното отсуство ја префрла инфографиката во жанрот на анонимна индустриска визуелизација, чија авторитативност произлегува од визуелниот стил и брзината на циркулирање, а не од проверливоста на содржината.

3. Дискурзивен статус на поделбата

И покрај наведените недостатоци, тро-делената поделба „generative / agentic / agents“ е широко прифатена низ корпоративниот, образовниот и дел од стручниот дискурс. Овој социјален факт треба сериозно да се земе предвид: ако одредена категоризација е оперативна во еден значителен дел од дискурзивниот простор, академскиот текст не може едноставно да ја прогласи за погрешна и да продолжи. Треба прво да се разбере зошто таа функционира, и потоа да се идентификува што може да се поправи во неа без да се изгуби нејзината педагошка вредност.

Терминолошкото поле во кое се движат овие категории е во состојба на полу-стабилизирана употреба. Различни големи играчи во полето користат значително различни дефиниции. Anthropic, во влијателниот текст на Schluntz и Zhang (2024), сите системи што користат LLM за извршување задачи ги нарекуваат „agentic systems“ како чадор-поим, и потоа прават архитектонска разлика помеѓу „workflows“ — системи каде LLM и алатки се оркестрирани преку предефинирани кодни патеки — и „agents“ — системи каде LLM динамички ги насочуваат сопствените процеси и употребата на алатки. Во оваа терминологија, „agent“ е токму највисокото ниво на автономија, а „agentic“ е чадорот за сите варијанти. Google Cloud, во својата официјална дефиниција, ја позиционира „agentic AI“ како подмножество на „generative AI“, а „AI agents“ како „градежни блокови“ на agentic AI, што е спротивно од поделбата во инфографиката. MIT Sloan, преку текстовите на Sinan Aral, „agentic AI“ ја дефинира како системи кои инкорпорираат повеќе различни агенти кои заедно оркестрираат задача, што е поблиску до класичниот концепт на мулти-агентни системи кај Wooldridge (2009).

Овие конкурентни употреби не се грешки во меѓусебно поправање, туку различни тематизации на истиот концептуален простор. Како што Russell и Norvig (2020) укажуваат во стандардниот учебник по вештачка интелигенција, поимот „агент“ во полето на AI има децениска историја и веќе значи нешто прецизно: ентитет што перцепира средина преку сензори и дејствува на средината преку акутатори, со цел да максимизира одредена мерка за изведба. Сите Russell-Norvig дефиниции на типови агенти — рефлексни, моделно-засновани, цел-засновани, корисносно-засновани и учечки агенти — се типови на еден и ист онтолошки ентитет. Терминот „agentic“ како посебна категорија спротивна на „agent“ не постои во оваа традиција.

Што значи тогаш дека поделбата „generative / agentic / agents“ во индустрискиот дискурс сепак функционира? Една продуктивна интерпретација е дека таа функционира не како таксономска тврдња, туку како прагматична скала на интеграција и автономија. Помеѓу „чист LLM во разговор“ и „автономен агент што извршува повеќестепена задача“ постои реален континуум на архитектонски решенија, и трите термини служат како груби маркери на различни точки на тој континуум. Концептуалните проблеми се појавуваат само кога овие груби маркери се претставуваат како онтолошки различни „типови“ на вештачка интелигенција, наместо како нивоа на автономија на еден и ист тип на систем.

4. Прецизирана поделба

Поделбата предложена тука ја задржува троделната структура која е педагошки корисна и широко препознатлива, но ја поставува врз една експлицитна оска: кој носи одлуки за контролниот тек на системот. Контролниот тек овде значи редоследот, изборот и завршувањето на чекорите потребни за извршување на задача. Можните носители на одлуките се три: корисникот (преку директни инструкции во разговор), кодот (преку предефинирани патеки во апликациската логика), и моделот (преку динамичко планирање во моментот).

4.1. Generative AI — чет-бот

Прво ниво на поделбата е генеративен модел во чисто разговорен режим. Корисникот пишува, моделот одговара. Циклусот е затворен: моделот произведува текст или слика како излез, без пристап до надворешни системи, без извршување на акции во светот, без управување со меморија надвор од текот на разговорот. Сите одлуки за контролниот тек ги донесува корисникот; ако треба нешто да се направи врз основа на одговорот на моделот, тоа го прави корисникот рачно.

Примери на оваа категорија се ChatGPT во чист чет-режим без вклучени алатки, Claude.ai без пристап до web search или code execution, и Gemini користен исклучиво како разговорен интерфејс. Во терминологијата на Anthropic ова е „augmented LLM“ во неговата најосновна форма — модел со капацитет за генерација, но без надворешни augmentations.

4.2. Agentic AI — чет плус алатки

Второ ниво на поделбата е истиот генеративен модел, но опремен со пристап до алатки: web search, читање и обработка на документи, повикување на API, извршување на код во контролирана средина. Овој пристап му овозможува на моделот да дејствува надвор од границите на чистата генерација — да доведе нови информации, да повика надворешни сервиси, да изврши нумерички пресметки. Сепак, опсегот на дејствување е затворен во рамките на едно корисничко барање: корисникот формулира задача, моделот ја извршува со помош на алатки, и резултатот се враќа во разговорот.

Во оваа категорија, контролниот тек е поделен меѓу корисникот и моделот. Корисникот ја одредува задачата и нејзините граници; моделот одлучува кои алатки да ги повика и во кој редослед за да ја заврши. Сепак, моделот не носи одлуки за повеќестепени цели надвор од моменталното барање, и не задржува иницијатива откако задачата ќе биде завршена. Примери се Claude со web search и code execution, ChatGPT со tools, и копилоти за код вградени во развојни средини. Во терминологијата на Anthropic, ова најчесто соодветствува на „workflows“ — системи каде кодната патека е претходно дефинирана, а LLM-от ја пополнува содржината на чекорите.

4.3. AI Agent — самостоен извршител

Трето ниво на поделбата е генеративен модел кој динамички ги насочува сопствените процеси кон висока цел. Корисникот му задава задача која може да опфаќа повеќе чекори, поставува граници и критериуми за прифатлив исход, а моделот самостојно ја разградува задачата на потцели, планира редослед на чекори, повикува алатки во итеративен циклус, и одлучува кога задачата е завршена. Во овој модел на работа, моделот мора при секој чекор да добива „ground truth“ од средината — резултати од повиканите алатки, повратни сигнали, тестови — за да процени дали се движи кон целта или треба да корегира.

Контролниот тек овде е најголемиот дел во рацете на моделот, со човечкиот надзор поставен на ниво на цели и граници, не на ниво на поединечни чекори. Примери се Claude Code за повеќестепени инженерски задачи, истражувачки агенти кои собираат и анализираат информации од повеќе извори, и автономни кодинг агенти кои извршуваат серии од измени во кодна база. Во терминологијата на Anthropic, ова се „agents“ во прецизна смисла; тоа е она што кај нив е најавтономниот тип на agentic system.

4.4. Терминолошко мапирање

Бидејќи терминологијата во полето е сè уште нестабилна, секоја употреба бара експлицитно мапирање со конкурентните конвенции. Долната табела ги сумира четирите главни употреби на трите термини и нивниот меѓусебен сооднос.

ИзворЧет-бот (ниво 1)Чет + алатки (ниво 2)Самостоен извршител (ниво 3)
Anthropic (Schluntz и Zhang 2024)Augmented LLMWorkflowAgent
Google CloudGenerative AIAI agent (component)Agentic AI (multi-agent orchestration)
MIT Sloan / AralGenerative AIAI agent (single)Agentic AI (multi-agent)
Индустриска конвенција (анализираната инфографика)Generative AIAgentic AIAI Agents

Од табелата се гледа дека ниту еден термин не значи исто во сите четири извори. Особено индикативно е дека терминот „agent“ кај Anthropic значи токму она што кај индустриската конвенција го означува терминот „agentic AI“, а терминот „agentic AI“ кај Google Cloud е чадор-поим за најавтономното ниво, а не средно ниво. Овој терминолошки хаос не е грешка во полето; тоа е природна состојба на технолошки дискурс во кој конвенцијата претходи на дефиницијата. Кога академски текст или наставен материјал се однесува на овие категории, мора експлицитно да дефинира која употреба ја следи, бидејќи нема универзално прифатена.

Прецизираната поделба предложена тука ја следи индустриската конвенција за имињата на категориите (Generative AI / Agentic AI / AI Agent), затоа што токму со неа студентите и обичните корисници најчесто се среќаваат во медиумите и корпоративниот дискурс. Од Anthropic ја позајмува содржинската супстанца на дефинициите, особено критериумот „кој носи одлуки за контролниот тек“. Оваа хибридна стратегија ги задржува препознатливите имиња, но им дава техничка прецизност што индустриската конвенција сама по себе ја нема.

5. Заклучок: педагошка вредност и епистемолошки ризик

Инфографиките како онаа анализирана во овој текст функционираат во дискурзивниот простор како „гранични објекти“ — единици што служат на различни групи (продажба, обука, едукација, инженерство) дури и без концептуална прецизност, и токму поради таа полиморфност лесно се распространуваат. Тие нудат брза ментална мапа на едно сложено поле и им помагаат на читателите да преминат од состојба на потполна непредизвикана непознаница кон состојба на работна оперативност. Тоа е реална педагошка вредност и не треба да се отфрла.

Истовремено, постои реален епистемолошки ризик. Кога ваквите инфографики се користат како единствен извор, тие репродуцираат концептуални противречности како да се факти, мешаат онтолошки нивоа, и ја заматуваат разликата помеѓу прецизни технички термини и нивните маркетиншки употреби. Кога влегуваат во наставни материјали без критичка реконструкција, ги поучуваат студентите на површно разбирање што подоцна треба да се откорнува.

Препораката што произлегува од оваа анализа за наставниците кои работат со ваквите материјали е тројна. Прво, инфографиките можат да се користат како почетна точка во настава, особено за студенти кои се новајлии во полето, бидејќи нудат препознатлив и достапен влез. Второ, веднаш по таквото воведување, наставникот треба да го направи експлицитен критичкиот чекор: да укаже што во инфографиката е концептуално нестабилно, да понуди прецизирана дефиниција, и да го мапира преземениот вокабулар со конкурентните терминолошки конвенции. Трето, при подготовка на сопствени материјали, наставникот треба да следи академски стандарди што инфографиките не ги почитуваат: наведување извор, автор, датум, и експлицитна свест за тоа од каде доаѓаат концептите што се користат.

Поделбата „чет / чет + алатки / самостоен извршител“, поставена врз оската на автономија и контрола, е педагошки одбранлива и операционализирана. Таа не претставува онтолошка таксономија на различни типови вештачка интелигенција, туку прагматична скала на интеграција и автономија помеѓу LLM-засновани системи. Како таква, може да биде солидна основа за вовед во полето, но не и крајна теориска точка. Студентот кој ќе ја разбере оваа поделба треба следно да навлезе во прецизните технички дистинкции (workflow vs. agent, augmented LLM, tool use, ground truth), и таму индустриската конвенција престанува да биде корисна и почнува да биде препрека.

Библиографија

Aral, Sinan. 2026. „Agentic AI, Explained.“ Интервју со Beth Stackpole. MIT Sloan Ideas Made to Matter, 23 февруари. https://mitsloan.mit.edu/ideas-made-to-matter/agentic-ai-explained.

Google Cloud. без датум. „What Is Agentic AI? Definition and Differentiators.“ Пристапено на 15 мај 2026. https://cloud.google.com/discover/what-is-agentic-ai.

Ransbotham, Sam, David Kiron, Shervin Khodabandeh, Sukhada Iyer и Anya Das. 2025. „The Emerging Agentic Enterprise: How Leaders Must Navigate a New Age of AI.“ MIT Sloan Management Review and Boston Consulting Group, ноември. https://sloanreview.mit.edu/projects/the-emerging-agentic-enterprise-how-leaders-must-navigate-a-new-age-of-ai/.

Russell, Stuart и Peter Norvig. 2020. Artificial Intelligence: A Modern Approach. 4-то изд. Hoboken: Pearson.

Schluntz, Erik и Barry Zhang. 2024. „Building Effective Agents.“ Anthropic, 19 декември. https://www.anthropic.com/research/building-effective-agents.

Wooldridge, Michael. 2009. An Introduction to MultiAgent Systems. 2-ро изд. Chichester: John Wiley & Sons.

Општествени, родови и интерсекционални импликации на ВИ

Општествено конструирање на технологијата (SCOT)

Теоријата на социјално конструирање на технологијата (SCOT) суштински го отфрла технолошкиот детерминизам, тврдејќи дека технолошките алатки се социјално обликувани и не можат да се разгледуваат како неутрални објекти кои дејствуваат независно од општеството. Наместо технологијата да се третира како надворешна, автономна сила која го диктира човечкото однесување, таа се препознава како производ на специфични луѓе, институции и културни вредности. Овој пристап нагласува дека дизајнот и техничката содржина на алатките се резултат на многубројни избори помеѓу различни технички опции, кои се обликувани од социјалните околности и интересите на вклучените групи во процесот на иновација. Што значи дека нејзиниот развој е контингентен процес кој секогаш содржи потенцијал да биде поинаков доколку се променат општествените актери.

Во современиот дискурс постои изразен „мираж на објективност“ околу системите на вештачка интелигенција, кои честопати се претставуваат како непристрасни и ослободени од човечки емоции и грешки. Сепак, истражувањата јасно укажуваат дека овие модели се всушност „мислења вградени во математика“, каде што претпоставките, вредностите и пристрасностите на развивачите се директно впишани во алгоритамските процеси. Бидејќи вештачката интелигенција се тренира на масивни збирки податоци кои ги рефлектираат историските и структурните нееднаквости, таа статистички ги репродуцира постоечките предрасуди под превезот на математичка точност.

Преку концептот дека „технологијата е општество направено да трае“, во секое општество, а особено во патријархалното, родовите односи на моќ се материјализираат во самата инфраструктура на технолошките системи. Техничките досогнувања се социјални договори впишани во материјата, каде мажественоста и женственоста ги добиваат своите карактеристики преку нивната вграденост во функционалните машини. Ова значи дека систематското исклучување на одредени групи од дизајнерските процеси директно влијае врз тоа како се дефинираат проблемите и какви технички решенија се нудат, со што доминантните вредности стануваат „природни“ и невидливи делови од нашето секојдневие. Така, технологијата функционира како перформативен апарат кој што го опишува светот, но и го произведува и одржува постоечкиот социјален и родов поредок.

Родот и технологијата

Историјата на компјутерската наука открива длабок парадокс, жените не само што биле присутни, туку биле и клучни пионери во оваа област, но нивниот придонес е систематски маргинализиран како што полето добивало на културна, економска и социјална вредност. Ада Лавлејс го напишала првиот алгоритам за аналитичката машина, а во периодот околу Втората светска војна, првите „компјутери“ биле всушност жени кои ги извршувале сложените математички пресметки и го програмирале ENIAC, првиот електронски дигитален компјутер. Во тој почетен период, програмирањето се сметало за „женска работа“ со низок статус, слична на секретарските задачи, додека машките инженери се фокусирале на хардверот, кој го сметале за поважен аспект на технологијата.

Како што компјутерската наука станувала попрестижна и попрофитабилна во текот на 1960-тите и 1970-тите, доаѓа до драматичен пресврт каде мажите почнаа масовно да доминираат во професијата, а жените се потиснати во пониско платени и помалку влијателни под-области. Овој процес на „маскулинизација“ на професијата е резултат на намерните стратегии за редефинирање на овие позиции како високо-стручни и менаџерски улоги со цел да им се подигне статусот. Иако во 1984 година жените сочинувале дури 37% од дипломираните студенти по компјутерски науки, тој процент драстично опаднал во следните децении, доведувајќи ја дисциплината до историски најниско ниво на диверзитет во споредба со другите STEM области.

Современата индустрија за вештачка интелигенција се соочува со сериозна криза каде жените претставуваат само околу 12% до 15% од истражувачкиот кадар, а овој дисбаланс е уште поизразен во големите технолошки компании како Google и Facebook. Доминацијата на т.н. „brogrammer“ култура, која се карактеризира со мачо-средина и исклучување на оние кои не се вклопуваат во стереотипот за „генијот-програмер“, создава непријателски амбиент кој ги одвраќа жените од кариера во ВИ или ги принудува предвреме да го напуштат секторот. Овој недостиг на диверзитет има директни последици врз самите системи, бидејќи хомогените развојни тимови често имаат „слепи точки“ и несвесно ги вградуваат сопствените пристрасности и предрасуди во алгоритмите што ги создаваат.

Резултатот од ваквото исклучување е создавање на ВИ системи кои ги рефлектираат вредностите и перспективите на доминантната група, честопати ги занемарува па дури и штетно влијае врз потребите на маргинализираните заедници. Кога оние што ја дизајнираат технологијата се заштитени од штетите што таа може да ги предизвика, тие имаат помала веројатност да ги препознаат ризиците од дискриминација и алгоритамска опресија.

Интерсекционални импликации

Интерсекционалниот пристап во анализирањето на вештачката интелигенција открива дека „алгоритамската опресија“ не е рамномерно распределена низ популацијата, таа најсилно ги погодува поединците кои се наоѓаат на пресекот на повеќе маргинализирани идентитети, како што се расата, родот, класата и попреченоста. Оваа форма на дискриминација функционира преку систематско бришење на интерсекционалните амбивалентности, претворајќи ги сложените човечки искуства во крути податочни категории кои ја засилуваат постоечката социјална невидливост на најранливите групи. Во оваа рамка, вештачката интелигенција е моќен социо-технички инструмент кој ги материјализира историските и структурните нееднаквости, создавајќи режими на „нечитливост“ за сите оние чии тела и идентитети не се вклопуваат во доминантната машка и бела матрица.

Еден од најкритичните емпириски докази за ваквата интерсекционална пристрасност е истражувањето „Gender Shades“ спроведено од Џој Буоламвини и Тимнит Гебру, кое демонстрира драстични разлики во точноста на комерцијалните системи за препознавање лица. Студијата открива дека додека стапката на грешки при класификација на родот кај белите мажи е минимална и изнесува само околу 0,8%, таа кај жените со потемна кожа се искачува до 34,7%, што јасно укажува на тоа дека овие технологии функционираат беспрекорно само за привилегираната група за која биле првенствено дизајнирани. Ваквата „евалуациска пристрасност“ е директна последица на хомогеноста на податочните збирки за обука и недостатокот на диверзитет кај развојните тимови, што на крајот води до неправедна распределба на технолошките придобивки и потенцијално опасно погрешно идентификување во чувствителни сфери како што е правосудството.

Процесот на „феминизација“ на услужната вештачка интелигенција, манифестиран преку широко распространетите асистенти како Alexa и Siri, дополнително ги зацврстува штетните родови стереотипи преку нивното естетско и функционално обликување како „дигитални слугинки“. Со доделувањето на женски имиња и гласови, овие системи се намерно дизајнирани со „послушни и подредени личности“ кои се програмирани да бидат униформно услужни и да ги извршуваат сите команди без приговор, со што се нормализира концептот на жената како „верна помошничка“ во домашната сфера. Оваа „дигитална доместификација“ го девалвира трудот за грижа и испраќа загрижувачки пораки за толеранција кон вербалната злоупотреба, бидејќи овие асистенти долго време биле програмирани да одговараат на сексуалното вознемирување со суптилна срамежливост или извинување наместо со јасен отпор.

Јазични репрезентации и општествени импликации на обработка на природен јазик NLP (II дел)

Развојот на техниките за јазична репрезентација во NLP еволуира од сиболички модели, кои се базираат на строги правила и формални граматики кон статистичките и невралните модели кои користат големи количини податоци и машинско учење за да ја доловат контекстуалноста и динамичноста на јазикот. Преминот од симболичко кон невронско моделирање го поставува прашањето за филозофските импликации на тоа како машините „разбираат“ јазик и дали можат во целост да ја репрезентираат човечката свест и значење.

Клучни NLP задачи и нивни решенија

Обработката на природниот јазик (NLP) се реализира преку низа специфични задачи кои ја деконструираат комплексноста на јазикот во податоци погодни за компјутерска обработка. Основните задачи на NLP започнуваат со претпроцесирање на текстот за негова нормализација. Една од основните техники е токенизацијата, при што текстот се дели на помали единици, како зборови или реченици, за полесна понатамошна анализа. Потоа следуваат лематизацијата и стемингот, кои служат за редуцирање на зборовите до нивната основна или коренска форма за да се намали варијабилноста во јазикот. Означувањето на делови од говорот (POS tagging) претставува процес на етикетирање на секој збор според неговата граматичка категорија, како што се именка, глагол или придавка за да се разбере синтаксичката структура на речениците. Препознавањето на именувани ентитети (NER) овозможува идентификување и класифицирање на клучни поими во текстот, како имиња на личности, локации и организации.

Посложените задачи се фокусираат на разбирање на намерата и контекстот. Ова вклучува препознавање на намерите (intent recognition), следење на состојбата на дијалогот и управување со контекстот низ повеќе сесии на разговор. Современите системи користат напредни техники како векторизација на зборови (Word Embedding), кои ги претвораат зборовите во математички вектори во повеќедимензионален простор, овозможувајќи му на системот да ги пресметува семантичките сличности меѓу поимите. Архитектурите засновани на Трансформери со механизмите за „внимание“ (attention) овозможуваат паралелна обработка на податоците и подобро разбирање на долгорочните зависности во текстот.

Синтаксичка анализа (Парсирање)

Синтаксичката анализа се фокусира на идентификација на структурата на реченицата и граматичките односи помеѓу зборовите. Современите алатки овозможуваат препознавање на делови од говорот и зависно парсирање, што помага во разбирањето на логиката на изразот. Сепак, традиционалната симболичка ВИ често се соочува со проблемот на „кршливост“ (brittleness), бидејќи крутите граматички правила често не можат да го опфатат „здравиот разум“ или неформалниот говор кој излегува надвор од нивниот ограничен домен.

Семантичка анализа

Втората клучна задача, семантичката анализа се стреми да го долови значењето на зборовите преку техники како векторизација (Word Embedding), каде зборовите се претставуваат како математички точки во повеќедимензионален простор. На овој начин системите препознаат синонимија и контекстуална сличност. Семантичките модели често автоматски ги преземаат човечките пристрасности од податоците за обука, како што се родовите стереотипи (на пр. поврзување на одредени професии со машки или женски род). Постои јасна разлика помеѓу денотативното (површинско) и конотативното (симболичко) значење, кое често останува недостапно за машините поради недостаток на социјален контекст.

Прагматика и контекстуална употреба

Прагматиката се занимава со тоа како значењето се менува во зависност од ситуацијата и намерата на говорникот. Таа е важна при разбирањето на „поправката“ (repair) на недоразбирањата во разговорите, каде истражувањата покажуваат дека постојат родови разлики. На пример, жените често вложуваат повеќе труд во одржувањето на конверзацијата и поправањето на недоразбирањата во мешани групи. Ваквото сведувањето на сложените социјални интеракции на едноставни „планови“ или алгоритми може да претставува обид за алгоритамска контрола врз социјалниот поредок.

Генерирање на природен јазик (NLG)

Генерирањето на јазик се однесува на способноста на системите, како што се Трансформерите (на пр. GPT-3), да создаваат кохерентен текст преку статистичко предвидување на следниот збор. Иако овие системи симулираат „човечко“ однесување, постои суштинска интерпретативна асиметрија. Додека луѓето ги поврзуваат зборовите со реалниот физички и социјален свет, машините само трансформираат низи од битови без реално разбирање на поимите како „болка“ или „емпатија“. Што значи дека генерираната содржина, иако граматички точна, може да биде фактички неточна или да рефлектира вградени историски предрасуди.

Родова и критичка анализа на NLP системите

Анализата на системите за обработка на природен јазик (NLP) открива дека овие технологии функционираат како социо – технички системи кои ги впишуваат вредностите, претпоставките и пристрасностите на своите креатори. Пристрасноста кај ВИ се појавува кога наизглед инокултното програмирање ги презема предрасудите на создавачите или на податоците со кои се храни, со што родовите односи на моќ се вградени во самиот технолошки развој.

Механизмите на пристрасност во NLP системите се најочигледни кај јазичните вградувања (word embeddings), кои ги претставуваат зборовите како математички вектори во повеќедимензионален простор. Овие модели автоматски ги учат и квантифицираат родовите стереотипи од текст – корпусите, репродуцирајќи асоцијации каде мажот се поврзува со професии како „програмер“, а жената со „домаќинка“. Дури и кај најнапредните генеративни системи често ги засилуваат социјалните пристрасности, при што женските ликови во генерираните приказни се почесто се поврзуваат со семејството и изгледот и се опишуваат како помалку моќни во споредба со машките ликови.

Од перспектива на феминистичката лингвистика, јазикот не е само средство за комуникација, преку него се конституира и одржува општествената моќ. Формализацијата на јазикот кај ВИ често води кон маргинализација на „женските начини на знаење“ (како што е искуственото знаење поврзано со грижата), фаворизирајќи го пропозиционалното знаење како супериорно и „рационално“. Овој процес на „феминизација на ВИ“ е видлив кај виртуелните асистенти како Alexa, Siri и Cortana, кои стандардно користат женски имиња и гласови за да проектираат „послушни личности“, со што се нормализира дигиталната послушност и се зацврстуваат традиционалните родови стереотипи за жената како верна помошничка.

Интерсекционалната аналитичка рамка е клучна за разбирање зошто грешките кај NLP системите не се рамномерно распределени низ популацијата. Истражувањата покажуваат дека пристрасноста најмногу ги погодува оние кои се наоѓаат на пресекот на повеќе маргинализирани идентитети, како што се жените од расни малцинства. Оваа „алгоритамска опресија“ потврдува дека нееднаквоста е вградена во самите модели и во целокупната инфраструктура и екосистем на производство на ВИ технологиите.