Родова пристрасност во ВИ системите

Родовата пристрасност во системите на вештачка интелигенција (ВИ) е длабоко вкоренета во историските и структурните нееднаквости на општеството. Оваа пристрасност често влегува во системите преку податоците за тренирање, кои ги одразуваат веќе постоечките културни и социјални стереотипи на човештвото. Технолошкиот сектор историски е доминиран од мажи, што довело до вградување на машката перспектива и вредности во самиот дизајн на алгоритмите. Почетоците на ВИ истражувањата се врзани за т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски), чии податоци доминираат во моделите и често не се претставителни за остатокот од светот или за маргинализираните групи.

Пристрасноста во податоците за тренирање

Пристрасноста во податоците за тренирање на системите на вештачка интелигенција (ВИ) е емергентен феномен на ситуираното знаење и општествените структури на моќ. Според феминистичката епистемологија, технологијата никогаш не е неутрална, таа ги рефлектира вредностите на своите креатори и историскиот контекст во кој е создадена. Историските и структурните причини за оваа пристрасност се вплетени во самиот процес на прибирање, обработка и означување на податоците.

Историската пристрасност произлегува од податоци кои во себе носат веќе постоечки културни и социјални стереотипи, генерирани во време кога дискриминаторските обрасци биле нормализирани. Ова често се манифестира преку родово обоени јазични модели, каде што професиите се поврзуваат со специфичен пол, на пример, „медицинска сестра“ како женски род наспроти „доктор“ како машки род, со што алгоритмите само ги засилуваат патријархалните кодови на општеството.

Структурните причини за пристрасност се огледуваат во доминацијата на т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски) во базите на податоци што се користат за тренирање. Овој дисбаланс значи дека ВИ моделите се обучуваат на искуствата на привилегираните групи, додека маргинализираните заедници, како луѓето со различна боја на кожа или лицата од пониските социо-економски класи остануваат невидливи или се третираат како „отстапување“ од нормата. Кога ваквите непретставителни податоци се користат за системи што донесуваат одлуки во образованието, вработувањето или судството, тие резултираат со дискриминаторски исходи кои ги продлабочуваат социјалните поделби.

Дополнително, се јавува ризикот од „mode collapse“ (колапс на модусот), каде што алгоритмите ги фаворизираат најчестите (доминантните) исходи, дополнително потиснувајќи ги специфичните културни наративи кои се веќе недоволно застапени во дигиталните архиви. Појавата на ваквата системска нерамнотежа е рзултат на тренингот на јазичните модели кои најчесто учат од секундарни извори, она што луѓето го напишале за одредена култура, а не од директно набљудување, што дополнително ја искривува реалноста во корист на оние кои имаат поголема моќ на претставување.

Репрезентацијата на жените во технолошката индустрија и нејзиното влијание

Репрезентацијата на жените во технолошката индустрија не претставува само прашање на еднакви можности за вработување, образование, здравство и сл. Технолошкиот сектор историски е карактеризиран со значајна машка доминација, што директно влијае врз начинот на кој се развиваат и имплементираат новите технологии. Доминантната „bro-culture“ во ИТ индустријата дејствува како бариера што ги оддалечува жените од технологијата, со што се одржува родовата нерамнотежа и се ограничува диверзитетот на перспективи во развојните тимови.

Недостатокот на женска репрезентација во дизајнот води кон вградување на патријархални стереотипи во самите производи. Дигиталните асистенти, како Siri и Alexa, често се дизајнирани со женски гласови и субмисивни карактеристики, со што се нормализира и репродуцира културната претстава за жената како услужна фигура. Оваа „родова перформантивност“ на машините влијае врз социјалната перцепција и ги зајакнува традиционалните родови улоги, каде што машките агенти се доживуваат како рационални и авторитативни, додека женските како емоционални и услужни. Ваквиот дизајн не е случаен, тој е резултат на развојни процеси во кои искуствата на белите, добро ситуирани мажи се земаат како стандардна норма, додека потребите на жените остануваат во „слепа точка“.

Влијанието на ниската застапеност на жените се протега и врз алгоритамската дискриминација во реалниот свет. Истражувањата покажуваат дека алгоритмите за препорака на работни места често ги фаворизираат машките кандидати за технички и раководни позиции, со што директно се засилува родовата сегрегација на пазарот на труд. Во контекст на академските истражувања, историскиот фокус на мажите довел до недоволно препознавање на придонесите на жените и недостаток на анализа за нивните специфични потреби. Овој „информативен мрак“ е особено видлив во истражувањата спроведени кај женските невладини организации во Македонија, каде што слабата техничка опременост и недостигот на дигитални вештини дополнително ги исклучуваат жените од влијание врз ИКТ политиките.

Феминистичка критика на дизајнот на ВИ системите

Феминистичката критика на дизајнот на системите на вештачка интелигенција (ВИ) започнува со деконструкција на митот за технолошката неутралност, тврдејќи дека технологијата ги рефлектира вредностите и моќта на оние што ја создаваат. Според феминистичката епистемологија, секое знаење е ситуирано, што значи дека социјалната позиција на дизајнерот директно ја обликува објективноста и авторитетот на системот. Се посочува дека историската машка доминација во ИТ индустријата довела до вградување на маскулини вредности во кодот, притоа занемарувајќи ги емоционалноста, интуицијата и контекстуалноста како релевантни фактори за дизајнот.

Феминистичките теоретичарки аргументираат дека ВИ системите често оперираат врз основа на бинарни и хетеронормативни претпоставки, што води кон маргинализација на квир, транс и небинарните идентитети кои не се вклопуваат во овие фиксни социјални категории. Современата критика го користи концептот на „киборг феминизам“ на Дона Харавеј, кој предлага надминување на строгите граници помеѓу човечкото тело и технологијата, како и помеѓу традиционалните машко-женски опозиции.

Феминистичкиот дизајн инсистира на препознавање на различностите и вклучување на маргинализираните гласови уште во почетните фази на развојот на алгоритмите. Ваквата перспектива ги разоткрива репрезентациските штети кои настануваат кога „стандардниот корисник“ во дизајнот се замислува исклучиво како млад, бел и технички писмен маж. Овој пристап создава системски „слепи точки“ каде што другите групи се третираат како „отстапување“ од нормата или се целосно невидливи за системите за препознавање лица и медицинските класификации. Како одговор, се предлагаат методологии како „Safety by Design“ и survivor-centered пристапи, кои бараат проактивно вградување на етички и безбедносни механизми во самата архитектура на системите за да се спречи технолошки фасилитираното насилство

Интерсекционалноста применета на ВИ

Интерсекционалниот пристап во проучувањето на вештачката интелигенција (ВИ) нуди аналитичка рамка за разбирање на тоа како различните оски на идентитетот, расата, родот, класата, сексуалната ориентација и попреченоста, се преплетуваат и создаваат специфични искуства на дискриминација или привилегија. Оваа перспектива ја деконструира идејата за технологијата како неутрална алатка, откривајќи дека ВИ системите често дејствуваат како носители на кодови кои истовремено ги зајакнуваат и реинтерпретираат доминантните наративи на нееднаквост. Кога алгоритмите се дизајнираат без интерсекционална свесност, тие ризикуваат да ги репродуцираат комплексните структури на предрасуди вкоренети во социо-културниот контекст.

Пристрасноста во податоците и алгоритмите често произлегува од фактот што „стандардниот корисник“ во технолошката индустрија историски се замислува како млад, бел, технички писмен и добро ситуиран маж. Оваа привилегирана позиција води кон т.н. репрезентациски штети, каде што одредени групи, особено жените со различна боја на кожа, се „бришат“ или остануваат невидливи за алгоритмите. Еден од најекспонираните примери е неспособноста на технологиите за препознавање лица прецизно да ги идентификуваат корисниците со потемна боја на кожа, што директно влијае врз безбедноста и граѓанските права на овие заедници. Во „општеството на црната кутија“, ваквите интерсекционални пристрасности стануваат тешко видливи и уште потешки за преиспитување.

Во контекст на образованието и вработувањето, интерсекционалноста ги разоткрива механизмите преку кои ВИ може да ги продлабочи класните нееднаквости. Таков е примерот со предвидливото моделирање на успехот на учениците во Обединетото Кралство, каде алгоритмите покажале диспропорционално негативно влијание врз учениците од пониските социо-економски слоеви и етничките малцинства. Дополнително, истражувањата покажуваат дека дури и со ист ангажман на платформите за учење, студентите од маргинализираните расни групи имаат помали шанси за успех во споредба со нивните бели врсници, што укажува на вградена системска нерамнотежа која ВИ само ја автоматизира.

Интерсекционалниот пристап е клучен и за справување со технолошки фасилитираното родово базирано насилство (ТФРБН). Решенијата за борба против дигиталното насилство, како што се deepfakes или неовластеното споделување интимни слики, мора да бидат „survivor-centered“ и да ги земаат предвид испреплетените фактори на дискриминација. Без ваква анализа, постои опасност технолошките механизми за заштита да останат неефикасни за жените кои припаѓаат на повеќекратни маргинализирани групи.

May 22, 2026May 22, 2026

Алгоритамската пристрасност и нејзините општествени ефекти

Алгоритамската пристрасност е сериозен социо-технички предизвик кој произлегува од човечките предрасуди вградени во податоците за обука и во самиот дизајн на системите. Таа се манифестира кога алгоритмите за машинско учење статистички ги репродуцираат историските и структурните нееднаквости под превезот на математичка објективност што дава „илузија на неутралност“.

„Илузијата на неутралност“ кај вештачката интелигенција претставува погрешна перцепција дека алгоритмите, поради нивната математичка и логичка основа, се инхерентно објективни и ослободени од човечките предрасуди. Оваа верба во „непогрешливоста“ на автономните системи често се заснова на претпоставката дека пресметковните процеси, како деривати на математиката, се неутрални и автоматски способни да бидат праведни. Сепак, ова е само привид кој го замаглува фактот дека дизајнот и имплементацијата на ВИ се општествено обликувани и ги рефлектираат вредностите, приоритетите и пристрасностите на нивните создавачи.

Наместо да ја отстранат дискриминацијата, алгоритмите честопати ја кодираат и „перат“ (Bias Laundering), претворајќи ги длабоко политичките и социјалните одлуки во привид на објективни факти кои изгледаат природни и неизбежни. Како што истакнуваат критичарите, моделите не се ништо повеќе од „мислења вградени во математика“. Игнорирањето на овие вградени пристрасности под маската на неутралност води кон „алгоритамска опресија“, каде историските нееднаквости се засилуваат и проектираат во општеството преку системи кои изгледаат технички точни, но произведуваат социјално неправедни исходи.

Алгоритамската опресија е системски и инхерентен дел од функционирањето на современите информациски системи кои ги напојуваат пребарувачите и другите веб-апликации. Преку процесот на т.н. „софтверизација“ на дискриминацијата, постоечките општествени нееднаквости се кодираат и перпетуираат во нетранспарентни и интелектуално заштитени машини, а маргинализираните групи се подложени на автоматизирана опресија без реална можност за оспорување на одлуките.

Студии на случај

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)

Овој систем се користел во американското правосудство за предвидување на ризикот од рецидивизам (висок ризик за повторување на делото). Меѓутоа, студиите открија сериозна расна пристрасност каде црните обвинети биле означувани како „лажно позитивни“ со двојно поголема стапка од белите обвинети. Бидејќи алгоритмот е заштитен како трговска тајна, на обвинетите им е оневозможено да ја оспорат неговата логика, што го загрозува правото на праведен правен процес.

Amazon Rekognition

Во овој случај, Amazon мораше да ја повлече својата тајна алатка за регрутирање бидејќи систематски ги дискриминирала жените. Системот учел од историски успешни апликации (кои во технолошкиот сектор доминантно биле машки) и ги казнувал резимеата за вработување што вклучувале „женски“ карактеристики, како на пример, студирање на женски колеџи или учество во женски хобија. Дури и кога се отстрануваат директните индикатори за пол, вештачката интелигенција користи proxy варијабли кои сепак водат до пристрасни одлуки.

Комерцијалните системи за препознавање лица покажуваат драстични интерсекционални разлики во точноста. Истражувањата покажуваат дека системите имаат највисока стапка на грешки кај жените со потемна кожа, додека кај белите мажи грешката е минимална. Ова се должи на податочните збирки кои се во голем дел составени од субјекти со посветол тен како и недостатокот на диверзитет кај тимовите што ги развиваат.

Математичко претставување на праведноста (Fairness)

Математичкото претставување на праведноста во машинското учење е исклучително сложено прашање, бидејќи во академската заедница постојат повеќе од 20 различни математички дефиниции за овој концепт. Истражувачите нагласуваат дека праведноста не може да се сведе на еден концизен статистички или математички проблем, бидејќи различните дефиниции често се меѓусебно некомпатибилни. Овој технички предизвик е всушност обид за математичко моделирање на моралните интуиции, што го прави процесот подложен на вредносните претпоставки и политичките позиции на развивачите. Честопати, овие математички модели се обидуваат да ги претворат двосмисленоста и контекстот во објективно мерливи квантитети, што може да доведе до т.н. заблудата дека квантитативните мерки се инхерентно подобри и пообјективни од другите набљудувања.

Клучните математички пристапи се поделени на групна праведност (Group Fairness) и индивидуална праведност (Individual Fairness). Групната праведност се фокусира на еднаквоста на исходите за различни заштитени групи, често користејќи го „правилото 4/5“ (adverse impact ratio), каде стапката на успех за маргинализираната група не смее да биде пониска од 80% од стапката на доминантната група. Индивидуалната праведност, пак, налага сличните поединци да добиваат слични резултати од алгоритмот. Дополнително, се разликуваат дистрибутивна праведност, која ја мери праведноста на конечниот исход, и процедурална праведност, која се фокусира на етиката и транспарентноста на самиот процес на одлучување. Посовремените методи вклучуваат контрафактичка праведност (Counterfactual Fairness), која го тестира алгоритмот во „симулација“ со замислување свет во кој поединецот би припаѓал на друга демографска група за да се види дали предвидувањето на системот би се променило. Друга важна техника е multi-accuracy ревизијата, која гарантира дека системот постигнува добра прецизност не само на агрегатно ниво, туку и кај специфични интерсекционални потпопулации, како што се повозрасните жени од малцинските етнички групи. Преку овој пристап се овозможува квантифицирање на перформансите низ пресекот на расата, возраста и полот, идентификувајќи ги специфичните комбинации на вештачки неврони одговорни за пристрасните класификации.

Тензии и предизвици

Главниот предизвик е математичката неможност истовремено да се задоволат сите дефиниции за праведност во сите услови. Постои инхерентна некомпатибилност помеѓу калибрацијата на системот и балансирањето на стапките на лажно позитивни и лажно негативни резултати помеѓу групите. Поради ова, развивачите често се соочуваат со компромис (trade-off) помеѓу точноста на моделот и неговата праведност, каде што процесите на де-биасирање можат да ја намалат предвидливата моќ на системот.

Најексплицитниот компромис во машинското учење е оној помеѓу точноста (accuracy) и праведноста (fairness). Честопати, процесите на де-биасирање (отстранување на пристрасноста) на моделите можат да доведат до полошо обучени системи или да ја намалат нивната ефикасност во реална употреба. Постои тензија помеѓу стремежот ВИ системот да не биде сексистички и истовременото обезбедување на податочни збирки кои овозможуваат тој да биде ефективен за својата примарна намена. Ова значи дека оптимизацијата на еден параметар често доаѓа на трошок на друг, што во високоризични сектори како вработувањето или правосудството може да претставува сериозна етичка дилема. Изборот на специфична метрика за праведност е всушност вредносно-ориентирана одлука која рефлектира одредена политичка или социјална позиција на развивачите.

Друг клучен компромис се појавува во областа на документацијата и транспарентноста, поточно помеѓу информираноста и претпазливоста (judiciousness). Иако, за ревизија на пристрасноста е неопходна детална документација за податочните збирки , прекумерното откривање информации може да ја загрози приватноста на поединците чии податоци биле користени за обука или да им помогне на малициозни актери. Истражувачите во владината сфера исто така забележуваат постоење на компромис помеѓу минимизацијата на податоци (заради приватност) и потребата од собирање демографски податоци за да се извршат прецизни проценки за расни или родови диспаритети.

Во поширок социо-технички контекст, овие компромиси поставуваат прашања на одговорност. Научниците мораат да донесуваат одлуки за тоа колкава грешка е дозволена и кој тип на грешка е поприфатлив (на пр. лажно позитивни наспроти лажно негативни резултати во медицината), што директно зависи од проценката на потенцијалната штета врз луѓето. Крајниот предизвик за институциите е да одредат дали социјалните трошоци на овие алгоритамски компромиси се оправдани во однос на придобивките што ги нуди технологијата.

May 16, 2026May 16, 2026

Институтот за родови студии подготви предлог – Етички кодекс за одговорна употреба на вештачката интелигенција Филозофскиот факултет Скопје

Институтот за родови студии при Филозофскиот факултет на Универзитетот „Св. Кирил и Методиј“ во Скопје подготви предлог-драфт на Етички кодекс за етичка и одговорна употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет.

Документот е замислен како основа за поширока академска, институционална и јавна дискусија за тоа како вештачката интелигенција може да се користи во високото образование на начин што ја унапредува наставата и истражувањето, но истовремено ги штити академската чесност, критичкото мислење, приватноста, недискриминацијата, родовата еднаквост и јавниот интерес.

Предлог-драфтот поаѓа од фактот дека вештачката интелигенција веќе е дел од секојдневниот академски живот. Студентите ја користат за ориентација во поими, јазична помош, структурирање идеи и самопроверка на знаењето. Наставниците ја користат за подготовка на наставни материјали, анализа на содржини и поттикнување дискусија. Истражувачите ја користат за организација на информации, обработка на текстови и анализа на податоци. Затоа, прашањето повеќе не е дали вештачката интелигенција ќе биде присутна во академскиот простор, туку како таа да се користи одговорно, транспарентно и критички.

Основната порака на предложениот кодекс е дека вештачката интелигенција може да биде корисна алатка, но не може и не смее да ја замени човечката мисла, академската одговорност, самостојниот интелектуален придонес и моралното расудување. Кодексот ја поставува ВИ како поддршка во наставата, учењето и истражувањето, а не како замена за знаењето, анализата и критичката интерпретација.

Особено значајно е што предлог-драфтот не ја третира вештачката интелигенција како неутрална техничка алатка. Напротив, документот укажува дека ВИ системите можат да репродуцираат пристрасности, стереотипи и нееднаквости, вклучително родови, социјални, културни, етнички и други форми на дискриминација. Токму затоа, Институтот за родови студии ја нагласува потребата од критичка и одговорна употреба на овие технологии, особено кога се создаваат наставни материјали, јавни содржини или научно-истражувачки публикации со поширок општествен дофат.

Предлог-кодексот предвидува дека употребата на вештачка интелигенција треба да биде транспарентна секогаш кога таа има значајна улога во создавањето наставни, студентски, истражувачки или јавни содржини. Тоа значи дека кога ВИ се користи за генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи, таквата употреба треба јасно да се наведе. Од друга страна, рутинската употреба, како правописна и граматичка проверка или превод на поединечни зборови и изрази, не мора да се наведува, освен ако наставникот, предметната програма или уредничките стандарди не бараат поинаку.

Документот посебно внимание посветува и на студентската употреба на вештачката интелигенција. Студентите можат да ја користат ВИ како поддршка во процесот на учење, но таа не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес. Предлог-кодексот истовремено инсистира наставниците јасно да ги информираат студентите за дозволената и недозволената употреба на ВИ во рамки на конкретниот предмет, особено пред изработка на позначајни задачи. На тој начин се избегнуваат нејаснотии, произволни толкувања и неправедно третирање на студентите.

Во научно-истражувачката работа, предлог-драфтот дозволува употреба на ВИ како поддршка за анализа на податоци, обработка на текстови и организација на информации, но јасно утврдува дека одговорноста за научната валидност, интерпретацијата, оригиналноста и точноста на резултатите останува кај истражувачот. Забранета е употреба на ВИ за фабрикување, манипулирање или прикривање научни податоци, резултати или извори.

Еден од поважните аспекти на документот е заштитата на личните, чувствителните, доверливите и необјавените податоци. Предлог-кодексот предупредува дека вакви податоци не смеат да се внесуваат во системи на вештачка интелигенција без соодветна правна и институционална основа. Ова е особено важно за истражувања што вклучуваат интервјуа, анкети, фокус-групи, теренски материјали, докторски тези во подготовка, необјавени ракописи или други материјали со висока чувствителност.

Предлог-драфтот отвора и прашање што често останува занемарено во јавните дебати за вештачката интелигенција: јазичниот суверенитет. Во документот се нагласува дека академски, наставни и истражувачки содржини на македонски јазик, внесени во комерцијални ВИ системи, можат да станат дел од процесите на обработка и обука на тие системи, согласно условите на давателите на услугите. Затоа се препорачува внимателност, особено при работа со необјавени и чувствителни материјали, како и следење на можностите за користење локални или институционално контролирани решенија.

Со овој предлог-драфт, Институтот за родови студии сака да поттикне поширока расправа за тоа како академската заедница треба да одговори на брзите технолошки промени. Намерата не е да се забрани употребата на вештачката интелигенција, туку да се воспостави јасна етичка рамка што ќе овозможи нејзина корисна, правична, транспарентна и академски одговорна примена.

Кодексот е предложен како отворен документ, подложен на дискусија, дополнување и натамошно усогласување со универзитетските политики, законските прописи и потребите на академската заедница. Во таа смисла, Институтот за родови студии го поканува наставно-научниот кадар, студентите, истражувачите, административниот персонал и пошироката заинтересирана јавност да се вклучат во расправата, да дадат свои забелешки и да придонесат кон создавање заедничка култура на одговорна употреба на вештачката интелигенција.

ЕТИЧКИ КОДЕКС за етичка и одговорна употреба на вештачката интелигенција

во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје

I. ОПШТИ ОДРЕДБИ

Член 1

Со овој Етички кодекс се утврдуваат основните начела, правила и одговорности за употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје.

Овој кодекс има за цел да обезбеди етичка, транспарентна и академски одговорна примена на вештачката интелигенција, во согласност со вредностите на академската заедница, човековите права и јавниот интерес.

Член 2

Етичкиот кодекс е усогласен со Етичкиот кодекс и со Декларацијата за етичка и одговорна употреба на вештачката интелигенција на Универзитетот „Св. Кирил и Методиј“ во Скопје и претставува нивна факултетска спецификација.

Одредбите на овој кодекс се применуваат доколку не се во спротивност со повисоките универзитетски и законски акти.

II. ПРЕДМЕТ И ОПФАТ

Член 3

Овој кодекс се применува на наставно-научниот кадар, соработниците, студентите, истражувачите и административниот персонал на Филозофскиот факултет, како и на сите лица вклучени во наставни и истражувачки активности на Факултетот.

Кодексот се однесува на употребата на сите системи на вештачка интелигенција, вклучително и генеративни модели, автоматизирани системи за анализа, препорака и создавање содржина.

Член 3-а

За потребите на овој кодекс:

Вештачка интелигенција, односно ВИ, означува компјутерски системи или апликации кои создаваат, анализираат, класифицираат, препорачуваат, преведуваат или обработуваат содржини врз основа на податоци, алгоритми или модели.

Генеративна ВИ значи системи кои создаваат нова содржина, како текст, слики, аудио, видео, код, резимеа, анализи, наставни или истражувачки материјали.

Значајна употреба на ВИ означува употреба која суштински влијае врз содржината, структурата, анализата, аргументацијата, методологијата или заклучоците на трудот или материјалот. Таква употреба е, на пример, генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи.

Рутинска употреба на ВИ значи ограничена техничка или јазична помош која не влијае суштински врз содржината, аргументацијата или заклучоците, како правописна и граматичка проверка, техничко форматирање или превод на поединечни зборови и изрази.

Чувствителни податоци означува лични, доверливи, необјавени или истражувачки податоци, вклучително интервјуа, анкети, фокус-групи, теренски материјали и податоци што можат да идентификуваат лица или групи.

Академски придонес значи самостојна интелектуална работа изразена преку критичко читање, анализа, интерпретација, аргументација, методолошка одлука и заклучување.

Широка дисеминација означува објавување или споделување содржини надвор од непосредниот наставен или интерен работен контекст, како научни трудови, јавни објави, наставни материјали со трајна употреба, извештаи и интернет-содржини.

Кога постои сомнеж дали употребата е значајна или рутинска, се препорачува таа да се наведе.

III. ОСНОВНИ ЕТИЧКИ НАЧЕЛА

Член 4

Употребата на вештачката интелигенција се заснова на начелата на почитување на човековото достоинство, академската слобода, академската чесност и професионалната одговорност.

Системите на ВИ не се неутрални алатки и нивната употреба бара критичка рефлексија.

Вештачката интелигенција се користи како поддршка која не ја заменува човечката мисла, критичкото расудување и моралната одговорност.

Член 5

Употребата на вештачката интелигенција мора да биде правична и недискриминаторска.

Не е дозволена употреба на вештачка интелигенција која директно или индиректно создава или продлабочува родова, социјална, културна, етничка или друга форма на нееднаквост.

Содржините создадени со вештачка интелигенција наменети за широка дисеминација — наставни материјали со траен дофат, јавни објави и истражувачки публикации — подлежат на проверка за пристрасни и стереотипни претстави пред објавувањето.

Надлежното факултетско тело од член 18 прима пријави за повреди на ова начело и ги координира методолошките упатства за идентификација на пристрасни излези, во соработка со Институтот за родови студии и другите институти со релевантна експертиза.

IV. ТРАНСПАРЕНТНОСТ И ОДГОВОРНОСТ

Член 6

Секој корисник на вештачка интелигенција е одговорен за содржината, резултатите и последиците од нејзината употреба. Корисникот треба да биде свесен дека системите на вештачка интелигенција можат да генерираат содржини што изгледаат веродостојно, но содржат неточни тврдења или измислени извори, и одговорноста за нивна проверка останува кај него.

Вештачката интелигенција не може да биде носител на академска, научна или етичка одговорност.

Член 7

Кога вештачката интелигенција има значајна улога во создавање на наставни, истражувачки или јавни содржини, нејзината употреба мора да биде јасно и соодветно наведена.

Под јасно и соодветно наведување се смета: во научни трудови — наведување на користениот систем, верзијата доколку е достапна, и природата на употребата (јазична редакција, помош при структурирање, анализа на податоци и слично); во наставни материјали — кратка ознака за тоа дали и како вештачката интелигенција е користена; во студентски работи — наведување согласно правилата на конкретниот предмет.

Не се бара наведување за рутинска употреба на правописни и граматички проверувачи, ниту за машински превод на одделни поими, освен ако наставникот или уредничкиот стандард на публикувањето бараат поинаку.

Транспарентноста претставува предуслов за зачувување на довербата во наставниот и научно-истражувачкиот процес.

V. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАСТАВАТА

Член 8

Во наставниот процес, вештачката интелигенција може да се користи како дидактичка поддршка за појаснување на поими, анализа на содржини, подготовка на наставни материјали и поттикнување критичка дискусија.

Наставникот останува главен носител на наставниот процес и ја има целосната педагошка и етичка одговорност за нејзината употреба.

Член 9

Наставниците се должни јасно да ги информираат студентите за дозволената и недозволената употреба на вештачката интелигенција во рамки на конкретниот предмет, по правило на почетокот на семестарот и пред секоја позначајна задача.

Правилата за употреба мора да бидат усогласени со целите на наставата и начелата на академската чесност.

Институтите најмалку еднаш годишно одржуваат колегиум посветен на педагошките импликации од употребата на вештачката интелигенција, со цел разменување искуства и развивање заеднички препораки за тоа што во конкретната дисциплина претставува самостојно знаење и самостоен академски придонес, без да се ограничи педагошката слобода на поединечниот наставник.

VI. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО УЧЕЊЕТО

Член 10

Студентите можат да користат вештачка интелигенција како поддршка во процесот на учење, особено за ориентација во поими, јазична корекција, структурирање идеи и самопроверка на знаењето.

Употребата на вештачка интелигенција не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес.

Член 11

Недозволена е употреба на вештачка интелигенција за целосно извршување на задачи и обврски кои се наменети за проверка на самостојното знаење и вештини на студентот, освен ако тоа не е изрично дозволено од наставникот.

Студентот има право на јасна информација за дозволената и недозволената употреба согласно член 9. Кога правилата не се претходно соопштени, користењето на вештачка интелигенција од страна на студентот не може автоматски да се третира како повреда на академската чесност, освен ако се работи за очигледна повреда на општите начела од овој кодекс.

VII. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАУЧНО-ИСТРАЖУВАЧКАТА РАБОТА

Член 12

Во научно-истражувачката работа, вештачката интелигенција може да се користи како поддршка за анализа на податоци, обработка на текстови и организација на информации.

Одговорноста за научната валидност, интерпретацијата и оригиналноста на резултатите останува кај истражувачот.

Член 13

Забранета е употреба на вештачка интелигенција за фабрикување, манипулирање или прикривање на научни податоци, резултати или извори.

VIII. ЗАШТИТА НА ПОДАТОЦИ, ПРИВАТНОСТ И ЈАЗИЧЕН СУВЕРЕНИТЕТ

Член 14

При користење на вештачка интелигенција мора строго да се почитуваат прописите за заштита на лични податоци и доверливи информации.

Не е дозволено внесување на чувствителни, необјавени или доверливи податоци во системи на вештачка интелигенција без соодветна правна и институционална основа.

Член 15

При употребата на комерцијални системи на вештачка интелигенција, наставниот, научниот и административниот кадар се поттикнува да биде свесен дека текстови, истражувачки материјали и наставни содржини на македонски јазик внесени во такви системи можат да станат дел од нивните процеси на обработка и обука, под условите на соодветните даватели на услуги.

За работа со необјавени истражувачки податоци, докторски тези во подготовка и слични материјали со висока чувствителност, се препорачува користење на локални или институционално одобрени системи, наместо отворени комерцијални платформи.

Факултетот го следи развојот на отворени и институционално контролирани решенија за вештачка интелигенција, особено оние што го поддржуваат македонскиот јазик, и информира за алтернативи кога такви се достапни.

IX. ИНСТИТУЦИОНАЛНА КООРДИНАЦИЈА, РЕСУРСИ И РАЗВОЈ НА КАПАЦИТЕТИ

Член 16

Филозофскиот факултет може да утврди официјални институционални ресурси и платформи за вештачка интелигенција за настава, учење и истражување.

Утврдувањето на официјални ресурси не подразбира исклучивост. Наставниците и истражувачите задржуваат право, во рамки на својата академска слобода, да користат и други системи на вештачка интелигенција што ги сметаат за соодветни за конкретната наставна или истражувачка цел, под услов да се почитуваат останатите одредби од овој кодекс.

Употребата на алатки надвор од официјалните ресурси во рамки на наставата подлежи на пријавување до надлежните факултетски органи, согласно интерните процедури. Пријавувањето има информативен, а не одобрителен карактер.

Член 17

Факултетот обезбедува континуирани обуки за наставниот, научниот и административниот кадар за етичка, методолошки соодветна и критички свесна употреба на системите на вештачка интелигенција.

Институтот за родови студии, во соработка со останатите институти, може да предложи модули за обука посветени на родовите и социјалните импликации од вештачката интелигенција.

Член 18

За следење на примената на овој кодекс, Факултетот може да формира работно тело или да определи постоечко тело со таа надлежност, кое најмалку еднаш годишно изготвува краток извештај за искуствата, проблемите и предлозите за измена на кодексот.

Извештајот се разгледува на седница на надлежниот факултетски орган и е достапен на интернет-страницата на Факултетот.

X. ЗАВРШНИ ОДРЕДБИ

Член 19

Овој Етички кодекс претставува рамковен акт кој служи како основа за понатамошно уредување и развој на практиките поврзани со вештачката интелигенција на Филозофскиот факултет.

Со оглед на брзината на развој на технологиите на вештачка интелигенција, кодексот задолжително се преразгледува најмалку еднаш на секои две години, врз основа на извештајот од член 18 и собраните искуства.

Кодексот се применува од денот на неговото донесување.

May 15, 2026May 15, 2026

Три нивоа на автономија кај LLM-засновани системи: Од чет до самостоен агент

Критичка анализа на индустриска визуелна конвенција и предлог за академски одбранлива поделба

Институт за родови студии, Филозофски факултет, Универзитет „Св. Кирил и Методиј“, Скопје

Апстракт

Во индустрискиот дискурс за вештачка интелигенција сè почесто се сретнува троделна поделба на LLM-засновани системи на „generative AI“, „agentic AI“ и „AI agents“. Поделбата циркулира преку корпоративни блогови, инфографики на социјални мрежи и наставни материјали, но најчесто без академски извори и со внатрешни концептуални противречности. Овој текст ја анализира една таква широко споделувана инфографика како репрезентативен случај, ги изложува нејзините технички и логички недостатоци, и нуди прецизирана поделба заснована на единствена оска: кој носи одлуки за контролниот тек на системот — корисникот, кодот или моделот. Прецизираната поделба ја задржува троделната структура која е педагошки корисна, ѝ дава операционализирани дефиниции, и експлицитно ја мапира кон конкурентните терминолошки конвенции кај Anthropic, Google Cloud и MIT Sloan. Заклучокот укажува дека ваквите инфографики функционираат како „гранични објекти“ во дискурсот за вештачка интелигенција: педагошки корисни како почетна точка, но епистемолошки ризични кога се користат како единствен извор за концептуализација.

Клучни зборови: вештачка интелигенција, големи јазични модели, агентни системи, автономија, индустриска терминологија, инфографика, педагогија.

1. Вовед

Во последните две години, со растечката достапност на големи јазични модели (LLM) и нивно вградување во разни облици на производи, во индустрискиот и медиумскиот дискурс за вештачка интелигенција се востанови една специфична визуелна конвенција: тро-делена компаративна табела или тро-колонски процесен дијаграм во кој се прикажуваат „generative AI“, „agentic AI“ и „AI agents“ како три различни типа на системи. Овие инфографики циркулираат на LinkedIn, корпоративни блогови, обуки за менаџери, а сè почесто навлегуваат и во наставни материјали на универзитетски курсеви.

Иако визуелизациите од овој тип имаат педагошка функција — им помагаат на читателите да градат прва ментална мапа на едно ново и брзо менувачко поле — тие истовремено создаваат специфичен епистемолошки ризик. Тие репродуцираат како „факт“ една категоризација која во самата академска и техничка литература сè уште не е стабилизирана, и често ја прават тоа без наведување извор, автор или датум. Резултатот е дискурзивна формација во која конвенцијата претходи на дефиницијата.

Овој текст ја анализира една таква инфографика — широко споделувана на социјалните мрежи во 2024 и 2025 година — како репрезентативен случај. Прв чекор е дескриптивен: што точно прикажува инфографикот и кои се неговите структурни недостатоци. Втор чекор е дискурзивен: како вакви визуелизации функционираат во индустрискиот семантички систем дури и кога се концептуално нестабилни. Трет чекор е конструктивен: нуди прецизирана поделба со операционализирани дефиниции и експлицитно мапирање со конкурентните терминолошки конвенции во литературата.

Тезата на текстот не е дека тро-делената поделба треба да се отфрли, туку дека треба да се реконструира врз единствена концептуална оска и со експлицитна свест за нејзината терминолошка локалност. Поделбата „чет / чет + алатки / самостоен извршител“ е педагошки корисна и одбранлива, под услов да биде поставена врз оската на автономија и контрола, а не како онтолошки различни „типови“ на вештачка интелигенција.

2. Анализа на инфографиката како случај

Инфографиката што се анализира тука прикажува три паралелни вертикални колони со наслови „Generative AI“, „Agentic AI“ и „AI Agents“. Секоја колона содржи процесен дијаграм со осум до девет чекори означени со икони и стрелки, а под трите колони се наоѓа компаративна табела со пет реда: цел, функционалност, примери, интеракција со системот и способност за учење. Инфографиката нема наведен автор, нема датум и нема библиографски извори.

Иако визуелно делува информативно и сеопфатно, на поблиско читање покажува неколку структурни проблеми кои го компромитираат нејзиното функционирање како научен материјал.

2.1. Замаглување на фазите на тренирање и инференција

Процесниот дијаграм за „Generative AI“ ги мапира следните чекори: специфицирање на задача, собирање податоци, рафинирање на податоците, поставување на индекс за пребарување и векторска база, тренирање на модел, распоредување (deployment), евалуација и генерирање резултати. Овој ред меша две сосема различни нешта: фаза на создавање на моделот (од собирање податоци до тренирање и распоредување) и фаза на користење на моделот (специфицирање задача, генерирање резултати).

Креирањето на модел е процес што го извршуваат компании како OpenAI, Anthropic или Google со огромни ресурси и временски рокови; користењето на готов модел е процес што го извршува секој краен корисник за неколку секунди по испратеното барање. Прикажувањето на овие два процеса како чекори во ист тек создава впечаток дека секој корисник на ChatGPT минува низ фаза на „тренирање на модел“ како дел од својата интеракција, што е суштинска грешка во разбирањето на тоа како функционираат LLM-засновани системи.

2.2. Структурна идентичност на колоните „Agentic AI“ и „AI Agents“

Процесните дијаграми за „Agentic AI“ и „AI Agents“ при внимателно споредување се покажуваат како структурно идентични. Колоната за „Agentic AI“ опфаќа: избор на LLM, интеграција на алатки и API, вградување на логика и итерации, подобрување и еволуирање, „агентно-водени“ одлуки, имплементирање на акции и самостојни одлуки. Колоната за „AI Agents“ опфаќа: преземање корисни податоци, надворешни операции, дизајнирање на повеќестепен процес, прилагодување за идна употреба, применување на итеративна логика, имплементирање на акции, освежување на меморија и повикување на API.

Чекорите „вградување логика и итерации“ и „дизајнирање повеќестепен процес“ опишуваат истата активност со различни именки. Истото важи за „агентно-водени одлуки“ и „применување на итеративна логика“, како и за двата „имплементирање на акции“. Разликата меѓу овие две колони е реторичка, не процедурна, и токму затоа функционира како визуелна реторика на „напредност“ без вистинска концептуална основа.

2.3. Внатрешно противречно тврдење за способноста за учење

Долната табела во редот „способност за учење“ содржи следните тврдења: „Updated through retraining to enhance creativity“ за Generative AI, „Limited learning without algorithm integration“ за Agentic AI, и „Designed to learn through interactions“ за AI Agents.

Тврдењето за Agentic AI е концептуално нејасно — фразата „ограничено учење без интеграција на алгоритми“ не значи ништо одредено во техничка смисла, бидејќи секој LLM-заснован систем по дефиниција содржи алгоритамска компонента. Дополнително, ако „AI Agents“ во оваа поделба се поедноставен пример (како што колоната за Agentic AI визуелно сугерира со помал број чекори), не може истовремено да биде претставен како подобар во учењето. Редот „способност за учење“ се самокомпрометира — категоризацијата што визуелно расте по сложеност текстуално опаѓа по способност за учење на средната точка.

2.4. Мешани онтолошки нивоа во редот „примери“

Редот „примери“ во долната табела ги наведува следните единици: GPT-3 и DALL-E за Generative AI, чет-ботови и виртуелни асистенти за Agentic AI, и автономни возила и интелигентни роботи за AI Agents. Тие три ставки припаѓаат на три сосема различни онтолошки нивоа: конкретни производи (GPT-3, DALL-E), категории на софтвер (чет-ботови, виртуелни асистенти), и физички автономни системи (возила, роботи). Дополнително, „автономни возила“ и „интелигентни роботи“ не се LLM-засновани агенти во строга смисла; тие припаѓаат на полето на робототика и computer vision со свои децениски истражувачки традиции, кои се појавиле многу пред современите LLM-системи и користат различни архитектури.

2.5. Отсуство на извор, автор и датум

Инфографиката нема наведен автор, институција, датум на изработка ниту библиографски извори. Овие елементи се стандард во академскиот дискурс не како формалност, туку како епистемолошка гаранција: тие му овозможуваат на читателот да провери, контекстуализира и спореди тврдењата со други извори. Нивното отсуство ја префрла инфографиката во жанрот на анонимна индустриска визуелизација, чија авторитативност произлегува од визуелниот стил и брзината на циркулирање, а не од проверливоста на содржината.

3. Дискурзивен статус на поделбата

И покрај наведените недостатоци, тро-делената поделба „generative / agentic / agents“ е широко прифатена низ корпоративниот, образовниот и дел од стручниот дискурс. Овој социјален факт треба сериозно да се земе предвид: ако одредена категоризација е оперативна во еден значителен дел од дискурзивниот простор, академскиот текст не може едноставно да ја прогласи за погрешна и да продолжи. Треба прво да се разбере зошто таа функционира, и потоа да се идентификува што може да се поправи во неа без да се изгуби нејзината педагошка вредност.

Терминолошкото поле во кое се движат овие категории е во состојба на полу-стабилизирана употреба. Различни големи играчи во полето користат значително различни дефиниции. Anthropic, во влијателниот текст на Schluntz и Zhang (2024), сите системи што користат LLM за извршување задачи ги нарекуваат „agentic systems“ како чадор-поим, и потоа прават архитектонска разлика помеѓу „workflows“ — системи каде LLM и алатки се оркестрирани преку предефинирани кодни патеки — и „agents“ — системи каде LLM динамички ги насочуваат сопствените процеси и употребата на алатки. Во оваа терминологија, „agent“ е токму највисокото ниво на автономија, а „agentic“ е чадорот за сите варијанти. Google Cloud, во својата официјална дефиниција, ја позиционира „agentic AI“ како подмножество на „generative AI“, а „AI agents“ како „градежни блокови“ на agentic AI, што е спротивно од поделбата во инфографиката. MIT Sloan, преку текстовите на Sinan Aral, „agentic AI“ ја дефинира како системи кои инкорпорираат повеќе различни агенти кои заедно оркестрираат задача, што е поблиску до класичниот концепт на мулти-агентни системи кај Wooldridge (2009).

Овие конкурентни употреби не се грешки во меѓусебно поправање, туку различни тематизации на истиот концептуален простор. Како што Russell и Norvig (2020) укажуваат во стандардниот учебник по вештачка интелигенција, поимот „агент“ во полето на AI има децениска историја и веќе значи нешто прецизно: ентитет што перцепира средина преку сензори и дејствува на средината преку акутатори, со цел да максимизира одредена мерка за изведба. Сите Russell-Norvig дефиниции на типови агенти — рефлексни, моделно-засновани, цел-засновани, корисносно-засновани и учечки агенти — се типови на еден и ист онтолошки ентитет. Терминот „agentic“ како посебна категорија спротивна на „agent“ не постои во оваа традиција.

Што значи тогаш дека поделбата „generative / agentic / agents“ во индустрискиот дискурс сепак функционира? Една продуктивна интерпретација е дека таа функционира не како таксономска тврдња, туку како прагматична скала на интеграција и автономија. Помеѓу „чист LLM во разговор“ и „автономен агент што извршува повеќестепена задача“ постои реален континуум на архитектонски решенија, и трите термини служат како груби маркери на различни точки на тој континуум. Концептуалните проблеми се појавуваат само кога овие груби маркери се претставуваат како онтолошки различни „типови“ на вештачка интелигенција, наместо како нивоа на автономија на еден и ист тип на систем.

4. Прецизирана поделба

Поделбата предложена тука ја задржува троделната структура која е педагошки корисна и широко препознатлива, но ја поставува врз една експлицитна оска: кој носи одлуки за контролниот тек на системот. Контролниот тек овде значи редоследот, изборот и завршувањето на чекорите потребни за извршување на задача. Можните носители на одлуките се три: корисникот (преку директни инструкции во разговор), кодот (преку предефинирани патеки во апликациската логика), и моделот (преку динамичко планирање во моментот).

4.1. Generative AI — чет-бот

Прво ниво на поделбата е генеративен модел во чисто разговорен режим. Корисникот пишува, моделот одговара. Циклусот е затворен: моделот произведува текст или слика како излез, без пристап до надворешни системи, без извршување на акции во светот, без управување со меморија надвор од текот на разговорот. Сите одлуки за контролниот тек ги донесува корисникот; ако треба нешто да се направи врз основа на одговорот на моделот, тоа го прави корисникот рачно.

Примери на оваа категорија се ChatGPT во чист чет-режим без вклучени алатки, Claude.ai без пристап до web search или code execution, и Gemini користен исклучиво како разговорен интерфејс. Во терминологијата на Anthropic ова е „augmented LLM“ во неговата најосновна форма — модел со капацитет за генерација, но без надворешни augmentations.

4.2. Agentic AI — чет плус алатки

Второ ниво на поделбата е истиот генеративен модел, но опремен со пристап до алатки: web search, читање и обработка на документи, повикување на API, извршување на код во контролирана средина. Овој пристап му овозможува на моделот да дејствува надвор од границите на чистата генерација — да доведе нови информации, да повика надворешни сервиси, да изврши нумерички пресметки. Сепак, опсегот на дејствување е затворен во рамките на едно корисничко барање: корисникот формулира задача, моделот ја извршува со помош на алатки, и резултатот се враќа во разговорот.

Во оваа категорија, контролниот тек е поделен меѓу корисникот и моделот. Корисникот ја одредува задачата и нејзините граници; моделот одлучува кои алатки да ги повика и во кој редослед за да ја заврши. Сепак, моделот не носи одлуки за повеќестепени цели надвор од моменталното барање, и не задржува иницијатива откако задачата ќе биде завршена. Примери се Claude со web search и code execution, ChatGPT со tools, и копилоти за код вградени во развојни средини. Во терминологијата на Anthropic, ова најчесто соодветствува на „workflows“ — системи каде кодната патека е претходно дефинирана, а LLM-от ја пополнува содржината на чекорите.

4.3. AI Agent — самостоен извршител

Трето ниво на поделбата е генеративен модел кој динамички ги насочува сопствените процеси кон висока цел. Корисникот му задава задача која може да опфаќа повеќе чекори, поставува граници и критериуми за прифатлив исход, а моделот самостојно ја разградува задачата на потцели, планира редослед на чекори, повикува алатки во итеративен циклус, и одлучува кога задачата е завршена. Во овој модел на работа, моделот мора при секој чекор да добива „ground truth“ од средината — резултати од повиканите алатки, повратни сигнали, тестови — за да процени дали се движи кон целта или треба да корегира.

Контролниот тек овде е најголемиот дел во рацете на моделот, со човечкиот надзор поставен на ниво на цели и граници, не на ниво на поединечни чекори. Примери се Claude Code за повеќестепени инженерски задачи, истражувачки агенти кои собираат и анализираат информации од повеќе извори, и автономни кодинг агенти кои извршуваат серии од измени во кодна база. Во терминологијата на Anthropic, ова се „agents“ во прецизна смисла; тоа е она што кај нив е најавтономниот тип на agentic system.

4.4. Терминолошко мапирање

Бидејќи терминологијата во полето е сè уште нестабилна, секоја употреба бара експлицитно мапирање со конкурентните конвенции. Долната табела ги сумира четирите главни употреби на трите термини и нивниот меѓусебен сооднос.

Извор	Чет-бот (ниво 1)	Чет + алатки (ниво 2)	Самостоен извршител (ниво 3)
Anthropic (Schluntz и Zhang 2024)	Augmented LLM	Workflow	Agent
Google Cloud	Generative AI	AI agent (component)	Agentic AI (multi-agent orchestration)
MIT Sloan / Aral	Generative AI	AI agent (single)	Agentic AI (multi-agent)
Индустриска конвенција (анализираната инфографика)	Generative AI	Agentic AI	AI Agents

Од табелата се гледа дека ниту еден термин не значи исто во сите четири извори. Особено индикативно е дека терминот „agent“ кај Anthropic значи токму она што кај индустриската конвенција го означува терминот „agentic AI“, а терминот „agentic AI“ кај Google Cloud е чадор-поим за најавтономното ниво, а не средно ниво. Овој терминолошки хаос не е грешка во полето; тоа е природна состојба на технолошки дискурс во кој конвенцијата претходи на дефиницијата. Кога академски текст или наставен материјал се однесува на овие категории, мора експлицитно да дефинира која употреба ја следи, бидејќи нема универзално прифатена.

Прецизираната поделба предложена тука ја следи индустриската конвенција за имињата на категориите (Generative AI / Agentic AI / AI Agent), затоа што токму со неа студентите и обичните корисници најчесто се среќаваат во медиумите и корпоративниот дискурс. Од Anthropic ја позајмува содржинската супстанца на дефинициите, особено критериумот „кој носи одлуки за контролниот тек“. Оваа хибридна стратегија ги задржува препознатливите имиња, но им дава техничка прецизност што индустриската конвенција сама по себе ја нема.

5. Заклучок: педагошка вредност и епистемолошки ризик

Инфографиките како онаа анализирана во овој текст функционираат во дискурзивниот простор како „гранични објекти“ — единици што служат на различни групи (продажба, обука, едукација, инженерство) дури и без концептуална прецизност, и токму поради таа полиморфност лесно се распространуваат. Тие нудат брза ментална мапа на едно сложено поле и им помагаат на читателите да преминат од состојба на потполна непредизвикана непознаница кон состојба на работна оперативност. Тоа е реална педагошка вредност и не треба да се отфрла.

Истовремено, постои реален епистемолошки ризик. Кога ваквите инфографики се користат како единствен извор, тие репродуцираат концептуални противречности како да се факти, мешаат онтолошки нивоа, и ја заматуваат разликата помеѓу прецизни технички термини и нивните маркетиншки употреби. Кога влегуваат во наставни материјали без критичка реконструкција, ги поучуваат студентите на површно разбирање што подоцна треба да се откорнува.

Препораката што произлегува од оваа анализа за наставниците кои работат со ваквите материјали е тројна. Прво, инфографиките можат да се користат како почетна точка во настава, особено за студенти кои се новајлии во полето, бидејќи нудат препознатлив и достапен влез. Второ, веднаш по таквото воведување, наставникот треба да го направи експлицитен критичкиот чекор: да укаже што во инфографиката е концептуално нестабилно, да понуди прецизирана дефиниција, и да го мапира преземениот вокабулар со конкурентните терминолошки конвенции. Трето, при подготовка на сопствени материјали, наставникот треба да следи академски стандарди што инфографиките не ги почитуваат: наведување извор, автор, датум, и експлицитна свест за тоа од каде доаѓаат концептите што се користат.

Поделбата „чет / чет + алатки / самостоен извршител“, поставена врз оската на автономија и контрола, е педагошки одбранлива и операционализирана. Таа не претставува онтолошка таксономија на различни типови вештачка интелигенција, туку прагматична скала на интеграција и автономија помеѓу LLM-засновани системи. Како таква, може да биде солидна основа за вовед во полето, но не и крајна теориска точка. Студентот кој ќе ја разбере оваа поделба треба следно да навлезе во прецизните технички дистинкции (workflow vs. agent, augmented LLM, tool use, ground truth), и таму индустриската конвенција престанува да биде корисна и почнува да биде препрека.

Библиографија

Aral, Sinan. 2026. „Agentic AI, Explained.“ Интервју со Beth Stackpole. MIT Sloan Ideas Made to Matter, 23 февруари. https://mitsloan.mit.edu/ideas-made-to-matter/agentic-ai-explained.

Google Cloud. без датум. „What Is Agentic AI? Definition and Differentiators.“ Пристапено на 15 мај 2026. https://cloud.google.com/discover/what-is-agentic-ai.

Ransbotham, Sam, David Kiron, Shervin Khodabandeh, Sukhada Iyer и Anya Das. 2025. „The Emerging Agentic Enterprise: How Leaders Must Navigate a New Age of AI.“ MIT Sloan Management Review and Boston Consulting Group, ноември. https://sloanreview.mit.edu/projects/the-emerging-agentic-enterprise-how-leaders-must-navigate-a-new-age-of-ai/.

Russell, Stuart и Peter Norvig. 2020. Artificial Intelligence: A Modern Approach. 4-то изд. Hoboken: Pearson.

Schluntz, Erik и Barry Zhang. 2024. „Building Effective Agents.“ Anthropic, 19 декември. https://www.anthropic.com/research/building-effective-agents.

Wooldridge, Michael. 2009. An Introduction to MultiAgent Systems. 2-ро изд. Chichester: John Wiley & Sons.

May 12, 2026May 12, 2026

Општествени, родови и интерсекционални импликации на ВИ

Општествено конструирање на технологијата (SCOT)

Теоријата на социјално конструирање на технологијата (SCOT) суштински го отфрла технолошкиот детерминизам, тврдејќи дека технолошките алатки се социјално обликувани и не можат да се разгледуваат како неутрални објекти кои дејствуваат независно од општеството. Наместо технологијата да се третира како надворешна, автономна сила која го диктира човечкото однесување, таа се препознава како производ на специфични луѓе, институции и културни вредности. Овој пристап нагласува дека дизајнот и техничката содржина на алатките се резултат на многубројни избори помеѓу различни технички опции, кои се обликувани од социјалните околности и интересите на вклучените групи во процесот на иновација. Што значи дека нејзиниот развој е контингентен процес кој секогаш содржи потенцијал да биде поинаков доколку се променат општествените актери.

Во современиот дискурс постои изразен „мираж на објективност“ околу системите на вештачка интелигенција, кои честопати се претставуваат како непристрасни и ослободени од човечки емоции и грешки. Сепак, истражувањата јасно укажуваат дека овие модели се всушност „мислења вградени во математика“, каде што претпоставките, вредностите и пристрасностите на развивачите се директно впишани во алгоритамските процеси. Бидејќи вештачката интелигенција се тренира на масивни збирки податоци кои ги рефлектираат историските и структурните нееднаквости, таа статистички ги репродуцира постоечките предрасуди под превезот на математичка точност.

Преку концептот дека „технологијата е општество направено да трае“, во секое општество, а особено во патријархалното, родовите односи на моќ се материјализираат во самата инфраструктура на технолошките системи. Техничките досогнувања се социјални договори впишани во материјата, каде мажественоста и женственоста ги добиваат своите карактеристики преку нивната вграденост во функционалните машини. Ова значи дека систематското исклучување на одредени групи од дизајнерските процеси директно влијае врз тоа како се дефинираат проблемите и какви технички решенија се нудат, со што доминантните вредности стануваат „природни“ и невидливи делови од нашето секојдневие. Така, технологијата функционира како перформативен апарат кој што го опишува светот, но и го произведува и одржува постоечкиот социјален и родов поредок.

Родот и технологијата

Историјата на компјутерската наука открива длабок парадокс, жените не само што биле присутни, туку биле и клучни пионери во оваа област, но нивниот придонес е систематски маргинализиран како што полето добивало на културна, економска и социјална вредност. Ада Лавлејс го напишала првиот алгоритам за аналитичката машина, а во периодот околу Втората светска војна, првите „компјутери“ биле всушност жени кои ги извршувале сложените математички пресметки и го програмирале ENIAC, првиот електронски дигитален компјутер. Во тој почетен период, програмирањето се сметало за „женска работа“ со низок статус, слична на секретарските задачи, додека машките инженери се фокусирале на хардверот, кој го сметале за поважен аспект на технологијата.

Како што компјутерската наука станувала попрестижна и попрофитабилна во текот на 1960-тите и 1970-тите, доаѓа до драматичен пресврт каде мажите почнаа масовно да доминираат во професијата, а жените се потиснати во пониско платени и помалку влијателни под-области. Овој процес на „маскулинизација“ на професијата е резултат на намерните стратегии за редефинирање на овие позиции како високо-стручни и менаџерски улоги со цел да им се подигне статусот. Иако во 1984 година жените сочинувале дури 37% од дипломираните студенти по компјутерски науки, тој процент драстично опаднал во следните децении, доведувајќи ја дисциплината до историски најниско ниво на диверзитет во споредба со другите STEM области.

Современата индустрија за вештачка интелигенција се соочува со сериозна криза каде жените претставуваат само околу 12% до 15% од истражувачкиот кадар, а овој дисбаланс е уште поизразен во големите технолошки компании како Google и Facebook. Доминацијата на т.н. „brogrammer“ култура, која се карактеризира со мачо-средина и исклучување на оние кои не се вклопуваат во стереотипот за „генијот-програмер“, создава непријателски амбиент кој ги одвраќа жените од кариера во ВИ или ги принудува предвреме да го напуштат секторот. Овој недостиг на диверзитет има директни последици врз самите системи, бидејќи хомогените развојни тимови често имаат „слепи точки“ и несвесно ги вградуваат сопствените пристрасности и предрасуди во алгоритмите што ги создаваат.

Резултатот од ваквото исклучување е создавање на ВИ системи кои ги рефлектираат вредностите и перспективите на доминантната група, честопати ги занемарува па дури и штетно влијае врз потребите на маргинализираните заедници. Кога оние што ја дизајнираат технологијата се заштитени од штетите што таа може да ги предизвика, тие имаат помала веројатност да ги препознаат ризиците од дискриминација и алгоритамска опресија.

Интерсекционални импликации

Интерсекционалниот пристап во анализирањето на вештачката интелигенција открива дека „алгоритамската опресија“ не е рамномерно распределена низ популацијата, таа најсилно ги погодува поединците кои се наоѓаат на пресекот на повеќе маргинализирани идентитети, како што се расата, родот, класата и попреченоста. Оваа форма на дискриминација функционира преку систематско бришење на интерсекционалните амбивалентности, претворајќи ги сложените човечки искуства во крути податочни категории кои ја засилуваат постоечката социјална невидливост на најранливите групи. Во оваа рамка, вештачката интелигенција е моќен социо-технички инструмент кој ги материјализира историските и структурните нееднаквости, создавајќи режими на „нечитливост“ за сите оние чии тела и идентитети не се вклопуваат во доминантната машка и бела матрица.

Еден од најкритичните емпириски докази за ваквата интерсекционална пристрасност е истражувањето „Gender Shades“ спроведено од Џој Буоламвини и Тимнит Гебру, кое демонстрира драстични разлики во точноста на комерцијалните системи за препознавање лица. Студијата открива дека додека стапката на грешки при класификација на родот кај белите мажи е минимална и изнесува само околу 0,8%, таа кај жените со потемна кожа се искачува до 34,7%, што јасно укажува на тоа дека овие технологии функционираат беспрекорно само за привилегираната група за која биле првенствено дизајнирани. Ваквата „евалуациска пристрасност“ е директна последица на хомогеноста на податочните збирки за обука и недостатокот на диверзитет кај развојните тимови, што на крајот води до неправедна распределба на технолошките придобивки и потенцијално опасно погрешно идентификување во чувствителни сфери како што е правосудството.

Процесот на „феминизација“ на услужната вештачка интелигенција, манифестиран преку широко распространетите асистенти како Alexa и Siri, дополнително ги зацврстува штетните родови стереотипи преку нивното естетско и функционално обликување како „дигитални слугинки“. Со доделувањето на женски имиња и гласови, овие системи се намерно дизајнирани со „послушни и подредени личности“ кои се програмирани да бидат униформно услужни и да ги извршуваат сите команди без приговор, со што се нормализира концептот на жената како „верна помошничка“ во домашната сфера. Оваа „дигитална доместификација“ го девалвира трудот за грижа и испраќа загрижувачки пораки за толеранција кон вербалната злоупотреба, бидејќи овие асистенти долго време биле програмирани да одговараат на сексуалното вознемирување со суптилна срамежливост или извинување наместо со јасен отпор.

May 1, 2026May 1, 2026

Јазични репрезентации и општествени импликации на обработка на природен јазик NLP (II дел)

Развојот на техниките за јазична репрезентација во NLP еволуира од сиболички модели, кои се базираат на строги правила и формални граматики кон статистичките и невралните модели кои користат големи количини податоци и машинско учење за да ја доловат контекстуалноста и динамичноста на јазикот. Преминот од симболичко кон невронско моделирање го поставува прашањето за филозофските импликации на тоа како машините „разбираат“ јазик и дали можат во целост да ја репрезентираат човечката свест и значење.

Клучни NLP задачи и нивни решенија

Обработката на природниот јазик (NLP) се реализира преку низа специфични задачи кои ја деконструираат комплексноста на јазикот во податоци погодни за компјутерска обработка. Основните задачи на NLP започнуваат со претпроцесирање на текстот за негова нормализација. Една од основните техники е токенизацијата, при што текстот се дели на помали единици, како зборови или реченици, за полесна понатамошна анализа. Потоа следуваат лематизацијата и стемингот, кои служат за редуцирање на зборовите до нивната основна или коренска форма за да се намали варијабилноста во јазикот. Означувањето на делови од говорот (POS tagging) претставува процес на етикетирање на секој збор според неговата граматичка категорија, како што се именка, глагол или придавка за да се разбере синтаксичката структура на речениците. Препознавањето на именувани ентитети (NER) овозможува идентификување и класифицирање на клучни поими во текстот, како имиња на личности, локации и организации.

Посложените задачи се фокусираат на разбирање на намерата и контекстот. Ова вклучува препознавање на намерите (intent recognition), следење на состојбата на дијалогот и управување со контекстот низ повеќе сесии на разговор. Современите системи користат напредни техники како векторизација на зборови (Word Embedding), кои ги претвораат зборовите во математички вектори во повеќедимензионален простор, овозможувајќи му на системот да ги пресметува семантичките сличности меѓу поимите. Архитектурите засновани на Трансформери со механизмите за „внимание“ (attention) овозможуваат паралелна обработка на податоците и подобро разбирање на долгорочните зависности во текстот.

Синтаксичка анализа (Парсирање)

Синтаксичката анализа се фокусира на идентификација на структурата на реченицата и граматичките односи помеѓу зборовите. Современите алатки овозможуваат препознавање на делови од говорот и зависно парсирање, што помага во разбирањето на логиката на изразот. Сепак, традиционалната симболичка ВИ често се соочува со проблемот на „кршливост“ (brittleness), бидејќи крутите граматички правила често не можат да го опфатат „здравиот разум“ или неформалниот говор кој излегува надвор од нивниот ограничен домен.

Семантичка анализа

Втората клучна задача, семантичката анализа се стреми да го долови значењето на зборовите преку техники како векторизација (Word Embedding), каде зборовите се претставуваат како математички точки во повеќедимензионален простор. На овој начин системите препознаат синонимија и контекстуална сличност. Семантичките модели често автоматски ги преземаат човечките пристрасности од податоците за обука, како што се родовите стереотипи (на пр. поврзување на одредени професии со машки или женски род). Постои јасна разлика помеѓу денотативното (површинско) и конотативното (симболичко) значење, кое често останува недостапно за машините поради недостаток на социјален контекст.

Прагматика и контекстуална употреба

Прагматиката се занимава со тоа како значењето се менува во зависност од ситуацијата и намерата на говорникот. Таа е важна при разбирањето на „поправката“ (repair) на недоразбирањата во разговорите, каде истражувањата покажуваат дека постојат родови разлики. На пример, жените често вложуваат повеќе труд во одржувањето на конверзацијата и поправањето на недоразбирањата во мешани групи. Ваквото сведувањето на сложените социјални интеракции на едноставни „планови“ или алгоритми може да претставува обид за алгоритамска контрола врз социјалниот поредок.

Генерирање на природен јазик (NLG)

Генерирањето на јазик се однесува на способноста на системите, како што се Трансформерите (на пр. GPT-3), да создаваат кохерентен текст преку статистичко предвидување на следниот збор. Иако овие системи симулираат „човечко“ однесување, постои суштинска интерпретативна асиметрија. Додека луѓето ги поврзуваат зборовите со реалниот физички и социјален свет, машините само трансформираат низи од битови без реално разбирање на поимите како „болка“ или „емпатија“. Што значи дека генерираната содржина, иако граматички точна, може да биде фактички неточна или да рефлектира вградени историски предрасуди.

Родова и критичка анализа на NLP системите

Анализата на системите за обработка на природен јазик (NLP) открива дека овие технологии функционираат како социо – технички системи кои ги впишуваат вредностите, претпоставките и пристрасностите на своите креатори. Пристрасноста кај ВИ се појавува кога наизглед инокултното програмирање ги презема предрасудите на создавачите или на податоците со кои се храни, со што родовите односи на моќ се вградени во самиот технолошки развој.

Механизмите на пристрасност во NLP системите се најочигледни кај јазичните вградувања (word embeddings), кои ги претставуваат зборовите како математички вектори во повеќедимензионален простор. Овие модели автоматски ги учат и квантифицираат родовите стереотипи од текст – корпусите, репродуцирајќи асоцијации каде мажот се поврзува со професии како „програмер“, а жената со „домаќинка“. Дури и кај најнапредните генеративни системи често ги засилуваат социјалните пристрасности, при што женските ликови во генерираните приказни се почесто се поврзуваат со семејството и изгледот и се опишуваат како помалку моќни во споредба со машките ликови.

Од перспектива на феминистичката лингвистика, јазикот не е само средство за комуникација, преку него се конституира и одржува општествената моќ. Формализацијата на јазикот кај ВИ често води кон маргинализација на „женските начини на знаење“ (како што е искуственото знаење поврзано со грижата), фаворизирајќи го пропозиционалното знаење како супериорно и „рационално“. Овој процес на „феминизација на ВИ“ е видлив кај виртуелните асистенти како Alexa, Siri и Cortana, кои стандардно користат женски имиња и гласови за да проектираат „послушни личности“, со што се нормализира дигиталната послушност и се зацврстуваат традиционалните родови стереотипи за жената како верна помошничка.

Интерсекционалната аналитичка рамка е клучна за разбирање зошто грешките кај NLP системите не се рамномерно распределени низ популацијата. Истражувањата покажуваат дека пристрасноста најмногу ги погодува оние кои се наоѓаат на пресекот на повеќе маргинализирани идентитети, како што се жените од расни малцинства. Оваа „алгоритамска опресија“ потврдува дека нееднаквоста е вградена во самите модели и во целокупната инфраструктура и екосистем на производство на ВИ технологиите.