Вештачката интелигенција во медицинските и здравствените науки: помеѓу технолошкиот напредок, човечкото знаење и професионалната одговорност

Владимир ТРАЈКОВСКИ1,2

1Институт за специјална едукација и рехабилитација, Филозофски факултет, Универзитет „Св. Кирил и Методиј“ во Скопје

2Македонско научно здружение за аутизам, Скопје

Веб страница: https://vladotra68.blogspot.com 

Секоја значајна технолошка промена го менува начинот на кој човекот го разбира светот, создава знаење и донесува одлуки. Вештачката интелигенција (ВИ) несомнено претставува една од најзначајните технолошки трансформации на нашето време. Нејзиното влијание веќе не е ограничено на информатиката, инженерството или индустријата. Таа сè подлабоко навлегува во медицината, здравствените науки, универзитетското образование, научноистражувачката работа, па дури и во областите во кои човечкото искуство, емпатијата и индивидуалниот пристап традиционално се сметаат за незаменливи.

Како доктор по медицина, универзитетски професор и истражувач со повеќедецениско искуство во медицинските науки, специјалната едукација и рехабилитацијата, вештачката интелигенција ја разбирам пред сè како моќна алатка за проширување на човечките когнитивни и професионални капацитети. Не ја доживувам како конкурент на човечкиот интелект, ниту како технологија што треба некритички да се прифати. Ја гледам како нов инструмент кој, доколку се користи компетентно, одговорно и етички, може значително да го унапреди начинот на кој ги разбираме здравјето, болеста, попреченоста, човечкиот развој и квалитетот на животот.

Сепак, сметам дека најважното прашање не е што може да направи вештачката интелигенција, туку како, зошто и под чија одговорност ја користиме.

Вештачката интелигенција како поддршка, а не замена за човечката интелигенција

Еден од моите основни ставови е дека вештачката интелигенција треба да биде асистент, а не замена за човекот. Оваа разлика е особено важна во медицината и здравствените науки, каде што одлуките често имаат директни последици врз здравјето, достоинството, автономијата и животот на пациентите.

ВИ може да анализира огромни количества податоци, да препознава обрасци, да идентификува статистички поврзаности, да предлага дијагностички хипотези и да помогне во предвидувањето на одредени здравствени исходи. Во многу ситуации таа може да обработи информации побрзо од човекот. Но, брзината на обработката не е исто што и мудроста, а препознавањето на обрасци не е секогаш исто што и разбирањето на сложеноста на човечкиот организам.

Докторот по медицина не е само интерпретатор на лабораториски резултати, радиолошки снимки и клинички параметри. Тој е професионалец кој го набљудува пациентот во неговиот биолошки, психолошки и социјален контекст. Дијагнозата не е само резултат на алгоритамска пресметка, туку процес во кој се интегрираат анамнезата, клиничкиот преглед, претходните заболувања, животните околности, индивидуалните карактеристики и професионалното искуство.

Затоа, сметам дека најдобриот модел на современа медицина не е медицина управувана од вештачка интелигенција, туку медицина во која компетентниот здравствен професионалец ја користи вештачката интелигенција за да донесе подобра, побрза и посигурна одлука. Крајната професионална одговорност мора да остане кај човекот.

Примената на вештачката интелигенција во медицината и здравствените науки

Потенцијалот на вештачката интелигенција во медицината е огромен и се проширува речиси секојдневно. Нејзината примена во радиологијата, патологијата, дерматологијата, офталмологијата, кардиологијата и неврологијата отвора нови можности за рано откривање на заболувања, анализа на медицински слики и идентификација на суптилни промени кои понекогаш тешко се забележуваат при традиционалната клиничка процена.

Особено значајна е можноста за интегрирање на различни извори на податоци: генетски информации, биохемиски параметри, клинички наоди, податоци од медицински уреди и информации за животниот стил. На тој начин се создаваат услови за развој на поперсонализирана медицина, во која превенцијата, дијагностиката и третманот сè повеќе ќе се приспособуваат на индивидуалните карактеристики на пациентот.

Во генетиката, на пример, алгоритмите за машинско учење можат да помогнат во анализата на комплексни генетски податоци, препознавањето потенцијално патогени генетски варијанти и истражувањето на генетските и срединските фактори кои придонесуваат за појава на одредени заболувања. Во невронауките, ВИ може да придонесе за подобро разбирање на невролошките и невроразвојните состојби преку анализа на сложени обрасци во однесувањето, когнитивното функционирање и мозочната активност.

Посебно внимание заслужува примената на вештачката интелигенција во аутистичниот спектар на нарушувања (АСН). Ова е област во која имам долгогодишен академски, истражувачки и практичен интерес (28 години). Аутистичниот спектар претставува исклучително хетерогена невроразвојна состојба, со значителни индивидуални разлики во комуникацијата, социјалната интеракција, однесувањето, сензорната обработка и адаптивното функционирање.

Сметам дека ВИ може да придонесе за подобра анализа на развојните профили, обработка на податоците од скрининг-инструментите, следење на напредокот во рехабилитацијата и идентификување на индивидуалните потреби на лицата со АСН. Може да помогне во развојот на адаптивни образовни и терапевтски програми, како и во создавањето дигитални алатки за поддршка на комуникацијата и секојдневното функционирање.

Но, овде постои и важна граница. Лицето со АСН не смее да се сведе на збир од алгоритамски препознаени карактеристики, статистички отстапувања или дијагностички категории. Зад секој резултат стои индивидуална личност со сопствени способности, потреби, емоции, интереси и потенцијали. Ниту еден алгоритам не може самостојно да ја замени комплексната клиничка процена, непосредниот контакт и разбирањето на индивидуалниот човечки контекст.

Истото важи и за рехабилитацијата. ВИ може да помогне во следењето на моторното функционирање, анализата на движењето, процената на функционалните способности и персонализацијата на рехабилитациските интервенции. Може да се интегрира со виртуелната реалност, сензорските технологии и интерактивните образовни платформи. Сепак, технологијата треба да го поддржува терапевтскиот процес, а не да ја потиснува човечката интеракција која често е суштински дел од рехабилитацијата.

Вештачката интелигенција во универзитетското образование

Како универзитетски професор, сметам дека примената на ВИ во високото образование е едно од најголемите предизвици со кои се соочуваат современите академски институции.

Традиционалниот модел на образование, во кој студентот главно прима информации, ги меморира и ги репродуцира, постепено станува недоволен. Во време кога вештачката интелигенција може за неколку секунди да генерира објаснувања, резимеа, презентации, па дури и сложени академски текстови, улогата на универзитетскиот професор мора да се развива.

Професорот не треба да биде само пренесувач на информации, туку ментор, критички насочувач, интерпретатор на научното знаење и личност која ги поттикнува студентите да размислуваат самостојно. Студентите треба да научат не само како да ја користат ВИ, туку и како да ги проверуваат нејзините резултати, да ги препознаваат нејзините ограничувања и да ги преиспитуваат нејзините заклучоци.

Во наставата по Физиологија со функционална анатомија, Хумана генетика, Медицински аспекти на попреченоста и други здравствени дисциплини, ВИ може да биде исклучително корисна за симулирање физиолошки процеси, објаснување комплексни механизми, анализа на клинички сценарија и развивање интерактивни наставни материјали. Таа може да овозможи персонализирано учење, приспособено на темпото и потребите на секој студент.

Но, постои опасност студентите да ја прифатат технологијата како готов извор на вистина. Доколку одговорите на алгоритмот се преземаат без проверка, без критичка анализа и без сопствено размислување, тогаш наместо да го унапредуваме образованието, ризикуваме да создадеме генерации кои ќе бидат технолошки вешти, но интелектуално зависни.

Затоа, мојот став е дека не треба да ја забрануваме вештачката интелигенција во образованието. Треба да ги научиме студентите да ја користат правилно, транспарентно и одговорно. Многу поважно од прашањето дали студентот користел ВИ е прашањето дали разбира што презентира, дали може да го одбрани својот став и дали е способен критички да го процени добиениот резултат.

ВИ и научноистражувачката работа: можности и академски предизвици

Во научноистражувачката работа, вештачката интелигенција отвора нови перспективи. Таа може да помогне во пребарувањето и систематизирањето на научната литература, идентификувањето истражувачки празнини, статистичката обработка на податоци, јазичното уредување на научни трудови и подобрувањето на комуникацијата на научните резултати.

Како истражувач и главен уредник на научно списание, особено сум заинтересиран за влијанието на ВИ врз академското издаваштво и научната комуникација. Сметам дека оваа технологија може да биде корисна и во процесот на подготовка, и во процесот на редакциска обработка, и во одредени аспекти на рецензирањето на научните трудови.

Сепак, токму тука се појавуваат некои од најсериозните етички прашања. Дали трудот што е напишан со значителна помош на ВИ навистина го одразува знаењето и интелектуалниот придонес на авторот? Кој е одговорен доколку алгоритмот генерира неточни податоци или непостоечки научни референци? Може ли вештачката интелигенција да ја преземе улогата на независен научен рецензент? Како да се зачува интегритетот на научниот процес во услови кога границата помеѓу човечкото авторство и алгоритамската продукција станува сè понејасна?

Мојот став е дека ВИ може да биде помошна алатка во научното пишување и уредување, но не може да ја преземе одговорноста за научната содржина. Авторите мора да ја гарантираат точноста на податоците, валидноста на методологијата, веродостојноста на референците и оригиналноста на научниот придонес. Уредниците и рецензентите, пак, мора да ги задржат својата независност, критичност и професионална одговорност.

Особено е важно да се направи разлика помеѓу употребата на ВИ за јазично подобрување на ракописот и употребата на ВИ за генерирање научни резултати, интерпретации или заклучоци. Овие активности немаат иста научна и етичка тежина.

Науката не е само производство на текстови. Таа е систематско барање на вистината преку проверливи методи, аргументи, докази и критичка расправа. Токму затоа, технолошки генерираниот текст не смее автоматски да се изедначува со научен придонес.

Етичките дилеми: точност, пристрасност, приватност и човечко достоинство

Колку повеќе ВИ навлегува во здравството, толку повеќе се зголемува потребата од етичка и професионална регулација. Медицинските податоци се особено чувствителни. Нивната употреба, обработка и споделување мора да бидат во согласност со принципите на доверливост, приватност, информирана согласност и заштита на личните податоци.

Еден од сериозните проблеми е можноста за алгоритамска пристрасност. Системите за ВИ учат од податоци кои ги создаваат луѓето и институциите, а тие податоци не се секогаш репрезентативни за сите популации. Ако одредени групи се недоволно застапени во истражувачките бази, алгоритмите може да произведуваат помалку точни резултати токму за нив.

Ова е особено значајно за земјите со ограничени здравствени ресурси, помалку развиени истражувачки капацитети и недоволна застапеност во меѓународните бази на податоци. Не можеме да претпоставиме дека алгоритам развиен и обучен врз податоци од една популација автоматски ќе биде подеднакво точен и применлив кај друга популација.

Дополнително, мора да се постави прашањето кој ја контролира технологијата, кој ги поседува податоците, чии интереси ги претставува алгоритмот и кој сноси одговорност кога неговата препорака ќе доведе до погрешна клиничка одлука.

За мене, најважниот етички принцип е дека човекот мора да остане во центарот на здравствениот систем. Пациентот не е податок, дијагностички код или статистичка веројатност. Тој е личност со права, достоинство и индивидуални потреби. Вештачката интелигенција мора да служи за подобрување на неговото здравје и квалитетот на животот, а не за сведување на здравствената грижа на технолошки и административни процеси.

Човечката димензија на медицината не смее да се изгуби

Постои една димензија на медицината за која сметам дека никогаш не треба да ја заборавиме: човечката димензија.

Медицината не е само наука за биолошките процеси, туку и професија заснована врз доверба, емпатија, комуникација и солидарност. Пациентот не очекува само точна дијагноза и соодветна терапија. Тој очекува да биде сослушан, разбран и третиран со почит.

Вештачката интелигенција може да симулира комуникација, да генерира емпатични формулации и да понуди психолошка поддршка во одредени контексти. Но, симулираната емпатија не е исто што и човечката емпатија. Алгоритмот може да препознае емоционален образец во текст или говор, но не ја доживува човечката болка, стравот, неизвесноста или надежта.

Затоа, не верувам дека иднината на медицината треба да биде помалку човечка поради тоа што ќе биде повеќе дигитализирана. Напротив, колку повеќе технолошките системи преземаат рутински и аналитички задачи, толку повеќе здравствените професионалци треба да имаат време и простор за она што е суштински човечко: непосредниот контакт со пациентот, индивидуалниот пристап и градењето доверба.

Дали треба да се плашиме од вештачката интелигенција?

Не сум приврзаник ниту на технолошкиот ентузијазам без критичка дистанца, ниту на стравот од секоја нова технологија. Историјата на медицината покажува дека големите научни откритија често биле проследени со скептицизам, отпор и неизвесност. Сепак, со текот на времето, многу од нив станале незаменливи делови од современата медицинска практика.

Мислам дека слична трансформација ќе се случи и со вештачката интелигенција. Прашањето не е дали таа ќе биде дел од нашата професионална иднина, туку дали ќе бидеме подготвени да ја користиме на начин кој ќе ги унапреди медицината, образованието и науката.

Потребни се нови компетенции, нови образовни програми, интердисциплинарна соработка и јасни етички стандарди. Лекарите, професорите, истражувачите, информатичарите, филозофите, правниците и другите општествени професионалци мора да учествуваат во оваа расправа. Ниту една професија сама по себе нема доволно знаење и капацитет да ги разбере сите последици од оваа трансформација.

Токму затоа, сметам дека хуманистичките и општествените науки имаат исклучително важна улога. Тие треба да помогнат да се постават прашањата за вредностите, одговорноста, правичноста, автономијата и достоинството на човекот. Технолошката ефикасност не смее да биде единственото мерило за напредок.

Наместо заклучок: иднина во која технологијата му служи на човекот

Мојата визија за вештачката интелигенција во медицинските и здравствените науки е визија на партнерство помеѓу човечкото знаење и технолошките можности. Верувам дека ВИ може да придонесе за попрецизна дијагностика, поефикасна превенција, персонализиран третман, подобра рехабилитација, поквалитетно образование и понапредна научноистражувачка работа.

Но, истовремено верувам дека вистинскиот напредок не се мери само според брзината на алгоритмите, количината на обработени податоци или бројот на автоматизирани процеси. Тој треба да се мери според тоа колку подобро ги разбираме луѓето, колку успешно го подобруваме нивното здравје, колку ги намалуваме нееднаквостите и колку придонесуваме за нивниот квалитет на живот.

Во оваа смисла, за мене вештачката интелигенција не е цел сама по себе. Таа е средство. Нејзината вредност не произлегува само од нејзината технолошка софистицираност, туку од начинот на кој ја ставаме во функција на општото добро.

Можеби најголемиот предизвик на современото општество не е да создаде сè помоќна вештачка интелигенција, туку да развие доволно одговорна, критичка и морална човечка интелигенција која ќе знае како да ја користи.

Затоа, мојата основна порака е едноставна: Вештачката интелигенција треба да го надградува човечкиот интелект, а не да го заменува; да ја унапредува медицината, а не да ја дехуманизира; да го поддржува научното знаење, а не да ја потиснува критичката мисла.

На крајот, најважното прашање не е дали вештачката интелигенција ќе стане помоќна од нас во одредени интелектуални задачи. Прашањето е дали ние ќе останеме доволно мудри за нејзината моќ да ја употребиме во служба на човекот.

Библиографија: AI и критичкото мислење

Линк од фолдер АИ_критичко_мислење

Nov 18, 2026 · @Bobi Badarevski

Библиографијата е поделена во два дела. Првиот ги содржи текстовите што недостасуваат во збирката од линкот, подредени тематски. Вториот ги содржи десетте текстови што веќе се во папката АИ_критичко_мислење. Сите ставки се проверени на 18.11.2026: секоја библиографска податочна точка (автори, година, наслов, извор, DOI) е споредена со издавачот, каталог или PubMed/arXiv/AISeL. Ставките од Дел II се проверени и врз самите PDF-датотеки. Знакот ⚠ означува точка што не може целосно да се потврди.

Дел I: Концепти

1. Концептот на критичко мислење

Facione, P. A. (1990). Critical Thinking: A Statement of Expert Consensus for Purposes of Educational Assessment and Instruction (The Delphi Report). American Philosophical Association. ERIC ED315423. philarchive.org/rec/FACCTA ✔

Ennis, R. H. (2018). Critical thinking across the curriculum: A vision. Topoi, 37(1), 165–184. doi.org/10.1007/s11245-016-9401-4 ✔

Halpern, D. F. (2014). Thought and Knowledge: An Introduction to Critical Thinking (5th ed.). Psychology Press. taylorfrancis.com/books/9781315885278 ✔

McPeck, J. E. (1981). Critical Thinking and Education. Martin Robertson. Препечатено: Routledge, 2016. routledge.com ✔ (Противтеза: критичкото мислење е врзано за конкретна област.)

Willingham, D. T. (2007). Critical thinking: Why is it so hard to teach? American Educator, 31(2), 8–19. aft.org (цел број, PDF) ✔

Abrami, P. C., Bernard, R. M., Borokhovski, E., Wade, A., Surkes, M. A., Tamim, R., & Zhang, D. (2008). Instructional interventions affecting critical thinking skills and dispositions: A stage 1 meta-analysis. Review of Educational Research, 78(4), 1102–1134. doi.org/10.3102/0034654308326084 ✔

Freire, P. (1970). Pedagogy of the Oppressed (M. B. Ramos, Trans.). Herder and Herder. ✔ (Критичноста како свест за моќта, наспроти критичкото мислење како вештина.)

2. Механизми: когнитивно растоварување и автоматизација

Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688. doi.org/10.1016/j.tics.2016.07.002 ✔

Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. Science, 333(6043), 776–778. doi.org/10.1126/science.1207745 ✔

Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. doi.org/10.1177/0018720810376055 ✔

Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. doi.org/10.1145/3449287 ✔

3. Клучни емпириски студии

Gerlich, M. (2025). AI tools in society: Impacts on cognitive offloading and the future of critical thinking. Societies, 15(1), 6. mdpi.com/2075-4698/15/1/6 ✔

Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. PNAS, 122(26), e2422633122. doi.org/10.1073/pnas.2422633122 ✔

Fan, Y., Tang, L., Le, H., Shen, K., Tan, S., Zhao, Y., Shen, Y., Li, X., & Gašević, D. (2025). Beware of metacognitive laziness: Effects of generative artificial intelligence on learning motivation, processes, and performance. British Journal of Educational Technology, 56(2), 489–530. doi.org/10.1111/bjet.13544 · препринт: arxiv.org/abs/2412.09315 ✔

Stadler, M., Bannert, M., & Sailer, M. (2024). Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry. Computers in Human Behavior, 160, 108386. doi.org/10.1016/j.chb.2024.108386 ✔ (отворен пристап)

Tankelevitch, L., Kewenig, V., Simkute, A., Scott, A. E., Sarkar, A., Sellen, A., & Rintel, S. (2024). The metacognitive demands and opportunities of generative AI. CHI ’24. doi.org/10.1145/3613904.3642902 ✔ (отворен пристап)

Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X.-H., Beresnitzky, A. V., Braunstein, I., & Maes, P. (2025). Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task. arXiv:2506.08872. arxiv.org/abs/2506.08872 ✔ (препринт, нерецензиран, мал примерок)

4. Најнови синтези и мерење

Helal, M. Y. I., Elgendy, I. A., Albashrawi, M. A., Dwivedi, Y. K., Al-Ahmadi, M. S., & Jeon, I. (2025). The impact of generative AI on critical thinking skills: A systematic review, conceptual framework and future research directions. Information Discovery and Delivery. doi.org/10.1108/IDD-05-2025-0125 ✔

Toha, M. A., & Bernroider, E. W. N. (2026). Cognitive crutch or cognitive coach? A systematic literature review on generative AI and critical thinking in higher education. CONF-IRM 2026 Proceedings, 23. aisel.aisnet.org/confirm2026/23 ✔

Lau, G. R., Low, W. Y., Tay, L., Guevarra, Y. A., Gašević, D., & Hartanto, A. (2025). Understanding critical thinking in generative artificial intelligence use: Development, validation, and correlates of the Critical Thinking in AI Use Scale. arXiv:2512.12413. arxiv.org/abs/2512.12413 ✔ (шест студии, N = 1.365) ⚠ Авторите бараат да се цитира објавената верзија од 2026; списанието не е утврдено.

Bearman, M., Tai, J., Dawson, P., Boud, D., & Ajjawi, R. (2024). Developing evaluative judgement for a time of generative artificial intelligence. Assessment & Evaluation in Higher Education. doi.org/10.1080/02602938.2024.2335321 ✔

5. Критичко-епистемолошка линија

Messeri, L., & Crockett, M. J. (2024). Artificial intelligence and illusions of understanding in scientific research. Nature, 627(8002), 49–58. doi.org/10.1038/s41586-024-07146-0 ✔

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? FAccT ’21, 610–623. doi.org/10.1145/3442188.3445922 ✔ („Shmargaret Shmitchell“ е псевдоним на Margaret Mitchell.)

Bearman, M., & Ajjawi, R. (2023). Learning to work with the black box: Pedagogy for a world with artificial intelligence. British Journal of Educational Technology, 54(5), 1160–1173. doi.org/10.1111/bjet.13337 ✔ (отворен пристап)

Vallor, S. (2024). The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press. ISBN 978-0-19-775906-6. ✔

Stiegler, B. (2016). Automatic Society, Volume 1: The Future of Work (D. Ross, Trans.). Polity Press. ISBN 978-1-5095-0630-9. ✔

Haraway, D. (1988). Situated knowledges: The science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575–599. doi.org/10.2307/3178066 ✔

D’Ignazio, C., & Klein, L. F. (2020). Data Feminism. MIT Press. doi.org/10.7551/mitpress/11805.001.0001 · data-feminism.mitpress.mit.edu ✔ (отворен пристап)

6. Институционални рамки

UNESCO (2024). AI Competency Framework for Students (F. Miao & K. Shiohira). doi.org/10.54675/JKJB9835 ✔

UNESCO (2023). Guidance for Generative AI in Education and Research. doi.org/10.54675/EWZM9535 ✔

7. Психолошки студии

Најсилните докази се експериментални (Liu и сор., Shaw и Nave, Fernandes и сор., Aslanov и сор.), но два од нив се препринти. Студиите во Frontiers in Psychology се анкетни и корелациски.

Zhu, Q., Li, X., Dong, Y., Chang, P., & Fan, M. (2026). Not all cognitive offloading is equal: Distinguishing dependent and autonomous offloading to generative AI. Frontiers in Psychology, 17, 1878629. doi.org/10.3389/fpsyg.2026.1878629 ✔ (трибранова анкета, N = 589, корелациски дизајн)

Shaw, S. D., & Nave, G. (2026). Thinking—fast, slow, and artificial: How AI is reshaping human reasoning and the rise of cognitive surrender. Wharton School Research Paper. doi.org/10.31234/osf.io/yk25n_v1 · SSRN ✔ (препринт; три предрегистрирани експерименти, N = 1.372)

Liu, G., Christian, B., Dumbalska, T., Bakker, M. A., & Dubey, R. (2026). AI assistance reduces persistence and hurts independent performance. arXiv:2604.04721. arxiv.org/abs/2604.04721 ✔ (препринт; рандомизирани контролирани испитувања, N = 1.222)

Fernandes, D., Villa, S., Nicholls, S., Haavisto, O., Buschek, D., Schmidt, A., Kosch, T., Shen, C., & Welsch, R. (2026). AI makes you smarter but none the wiser: The disconnect between performance and metacognition. Computers in Human Behavior, 175, 108779. doi.org/10.1016/j.chb.2025.108779 ✔ (отворен пристап; два експерименти, вториот N = 452)

Cash, T. N., Kelly, M. O., Macnamara, B. N., & Risko, E. F. (2026). Is AI making us stupid? Trends in Cognitive Sciences (Science & Society). PDF, Purdue ✔

Aslanov, I., Felmer, P., & Guerra, E. (2026). Overconfidence without understanding? Evidence for an illusion of understanding in AI-assisted explanations. Proceedings of the Annual Meeting of the Cognitive Science Society, 48. escholarship.org/uc/item/8cr599sr ✔

Kong, Y., Dong, T., Yang, Z., Fang, Y., & Chen, N. (2026). From cognitive need to problematic use: A chained mediation path moderated by academic stress and AI literacy. Frontiers in Psychology, 17, 1767454. doi.org/10.3389/fpsyg.2026.1767454 ✔

Wang, J. (2026). Cognitive offloading through digital tools and its relationship with critical thinking, task persistence, and learning depth. Frontiers in Psychology, 17, 1781101. doi.org/10.3389/fpsyg.2026.1781101 ✔ (пресечна анкета, N = 468; дигитални алатки воопшто)

Pereira Campos, J., & Koff, T. (2026). Your brain on ChatGPT, but whose brain? The missing adolescent in AI-cognition research. Frontiers in Developmental Psychology, 4. doi.org/10.3389/fdpys.2026.1885225 ✔ (хипотеза и теорија, не емпириска студија)

Дел II: Веќе во збирката на линкот

Alsaiid Abdelbaki, D. (2026). Generative AI as a catalyst for critical thinking: Reframing students from consumers to co-creators. Frontiers in Education, 11, 1952725. doi.org/10.3389/feduc.2026.1952725

Arshad, A., Lone, A., Arickswamy, L., Hassan, K., Alnaim, A. A., & AlFarhan, M. F. (2026). From AI use to critical thinking among medical students: A moderated mediation perspective on cognitive load and self-regulated learning. Frontiers in Psychology, 17, 1883053. doi.org/10.3389/fpsyg.2026.1883053

Ateeq, A., Alfiras, M., Ibrahim, S. B., Danish, F., & Almuraqab, N. A. S. (2026). How AI is shaping the next generation of students. Во R. K. Hamdan (ур.), Studies in Systems, Decision and Control, том 631. Springer. doi.org/10.1007/978-3-032-04378-8_72 ✔ ⚠ Насловот на самиот зборник и другите уредници, ако ги има, не се утврдени.

Hou, C., Zhu, G., Liu, Y., Sudarshan, V., Chong, J. L. L., Zhang, F. Y., Tan, M. Y. H., & Ong, Y. S. (2026). The effects of critical thinking intervention on reliance behaviors, problem-solving quality, and creativity during human-generative AI collaborative learning. Computers & Education, 247, 105576. doi.org/10.1016/j.compedu.2026.105576

Kharbach, M. (2026). Critical Reading and AI: A Guide. Educators Technology. CC BY-NC-SA 4.0. ⚠ Насловот е реконструиран: корицата е слика, а водичот не е пронајден на educatorstechnology.com (таму се други негови водичи од 2026). Авторот и лиценцата се потврдени од PDF-от.

Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. CHI ’25. doi.org/10.1145/3706598.3713778

Li, C. (2025). AI as a Socratic dialogue partner: An intervention study on enhancing students’ critical thinking skills. Artificial Intelligence Education Studies, 1(4), 1–11. doi.org/10.6914/aiese.010401 ⚠ Апстрактот наведува „hypothetical findings“. Не се цитира како емпириски доказ.

Li, C., Cui, H., & Hagedorn, L. S. (2026). The cognitive impact of ChatGPT in higher education: A systematic review of critical and creative thinking outcomes. Computers and Education: Artificial Intelligence, 10, 100571. doi.org/10.1016/j.caeai.2026.100571

Lodge, J. M., & Loble, L. (2026). Artificial intelligence, cognitive offloading and implications for education. University of Technology Sydney. doi.org/10.71741/4pyxmbnjaq.31302475

Tabares-Cruz, Y. B., Cevallos-Sánchez, H. A., Arteaga-Pita, I. G., Rodriguez-Alava, L. A., Carreño-Mendoza, A. L., Cedeño-Barreto, M. de los Á., Castro-Castillo, G. J., Cobacango-Villavicencio, J. G., & Moreira-Choez, J. S. (2026). Predictors of the ethical use of generative artificial intelligence in higher education. Frontiers in Education, 11, 1942426. doi.org/10.3389/feduc.2026.1942426

ПРИРАЧНИК ЗА ЕТИЧКА ИОДГОВОРНА ПРИМЕНА НАВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈАВО ВИСОКОТО ОБРАЗОВАНИЕ

Прирачникот е институционален водич за етичка и одговорна примена на вештачката интелигенција во високото образование. Посебен фокус има на контекстот и потребите на Филозофскиот факултет во Скопје . Неговата цел е да воспостави јасна рамка за ВИ во наставата, учењето, научноистражувачката работа и административното функционирање. Рамката е во согласност со академските вредности, етичките стандарди и институционалната автономија .

Loading Viewer…

Кога мислењето станува стока: за економијата на вештачката интелигенција

„Knowledge is and will be produced in order to be sold, it is and will be consumed in order to be valorized in a new production: in both cases, the goal is exchange. Knowledge ceases to be an end in itself, it loses its ‘use-value’.“ — Jean-François Lyotard, “The Postmodern Condition: A Report on Knowledge” (1984, English translation).

Уште во 1979 година Жан-Франсоа Лиотар го најави преломот што денес го живееме. Во „Постмодерната состојба“ тој забележа дека знаењето сè повеќе се произведува за да биде продадено, а се користи за да биде вложено во нова продукција — со други зборови, дека престанува да биде цел сама за себе и ја губи својата „употребна вредност“, претворајќи се во чиста стока за размена. Лиотар притоа го имаше предвид кодифицираното, преносливо знаење: она што може да се запише, да се пренесе и да се вгради во информациските системи.

Овој текст тргнува оттаму каде што Лиотар застана. Она што тој го воочи на рамниште на знаењето, вештачката интелигенција сега го доведува до крај на рамниште на самото мислење. Во стока не се претвора само готовиот, запишан производ на умот, туку и живата мисловна способност што го создава тој производ — обработката, синтезата и, на крајот, расудувањето. Ако кај Лиотар знаењето ја губеше употребната вредност преобразувајќи се во разменска, тука истата судбина ја снаоѓа самата когниција: мислењето се разложува на единици што можат да се мерат, да се копираат и да се продаваат на парче. Цитатот на почетокот, така, не е само мото, туку и почетна точка на аргументот што следува.

Воведна теза

За вештачката интелигенција најчесто се зборува како за уште еден чекор во автоматизацијата — машината презема задачи, некои работни места исчезнуваат, други се преобликуваат. Овој текст предлага поинакво гледиште. Вештачката интелигенција не е само нов чекор во механизацијата; таа е првата технологија која го претвора самото мислење во стока — нешто што може да се кодифицира, да се разложи на дискретни единици и да се продаде на парче. Со тоа се менува кој вид човечка способност останува вреден, кој станува евтин и кој останува редок токму затоа што не може да се замени.

Тезата може да се изрази накратко. Вештачката интелигенција не ја уништува вредноста на човечкото мислење; таа ја префрла во еден тесен простор — во просторот на самостојното расудување — а истовремено ги поткопува условите под кои тоа расудување може да се развива и да се одржува. Аргументот што следува ја реконструира и разјаснува линијата изложена кај Mahroum (2026).

Когницијата како ограничен и затоа вреден ресурс

Аргументот тргнува од една базична граница на човечкиот ум. Џорџ Милер (Miller, 1956) покажа дека работната меморија истовремено може да задржи само мал број единици информации — наодот познат како „магичната бројка седум“. Истата интуиција Херберт Сајмон ја вгради во својата теорија за ограничената рационалност: бидејќи самата мисловна способност е оскуден ресурс, луѓето не го бараат најдоброто можно решение, туку се задоволуваат со она што е доволно добро во рамките на нивните когнитивни можности (Simon, 1955). Подоцна Сајмон ја формулира и импликацијата за информациското општество — богатството на информации создава сиромаштија на внимание (Simon, 1971).

Импликацијата не е психолошка, туку економска. Ако човечкиот капацитет за обработка е по природа ограничен и редок, тогаш тој станува ресурс за кој се плаќа. Мислењето отсекогаш било потенцијална стока — но без технологија која можела да го одвои од конкретниот човек, тоа никогаш не можело да стане стока во полна смисла.

Границата што ја поставуваше когнитивниот капитализам

Кога знаењето стана главен извор на вредност во економијата, теоретичарите на когнитивниот капитализам, пред сè Карло Верчелоне (Vercellone, 2007), на оваа поставка ѝ додадоа една важна ограда. Потпирајќи се на Марксовиот поим за „општиот интелект“ (Marx, 1973), тие тврдеа дека капиталот може да присвои многу нешта, но не и најпродуктивниот дел од мислењето — премолченото знаење, расудувањето стекнато преку искуство и чувството за контекст. Овие облици на знаење се неоделиви од личноста што ги носи. За разлика од машината, ваквото знаење не може целосно да се одвои од работникот, да се запише во процедура и да се пренесе по волја. Мисловната работа беше единствениот производен влог што не подлежи на потполна комодификација, токму поради своето вкоренување во конкретниот човек.

Вештачката интелигенција ја побива токму оваа ограда. Премолченото разбирање акумулирано во поединците и во институциите — она што се сметаше за неоделиво од нив — сега може да се изведе од нивните практики, да се копира и да се распредели во голем обем. Така се отвора пазар за нешто за кое Верчелоне беше уверен дека не може да стане стока — самата човечка мисловна способност.

Расчленувањето на когницијата

Претходната теорија ја третираше когницијата како единствена, неделива целина, поради што прашањето за нејзината комодификација беше поставено бинарно — може или не може да се присвои. Аналитичкиот придонес на интерпретацијата што ја следиме е токму во отфрлањето на таа претпоставка. Когницијата не е „една работа“ и не може да се мери на едно единствено ниво.

Корисна оптика овде нуди моделот на работна меморија на Бадли (Baddeley & Hitch, 1974; Baddeley, 2000). Во својата оригинална форма моделот разликува централен извршител и неколку потсистеми кои се грижат за вербалните и за визуелно-просторните содржини, на кои подоцна е додаден и епизоден бафер што ги поврзува информациите од различните извори. За потребите на овој аргумент доволно е да се задржи функционалното јадро во три различни функции — способноста да се задржи и обработи вербалната информација; способноста за синтеза, односно за спојување податоци од повеќе извори во една кохерентна целина; и над нив, она што Бадли го нарекува „централен извршител“, односно функцијата што поставува цели, распределува внимание, се справува со нови ситуации и одредува што е важно.

Оваа поделба има непосредни економски импликации, зашто трите функции не се заменливи меѓу себе и не подлежат на комодификација на ист начин. Вештачката интелигенција веќе ги репродуцира првите две — обработката и синтезата — брзо, во голем обем и за дел од трошокот што денес го имаат институциите за работата на аналитичарите, советниците и стратешките тимови. Она што таа сè уште не може да го реплицира е способноста да дефинираат приоритети, да се расудува во ситуации на неизвесност и да оцени што заслужува внимание.

Повлекувањето на вредноста нагоре

Според ваквото гледиште за когницијата, произлегува една последица што претходната теорија не можеше да ја види. Способностите кои порано даваа предност на пазарот на трудот (читањето, обработката и синтезата на информации) повеќе не функционираат како компаративна предност, бидејќи стануваат универзално достапни. Вреден останува единствено оној слој од мислењето што машината сè уште не може да го репродуцира — самостојното расудување, способноста да се постави сосема ново, оригинално прашање и умеењето да се дејствува во ситуации за кои не постои готов преседан од минатото.

Оваа динамика ја преобликува и социјалната слика на пазарот на знаење. На долното ниво — кај општите и лесно повторливи функции — пристапот се демократизира, така што истражувач во Најроби сега може да изведе многу од истите аналитички задачи како партнер во голема консултантска фирма. На горното ниво, пак — кај специјализираното расудување на онкологот, на геополитичкиот аналитичар или на адвокатот — знаењето се изведува од нивните практики и се концентрира во затворени производи на неколку компании. Истата технологија истовремено и социјализира мислење одоздола и приватизира мислење одозгора. Тоа не се два различни процеса, туку еден процес гледан на две различни перспективи.

Стапица: расудувањето како најзагрозениот ресурс

Овој дел од аргументот ја преобразува дескрипцијата во предупредување. Слојот кон кој се преместува вредноста — самостојното расудување — е истовремено и најкршливиот од трите. Расудувањето не настанува само од себе; тоа се формира токму преку вежбањето на пониските мисловни функции, преку непосредниот контакт со материјалот и преку навиката за самостојна обработка и синтеза. Кога овие функции систематски се препуштаат на машината, исчезнува самиот терен врз кој расудувањето може да расте.

Ендру Ј. Питерсон (Peterson, 2024) оваа динамика ја нарекува колапс на знаењето — кога машината постојано се справува подобро од просечниот човек, поттикот да се развива и да се одржува сопствена аналитичка способност полека слабее. Опасноста овде не доаѓа од неуспехот на технологијата, туку од нејзиниот премногу голем успех. Општеството може да престане да ја негува самата суровина од која зависи и таа технологија.

Заклучокот е парадоксален. Во економија во која машините можат да обработуваат, копираат и распределуваат знаење за речиси никаков трошок, единственото што останува навистина редок ресурс е она што не може да се репродуцира — способноста да се постави прашањето кое никој дотогаш не го поставил, да се види она што другите го промашиле и да се расудува таму каде што нема преседан. Таа способност станува поскапоцена од кога и да било во минатото, а истовремено секојдневно е поткопувана од стимулите на самата технолошка средина во која живееме. Самостојното мислење е и најреткиот вид на стока и најзагрозениот од сите.

Граници на аргументот

Аргументот изложен дотука е оправдан во повеќето чекори, но еден од нив бара резерва. Тврдењето дека расудувањето нужно атрофира штом пониското мислење се препушти на машината е веродостојно, но не е докажано. Тоа е емпириска претпоставка, а не логичка нужност. Во принцип постои можност расудувањето да се одржува и да се негува и преку други практики, дури и кога машината ја носи рутинската обработка. Дали навистина следи колапс или само ризик од колапс под одредени услови, останува отворено емпириско прашање и токму тоа е главната точка на која понатамошните истражувања можат продуктивно да се сосредоточат.

Покрај тоа, аргументот свесно одбегнува едно поголемо прашање. Ако знаењето што ги храни системите на вештачката интелигенција е колективно произведено, како плод од трудот на милиони аналитичари, истражувачи и советници, тогаш прашањето за припадноста на приносите станува политичко-економско. Перспективата на commonfare, односно на колективното управување со плодовите од општествената соработка (Fumagalli, Giuliani, Lucarelli, & Vercellone, 2019), останува надвор од видното поле на аргументот. Тој се задржува на грижата за зачувување на човечкиот капацитет и не оди до прашањето за сопственоста и за прераспределбата. Тоа е простор за следната фаза на анализа.

Користена литература

Baddeley, A. (2000). The episodic buffer: A new component of working memory? Trends in Cognitive Sciences, 4(11), 417–423.

Baddeley, A. D., & Hitch, G. (1974). Working memory. In G. H. Bower (Ed.), The psychology of learning and motivation (Vol. 8, pp. 47–89). Academic Press.

Fumagalli, A., Giuliani, A., Lucarelli, S., & Vercellone, C. (2019). Cognitive capitalism, welfare and labour: The commonfare hypothesis. Routledge.

Lyotard, J.-F. (1984). The postmodern condition: A report on knowledge (G. Bennington & B. Massumi, Trans.). University of Minnesota Press. (Оригинално напишано 1979)

Mahroum, S. (2026, јуни). Cognition for sale. Project Syndicate.

Marx, K. (1973). Grundrisse: Foundations of the critique of political economy (M. Nicolaus, Trans.). Penguin Books. (Оригинално напишано 1857–1858)

Miller, G. A. (1956). The magical number seven, plus or minus two: Some limits on our capacity for processing information. Psychological Review, 63(2), 81–97.

Peterson, A. J. (2024). AI and the problem of knowledge collapse (arXiv:2404.03502). arXiv.

Simon, H. A. (1955). A behavioral model of rational choice. The Quarterly Journal of Economics, 69(1), 99–118.

Simon, H. A. (1971). Designing organizations for an information-rich world. In M. Greenberger (Ed.), Computers, communication, and the public interest (pp. 37–72). The Johns Hopkins University Press.

Vercellone, C. (2007). From formal subsumption to general intellect: Elements for a Marxist reading of the thesis of cognitive capitalism. Historical Materialism, 15(1), 13–36.

Институтот за родови студии — водечка единица во примената на вештачката интелигенција на Филозофскиот факултет

Институтот за родови студии при Филозофскиот факултет во Скопје се издвои како единицата со најинтензивна примена на вештачката интелигенција во наставниот и истражувачкиот процес, според првата систематска аналитика на институционалната ВИ-платформа на Факултетот, спроведена во рамките на проектот „Потенцијали и предизвици на примената на вештачката интелигенција во наставата, учењето и истражувањата во општествените и хуманистичките науки“.

Податоците говорат недвосмислено. Во разгледуваниот период, ВИ-агентот на Институтот за родови студии генерирал 7.784 сесии — највисок резултат меѓу сите дванаесет институтски единици на Факултетот и приближно 40% од вкупната активност на институтскиот слој. За споредба, соодносот меѓу Институтот за родови студии и единицата со најниска активност изнесува близу 29 спрема 1. Овие бројки не доаѓаат од самопроценка или анкета, туку од објективната метрика на самата платформа, што им дава тежина на проверлив факт.

Она што го прави овој резултат особено значаен не е само неговиот волумен, туку и она што стои зад него. Аналитиката покажува дека интензитетот на усвојување на вештачката интелигенција не зависи од големината на академската заедница, туку од нејзината култура — од отвореноста кон рефлексивни, интердисциплинарни и текстуално интензивни методи на работа. Токму по тоа Институтот за родови студии, заедно со психологијата и специјалната едукација, се издвојува: неговата истражувачка ориентација кон критичко промислување, интердисциплинарност и работа со текст се покажува како плодна почва за смислена, а не површна интеграција на новите технологии.

Истовремено, успехот на Институтот не е изолиран потфат, туку дел од пошироката институционална рамка што проектот ја гради. ВИ-агентите на платформата се развиени на технологијата Chipp и функционираат врз архитектура на снипети — програмски вградени инструкции преку кои етичките и институционалните барања на Универзитетот „Св. Кирил и Методиј“ и на Филозофскиот факултет се операционализираат директно во однесувањето на секој агент. На тој начин секоја интеракција се одвива во рамки што самата институција ги дефинира и ги контролира, со што примената на вештачката интелигенција останува во служба на академскиот интегритет и на самостојната работа на студентите, наместо да ја замени.

Резултатите на Институтот за родови студии така не се само показател за технолошка ажурност, туку и потврда дека одговорната, институционално посредувана интеграција на вештачката интелигенција наоѓа свое природно место таму каде што постои подготвеност за критичко и рефлексивно мислење. Во контекст во кој високообразовните институции во регионот сè уште се движат меѓу забрана и нерегулирана употреба, искуството на Институтот нуди конкретен пример дека постои и трета, осмислена можност.

Дигиталниот јаз и структурните неправедности

Дигиталниот јаз претставува расчекор во однос на пристапот до ИКТ и нивната употреба на интернетот помеѓу поединците, домаќинствата и географските области со различно социо-економски ниво . Глобалниот развој на вештачката интелигенција е доминиран од т.н. WEIRD (Западни, Образовани, Индустријализирани, Богати и Демократски) држави, кои при развојот на софтверот подразбираат ресурси како стабилна електрична енергија и интернет со висок проток, што во земјите од Глобалниот Југ често не се достапни. Овој јаз дополнително се продлабочува поради нееднаквиот пристап до инфраструктура и диспаритетот во дигиталните вештини кај луѓето во посиромашните региони.

Развојот на ВИ технологиите е често подложен на „технолошко-колонијален притисок“, каде алгоритамската логика ја еродира оригиналноста и диверзитетот на локалните практики. Бидејќи моделите се тренираат претежно на податоци од WEIRD популации, тие тешко се применуваат во други културни контексти, што води кон длабока културна пристрасност. Големите технолошки компании од Глобалниот Север (како Google и Microsoft) создаваат монопол во дигиталниот простор со што се диктираат образовните политики и се наметнуваат западните вредности како универзален стандард. Оваа „колонијална“ природа е манифестирана и во хегемонијата на англискиот јазик во AIED системите, со што се намалува нивната пристапност за говорниците на други јазици и заедниците со специфични културни референци.

Глобалниот дигитален јаз: глобален Север vs. глобален Југ

Инфраструктурните бариери во земјите од глобалниот Југ се најзначајната препрека за поширока имплементација на ВИ системите. Софтверот развиен на Север подразбира ресурси кои често се земаат здраво за готово, како што се стабилна електрична енергија, моќни компјутери и интернет со висок проток, кои во многу делови од светот се ретки или недостапни. Поради тоа, многу интелигентни системи за учење не функционираат како што е предвидено во контексти каде што корисниците немаат сопствени уреди или постојана конекција, што дополнително ја искривува репрезентативноста на податоците кои истражувачите можат да ги соберат.

Колонијалните структури се видливи и во етичките дебати и управувањето со ВИ, каде што земјите со низок и среден приход (LMICs) се недоволно застапени. Доминацијата на големите технолошки компании од Северот создава монопол кој им овозможува да ги диктираат образовните политики и практики низ целиот свет. УНЕСКО нагласува дека меѓународната соработка мора да се стреми кон надминување на овој асиметричен пристап до знаење и технологија, гарантирајќи дека ниту една земја нема да биде запоставена во заштитата од негативните импликации на ВИ.

Родовата димензија на дигиталниот јаз

Родовата димензија на дигиталниот јаз може да се дефинира како разлика или нееднаквост помеѓу поединците, домаќинствата и заедниците во однос на пристапот до ИКТ и употребата на интернетот, при што жените често се соочуваат со дополнителни структурни препреки. Ваквите нееднаквости водат до состојба на „информативен мрак“, каде што жените остануваат исклучени од придобивките на технолошкиот развој поради недостиг на ресурси и дигитални вештини. Глобалните податоци укажуваат дека постои сериозен ризик вештачката интелигенција (ВИ) дополнително да ги засили постоечките нееднаквости.

Истражувањата спроведени од женските организации во Македонија откриваат исклучително симптоматична состојба во поглед на техничката опременост кај жените. Податоците покажуваат дека голем број на жени, посебно жените со понизок социо-економски статус не располагаат со ресурси и вештини потребни за користење на напредните технологии, со што директно се оневозможува нивната дигитална партиципација и влијание врз политиките.

Во контекст на вештачката интелигенција, овој јаз се продлабочува преку алгоритамската пристрасност и репрезентациските штети. Бидејќи ВИ системите предоминантно се обучуваат на податоци кои не го одразуваат диверзитетот на женското искуство, тие често ги репродуцираат и засилуваат постоечките стереотипи. За надминување на овие предизвици, меѓународните рамки како тие на УНЕСКО инсистираат на проактивно вклучување на жените во сите фази на развој на ВИ, како и на наменски фондови за родово-сензитивни дигитални политики.

Колонијалните структури во развојот на ВИ технологиите

Доминацијата на т.н. WEIRD држави (Западни, Образовани, Индустријализирани, Богати и Демократски) создава технолошко-колонијален притисок, каде алгоритамската логика ја еродира оригиналноста и диверзитетот на локалните образовни и културни практики. Бидејќи моделите се тренираат предоминантно на западни извори, тие претставуваат сериозен епистемолошки предизвик за културите кои не се вклопуваат во овие доминантни рамки.

Структурната нерамнотежа е видлива во пристрасноста на податоците за тренирање, кои најчесто потекнуваат од специфични социо-географски средини како Северна Америка, додека остатокот од светот останува недоволно претставен. Ваквата редуцирана репрезентативност води кон системи кои го привилегираат искуството на белиот, добро ситуиран маж како универзален стандард. Дополнително, големите технолошки компании од Северот (Big Tech) се во постојана конкуренција за структурна доминација врз дигиталните инфраструктури на образованието, што ги прави јавните институции долгорочно зависни од приватни, екстрактивни платформи.

Колонијалното влијание се протега и врз јазичната хегемонија, каде доминацијата на англискиот јазик во јазичните модели ја намалува пристапноста за нематичните говорници и заедниците со специфични културни референци. Земјите со низок и среден приход (LMICs) се често подзастапени, што води кон занемарување на локалното знаење и културниот плурализам во развојот на глобалните стандарди.

Како одговор на овие структури, современите рамки инсистираат на деколонијални перспективи кои го афирмираат правото на заедниците да го контролираат сопственото културно наследство и знаење во ВИ системите. Се предлага усвојување на „двонасочен модел на учење“, во кој автохтоните и западните системи на знаење се третираат како комплементарни, а не како хиерархиски поставени.

Алтернативни и деколонијални перспективи за ВИ

ВИ системите ја дефинираат креативноста и знаењето низ механички и униформни рамки, еродирајќи ја оригиналноста на локалните практики. Како одговор на ова, деколонијалниот пристап бара препознавање на ситуираното знаење и отфрлање на идејата за „неутрална“ објективност, тврдејќи дека секоја технологија е политизиран артефакт што ги рефлектира моќта и интересите на своите креатори.

Алтернативниот пристап предлага афирмирањето на изворните знаења и правото на овие заедници да управуваат со сопственото културно наследство во дигиталната сфера. Ова подразбира почитување на суверенитетот на изворните податоци преку примена на начелата CARE (Колективна придобивка, Авторитет за контрола, Одговорност и Етика), кои се спротивставуваат на експлоативните практики на големите технолошки компании.

Во поглед на глобалната праведност, алтернативните перспективи инсистираат на меѓународна солидарност за да се спречи ВИ дополнително да ги продлабочи нееднаквостите помеѓу Глобалниот Север и Глобалниот Југ. Ова вклучува дизајнирање на ВИ интервенции за помалку софистицирани технолошки платформи и мобилни уреди, наместо да се подразбира постојан пристап до моќна инфраструктура и брз интернет, кои често се недостапни во посиромашните региони. Дополнително, деколонијалниот пристап бара заштита на јазичниот диверзитет преку развој на системи за обработка на природен јазик (NLP) кои ќе ги препознаваат нијансите на загрозените јазици и локалните дијалекти, наместо да ја наметнуваат лингвистичката хегемонија на англискиот јазик.

Вештачката интелигенција во образованието: одговорност без контрола – меѓу комерцијалната алатка и институционалниот систем

На Факултетот за информатички науки во Скопје се најавува презентација со наслов „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“. Насловот звучи беспрекорно — писменост, етика, локални јазици, практична поддршка во секојдневната работа со учениците. И токму во таа беспрекорност лежи прашањето што никој не го поставува: кога еден наставник, совршено писмен и совесен, ќе вклучи комерцијален генеративен модел во својата настава, кој одговара за она што моделот ќе го произведе пред учениците?

Дискусијата за вештачката интелигенција во образованието по правило се води токму во тој регистар — како прашање на вештини: како наставникот да состави добар промпт, кои алатки се корисни, како да се користат етички и внимателно. Тоа прашање е легитимно, но не е централното. Централното прашање не е дали образованието ќе користи вештачка интелигенција — тоа е веќе решено од самата технолошка реалност — туку под чија одговорност ќе ја користи. А одговорноста во образованието не е работа на индивидуална совест; таа е законски лоцирана во институцијата. Токму тоа поместување, од компетенцијата на поединецот кон одговорноста на институцијата, е местото каде целата расправа добива поинаков облик.

Што дискурсот за писменост не може да го каже

Јавниот говор за вештачката интелигенција во образованието денес гравитира околу неколку поими: практична примена, дигитална и медиумска писменост, етичка употреба, поддршка на локални јазици, мотивација на учениците. Тоа не е погрешна лексика. Напротив, таа го отвора неопходното прашање за компетенциите на наставниците и студентите во средина во која генеративните системи стануваат секојдневие. Илустрацијата е блиску: најавата за „ВИ писменост за наставници: локални јазици, етичка употреба и практична поддршка во наставата“, што ќе се одржи на Факултетот за информатички науки во Скопје, ја сместува вештачката интелигенција токму во тој регистар — како практична поддршка во секојдневната работа со учениците, со практични демонстрации на современи решенија и со повик кон критичко размислување и претпазливост.

Проблемот не е во настанот, кој во својот регистар е и корисен и потребен. Проблемот е што целиот тој регистар работи на еден слој — слојот на поединецот. Тој го оспособува поединецот успешно да ги користи алатките. Меѓутоа, постои прашање што тој слој структурно не може да го допре: кога една алатка на вештачка интелигенција, преку својата функција во наставниот процес, престанува да биде приватно помагало и станува дел од образовната испорака, кој ја презема одговорноста за она што таа го произведува? Колку и да е писмен и совесен наставникот, неговата писменост не ја преместува институционалната одговорност, ниту ја извршува. Може да се замисли совршено писмен наставен кадар што совесно користи комерцијална алатка, додека јазот на отчетноста на установата останува целосно недопрен. Писменоста на корисникот не ѝ дава на институцијата контрола врз содржината за која сепак одговара.

Асиметријата меѓу одговорноста и контролата

Во класичниот образовен систем учебниците, наставните средства, наставните и студиските програми и критериумите за оценување не се произволни ресурси — тие се дел од регулирана архитектура. Училиштата, факултетите и универзитетите не се обични корисници на содржини; тие вршат законски дефинирана образовна функција, врзана со прописите за основното, средното и високото образование и со правилата за учебници и наставни средства. Кога системот на вештачка интелигенција се користи како приватна алатка на студентот или наставникот, прашањето останува во рамки на академскиот интегритет: плагијат, транспарентност, индивидуална одговорност. Но штом истиот или сличен систем влезе во наставата, туторството, поддршката на учењето или институционално организираната комуникација со студентите, повеќе не станува збор за приватна употреба. Станува збор за образовна функција извршувана преку дигитален посредник — а таа функција ја носи институцијата.

Оттука произлегува носечкиот аргумент, кој важи без оглед на тоа како ќе го класифицираме системот на вештачка интелигенција. Правната одговорност на образовната институција е дадена и непренослива: таа останува таму каде што правото ја сместило, без оглед на тоа преку каков медиум се испорачува содржината. Директниот пристап до комерцијален генеративен модел ѝ дава на институцијата одговорност без контрола — таа останува отчетна за содржината што се испорачува под нејзино име и во нејзин контекст, но нема никаква моќ да ја обликува, прегледа, ограничи или ревидира. А не може да се биде правно одговорен за излез што не се создава, не се гледа и не се контролира. Општата безбедност на еден комерцијален модел не е исто што и неговата образовна легитимност: моделот може да биде технички напреден, корисен, па дури и релативно безбеден во општ контекст, а образовната институција сепак да нема начин да гарантира релевантност, недискриминација и усогласеност со образовните програми.

Од ова следува заклучок по пат на исклучување. Образовниот систем не може да се однесува како обичен претплатник на дигитална услуга кога услугата почнува да ја врши функцијата на наставен посредник. За да може својата непренослива одговорност воопшто да ја изврши — да ја претвори од номинална во реална — институцијата мора да го интернализира системот доволно за да го контролира. Тоа е структурно барање, не вредносна преференца: локусот на одговорноста мора да се совпадне со локусот на безбдноста.

Кога четот станува наставно средство

Ако одговорноста се определува според функцијата што системот ја врши, а не според неговата техничка форма, тогаш следи дека еден бот што објаснува лекции, генерира задачи, структурира учење, препорачува извори или дава повратна информација влегува во полето на наставните средства — без оглед на тоа што технички е чет-интерфејс, а не печатена книга. Тука вреди да се биде искрен околу една отворена точка. Генеративниот систем не е завршен, фиксен артефакт каков што е учебникот: режимот за одобрување учебници претпоставува статичен текст што се одобрува еднаш, додека ботот произведува променлив, недетерминистички излез при секоја интеракција. Затоа не може да се тврди дека ботот е учебник во строга правна смисла.

Сепак, најверојатната регулаторна траекторија е тој да биде третиран како дигитално учебно помагало или како негов функционален еквивалент — токму затоа што критериумот на регулација е образовната функција, а носител на одговорноста е институцијата што го распоредува. Оваа траекторија не е претпоставка: регулативата на Европската Унија за вештачка интелигенција (Регулатива (ЕУ) 2024/1689) веќе ги класифицира како високоризични системите наменети за оценување на исходите од учењето, вклучително кога тие исходи се користат за насочување на процесот на учење во образовни институции на сите нивоа. Со други зборови, токму логиката „функцијата, не формата“ е веќе позитивно право, со обврски за документација, податочно управување и следливост што паѓаат врз институцијата-обезбедувач. Бидејќи нашата земја е земја-кандидат, тоа доаѓа по линија на хармонизација без оглед на тоа што домашен закон за вештачка интелигенција сè уште нема; до тогаш, како преоден режим, мерливи остануваат прописите за основното, средното и високото образование. Значи прашањето кое институцијата ќе го затекне не е дали нејзиниот образовен бот ќе биде регулиран, туку како — и дали ќе биде поставен така што воопшто да може да го издржи тој режим.

Од декларативна кон извршлива норма

Тука лежи разликата што ги дели двете парадигми посуштински од секоја техничка карактеристика. Во моделот на непосредувана употреба на ВИ, наставникот се обучува како индивидуален корисник, а нормата останува надворешна препорака: користи внимателно, проверувај, не внесувај чувствителни податоци, размислувај критички. Тоа е етика како препорака — декларација запишана во кодекс или упатство, што корисникот треба доброволно да ја почитува, додека самиот систем не знае за неа. Во институционално посредуваниот модел, нормата може да се вгради во архитектурата на системот: контроли поставени пред генерирањето одговори на ВИ системите, проверки по неа и траги што овозможуваат институцијата да препознава обрасци наместо изолирани инциденти. Тоа е етика како оперативна архитектура.

Разликата ја менува самата логика на одговорност. Прашањето престанува да биде „дали овој конкретен одговор е добар?“ и станува „дали системот има повторлив, проверлив и институционално управуван режим што ги намалува ризиците низ многу интеракции?“. Во првиот случај институцијата може да се скрие зад индивидуалната одговорност на наставникот. Во вториот, таа ја презема задачата да создаде систем кој е одговорен затоа што е дизајниран да биде одговорен — куриран, дисциплинарно специфициран, ограничен, означен, тестиран и ревидиран како дел од нејзината образовна функција. Декларацијата секогаш може да остане мртво слово; извршливата норма е условот без кој институционалната отчетност останува само реторика.

Зошто институционалниот систем не е автоматско решение

Поместувањето на одговорноста во институцијата не е бесплатно и не е без свои опасности — а текст што тоа не го признава би бил наивен. Институционалниот систем носи ризик од монокултура: единствен куриран систем лесно може да наметне една рамка на дисциплината и еден „одобрен“ сет одговори, што е спротивно на академскиот плурализам. Носи ризик од прекумерно управување и од „театар на усогласеност“, во кој контролите служат да изгледа дека е сторено нешто, а не вистински да го намалат ризикот. И носи ризик да произведе побавна, посиромашна алатка од добро одржуваната комерцијална, особено таму каде што капацитетот е најмал — иронично, токму во основното и средното образование, каде нормативниот случај за заштитен систем е најсилен, а техничкиот капацитет најслаб.

Затоа институционалната контрола мора да биде пропорционална, документирана, ревидирачка и оспорлива. Контролата не е добра само затоа што е вградена во код; од друга страна, вградена непрозирна контрола е само порафинирана форма на автоматизација. Поентата не е дека институционалниот систем е сам по себе подобар, туку дека е единствениот начин непреносливата одговорност да стане извршлива. Дека тој систем потоа ќе биде добар или лош зависи од тоа дали неговите контроли се отворени за проверка и оспорување — што е работа на дизајн и на академска култура, не на сама институционалност.

Кој одговара кога ботот ќе проговори

Прашањето што го поставивме, не е технолошко туку институционално. Образовните установи не мора да градат сопствени фундаментални модели — тоа за повеќето е речиси невозможно. Поентата е дали ќе изградат сопствен режим на употреба врз постојните модели: куриран, дисциплинарно обликуван и нормативно управуван слој преку кој непреносливата одговорност станува извршлива, наместо да остане декларација на хартија додека содржината тече низ комерцијална црна кутија што институцијата не ја контролира.

Дека тоа не е само теорија покажува конкретен домашен пример. AI Платформата на Филозофскиот факултет во Скопје (aifzf.org) не упатува на надворешни алатки, туку е проект на самиот факултет, со агенти организирани по дисциплини — филозофија, историја, педагогија, психологија, социологија, родови студии — замислени да ги поддржуваат студентите и професорите во рамки на курикулумот. Тоа што платформата си поставува за цел академска и етичка рамка за одговорна имплементација и што е институционален проект поддржан од Министерството за образование и наука, ја сместува одговорноста токму таму каде што треба да биде — во институцијата што ја обезбедува содржината. А тоа што се самоопределува како истражување и студија на случај, а не како готов и непогрешлив производ, не е слабост, туку правилна поставеност: институционалниот систем е легитимен само доколку се испитува, ревидира и оспорува.

Вистинскиот ризик, значи, не е во тоа што образованието ќе користи вештачка интелигенција, туку во тоа што ќе ја користи како да не е образование — туку како пазарна услуга наместо како регулиран јавен и академски процес. Ако АИ-системите стануваат дигитални посредници на знаење, тие мора да подлежат на истата логика што го прави образованието образование: законитост, релевантност, недискриминација, проверливост и усогласеност со програмите.

Затоа иднината не почнува со забрана на користење на АИ, туку од јасно прашање што секоја институција мора да си го постави пред нивниот бот да проговори пред студентите: кога овој систем станува дигитално учебно помагало, кој го одобрува, кој го контролира, кој го ревидира и кој одговара за неговиот излез.

Родова пристрасност во ВИ системите

Родовата пристрасност во системите на вештачка интелигенција (ВИ) е длабоко вкоренета во историските и структурните нееднаквости на општеството. Оваа пристрасност често влегува во системите преку податоците за тренирање, кои ги одразуваат веќе постоечките културни и социјални стереотипи на човештвото. Технолошкиот сектор историски е доминиран од мажи, што довело до вградување на машката перспектива и вредности во самиот дизајн на алгоритмите. Почетоците на ВИ истражувањата се врзани за т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски), чии податоци доминираат во моделите и често не се претставителни за остатокот од светот или за маргинализираните групи.

Пристрасноста во податоците за тренирање

Пристрасноста во податоците за тренирање на системите на вештачка интелигенција (ВИ) е емергентен феномен на ситуираното знаење и општествените структури на моќ. Според феминистичката епистемологија, технологијата никогаш не е неутрална, таа ги рефлектира вредностите на своите креатори и историскиот контекст во кој е создадена. Историските и структурните причини за оваа пристрасност се вплетени во самиот процес на прибирање, обработка и означување на податоците.

Историската пристрасност произлегува од податоци кои во себе носат веќе постоечки културни и социјални стереотипи, генерирани во време кога дискриминаторските обрасци биле нормализирани. Ова често се манифестира преку родово обоени јазични модели, каде што професиите се поврзуваат со специфичен пол, на пример, „медицинска сестра“ како женски род наспроти „доктор“ како машки род, со што алгоритмите само ги засилуваат патријархалните кодови на општеството.

Структурните причини за пристрасност се огледуваат во доминацијата на т.н. WEIRD популации (Западни, Образовани, Индустријализирани, Богати и Демократски) во базите на податоци што се користат за тренирање. Овој дисбаланс значи дека ВИ моделите се обучуваат на искуствата на привилегираните групи, додека маргинализираните заедници, како луѓето со различна боја на кожа или лицата од пониските социо-економски класи остануваат невидливи или се третираат како „отстапување“ од нормата. Кога ваквите непретставителни податоци се користат за системи што донесуваат одлуки во образованието, вработувањето или судството, тие резултираат со дискриминаторски исходи кои ги продлабочуваат социјалните поделби.

Дополнително, се јавува ризикот од „mode collapse“ (колапс на модусот), каде што алгоритмите ги фаворизираат најчестите (доминантните) исходи, дополнително потиснувајќи ги специфичните културни наративи кои се веќе недоволно застапени во дигиталните архиви. Појавата на ваквата системска нерамнотежа е рзултат на тренингот на јазичните модели кои најчесто учат од секундарни извори, она што луѓето го напишале за одредена култура, а не од директно набљудување, што дополнително ја искривува реалноста во корист на оние кои имаат поголема моќ на претставување.

Репрезентацијата на жените во технолошката индустрија и нејзиното влијание

Репрезентацијата на жените во технолошката индустрија не претставува само прашање на еднакви можности за вработување, образование, здравство и сл. Технолошкиот сектор историски е карактеризиран со значајна машка доминација, што директно влијае врз начинот на кој се развиваат и имплементираат новите технологии. Доминантната „bro-culture“ во ИТ индустријата дејствува како бариера што ги оддалечува жените од технологијата, со што се одржува родовата нерамнотежа и се ограничува диверзитетот на перспективи во развојните тимови.

Недостатокот на женска репрезентација во дизајнот води кон вградување на патријархални стереотипи во самите производи. Дигиталните асистенти, како Siri и Alexa, често се дизајнирани со женски гласови и субмисивни карактеристики, со што се нормализира и репродуцира културната претстава за жената како услужна фигура. Оваа „родова перформантивност“ на машините влијае врз социјалната перцепција и ги зајакнува традиционалните родови улоги, каде што машките агенти се доживуваат како рационални и авторитативни, додека женските како емоционални и услужни. Ваквиот дизајн не е случаен, тој е резултат на развојни процеси во кои искуствата на белите, добро ситуирани мажи се земаат како стандардна норма, додека потребите на жените остануваат во „слепа точка“.

Влијанието на ниската застапеност на жените се протега и врз алгоритамската дискриминација во реалниот свет. Истражувањата покажуваат дека алгоритмите за препорака на работни места често ги фаворизираат машките кандидати за технички и раководни позиции, со што директно се засилува родовата сегрегација на пазарот на труд. Во контекст на академските истражувања, историскиот фокус на мажите довел до недоволно препознавање на придонесите на жените и недостаток на анализа за нивните специфични потреби. Овој „информативен мрак“ е особено видлив во истражувањата спроведени кај женските невладини организации во Македонија, каде што слабата техничка опременост и недостигот на дигитални вештини дополнително ги исклучуваат жените од влијание врз ИКТ политиките.

Феминистичка критика на дизајнот на ВИ системите

Феминистичката критика на дизајнот на системите на вештачка интелигенција (ВИ) започнува со деконструкција на митот за технолошката неутралност, тврдејќи дека технологијата ги рефлектира вредностите и моќта на оние што ја создаваат. Според феминистичката епистемологија, секое знаење е ситуирано, што значи дека социјалната позиција на дизајнерот директно ја обликува објективноста и авторитетот на системот. Се посочува дека историската машка доминација во ИТ индустријата довела до вградување на маскулини вредности во кодот, притоа занемарувајќи ги емоционалноста, интуицијата и контекстуалноста како релевантни фактори за дизајнот.

Феминистичките теоретичарки аргументираат дека ВИ системите често оперираат врз основа на бинарни и хетеронормативни претпоставки, што води кон маргинализација на квир, транс и небинарните идентитети кои не се вклопуваат во овие фиксни социјални категории. Современата критика го користи концептот на „киборг феминизам“ на Дона Харавеј, кој предлага надминување на строгите граници помеѓу човечкото тело и технологијата, како и помеѓу традиционалните машко-женски опозиции.

Феминистичкиот дизајн инсистира на препознавање на различностите и вклучување на маргинализираните гласови уште во почетните фази на развојот на алгоритмите. Ваквата перспектива ги разоткрива репрезентациските штети кои настануваат кога „стандардниот корисник“ во дизајнот се замислува исклучиво како млад, бел и технички писмен маж. Овој пристап создава системски „слепи точки“ каде што другите групи се третираат како „отстапување“ од нормата или се целосно невидливи за системите за препознавање лица и медицинските класификации. Како одговор, се предлагаат методологии како „Safety by Design“ и survivor-centered пристапи, кои бараат проактивно вградување на етички и безбедносни механизми во самата архитектура на системите за да се спречи технолошки фасилитираното насилство

Интерсекционалноста применета на ВИ

Интерсекционалниот пристап во проучувањето на вештачката интелигенција (ВИ) нуди аналитичка рамка за разбирање на тоа како различните оски на идентитетот, расата, родот, класата, сексуалната ориентација и попреченоста, се преплетуваат и создаваат специфични искуства на дискриминација или привилегија. Оваа перспектива ја деконструира идејата за технологијата како неутрална алатка, откривајќи дека ВИ системите често дејствуваат како носители на кодови кои истовремено ги зајакнуваат и реинтерпретираат доминантните наративи на нееднаквост. Кога алгоритмите се дизајнираат без интерсекционална свесност, тие ризикуваат да ги репродуцираат комплексните структури на предрасуди вкоренети во социо-културниот контекст.

Пристрасноста во податоците и алгоритмите често произлегува од фактот што „стандардниот корисник“ во технолошката индустрија историски се замислува како млад, бел, технички писмен и добро ситуиран маж. Оваа привилегирана позиција води кон т.н. репрезентациски штети, каде што одредени групи, особено жените со различна боја на кожа, се „бришат“ или остануваат невидливи за алгоритмите. Еден од најекспонираните примери е неспособноста на технологиите за препознавање лица прецизно да ги идентификуваат корисниците со потемна боја на кожа, што директно влијае врз безбедноста и граѓанските права на овие заедници. Во „општеството на црната кутија“, ваквите интерсекционални пристрасности стануваат тешко видливи и уште потешки за преиспитување.

Во контекст на образованието и вработувањето, интерсекционалноста ги разоткрива механизмите преку кои ВИ може да ги продлабочи класните нееднаквости. Таков е примерот со предвидливото моделирање на успехот на учениците во Обединетото Кралство, каде алгоритмите покажале диспропорционално негативно влијание врз учениците од пониските социо-економски слоеви и етничките малцинства. Дополнително, истражувањата покажуваат дека дури и со ист ангажман на платформите за учење, студентите од маргинализираните расни групи имаат помали шанси за успех во споредба со нивните бели врсници, што укажува на вградена системска нерамнотежа која ВИ само ја автоматизира.

Интерсекционалниот пристап е клучен и за справување со технолошки фасилитираното родово базирано насилство (ТФРБН). Решенијата за борба против дигиталното насилство, како што се deepfakes или неовластеното споделување интимни слики, мора да бидат „survivor-centered“ и да ги земаат предвид испреплетените фактори на дискриминација. Без ваква анализа, постои опасност технолошките механизми за заштита да останат неефикасни за жените кои припаѓаат на повеќекратни маргинализирани групи.

Алгоритамската пристрасност и нејзините општествени ефекти

Алгоритамската пристрасност е сериозен социо-технички предизвик кој произлегува од човечките предрасуди вградени во податоците за обука и во самиот дизајн на системите. Таа се манифестира кога алгоритмите за машинско учење статистички ги репродуцираат историските и структурните нееднаквости под превезот на математичка објективност што дава „илузија на неутралност“.

„Илузијата на неутралност“ кај вештачката интелигенција претставува погрешна перцепција дека алгоритмите, поради нивната математичка и логичка основа, се инхерентно објективни и ослободени од човечките предрасуди. Оваа верба во „непогрешливоста“ на автономните системи често се заснова на претпоставката дека пресметковните процеси, како деривати на математиката, се неутрални и автоматски способни да бидат праведни. Сепак, ова е само привид кој го замаглува фактот дека дизајнот и имплементацијата на ВИ се општествено обликувани и ги рефлектираат вредностите, приоритетите и пристрасностите на нивните создавачи.

Наместо да ја отстранат дискриминацијата, алгоритмите честопати ја кодираат и „перат“ (Bias Laundering), претворајќи ги длабоко политичките и социјалните одлуки во привид на објективни факти кои изгледаат природни и неизбежни. Како што истакнуваат критичарите, моделите не се ништо повеќе од „мислења вградени во математика“. Игнорирањето на овие вградени пристрасности под маската на неутралност води кон „алгоритамска опресија“, каде историските нееднаквости се засилуваат и проектираат во општеството преку системи кои изгледаат технички точни, но произведуваат социјално неправедни исходи.

Алгоритамската опресија е системски и инхерентен дел од функционирањето на современите информациски системи кои ги напојуваат пребарувачите и другите веб-апликации. Преку процесот на т.н. „софтверизација“ на дискриминацијата, постоечките општествени нееднаквости се кодираат и перпетуираат во нетранспарентни и интелектуално заштитени машини, а маргинализираните групи се подложени на автоматизирана опресија без реална можност за оспорување на одлуките.

Студии на случај

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)

Овој систем се користел во американското правосудство за предвидување на ризикот од рецидивизам (висок ризик за повторување на делото). Меѓутоа, студиите открија сериозна расна пристрасност каде црните обвинети биле означувани како „лажно позитивни“ со двојно поголема стапка од белите обвинети. Бидејќи алгоритмот е заштитен како трговска тајна, на обвинетите им е оневозможено да ја оспорат неговата логика, што го загрозува правото на праведен правен процес.

Amazon Rekognition

Во овој случај, Amazon мораше да ја повлече својата тајна алатка за регрутирање бидејќи систематски ги дискриминирала жените. Системот учел од историски успешни апликации (кои во технолошкиот сектор доминантно биле машки) и ги казнувал резимеата за вработување што вклучувале „женски“ карактеристики, како на пример, студирање на женски колеџи или учество во женски хобија. Дури и кога се отстрануваат директните индикатори за пол, вештачката интелигенција користи proxy варијабли кои сепак водат до пристрасни одлуки.

Комерцијалните системи за препознавање лица покажуваат драстични интерсекционални разлики во точноста. Истражувањата покажуваат дека системите имаат највисока стапка на грешки кај жените со потемна кожа, додека кај белите мажи грешката е минимална. Ова се должи на податочните збирки кои се во голем дел составени од субјекти со посветол тен како и недостатокот на диверзитет кај тимовите што ги развиваат.

Математичко претставување на праведноста (Fairness)

Математичкото претставување на праведноста во машинското учење е исклучително сложено прашање, бидејќи во академската заедница постојат повеќе од 20 различни математички дефиниции за овој концепт. Истражувачите нагласуваат дека праведноста не може да се сведе на еден концизен статистички или математички проблем, бидејќи различните дефиниции често се меѓусебно некомпатибилни. Овој технички предизвик е всушност обид за математичко моделирање на моралните интуиции, што го прави процесот подложен на вредносните претпоставки и политичките позиции на развивачите. Честопати, овие математички модели се обидуваат да ги претворат двосмисленоста и контекстот во објективно мерливи квантитети, што може да доведе до т.н. заблудата дека квантитативните мерки се инхерентно подобри и пообјективни од другите набљудувања.

Клучните математички пристапи се поделени на групна праведност (Group Fairness) и индивидуална праведност (Individual Fairness). Групната праведност се фокусира на еднаквоста на исходите за различни заштитени групи, често користејќи го „правилото 4/5“ (adverse impact ratio), каде стапката на успех за маргинализираната група не смее да биде пониска од 80% од стапката на доминантната група. Индивидуалната праведност, пак, налага сличните поединци да добиваат слични резултати од алгоритмот. Дополнително, се разликуваат дистрибутивна праведност, која ја мери праведноста на конечниот исход, и процедурална праведност, која се фокусира на етиката и транспарентноста на самиот процес на одлучување. Посовремените методи вклучуваат контрафактичка праведност (Counterfactual Fairness), која го тестира алгоритмот во „симулација“ со замислување свет во кој поединецот би припаѓал на друга демографска група за да се види дали предвидувањето на системот би се променило. Друга важна техника е multi-accuracy ревизијата, која гарантира дека системот постигнува добра прецизност не само на агрегатно ниво, туку и кај специфични интерсекционални потпопулации, како што се повозрасните жени од малцинските етнички групи. Преку овој пристап се овозможува квантифицирање на перформансите низ пресекот на расата, возраста и полот, идентификувајќи ги специфичните комбинации на вештачки неврони одговорни за пристрасните класификации.

Тензии и предизвици

Главниот предизвик е математичката неможност истовремено да се задоволат сите дефиниции за праведност во сите услови. Постои инхерентна некомпатибилност помеѓу калибрацијата на системот и балансирањето на стапките на лажно позитивни и лажно негативни резултати помеѓу групите. Поради ова, развивачите често се соочуваат со компромис (trade-off) помеѓу точноста на моделот и неговата праведност, каде што процесите на де-биасирање можат да ја намалат предвидливата моќ на системот.

Најексплицитниот компромис во машинското учење е оној помеѓу точноста (accuracy) и праведноста (fairness). Честопати, процесите на де-биасирање (отстранување на пристрасноста) на моделите можат да доведат до полошо обучени системи или да ја намалат нивната ефикасност во реална употреба. Постои тензија помеѓу стремежот ВИ системот да не биде сексистички и истовременото обезбедување на податочни збирки кои овозможуваат тој да биде ефективен за својата примарна намена. Ова значи дека оптимизацијата на еден параметар често доаѓа на трошок на друг, што во високоризични сектори како вработувањето или правосудството може да претставува сериозна етичка дилема. Изборот на специфична метрика за праведност е всушност вредносно-ориентирана одлука која рефлектира одредена политичка или социјална позиција на развивачите.

Друг клучен компромис се појавува во областа на документацијата и транспарентноста, поточно помеѓу информираноста и претпазливоста (judiciousness). Иако, за ревизија на пристрасноста е неопходна детална документација за податочните збирки , прекумерното откривање информации може да ја загрози приватноста на поединците чии податоци биле користени за обука или да им помогне на малициозни актери. Истражувачите во владината сфера исто така забележуваат постоење на компромис помеѓу минимизацијата на податоци (заради приватност) и потребата од собирање демографски податоци за да се извршат прецизни проценки за расни или родови диспаритети.

Во поширок социо-технички контекст, овие компромиси поставуваат прашања на одговорност. Научниците мораат да донесуваат одлуки за тоа колкава грешка е дозволена и кој тип на грешка е поприфатлив (на пр. лажно позитивни наспроти лажно негативни резултати во медицината), што директно зависи од проценката на потенцијалната штета врз луѓето. Крајниот предизвик за институциите е да одредат дали социјалните трошоци на овие алгоритамски компромиси се оправдани во однос на придобивките што ги нуди технологијата.

Институтот за родови студии подготви предлог – Етички кодекс за одговорна употреба на вештачката интелигенција Филозофскиот факултет Скопје

Институтот за родови студии при Филозофскиот факултет на Универзитетот „Св. Кирил и Методиј“ во Скопје подготви предлог-драфт на Етички кодекс за етичка и одговорна употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет.

Документот е замислен како основа за поширока академска, институционална и јавна дискусија за тоа како вештачката интелигенција може да се користи во високото образование на начин што ја унапредува наставата и истражувањето, но истовремено ги штити академската чесност, критичкото мислење, приватноста, недискриминацијата, родовата еднаквост и јавниот интерес.

Предлог-драфтот поаѓа од фактот дека вештачката интелигенција веќе е дел од секојдневниот академски живот. Студентите ја користат за ориентација во поими, јазична помош, структурирање идеи и самопроверка на знаењето. Наставниците ја користат за подготовка на наставни материјали, анализа на содржини и поттикнување дискусија. Истражувачите ја користат за организација на информации, обработка на текстови и анализа на податоци. Затоа, прашањето повеќе не е дали вештачката интелигенција ќе биде присутна во академскиот простор, туку како таа да се користи одговорно, транспарентно и критички.

Основната порака на предложениот кодекс е дека вештачката интелигенција може да биде корисна алатка, но не може и не смее да ја замени човечката мисла, академската одговорност, самостојниот интелектуален придонес и моралното расудување. Кодексот ја поставува ВИ како поддршка во наставата, учењето и истражувањето, а не како замена за знаењето, анализата и критичката интерпретација.

Особено значајно е што предлог-драфтот не ја третира вештачката интелигенција како неутрална техничка алатка. Напротив, документот укажува дека ВИ системите можат да репродуцираат пристрасности, стереотипи и нееднаквости, вклучително родови, социјални, културни, етнички и други форми на дискриминација. Токму затоа, Институтот за родови студии ја нагласува потребата од критичка и одговорна употреба на овие технологии, особено кога се создаваат наставни материјали, јавни содржини или научно-истражувачки публикации со поширок општествен дофат.

Предлог-кодексот предвидува дека употребата на вештачка интелигенција треба да биде транспарентна секогаш кога таа има значајна улога во создавањето наставни, студентски, истражувачки или јавни содржини. Тоа значи дека кога ВИ се користи за генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи, таквата употреба треба јасно да се наведе. Од друга страна, рутинската употреба, како правописна и граматичка проверка или превод на поединечни зборови и изрази, не мора да се наведува, освен ако наставникот, предметната програма или уредничките стандарди не бараат поинаку.

Документот посебно внимание посветува и на студентската употреба на вештачката интелигенција. Студентите можат да ја користат ВИ како поддршка во процесот на учење, но таа не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес. Предлог-кодексот истовремено инсистира наставниците јасно да ги информираат студентите за дозволената и недозволената употреба на ВИ во рамки на конкретниот предмет, особено пред изработка на позначајни задачи. На тој начин се избегнуваат нејаснотии, произволни толкувања и неправедно третирање на студентите.

Во научно-истражувачката работа, предлог-драфтот дозволува употреба на ВИ како поддршка за анализа на податоци, обработка на текстови и организација на информации, но јасно утврдува дека одговорноста за научната валидност, интерпретацијата, оригиналноста и точноста на резултатите останува кај истражувачот. Забранета е употреба на ВИ за фабрикување, манипулирање или прикривање научни податоци, резултати или извори.

Еден од поважните аспекти на документот е заштитата на личните, чувствителните, доверливите и необјавените податоци. Предлог-кодексот предупредува дека вакви податоци не смеат да се внесуваат во системи на вештачка интелигенција без соодветна правна и институционална основа. Ова е особено важно за истражувања што вклучуваат интервјуа, анкети, фокус-групи, теренски материјали, докторски тези во подготовка, необјавени ракописи или други материјали со висока чувствителност.

Предлог-драфтот отвора и прашање што често останува занемарено во јавните дебати за вештачката интелигенција: јазичниот суверенитет. Во документот се нагласува дека академски, наставни и истражувачки содржини на македонски јазик, внесени во комерцијални ВИ системи, можат да станат дел од процесите на обработка и обука на тие системи, согласно условите на давателите на услугите. Затоа се препорачува внимателност, особено при работа со необјавени и чувствителни материјали, како и следење на можностите за користење локални или институционално контролирани решенија.

Со овој предлог-драфт, Институтот за родови студии сака да поттикне поширока расправа за тоа како академската заедница треба да одговори на брзите технолошки промени. Намерата не е да се забрани употребата на вештачката интелигенција, туку да се воспостави јасна етичка рамка што ќе овозможи нејзина корисна, правична, транспарентна и академски одговорна примена.

Кодексот е предложен како отворен документ, подложен на дискусија, дополнување и натамошно усогласување со универзитетските политики, законските прописи и потребите на академската заедница. Во таа смисла, Институтот за родови студии го поканува наставно-научниот кадар, студентите, истражувачите, административниот персонал и пошироката заинтересирана јавност да се вклучат во расправата, да дадат свои забелешки и да придонесат кон создавање заедничка култура на одговорна употреба на вештачката интелигенција.

ЕТИЧКИ КОДЕКС за етичка и одговорна употреба на вештачката интелигенција

во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје

I. ОПШТИ ОДРЕДБИ

Член 1

Со овој Етички кодекс се утврдуваат основните начела, правила и одговорности за употреба на вештачката интелигенција во наставата, учењето и научно-истражувачката работа на Филозофскиот факултет при Универзитетот „Св. Кирил и Методиј“ во Скопје.

Овој кодекс има за цел да обезбеди етичка, транспарентна и академски одговорна примена на вештачката интелигенција, во согласност со вредностите на академската заедница, човековите права и јавниот интерес.

Член 2

Етичкиот кодекс е усогласен со Етичкиот кодекс и со Декларацијата за етичка и одговорна употреба на вештачката интелигенција на Универзитетот „Св. Кирил и Методиј“ во Скопје и претставува нивна факултетска спецификација.

Одредбите на овој кодекс се применуваат доколку не се во спротивност со повисоките универзитетски и законски акти.

II. ПРЕДМЕТ И ОПФАТ

Член 3

Овој кодекс се применува на наставно-научниот кадар, соработниците, студентите, истражувачите и административниот персонал на Филозофскиот факултет, како и на сите лица вклучени во наставни и истражувачки активности на Факултетот.

Кодексот се однесува на употребата на сите системи на вештачка интелигенција, вклучително и генеративни модели, автоматизирани системи за анализа, препорака и создавање содржина.

Член 3-а

За потребите на овој кодекс:

Вештачка интелигенција, односно ВИ, означува компјутерски системи или апликации кои создаваат, анализираат, класифицираат, препорачуваат, преведуваат или обработуваат содржини врз основа на податоци, алгоритми или модели.

Генеративна ВИ значи системи кои создаваат нова содржина, како текст, слики, аудио, видео, код, резимеа, анализи, наставни или истражувачки материјали.

Значајна употреба на ВИ означува употреба која суштински влијае врз содржината, структурата, анализата, аргументацијата, методологијата или заклучоците на трудот или материјалот. Таква употреба е, на пример, генерирање делови од текст, предлагање структура, анализа на податоци, обработка на интервјуа или формулирање аргументи.

Рутинска употреба на ВИ значи ограничена техничка или јазична помош која не влијае суштински врз содржината, аргументацијата или заклучоците, како правописна и граматичка проверка, техничко форматирање или превод на поединечни зборови и изрази.

Чувствителни податоци означува лични, доверливи, необјавени или истражувачки податоци, вклучително интервјуа, анкети, фокус-групи, теренски материјали и податоци што можат да идентификуваат лица или групи.

Академски придонес значи самостојна интелектуална работа изразена преку критичко читање, анализа, интерпретација, аргументација, методолошка одлука и заклучување.

Широка дисеминација означува објавување или споделување содржини надвор од непосредниот наставен или интерен работен контекст, како научни трудови, јавни објави, наставни материјали со трајна употреба, извештаи и интернет-содржини.

Кога постои сомнеж дали употребата е значајна или рутинска, се препорачува таа да се наведе.

III. ОСНОВНИ ЕТИЧКИ НАЧЕЛА

Член 4

Употребата на вештачката интелигенција се заснова на начелата на почитување на човековото достоинство, академската слобода, академската чесност и професионалната одговорност.

Системите на ВИ не се неутрални алатки и нивната употреба бара критичка рефлексија.

Вештачката интелигенција се користи како поддршка која не ја заменува човечката мисла, критичкото расудување и моралната одговорност.

Член 5

Употребата на вештачката интелигенција мора да биде правична и недискриминаторска.

Не е дозволена употреба на вештачка интелигенција која директно или индиректно создава или продлабочува родова, социјална, културна, етничка или друга форма на нееднаквост.

Содржините создадени со вештачка интелигенција наменети за широка дисеминација — наставни материјали со траен дофат, јавни објави и истражувачки публикации — подлежат на проверка за пристрасни и стереотипни претстави пред објавувањето.

Надлежното факултетско тело од член 18 прима пријави за повреди на ова начело и ги координира методолошките упатства за идентификација на пристрасни излези, во соработка со Институтот за родови студии и другите институти со релевантна експертиза.

IV. ТРАНСПАРЕНТНОСТ И ОДГОВОРНОСТ

Член 6

Секој корисник на вештачка интелигенција е одговорен за содржината, резултатите и последиците од нејзината употреба. Корисникот треба да биде свесен дека системите на вештачка интелигенција можат да генерираат содржини што изгледаат веродостојно, но содржат неточни тврдења или измислени извори, и одговорноста за нивна проверка останува кај него.

Вештачката интелигенција не може да биде носител на академска, научна или етичка одговорност.

Член 7

Кога вештачката интелигенција има значајна улога во создавање на наставни, истражувачки или јавни содржини, нејзината употреба мора да биде јасно и соодветно наведена.

Под јасно и соодветно наведување се смета: во научни трудови — наведување на користениот систем, верзијата доколку е достапна, и природата на употребата (јазична редакција, помош при структурирање, анализа на податоци и слично); во наставни материјали — кратка ознака за тоа дали и како вештачката интелигенција е користена; во студентски работи — наведување согласно правилата на конкретниот предмет.

Не се бара наведување за рутинска употреба на правописни и граматички проверувачи, ниту за машински превод на одделни поими, освен ако наставникот или уредничкиот стандард на публикувањето бараат поинаку.

Транспарентноста претставува предуслов за зачувување на довербата во наставниот и научно-истражувачкиот процес.

V. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАСТАВАТА

Член 8

Во наставниот процес, вештачката интелигенција може да се користи како дидактичка поддршка за појаснување на поими, анализа на содржини, подготовка на наставни материјали и поттикнување критичка дискусија.

Наставникот останува главен носител на наставниот процес и ја има целосната педагошка и етичка одговорност за нејзината употреба.

Член 9

Наставниците се должни јасно да ги информираат студентите за дозволената и недозволената употреба на вештачката интелигенција во рамки на конкретниот предмет, по правило на почетокот на семестарот и пред секоја позначајна задача.

Правилата за употреба мора да бидат усогласени со целите на наставата и начелата на академската чесност.

Институтите најмалку еднаш годишно одржуваат колегиум посветен на педагошките импликации од употребата на вештачката интелигенција, со цел разменување искуства и развивање заеднички препораки за тоа што во конкретната дисциплина претставува самостојно знаење и самостоен академски придонес, без да се ограничи педагошката слобода на поединечниот наставник.

VI. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО УЧЕЊЕТО

Член 10

Студентите можат да користат вештачка интелигенција како поддршка во процесот на учење, особено за ориентација во поими, јазична корекција, структурирање идеи и самопроверка на знаењето.

Употребата на вештачка интелигенција не смее да го замени самостојното мислење, аналитичката работа и личниот академски придонес.

Член 11

Недозволена е употреба на вештачка интелигенција за целосно извршување на задачи и обврски кои се наменети за проверка на самостојното знаење и вештини на студентот, освен ако тоа не е изрично дозволено од наставникот.

Студентот има право на јасна информација за дозволената и недозволената употреба согласно член 9. Кога правилата не се претходно соопштени, користењето на вештачка интелигенција од страна на студентот не може автоматски да се третира како повреда на академската чесност, освен ако се работи за очигледна повреда на општите начела од овој кодекс.

VII. УПОТРЕБА НА ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ВО НАУЧНО-ИСТРАЖУВАЧКАТА РАБОТА

Член 12

Во научно-истражувачката работа, вештачката интелигенција може да се користи како поддршка за анализа на податоци, обработка на текстови и организација на информации.

Одговорноста за научната валидност, интерпретацијата и оригиналноста на резултатите останува кај истражувачот.

Член 13

Забранета е употреба на вештачка интелигенција за фабрикување, манипулирање или прикривање на научни податоци, резултати или извори.

VIII. ЗАШТИТА НА ПОДАТОЦИ, ПРИВАТНОСТ И ЈАЗИЧЕН СУВЕРЕНИТЕТ

Член 14

При користење на вештачка интелигенција мора строго да се почитуваат прописите за заштита на лични податоци и доверливи информации.

Не е дозволено внесување на чувствителни, необјавени или доверливи податоци во системи на вештачка интелигенција без соодветна правна и институционална основа.

Член 15

При употребата на комерцијални системи на вештачка интелигенција, наставниот, научниот и административниот кадар се поттикнува да биде свесен дека текстови, истражувачки материјали и наставни содржини на македонски јазик внесени во такви системи можат да станат дел од нивните процеси на обработка и обука, под условите на соодветните даватели на услуги.

За работа со необјавени истражувачки податоци, докторски тези во подготовка и слични материјали со висока чувствителност, се препорачува користење на локални или институционално одобрени системи, наместо отворени комерцијални платформи.

Факултетот го следи развојот на отворени и институционално контролирани решенија за вештачка интелигенција, особено оние што го поддржуваат македонскиот јазик, и информира за алтернативи кога такви се достапни.

IX. ИНСТИТУЦИОНАЛНА КООРДИНАЦИЈА, РЕСУРСИ И РАЗВОЈ НА КАПАЦИТЕТИ

Член 16

Филозофскиот факултет може да утврди официјални институционални ресурси и платформи за вештачка интелигенција за настава, учење и истражување.

Утврдувањето на официјални ресурси не подразбира исклучивост. Наставниците и истражувачите задржуваат право, во рамки на својата академска слобода, да користат и други системи на вештачка интелигенција што ги сметаат за соодветни за конкретната наставна или истражувачка цел, под услов да се почитуваат останатите одредби од овој кодекс.

Употребата на алатки надвор од официјалните ресурси во рамки на наставата подлежи на пријавување до надлежните факултетски органи, согласно интерните процедури. Пријавувањето има информативен, а не одобрителен карактер.

Член 17

Факултетот обезбедува континуирани обуки за наставниот, научниот и административниот кадар за етичка, методолошки соодветна и критички свесна употреба на системите на вештачка интелигенција.

Институтот за родови студии, во соработка со останатите институти, може да предложи модули за обука посветени на родовите и социјалните импликации од вештачката интелигенција.

Член 18

За следење на примената на овој кодекс, Факултетот може да формира работно тело или да определи постоечко тело со таа надлежност, кое најмалку еднаш годишно изготвува краток извештај за искуствата, проблемите и предлозите за измена на кодексот.

Извештајот се разгледува на седница на надлежниот факултетски орган и е достапен на интернет-страницата на Факултетот.

X. ЗАВРШНИ ОДРЕДБИ

Член 19

Овој Етички кодекс претставува рамковен акт кој служи како основа за понатамошно уредување и развој на практиките поврзани со вештачката интелигенција на Филозофскиот факултет.

Со оглед на брзината на развој на технологиите на вештачка интелигенција, кодексот задолжително се преразгледува најмалку еднаш на секои две години, врз основа на извештајот од член 18 и собраните искуства.

Кодексот се применува од денот на неговото донесување.