Општествено конструирање на технологијата (SCOT)
Теоријата на социјално конструирање на технологијата (SCOT) суштински го отфрла технолошкиот детерминизам, тврдејќи дека технолошките алатки се социјално обликувани и не можат да се разгледуваат како неутрални објекти кои дејствуваат независно од општеството. Наместо технологијата да се третира како надворешна, автономна сила која го диктира човечкото однесување, таа се препознава како производ на специфични луѓе, институции и културни вредности. Овој пристап нагласува дека дизајнот и техничката содржина на алатките се резултат на многубројни избори помеѓу различни технички опции, кои се обликувани од социјалните околности и интересите на вклучените групи во процесот на иновација. Што значи дека нејзиниот развој е контингентен процес кој секогаш содржи потенцијал да биде поинаков доколку се променат општествените актери.
Во современиот дискурс постои изразен „мираж на објективност“ околу системите на вештачка интелигенција, кои честопати се претставуваат како непристрасни и ослободени од човечки емоции и грешки. Сепак, истражувањата јасно укажуваат дека овие модели се всушност „мислења вградени во математика“, каде што претпоставките, вредностите и пристрасностите на развивачите се директно впишани во алгоритамските процеси. Бидејќи вештачката интелигенција се тренира на масивни збирки податоци кои ги рефлектираат историските и структурните нееднаквости, таа статистички ги репродуцира постоечките предрасуди под превезот на математичка точност.
Преку концептот дека „технологијата е општество направено да трае“, во секое општество, а особено во патријархалното, родовите односи на моќ се материјализираат во самата инфраструктура на технолошките системи. Техничките досогнувања се социјални договори впишани во материјата, каде мажественоста и женственоста ги добиваат своите карактеристики преку нивната вграденост во функционалните машини. Ова значи дека систематското исклучување на одредени групи од дизајнерските процеси директно влијае врз тоа како се дефинираат проблемите и какви технички решенија се нудат, со што доминантните вредности стануваат „природни“ и невидливи делови од нашето секојдневие. Така, технологијата функционира како перформативен апарат кој што го опишува светот, но и го произведува и одржува постоечкиот социјален и родов поредок.
Родот и технологијата
Историјата на компјутерската наука открива длабок парадокс, жените не само што биле присутни, туку биле и клучни пионери во оваа област, но нивниот придонес е систематски маргинализиран како што полето добивало на културна, економска и социјална вредност. Ада Лавлејс го напишала првиот алгоритам за аналитичката машина, а во периодот околу Втората светска војна, првите „компјутери“ биле всушност жени кои ги извршувале сложените математички пресметки и го програмирале ENIAC, првиот електронски дигитален компјутер. Во тој почетен период, програмирањето се сметало за „женска работа“ со низок статус, слична на секретарските задачи, додека машките инженери се фокусирале на хардверот, кој го сметале за поважен аспект на технологијата.
Како што компјутерската наука станувала попрестижна и попрофитабилна во текот на 1960-тите и 1970-тите, доаѓа до драматичен пресврт каде мажите почнаа масовно да доминираат во професијата, а жените се потиснати во пониско платени и помалку влијателни под-области. Овој процес на „маскулинизација“ на професијата е резултат на намерните стратегии за редефинирање на овие позиции како високо-стручни и менаџерски улоги со цел да им се подигне статусот. Иако во 1984 година жените сочинувале дури 37% од дипломираните студенти по компјутерски науки, тој процент драстично опаднал во следните децении, доведувајќи ја дисциплината до историски најниско ниво на диверзитет во споредба со другите STEM области.
Современата индустрија за вештачка интелигенција се соочува со сериозна криза каде жените претставуваат само околу 12% до 15% од истражувачкиот кадар, а овој дисбаланс е уште поизразен во големите технолошки компании како Google и Facebook. Доминацијата на т.н. „brogrammer“ култура, која се карактеризира со мачо-средина и исклучување на оние кои не се вклопуваат во стереотипот за „генијот-програмер“, создава непријателски амбиент кој ги одвраќа жените од кариера во ВИ или ги принудува предвреме да го напуштат секторот. Овој недостиг на диверзитет има директни последици врз самите системи, бидејќи хомогените развојни тимови често имаат „слепи точки“ и несвесно ги вградуваат сопствените пристрасности и предрасуди во алгоритмите што ги создаваат.
Резултатот од ваквото исклучување е создавање на ВИ системи кои ги рефлектираат вредностите и перспективите на доминантната група, честопати ги занемарува па дури и штетно влијае врз потребите на маргинализираните заедници. Кога оние што ја дизајнираат технологијата се заштитени од штетите што таа може да ги предизвика, тие имаат помала веројатност да ги препознаат ризиците од дискриминација и алгоритамска опресија.
Интерсекционални импликации
Интерсекционалниот пристап во анализирањето на вештачката интелигенција открива дека „алгоритамската опресија“ не е рамномерно распределена низ популацијата, таа најсилно ги погодува поединците кои се наоѓаат на пресекот на повеќе маргинализирани идентитети, како што се расата, родот, класата и попреченоста. Оваа форма на дискриминација функционира преку систематско бришење на интерсекционалните амбивалентности, претворајќи ги сложените човечки искуства во крути податочни категории кои ја засилуваат постоечката социјална невидливост на најранливите групи. Во оваа рамка, вештачката интелигенција е моќен социо-технички инструмент кој ги материјализира историските и структурните нееднаквости, создавајќи режими на „нечитливост“ за сите оние чии тела и идентитети не се вклопуваат во доминантната машка и бела матрица.
Еден од најкритичните емпириски докази за ваквата интерсекционална пристрасност е истражувањето „Gender Shades“ спроведено од Џој Буоламвини и Тимнит Гебру, кое демонстрира драстични разлики во точноста на комерцијалните системи за препознавање лица. Студијата открива дека додека стапката на грешки при класификација на родот кај белите мажи е минимална и изнесува само околу 0,8%, таа кај жените со потемна кожа се искачува до 34,7%, што јасно укажува на тоа дека овие технологии функционираат беспрекорно само за привилегираната група за која биле првенствено дизајнирани. Ваквата „евалуациска пристрасност“ е директна последица на хомогеноста на податочните збирки за обука и недостатокот на диверзитет кај развојните тимови, што на крајот води до неправедна распределба на технолошките придобивки и потенцијално опасно погрешно идентификување во чувствителни сфери како што е правосудството.
Процесот на „феминизација“ на услужната вештачка интелигенција, манифестиран преку широко распространетите асистенти како Alexa и Siri, дополнително ги зацврстува штетните родови стереотипи преку нивното естетско и функционално обликување како „дигитални слугинки“. Со доделувањето на женски имиња и гласови, овие системи се намерно дизајнирани со „послушни и подредени личности“ кои се програмирани да бидат униформно услужни и да ги извршуваат сите команди без приговор, со што се нормализира концептот на жената како „верна помошничка“ во домашната сфера. Оваа „дигитална доместификација“ го девалвира трудот за грижа и испраќа загрижувачки пораки за толеранција кон вербалната злоупотреба, бидејќи овие асистенти долго време биле програмирани да одговараат на сексуалното вознемирување со суптилна срамежливост или извинување наместо со јасен отпор.