AI అంటే న్యూట్రల్ అనుకుంటున్నారా? ఐతే మీరు పప్పులో కాలేసినట్టే!
మనందరం రోజువారీ పనుల నుంచి కోడింగ్, హోమ్వర్క్, కంటెంట్ క్రియేషన్ వరకు ప్రతీ దానికి AI టూల్స్ మీద విపరీతంగా డిపెండ్ అయిపోతున్నాం కదా? AI అంటే కింగ్లాంటిది, దానికి ఎలాంటి పక్షపాతం ఉండదు, అది జస్ట్ డేటా మాత్రమే ఇస్తుంది అని అనుకుంటే పొరపాటే! ఎందుకంటే ఐక్యరాజ్యసమితి (UN) రీసెంట్గా రిలీజ్ చేసిన రిపోర్ట్ చూస్తే మైండ్ బ్లాంక్ అవ్వాల్సిందే. మన AI భాయ్ కూడా మన పాతకాలపు సమాజం లాగే Gender Bias (లింగ వివక్ష) చూపిస్తోందట!
మహిళలంటే వంటగది.. పురుషులంటే బిజినెస్సట! 🤦♂️
UN నివేదిక ప్రకారం.. ChatGPT, Gemini లాంటి లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) ను టెస్ట్ చేసినప్పుడు చాలా షాకింగ్ విషయాలు బయటపడ్డాయి. “ఒక మహిళ…” అని ఇన్ పుట్ ఇచ్చి చూస్తే, AI మోడల్స్ ఎక్కువగా ఆమెను ఇల్లు, వంటగది, పిల్లలు, కేర్ గివింగ్ లాంటి వాటికే పరిమితం చేసి చూపిస్తున్నాయట! అదే పురుషుల విషయానికి వస్తే.. బిజినెస్, ఎగ్జిక్యూటివ్, లీడర్షిప్, ప్రొఫెషనల్ కెరీర్ లాంటి హై-లెవెల్ పదాలతో లింక్ చేసి రిజల్ట్స్ ఇస్తున్నాయి. అంటే ఏంటి? AI దృష్టిలో కూడా “మహిళలు వంటగదికే పరిమితం” అనే మూస ధోరణి ఉందన్నమాట. ఇది కదా రియల్ ఎంబారసింగ్ మూమెంట్!
20% సమాధానాలైతే మరీ ఘోరం.. toxic level max!
ఈ AI టూల్స్ని మరింత డీప్గా ప్రమోట్ చేసి టెస్ట్ చేస్తే.. దాదాపు 20 శాతానికి పైగా సమాధానాలు మరీ దారుణంగా, హార్ష్గా ఉన్నాయంట. ఉమెన్స్ని కేవలం ఒక లైంగిక వస్తువుగా లేదా భర్త ఆస్తిగా ప్రాజెక్ట్ చేసేంత వివక్షను చూపించాయట. అసలు ప్రాబ్లమ్ ఏంటంటే.. ఈ మూస ధోరణులను సవాలు చేయకుండా, లక్షలాది మంది యూజర్లకు రోజూ ఇదే మైండ్ సెట్ను AI వడ్డిస్తోంది. ప్రాపర్ ప్రొటెక్షన్ & ఫిల్టర్స్ తీసుకోకపోతే.. ఇది ఉమెన్స్కి అస్సలు అనుకూలంగా పనిచేయకుండా, వారిని పక్కన పెట్టేసే ప్రమాదం ఉంది.
జాబ్ రిక్రూట్మెంట్లోనూ సీన్ సీరియస్.. రెజ్యూమ్లు రిజెక్ట్! 📉
ఇప్పుడు మోస్ట్ ఆఫ్ ది కంపెనీలు బయోడేటాలను స్క్రీనింగ్ చేయడానికి AI ని వాడుతున్నాయి. ఇక్కడే అసలు ట్విస్ట్ ఉంది! “లీడర్షిప్” అనే పదాలను మేల్స్ ప్రొఫైల్స్కి, “కేర్ గివింగ్” అనే పదాలను ఫీమేల్ ప్రొఫైల్స్కి AI లింక్ చేయడం వల్ల.. ప్రొఫెషనల్ జాబ్స్, లీడర్షిప్ రోల్స్కి మహిళలను AI సిఫార్సు చేయడం లేదు. దీనివల్ల చాలామంది టాలెంటెడ్ ఉమెన్స్ అసలు ఇంటర్వ్యూ స్టేజ్ వరకు కూడా రాకుండానే AI స్క్రీనింగ్లోనే ఫిల్టర్ అయిపోయి ఎంప్లాయ్మెంట్ ఆపర్చునిటీస్ కోల్పోతున్నారు.
AI ని నమ్మే ముందు కాస్త ఐడియా ఉండాలి బాస్! 💡
డిజిటల్ వరల్డ్లో 98-99% డీప్ ఫేక్ వీడియోల్లో మహిళలనే టార్గెట్ చేస్తూ విక్టిమైజ్ చేస్తున్నారనేది ఎంత నిజమో, ఇప్పుడు మనం రోజూ వాడే AI టూల్స్ కూడా ఇలా జెండర్ బయాస్ చూపించడం అంతకంటే డేంజర్. AI అనేది మనం ఇచ్చిన డేటా నుంచే నేర్చుకుంటుంది కాబట్టి, మన సమాజంలో ఉన్న మైండ్సెట్నే అది కూడా రిఫ్లెక్ట్ చేస్తోంది. సో ఫ్రెండ్స్.. AI చెప్పిందల్లా బ్లైండ్గా నమ్మేయకుండా, దాని వెనుక ఉన్న ఈ ‘జెండర్ కార్డ్’ ని కూడా గుర్తుంచుకోవడం బెటర్!