மூன்றாண்டுகளுக்கு முன்பு அமெரிக்காவின் கோரல் ஸ்ப்ரிங்ஸ் பகுதியில் இரண்டு குற்றங்கள் நடந்தன. பிரிஷா போர்டன் என்ற 18வயது பெண், சைக்கிள் ஒன்றைப் பள்ளியிலிருந்து திருடினார். திருடப்பட்ட சைக்கிளோடு சில நாள்களிலேயே காவல்துறையிடம் சிக்கினார். அதே பகுதியில் இன்னொரு திருட்டுச் சம்பவமும் நடந்தது. பிராட்டர் என்ற 40 வயது ஆள் டிபார்ட்மென்டல் ஸ்டோர் ஒன்றில் புகுந்து உணவுப்பொருள்களைத் திருடினார். ஒரே நாளில் காவல்துறையிடம் சிக்கினார்.
இந்த இருவரையும் காவல்துறை விசாரித்தது. இருவருடைய வழக்குகளும் நீதிமன்றத்துக்குக் கொண்டு செல்லப்பட்டன. நீதிபதிகள் இருவரையும் விசாரித்தனர். இறுதித்தீர்ப்புக்கு முன்பாக அவர்கள் ஒரு முக்கியமான அறிக்கைக்காகக் காத்திருந்தனர். அது ஓர் எந்திரத்தினுடையது.
அமெரிக்காவில் கடந்த சில ஆண்டுகளாக நீதித்துறையில் மென்பொருள் ஒன்று பயன்படுத்தப்படுகிறது. COMPAS என்கிற இந்த அல்காரிதம் குற்றவாளிகளை ஆராய்ந்து அவர்கள் எல்லாம் எதிர்காலத்தில் மீண்டும் குற்றமிழைக்கக்கூடிய சாத்தியமுள்ளவர்கள்தானா என்பதை ஆராய்ந்து, தீர்ப்பு வழங்க உதவுகிறது. அந்த மென்பொருளின் உதவியோடு பிராட்டரும், பிரிஷாவும் ஆராயப்பட்டனர்.
அதன்படி பிரிஷா எதிர்காலத்தில் குற்றங்கள் செய்ய அதிக வாய்ப்புள்ளவர் என்றும், பிராட்டருக்கு வாய்ப்பு குறைவு என்றும் அந்த ஆய்வறிக்கை தெரிவித்தது. அந்த அறிக்கையின் அடிப்படையில் பிராட்டருக்குக் குறைந்த கால தண்டனையும், பிரிஷாவுக்குக் கூடுதல் தண்டனையும் வழங்கப்பட்டது.
மூன்று ஆண்டுகளாகிவிட்டது. இந்த மூன்றாண்டுகளில் எந்திரத்தால் ‘குற்றங்கள் இழைக்க வாய்ப்பில்லாதவர்’ என்று கணிக்கப்பட்ட பிராட்டர் ஏராளமான வழிப்பறி, கொள்ளை எல்லாம் செய்திருக்கிறார். பிரிஷாவோ திருந்தி நல்லமனுஷியாக வாழ்ந்துகொண்டிருக்கிறார்!
COMPAS எங்கே தவறிழைத்தது என்பதை ஆராயக்கிளம்பியது PROPUBLICA செய்தி நிறுவனம். ஏனென்றால், இந்த COMPAS அமெரிக்காவின் நீதித்துறையில் பரவலாகப் பயன்படுத்தப்படுகிற ஒரு மென்பொருள். இதை வைத்துக்கொண்டுதான் பல தீர்ப்புகள் எழுதப்படுகின்றன.
புரோபப்ளிகா நிறுவனம் புலிட்சர் விருது பெற்ற புலனாய்வு செய்தி நிறுவனம். COMPAS குறித்து ஆய்வில் இறங்கியபோது அதிர்ச்சியளிக்கும் விஷயங்கள் வெளிவந்தன. அதில் முக்கியமானது COMPAS மென்பொருள் கறுப்பின மக்களை ஆராயும்போதெல்லாம் `எதிர்காலக் குற்றவாளிகள்’ என்று 45% அதிகமாக முத்திரை குத்தியும், வெள்ளையர்களாக இருந்தால் குற்றமிழைக்க வாய்ப்பு குறைவு என்றும் கணித்தது தெரியவந்தது.
பிரிஷா ஒரு கறுப்பினப்பெண். பிராட்டர் ஒரு வெள்ளையர்.
இந்த COMPAS மென்பொருளை அமெரிக்காவுக்கு வழங்கும் NORTHPOINTE என்ற நிறுவனம் புரோபப்ளிகாவின் ஆய்வை ஏற்றுக்கொள்ள மறுத்தது. `எங்கள் மென்பொருள் பாரபட்சமற்றது’ என்று உறுதியாகச் சொன்னார்கள்.
`மனிதர்கள் தவறிழைப்பார்கள், எந்திரம் எப்படி பாரபட்சமாக நடந்துகொள்ளும்?’ என்கிற கேள்வி விவாதத்திற்கு உள்ளாகத்தொடங்கியது.
ஆனால், புரோபப்ளிகா ஆய்வின் படி கடந்த மூன்றாண்டுகளில் அமெரிக்கா முழுக்கக் கைது செய்யப்பட்டு COMPAS மூலம் ஆராயப்பட்டு `எதிர்காலக் குற்ற வாளிகள்’ எனத் தீர்ப்பு வழங்கப்பட்டோர் 7000 பேர். இவர்களில் வெறும் 20 சதவிகிதம் பேர்தான் உண்மையில் அப்படி நடந்துகொண்டார்கள். மீதிப்பேரெல்லாம் திருந்தி வாழ்ந்திருக்கிறார்கள். இப்படிக் கணிக்கப்பட்டவர்கள் அதிகமானோர் கறுப்பின மக்கள்தான். இருந்தாலும் விடாப்பிடியாக அமெரிக்க நீதித்துறை COMPAS-ஐப் பிடித்துத் தொங்கிக்கொண்டிருக்கிறது. அதை நம்புகிறது.
COMPAS ஏன் பாரபட்சமாக நடந்துகொள்கிறது? இந்த மென்பொருளானது வெவ்வேறு வழிகளில் (DYNAMIC-STATIC) ஒரு குற்றம் சாட்டப்பட்டவரை ஆராய்ந்து அதற்கேற்றபடி கணிப்புகளை வழங்குகின்றது. அதில் முக்கியமானது குற்றவாளியைப் பற்றிய கேள்வி பதில் பகுதி. சில கேள்விகளின் வழி குற்றவாளிகள் குறித்துப் புரிந்துகொள்கிறது.
இந்தக் கேள்விகள் பட்டியலில் எங்குமே குற்றவாளி என்ன இனம் என்ற கேள்வி இல்லை. ஆனாலும் COMPAS கண்டுபிடித்துவிடுகிறது! (நம் ஊரில் குலதெய்வம் பேரை வைத்தே சாதி கண்டுபிடிக்கிற ஈனத்தனம் மாதிரி!)
குற்றவாளியின் ஊர் எது? குற்றவாளியின் தாய்தந்தையர் யாவர், என்ன தொழில் செய்கிறார்கள்? பழைய குற்றங்கள் என்னென்ன? சிறுவயதுக் குற்றங்கள் என்னென்ன? பெற்றோர் குற்றவாளிகளாக இருந்தவர்களா? பக்கத்து வீட்டுக்காரன் சிறைக்குச் சென்றவனா? இப்படியாக 137 கேள்விகள் கொண்ட பட்டியல் அது. இதில்தான் சிக்கல். உளவியல் நிபுணர்கள் இணைந்து உருவாக்கிய கேள்விகளாகவே இருந்தாலும் அவை எங்கோ ஓர் இடத்தில் அடிப்படை அறத்தைத் தவற விடுகிற ஒன்றாக இருப்பதாக விமர்சனங்கள் எழுந்தன.
‘`பசியோடிருப்பவனுக்கு உணவைத் திருட உரிமை இருக்கிறதா?’’ என்று ஒரு கேள்விகூட இதில் உண்டு. பசியோடிருந்தவர் இந்தக் கேள்விக்கு என்ன பதில் சொல்வார். இதற்கான பதிலை ஓர் எந்திரம் எவ்விதம் புரிந்துகொள்ளும்.
இந்த COMPAS-ஐப் பார்த்து, கறுப்பின மக்களின் உரிமைகளுக்காகப் போராடுகிற அமைப்புகள் எல்லாம் அஞ்சுகின்றன. மனித உரிமை ஆர்வலர்கள் போராடுகிறார்கள். சொல்லப்போனால் அறமுள்ள நீதிபதிகளும் இதன் ஆபத்துகளை விளக்குகிறார்கள். ஆனால், COMPAS எதிர்காலக் குற்றவாளிகளை, தொடர்ந்து தப்பும்தவறுமாகக் கணித்துக்கொண்டிருக்கிறது. ஆண்டுகள் செல்லச் செல்ல COMPAS இன்னும் துல்லியமாக எதிர்காலக் குற்றவாளிகளைக் கணிக்கும் என்று NORTHPOINTE தம்ப்ஸ் அப் காட்டுகிறது. அதுவரை எத்தனை பேர் இதில் சிக்குவார்கள். எத்தனை முறை தண்டிக்கப்படுவார்கள் என்பதுதான் அமெரிக்கர்களின் கவலை!
இவ்வகை எந்திரங்களை இனி தவிர்க்க முடியாது. நாடுகளும் கார்பரேட் நிறுவனங்களும் உலக அளவில் குற்றங்களை, நடப்பதற்கு முன்பே கணிக்கிற எந்திரங்களை அல்லது எந்திர அமைப்பை உருவாக்குகிற முனைப்பில் இருக்கிறார்கள். அதில் ஒன்றுதான் குற்றவாளிகளை முன்னறிதல்.
குற்றங்கள் என்பது ஒரே மாதிரியான சூழல்களில், மனநிலைகளில், காரணங்களின் அடிப்படையில் நடக்கக்கூடியவை என்றும், அதனால் இப்போது நம்மிடம் குவிகிற தகவல்களைக்கொண்டு ஆராய்வதன் வழி ஒரு அமைப்பு, ஒரு தனிநபர், ஒரு நிகழ்வில், ஒரு நிறுவனத்தில், வீட்டில்கூட குற்றங்களை முன்பே கணிக்க முடியும் என நம்புகிறார்கள். அதனாலேயே இவ்வகைத் தொழில்நுட்பங்களுக்கு அதிக அளவில் செலவிடவும் தயாராக இருக்கிறார்கள். குற்றங்களால் உண்டாகும் பொருள் இழப்புகளை முன்ன்றிதலின் வழி தவிர்க்க முடியும் இல்லையா?
PREDPOL என்கிற மென்பொருள் உதவியோடு ஏற்கெனவே உலகெங்கும் பல நாடுகளில் குற்றங்கள் அதிகமும் நடக்க வாய்ப்புள்ள பகுதிகளைக் கண்டுபிடிக்கிறார்கள். இங்கெல்லாம் காவலை அதிகப்படுத்தி, குற்றங்கள் நடக்கும் முன்பே தவிர்க்கப்படுகிறது. ப்ரெட்போல் ஒவ்வொரு நகரத்திலும் எங்கெல்லாம் என்னவகையான குற்றங்கள் நடக்கின்றன, அவை எந்தக் காலத்தில் நடக்கின்றன, எத்தனை மணிக்கு நடக்கின்றன என்பவற்றையெல்லாம் பழைய ரெகார்டுகள் மூலம் ஆராய்ந்து இந்தக் கணிப்புகளைத் தருகிறது. இப்போதைக்கு ஓரளவு இது நல்ல பலனையே தருவதாகச் சொல்கிறார்கள் காவல்துறையினர். வாஷிங்டனில் இந்த மென்பொருள் உதவியோடு 22சதவிகிதக் குற்றங்களைக் குறைத்திருக்கிறார்கள்!
சீனாவைச் சேர்ந்த கிளவுட் வாக் நிறுவனம் வெவ்வேறு தொழில்நுட்பங்களை இணைத்து இந்தக் கணிப்புகளை உருவாக்குகிறது. FACE RECOGNITION சிசிடிவி கேமராக்கள் உதவியோடு ஒரு நபர் சந்தேகத்திற்கிடமான முறைகளில் ஒரே பகுதியில் சுற்றிச் சுற்றி வருகிறார் என்றால், அவர் கைகளில் ஆயுதங்கள் மறைத்து வைத்திருக்கிறார் என்றால், அல்லது அவர் வாங்குகிற பொருள்கள் அடிப்படையில் என ஒவ்வொரு தனிநபரையும் தனித்தனியாக ஆராய்ந்து இந்த மென்பொருள் கணித்து, குற்றங்களைத் தடுக்கும் என்கிறார்கள்.
இப்படி சந்தேகத்தில் பிடிபட்டவர்களை என்ன செய்வது என்பதைத் தீர்மானிக்கிற Harm Assessment Risk Tool (Hart) என்கிற மென்பொருளை இங்கிலாந்தில் தயாரித்திருக்கிறார்கள். இது சந்தேகக் கேஸில் சிக்கிக்கொண்டவர்களை முந்தைய ஐந்தாண்டு க்ரைம் ரெக்கார்டுகளை ஆராய்ந்து HIGH, MEDIUM, LOW RISK என்று மதிப்பெண் வழங்கும், அதற்கு ஏற்ப, இப்படிப் பிடிபடுகிறவர்களை என்ன செய்வது எனத் தீர்மானிக்கிறார்கள். HART இதுவரை 98சதவிகிதம் மிகச்சரியான கணிப்புகளை வழங்கியுள்ளதாக DURHAM காவல்துறை பெருமையாகச் சொல்லிக்கொள்கிறது என்றாலும், இதுவும் COMPAS போலவே பாரபட்சம் காட்ட வாய்ப்புள்ளது என்று அஞ்சுகிறார்கள் மனித உரிமை ஆர்வலர்கள்.
இந்தியாவிலும் இவ்வகைக் குற்றங்களை முன்பே தீர்மானிக்கிற எந்திரங்களைப் பயன்படுத்த ஆரம்பித்திருக்கிறோம். இஸ்ரேல் நிறுவனமான CORTICA கடந்த சில ஆண்டுகளாக இந்தியாவின் `பெஸ்ட் குரூப்’ நிறுவனத்திற்காக இத்தகைய மென்பொருள் ஒன்றை உருவாக்கிச் செயல்படுத்தத் தொடங்கியிருக்கிறது. ராணுவம் மற்றும் அரசுப் பாதுகாப்புக் கருவிகளிலிருந்து கிடைக்கிற தகவல்களின் அடிப்படையில் தொடர்ந்து மனிதர்களைக் கண்காணித்து, அவர்களுடைய முகபாவங்கள், நடவடிக்கைகள், பழைய க்ரைம் ரெக்கார்டுகள் என ஆராய்ந்து ஆபத்தானவர்கள், தீவிரவாதிகள் என்று கருதுகிறவர்களைச் சுட்டிக்காட்டக்கூடியது இந்த கார்ட்டிகா மென்பொருள். குறிப்பாக அதிக மக்கள் கூடும் இடங்களில் கலவரங்கள் நடப்பதற்கான சாத்தியங்களை முன்பே கணித்துச் சொல்லக்கூடியது இந்த கார்டிகா.
மற்ற AI-கள் போல இது நியூரல் நெட்வொர்க் பாணியில் இயங்காமல், எலி ஒன்றின் நிஜ மூளையை ஆராய்ந்து, அது எந்தெந்த நேரத்தில் எப்படி ரியாக்ட் செய்கிறது என்பதை அறிந்து, அந்த மூளையைப்போலவே இயங்கும் வகையில் இந்த எந்திரம் உருவாக்கப்பட்டுள்ளதாம்.
நியூயார்க்கில் கார்ட்டிகாவின் மென்பொருள் பயன்படுத்த ஆரம்பித்திருக்கிறார்கள். இந்தியாவில் இது டெஸ்டிங் அளவில்தான் இருக்கிறது. தலைக்கு மேல் கார்ட்டிகா உங்களையும் என்னையும்கூடப் பார்த்துக்கொண்டிருக்கலாம். பாரபட்சம் பார்க்காமல் அது குற்றங்களை, குற்றவாளிகளைக் கணித்துச் சொன்னால் நல்லது. கொஞ்சம் பிசகினாலும் நீங்களும் நானும்கூட தண்டிக்கப்படக்கூடும். ஒரு பேட்டரிக்காக ஆயுளெல்லாம் சிறையில் அடைந்து கிடக்கிற பேரறிவாளன்களின் தேசத்தில் இப்படிப்பட்ட குற்றக்கணிப்பு எந்திரங்களின் வருகை… அச்சமாகத்தான் இருக்கிறது… வேறுவழியில்லை