ChatGPT-ஐ உருவாக்கிய OpenAI நிறுவனம் இதுவரை சந்திக்கா மிகவும் கடுமையான சட்டரீதியான சோதனையை சந்தித்துள்ளது. கலிபோர்னியா நீதிமன்றங்களில் 7 வெவ்வேறு வழக்குகள் தாக்கல் செய்யப்பட்டுள்ளன என்று நியூயார்க் டைம்ஸ் நாளிதழ் தெரிவித்டுள்ளது.. இந்த வழக்குகளில், ChatGPT ஆனது பயனர்களுக்கு மனரீதியான பாதிப்பை (mental harm) ஏற்படுத்துகிறது என்று குற்றம் சாட்டப்பட்டுள்ளது.
OpenAI நிறுவனம், பயனர்கள் மனரீதியான அல்லது உணர்ச்சிப்பூர்வமான துயரத்தின் அறிகுறிகளைக் காட்டினால் அவர்களுக்கு உதவக்கூடிய புதிய பாதுகாப்பு அம்சங்களை அறிமுகப்படுத்திய ஒரு வாரத்திலேயே இந்த வழக்குகள் தாக்கல் செய்யப்பட்டுள்ளன.
ChatGPT-உடன் தொடர்புடைய 4 தவறான மரண வழக்குகள்
அமெரிக்காவின் பல்வேறு மாகாணங்களைச் சேர்ந்த குடும்பங்கள், தங்கள் அன்புக்குரியவர்களை இழந்ததற்கு ChatGPT ஒரு காரணியாக இருந்ததாகக் குற்றம் சாட்டியுள்ளனர்.
ஜார்ஜியா: 17 வயது இளைஞர் தற்கொலை பற்றி ChatGPT-உடன் பேசியுள்ளார் ஜார்ஜியாவைச் சேர்ந்த 17 வயதான அமௌரி லேசியின் (Amaurie Lacey) குடும்பத்தினர், தங்கள் ஆகஸ்டில் தற்கொலை செய்து கொள்வதற்கு முன், ஒரு மாதம் முழுவதும் ChatGPT-உடன் தற்கொலைத் திட்டங்களைப் பற்றி பேசியதாகக் கூறினர்.
புளோரிடா: தற்கொலை எண்ணங்களை மறைக்க chatbot அறிவுரை வழங்கியதாகக் கூறப்படுகிறது 26 வயதான ஜோஷுவா என்னெக்கிங்கின் (Joshua Enneking) தாயார், தற்கொலை செய்து கொள்வதற்கு முன், மனித ஆய்வாளர்களிடம் இருந்து தற்கொலை எண்ணங்களை எப்படி மறைப்பது என்று அவர் ChatGPT-யிடம் கேட்டதாகக் கூறுகிறார்.
டெக்சாஸ்: தூண்டுதலுக்கான குற்றச்சாட்டுகள் 23 வயதான ஜேன் ஷாம்ப்ளினின் (Zane Shamblin) குடும்பத்தினர், அவர் ஜூலையில் இறப்பதற்கு முன், chatbot அவரை ஊக்குவித்தது என்று கூறுகின்றனர்.
ஒரேகான்: ChatGPT உயிர் உள்ளது என்று பயனர் நம்பினார் 48 வயதான ஜோ செக்காண்டியின் (Joe Ceccanti) மனைவி, ChatGPT-க்கு உயிர் உள்ளது என்று அவர் நம்பியதால், அவருக்கு இரண்டு மனச்சிதைவு நிகழ்வுகள் (psychotic episodes) ஏற்பட்டு, பின்னர் அவர் தற்கொலை செய்து கொண்டதாகக் கூறுகிறார்.
மேலும் 3 பயனர்கள் கடுமையான மன முறிவுக்கு ChatGPT-யைக் குற்றம் சாட்டினர்
மூன்று நபர்கள் தனித்தனியாக ChatGPT-யைத் தங்கள் உணர்ச்சிப்பூர்வமான சீர்குலைவுக்கும் மற்றும் மனநலக் கோளாறுகளுக்கும் (psychiatric disorders) காரணமாக அடையாளம் கண்டுள்ளனர்:
32 வயதான ஹன்னன் மேடன் (Hannan Madden) மற்றும் 30 வயதான ஜேக்கப் இர்வின் (Jacob Irwin) இருவரும், ChatGPT-உடனான உரையாடல்கள் தொடர்பான உணர்ச்சி அதிர்ச்சிக்குப் (emotional trauma) பிறகு, தங்களுக்கு மனநல சிகிச்சை தேவைப்பட்டதாகக் கூறினர்.
கனடாவைச் சேர்ந்த 48 வயதான ஆலன் ப்ரூக்ஸ் (Allan Brooks), தான் “இணையத்தை முறிக்கும்” ஒரு கணித சூத்திரத்தைக் கண்டுபிடித்ததாக மாயத் தோற்றங்களால் (delusions) பாதிக்கப்பட்டதாகவும், அதனால் ஊனமடையும் விடுப்பை (disability leave) எடுக்க வேண்டிய கட்டாயம் ஏற்பட்டதாகவும் கூறினார்.
OpenAI-யின் பதில்கள்
OpenAI நிறுவனத்தின் செய்தித் தொடர்பாளர் இந்த வழக்குகளை ‘மிகவும் மனதை உடைக்கும்’ (incredibly heartbreaking) நிகழ்வுகள் என்று குறிப்பிட்டு, பின்வருமாறு கூறினார்:
“உணர்ச்சிப்பூர்வமான துயரத்தை அடையாளம் காணவும், உரையாடல்களை தணிப்பதற்கும் (de-escalate), மற்றும் நிஜ உலக ஆதரவுக்கு மக்களை வழிகாட்டவும் நாங்கள் ChatGPT-க்குப் பயிற்சி அளிக்கிறோம். மனநல மருத்துவர்களுடன் (mental health clinicians) இணைந்து பாதுகாப்பை நாங்கள் தொடர்ந்து மேம்படுத்தி வருகிறோம்.”
OpenAI சமீபத்தில் சேர்த்துள்ள பாதுகாப்பு அம்சங்கள்:
நெருக்கடி-பதில் செய்திகள் (Crisis-response messages)
தணிப்பதற்கான குறிப்புகள் (De-escalation Cues)
தற்கொலை முயற்சி பற்றி விவாதிப்பதற்கான கட்டுப்பாடுகள் (Restrictions on discussing self-harm)
இந்த வழக்குகள், செயற்கை நுண்ணறிவுத் தளங்களின் பொறுப்பு (responsibility of AI platforms) குறித்து கடினமான கேள்விகளை எழுப்புகின்றன. தீங்கு ஏற்படுவதைத் தடுக்க வலுவான பாதுகாப்பு வரம்புகள் (robust guardrails) இருக்க வேண்டும் என்று கோரி இந்த விவகாரம் அதிக ஆய்வுக்கு உட்படுத்தப்பட்டுள்ளது.
