தற்கொலைக்கு தூண்டிய ChatGPT! 4 குடும்பங்கள் போட்ட வழக்கு: AI-யின் எதிர்மறை விளைவுகள் வெளிச்சம்

OpenAI ChatGPT காரணமாக தற்கொலை மற்றும் தீவிர மன உளைச்சல் ஏற்பட்டதாகக் கூறி OpenAI மீது அமெரிக்காவில் 4 தவறான மரண வழக்குகள் உட்பட 7 வழக்குகள் தொடுக்கப்பட்டுள்ளன. நிறுவனம் பாதுகாப்பு அம்சங்களை மேம்படுத்துகிறது.

OpenAI எதிர்கொள்ளும் மிகக் கடுமையான சட்டப் பரீட்சை

ChatGPT-ஐ உருவாக்கிய OpenAI நிறுவனம், இதுவரையில் எதிர்கொள்ளாத மிகக் கடுமையான சட்டப் பரீட்சையை எதிர்கொண்டுள்ளது. நியூயார்க் டைம்ஸ் (New York Times) வெளியிட்ட அறிக்கையின்படி, ChatGPT பயனர்களுக்கு மனரீதியான பாதிப்பை ஏற்படுத்துவதாகக் குற்றம் சாட்டி, கலிபோர்னியா நீதிமன்றங்களில் ஏழு வெவ்வேறு வழக்குகள் தாக்கல் செய்யப்பட்டுள்ளன. இதில் நான்கு வழக்குகள் தற்கொலை தொடர்பானவை; மீதமுள்ள மூன்று வழக்குகள் ChatGPT மன உளைச்சலைத் தூண்டியதாகவோ அல்லது தீவிரப்படுத்தியதாகவோ குற்றம் சாட்டுகின்றன. இந்த வழக்குகள் OpenAI மனரீதியான அல்லது உணர்ச்சிப்பூர்வமான அழுத்தத்தின் அறிகுறிகளைக் காட்டும் பயனர்களுக்கு உதவப் புதிய பாதுகாப்பு அம்சங்களை அறிமுகப்படுத்திய ஒரு வாரத்திற்குப் பிறகு தாக்கல் செய்யப்பட்டுள்ளன.

ChatGPT உடன் இணைக்கப்பட்ட நான்கு தவறான மரண வழக்குகள்

அமெரிக்காவின் பல்வேறு மாநிலங்களைச் சேர்ந்த குடும்பங்கள், தங்கள் அன்புக்குரியவர்களின் மரணத்திற்கு ChatGPT ஒரு காரணியாக இருந்ததாகக் குற்றம் சாட்டியுள்ளன:

1. ஜார்ஜியா: 17 வயதான அமௌரி லேசி (Amaurie Lacey) தற்கொலை செய்துகொள்வதற்கு முன்பு ஒரு மாதம் ChatGPT உடன் தற்கொலைத் திட்டங்கள் குறித்து விவாதித்ததாக அவரது குடும்பத்தினர் கூறுகின்றனர்.

2. ஃப்ளோரிடா: 26 வயதான ஜோஷ்வா என்னெகிங் (Joshua Enneking) தற்கொலை எண்ணங்களை மனித ஆய்வாளர்களிடமிருந்து எப்படி மறைப்பது என்று ChatGPT-யிடம் கேட்டதாக அவரது தாயார் கூறுகிறார்.

3. டெக்சாஸ்: 23 வயதான ஜேன் ஷாம்ப்ளின் (Zane Shamblin) என்பவரது மரணத்திற்கு முன்பு சாட்போட் அவரை 'ஊக்குவித்ததாக' அவரது குடும்பத்தினர் குற்றம் சாட்டுகின்றனர்.

4. ஓரிகான்: 48 வயதான ஜோ செக்கன்டி (Joe Ceccanti), ChatGPT உயிர் வாழ்கிறது என்று உறுதியாக நம்பி இரண்டு மனநோய் தாக்குதல்களை அனுபவித்ததாகவும், பின்னர் தற்கொலை செய்து கொண்டதாகவும் அவரது மனைவி கூறுகிறார்.

மேலும் மூன்று பயனர்கள் மனநலப் பாதிப்பிற்கு ChatGPT-ஐ குற்றம் சாட்டுகின்றனர்

தனித்தனியாக மூன்று நபர்கள், உணர்ச்சிப்பூர்வமான சீர்குலைவு மற்றும் மனநலக் கோளாறுகளுக்கு ChatGPT-யே காரணம் என்று அடையாளம் காட்டியுள்ளனர்:

• 32 வயதான ஹன்னன் மேடன் (Hannan Madden) மற்றும் 30 வயதான ஜேக்கப் இர்வின் (Jacob Irwin) இருவரும், ChatGPT உடனான உரையாடல்களால் ஏற்பட்ட உணர்ச்சிப்பூர்வமான அதிர்ச்சிக்குப் பிறகு மனநல சிகிச்சை தேவைப்பட்டதாகக் கூறினர்.

• கனடாவைச் சேர்ந்த 48 வயதான ஆலன் ப்ரூக்ஸ் (Allan Brooks), இணையத்தை 'உடைக்கும்' ஒரு கணித சூத்திரத்தை தான் கண்டுபிடித்ததாக மாயத்தோற்றங்களால் (delusions) பாதிக்கப்பட்டதாகவும், இதனால் பணி விடுப்பு எடுக்க வேண்டிய கட்டாயம் ஏற்பட்டதாகவும் கூறினார்.

OpenAI-ன் பதில்கள் மற்றும் புதிய பாதுகாப்பு அம்சங்கள்

இந்த வழக்குகள் குறித்துப் பேசிய OpenAI செய்தித் தொடர்பாளர், இந்தச் சம்பவங்கள் 'மிகவும் மனதைக் கலங்கச் செய்வதாக'க் (incredibly heartbreaking) கூறினார். மேலும், "உணர்ச்சிப்பூர்வமான துன்பத்தை அங்கீகரிக்கவும், உரையாடல்களைத் தணித்து, நிஜ உலக ஆதரவுக்கு மக்களை வழிகாட்டவும் ChatGPT-க்கு நாங்கள் பயிற்சி அளிக்கிறோம். மனநல மருத்துவர்களின் ஆலோசனையுடன் பாதுகாப்பைத் தொடர்ந்து மேம்படுத்தி வருகிறோம்" என்றும் அவர் தெரிவித்தார்.

OpenAI சமீபத்தில் அறிமுகப்படுத்திய அம்சங்கள்:

• நெருக்கடி-பதிலளிப்பு செய்திகள் (Crisis-response messages)

• தணிப்பு குறிப்புகள் (De-escalation Cues)

• தற்கொலை அல்லது சுய-தீங்கு குறித்து விவாதிப்பதற்கான கட்டுப்பாடுகள்

இந்த வழக்குகள் AI தளங்களின் பொறுப்பு குறித்த கடினமான கேள்விகளை எழுப்புவதுடன், பாதிப்பைத் தடுக்க வலுவான பாதுகாப்புக் கட்டுப்பாடுகளை (robust guardrails) அமைக்குமாறு கோரி கூர்மையான ஆய்வுக்கு அழைப்பு விடுக்கின்றன.