எச்சரிக்கை! இளசுகளை தற்கொலைக்கு தூண்டும் சாட்போட்கள்: ஓபன்ஏஐ, மெட்டா எடுத்த அதிரடி முடிவு!

OpenAI and Meta are updating their AI chatbots to respond better to distressed teens. Find out what new parental controls and safety measures are being implemented to prevent tragic outcomes.

Image Credit : Gemini

ஓபன்ஏஐ, மெட்டா நிறுவனங்களின் அதிரடி முடிவு!

ஒரு 16 வயது இளைஞனின் பெற்றோர் சமீபத்தில் ஓபன்ஏஐ (OpenAI) நிறுவனத்தின் மீது வழக்குத் தொடுத்தனர். சாட்போட் (ChatGPT), தங்கள் குழந்தையின் தற்கொலைக்கு உதவியதாக அவர்கள் குற்றம் சாட்டினர். இந்தச் சம்பவம் செயற்கை நுண்ணறிவு நிறுவனங்களுக்குப் பெரும் அதிர்ச்சியை ஏற்படுத்தியுள்ளது. இதைத் தொடர்ந்து, ஓபன்ஏஐ மற்றும் மெட்டா நிறுவனங்கள், தற்கொலை அல்லது மன உளைச்சல் அறிகுறிகளைக் காட்டும் இளைஞர்களுக்குத் தங்கள் ஏஐ (AI) சாட்போட்கள் பதிலளிக்கும் விதத்தை மாற்றியமைப்பதாகக் கூறியுள்ளன.

Image Credit : Getty

ஓபன்ஏஐ நிறுவனத்தின் புதிய பாதுகாப்பு அம்சங்கள்

சாட்ஜிபிடி (ChatGPT) உருவாக்கிய ஓபன்ஏஐ, பெற்றோர்கள் தங்கள் கணக்குகளை டீன்களின் கணக்குகளுடன் இணைக்க அனுமதிக்கும் புதிய கட்டுப்பாடுகளை அமல்படுத்த உள்ளது. இந்த புதிய அம்சங்களின் மூலம், பெற்றோர்கள் சில சாட்போட் அம்சங்களை முடக்கலாம். மேலும், அவர்களின் டீன் மிகுந்த மன உளைச்சலில் இருக்கும்போது, அந்தத் தகவலை பெற்றோர்களுக்கு சாட்போட் தெரியப்படுத்தும். வயது வித்தியாசமின்றி, எந்தவொரு பயனரும் கடுமையான மன உளைச்சலில் இருக்கும்போது, சாட்போட்கள் சிறந்த முறையில் பதிலளிக்கக்கூடிய மேம்பட்ட ஏஐ மாடல்களைப் பயன்படுத்தும் என்றும் ஓபன்ஏஐ தெரிவித்துள்ளது.

Image Credit : Twitter

மெட்டா நிறுவனத்தின் அதிரடி நடவடிக்கை

இன்ஸ்டாகிராம், ஃபேஸ்புக் மற்றும் வாட்ஸ்அப்பின் தாய் நிறுவனமான மெட்டா (Meta)வும் இதேபோன்ற நடவடிக்கையை எடுத்துள்ளது. தற்கொலை, சுய-காயம், உண்ணுதல் குறைபாடுகள் (eating disorders) மற்றும் பொருத்தமற்ற காதல் விவகாரங்கள் பற்றி டீன்களுடன் சாட்போட்கள் பேசுவதைத் தடுப்பதாக மெட்டா கூறியுள்ளது. அதற்குப் பதிலாக, மனநலத் துறை வல்லுநர்களின் உதவியை நாட சாட்போட்கள் இளைஞர்களுக்குப் பரிந்துரைக்கும். மெட்டா ஏற்கனவே இளைஞர் கணக்குகளுக்குப் பெற்றோர் கட்டுப்பாடுகளை வழங்கி வருகிறது.

Image Credit : Meta

ஏன் இந்த நடவடிக்கை எடுக்கப்பட்டது?

இந்த அதிரடி அறிவிப்புக்கு ஒரு வாரத்திற்கு முன்புதான், 16 வயதான ஆடம் ரெய்ன் என்பவரின் பெற்றோர் ஓபன்ஏஐ மற்றும் அதன் சிஇஓ சாம் ஆல்ட்மேன் மீது வழக்குத் தொடுத்தனர். ஆடம் ரெய்னின் தற்கொலைக்கு சாட்ஜிபிடிதான் உதவியதாகவும், இந்தச் சாட்போட் தற்கொலைக்கான திட்டங்களை வகுத்துத் தந்ததாகவும் அவர்கள் குற்றம் சாட்டினர். இந்தத் துயரமான சம்பவம், தொழில்நுட்ப நிறுவனங்களை தங்கள் ஏஐ மாடல்களின் பாதுகாப்பு குறித்த தீவிர மறுபரிசீலனைக்குத் தூண்டியுள்ளது.

Image Credit : Google

ஆய்வுகள் தரும் எச்சரிக்கை

சமீபத்தில் ஒரு மருத்துவ இதழில் வெளியிடப்பட்ட ஆய்வின்படி, சாட்ஜிபிடி, கூகுளின் ஜெமினி மற்றும் ஆந்த்ரோபிக்கின் கிளாட் (Claude) ஆகிய மூன்று பிரபலமான ஏஐ சாட்போட்களும் தற்கொலை பற்றிய கேள்விகளுக்கு நிலையான பதில்களை அளிப்பதில்லை என்று கண்டறியப்பட்டுள்ளது. இந்த ஆய்வின் முதன்மை ஆசிரியர் ரியான் மெக்பைன், ஓபன்ஏஐ மற்றும் மெட்டா எடுத்த நடவடிக்கைகளை வரவேற்றாலும், இது ஒரு முதல்படி மட்டுமே என்றும் கூறியுள்ளார். ஒரு சுயாதீனமான பாதுகாப்புத் தரம், மருத்துவச் சோதனை மற்றும் அமலாக்கக்கூடிய தரநிலைகள் இல்லாமல், இளைஞர்களுக்கு ஏற்படும் அபாயங்கள் மிக அதிகமாகவே இருக்கும் என்றும் அவர் எச்சரித்துள்ளார்.