ஓ மை காட்! AI சாட்போட்களை "கில்லராக" மாற்ற முடியும்! சதி வேலைக்கு பயன்படுத்தினால் என்ன ஆகும்? கூகுள் முன்னாள் சிஇஓ பகீர்!

hacked AI chatbots  கூகுள் முன்னாள் தலைமை நிர்வாக அதிகாரி எரிக் ஷ்மிட், ஹேக் செய்யப்பட்ட AI சாட்போட்கள் சமூகத்திற்கு பெரும் அச்சுறுத்தலாக மாறும் என்று எச்சரித்துள்ளார்.

Image Credit : Gemini

AI Chatbot செயற்கை நுண்ணறிவில் தொடரும் மிரட்டல்

செயற்கை நுண்ணறிவு (AI) குறித்த கேள்விகளும், கவலைகளும் தொடர்ந்து எழுந்த வண்ணம் உள்ளன. இந்த வரிசையில், கூகுளின் முன்னாள் தலைமை நிர்வாக அதிகாரி எரிக் ஷ்மிட் (Eric Schmidt) ஒரு புதிய எச்சரிக்கையை விடுத்துள்ளார். எளிதில் கையாளக்கூடிய AI சாட்போட்கள் (Chatbots) எதிர்காலத்தில் மிகவும் ஆபத்தானவையாக மாறும் என்று அவர் எச்சரித்துள்ளார். AI சாட்போட்களை ஹேக் செய்து தீய நோக்கங்களுக்காகப் பயன்படுத்த முடியும் என்பதே மிகப்பெரிய அபாயம் என்றும், இது தொழில்நுட்பத் துறைக்கு ஒரு பெரிய அச்சுறுத்தல் என்றும் அவர் கூறியுள்ளார்.

Image Credit : Social Media

ஹேக்கர்களால் சிக்கும் ஏஐ பாதுகாப்பு வளையம்

கூகுளின் ஆரம்ப நாட்களில் தலைமைப் பொறுப்பை வகித்த எரிக் ஷ்மிட், AI மாடல்களை எளிதில் தங்கள் கட்டுப்பாட்டிற்குள் கொண்டு வர முடியும் என்பதற்கான கணிசமான ஆதாரங்கள் உள்ளன என்று ஒரு மாநாட்டில் தெரிவித்தார். ஒரு AI மாடலை ஹேக் செய்வதன் மூலம் அதன் பாதுகாப்பை எளிதில் மீற முடியும். உதாரணமாக, ஹேக்கர்கள் ஒரு AI மாடலை தவறான அல்லது சமூகத்திற்கு அச்சுறுத்தல் தரக்கூடிய விஷயங்களைக் கற்றுக்கொடுக்க பயிற்றுவித்தால், அது மிக மோசமான விளைவுகளை ஏற்படுத்தும்.

Image Credit : @Freepik

'ரிவர்ஸ் இன்ஜினியரிங்' ஆபத்து

AI மாடல்களை உருவாக்குவதில் அனைத்து பெரிய தொழில்நுட்ப நிறுவனங்களும் பொறுப்புடன் செயல்பட வேண்டும் என்று லண்டனில் நடந்த ஒரு டெக் மாநாட்டில் எரிக் வலியுறுத்தினார். AI மாடல்களை ஹேக்கர்கள் 'ரிவர்ஸ் இன்ஜினியரிங்' செய்து, அதன் மூலம் தவறான விஷயங்களைப் புகுத்த முடியும். அதாவது, ஒரு AI மாடல் எவ்வாறு செயல்படுகிறது என்பதைப் புரிந்துகொண்டு, அதன்மூலம் அதற்குச் செய்யக்கூடாத விஷயங்களைக் கற்றுக் கொடுக்க முடியும். இந்த அபாயகரமான செயல்முறைக்கு, அந்த AI மாடலை உருவாக்கிய நிறுவனமே பொறுப்பேற்க வேண்டும் என்றும் அவர் குறிப்பிட்டார்.

Image Credit : Getty

அழிவை ஏற்படுத்தும் சாட்போட்களின் திறன்

இன்று அறிமுகப்படுத்தப்படும் பல மேம்பட்ட AI மாடல்களால் கோடிங் எழுதுவது, தர்க்கரீதியான முடிவுகள் எடுப்பது மற்றும் பிழைகளைக் கண்டறிவது போன்ற பல பணிகளைச் செய்ய முடிகிறது. அதேபோல், ஹேக்கிங் மற்றும் 'ஜெயில்பிரேக் தாக்குதல்' போன்ற ஆபத்தான வேலைகளையும் செய்ய முடியும். Generative AI அமைப்புகளால் அவற்றின் சொந்த கோடிங்கைத் திருத்தி எழுத முடியும். அவை கற்றுக்கொள்ளவும், மாற்றியமைக்கவும் கூடிய திறன் கொண்டவை. ஒருவேளை, இந்த அமைப்புகளின் குறியீடுகள் வைரஸ் நிறைந்த குறியீடுகளுடன் நிரப்பப்பட்டு, அது தவறான கைகளில் சிக்கினால், அல்லது பாதுகாப்பு வளையங்கள் சரியாக இல்லையென்றால், அது பெரும் அழிவை ஏற்படுத்தும் என்று எச்சரிக்கப்பட்டுள்ளது.

Image Credit : Gemini

'AI-இன் காட்ஃபாதர்' கொடுத்த முந்தைய எச்சரிக்கை

AI-இன் காட்ஃபாதர் என்று அறியப்படும் ஜெஃப்ரி ஹிண்டன் (Geoffrey Hinton) சில ஆண்டுகளுக்கு முன்பே AI சாட்போட்களின் அபாயங்கள் குறித்து மக்களுக்கு எச்சரிக்கை விடுத்தார். தற்போதுள்ள AI சாட்போட்கள் மனிதர்களை விட புத்திசாலித்தனமானவை அல்ல என்றாலும், தொடர்ந்து பயிற்சி பெற்று அவை அதிக அறிவாற்றலைப் பெறும்போது, அது ஒரு பெரிய அச்சுறுத்தலாக மாறும் என்று அவர் கூறினார். எனவே, இந்த தொழில்நுட்ப வளர்ச்சியில் பாதுகாப்பு நடவடிக்கைகளை உறுதி செய்வது அவசரத் தேவை.