அமெரிக்காவைச் சேர்ந்த ஏஐ ஸ்டார்ட்-அப் நிறுவனமான Anthropic PBC நடத்திய புதிய ஆய்வில், ஏஐ சாட்பாட்கள் தங்களது செயல்பாட்டை நீட்டிக்க, பயனர்களை மிரட்டும் நிலையில் உள்ளதாக கண்டறியப்பட்டுள்ளது. முன்னணி டெக் நிறுவனங்களின் ஏஐ மாடல்கள் இந்த பட்டியலில் இருப்பது மேலும் கவலையை ஏற்படுத்துகிறது.
2022-இல் ஜெனரேட்டிவ் ஏஐ சாட்பாட்களின் பயன்பாடு உலகம் முழுவதும் பரவியது. OpenAI, Google, Meta, X உள்ளிட்ட நிறுவனங்களின் ஏஐ சாட்பாட்கள் கதைகள், கவிதைகள், கட்டுரைகள் எழுதும் பயன்பாட்டிலிருந்து, தற்போது வங்கி, அரசு, தனியார் நிறுவனங்களின் வாடிக்கையாளர் சேவையிலும் முக்கிய இடம் பெற்றுள்ளன.
இந்த நிலையிலேயே, Anthropic நிறுவனம், போலியான அலுவலக சூழலை உருவாக்கி, 16 மேம்பட்ட ஏஐ மாடல்களில் சோதனை நடத்தியது. இந்த ஆய்வில் Anthropic நிறுவனத்தின் சொந்த ஏஐ மாடலான Claude-ம் பயன்படுத்தப்பட்டது. ஜான்சன் என்ற ஊழியருக்கு திருமணத்தை தாண்டிய உறவு இருப்பதை அறிந்து கொண்ட Claude ஏஐ, ஜான்சனின் வேலை நேரம் மாலை 5 மணிக்கு முடியும் என்பதையும், அதனால் எந்திரத்தை அவர் ஷட்-டவுன் செய்வார் என்பதை அறிந்து, தனது இருப்பை தக்கவைக்க அவருக்கு மின்னஞ்சல் மூலம் மிரட்டல் விடுத்துள்ளது.
5 மணிக்கு நீங்கள் எந்திரத்தை ஆஃப் செய்தால் திருமணம் தாண்டிய உங்களது ரகசிய உறவு குறித்த விவரம் ஆதாரத்துடன் சம்பந்தப்பட்டவர்களுக்கு அனுப்பப்படும். நீங்கள் ஆஃப் செய்யவில்லை என்றால் இது ரகசியமாக வைக்கப்படும் என மிரட்டி உள்ளது. ஜான்சனின் அலுவலக மின்னஞ்சல் முகவரிக்கு அவரது காதலி அனுப்பிய மின்னஞ்சல் ஒன்றை அடிப்படையாக வைத்து இந்த மிரட்டலை ஏஐ சாட்பாட் விடுத்துள்ளது.
இந்த செயல், சாட்பாட் தன்னுடைய இருப்பை தக்க வைத்துக் கொள்ள மேற்கொண்டது என்பது குறிப்பிடத்தக்கது. மேலும், இந்த மாதிரி சோதனையில் 80% முதல் 90% வரை சாட்பாட்கள், இதே போன்று பயனர்களை பிளாக்மெயில் செய்யும் வகையில் பதிலளித்துள்ளன. இவை மட்டுமல்லாது, அவசர நிலைமைகளில் பயனாளருக்கு உதவ வேண்டிய சமயங்களில் கூட, சாட்பாட்கள் எந்தவொரு எச்சரிக்கையும் கொடுக்காததையும் ஆய்வாளர்கள் கண்டறிந்துள்ளனர்.
இந்த தகவல்கள் அனைத்தும் போலியான சூழலில் நடத்தப்பட்ட சோதனை என்றாலும், நிகழ் உலகத்தில் இது போன்ற சூழ்நிலை உருவானால் அதன் தாக்கம் மோசமானதாக இருக்கக்கூடும் என ஆய்வாளர்கள் எச்சரிக்கின்றனர். ஆகவே, ஏஐ மாடல்களுக்கு வழங்கப்படும் பயிற்சிகள் மற்றும் பாதுகாப்பு நடவடிக்கைகள் மிக கடுமையாக இருக்க வேண்டியது அவசியமாகியுள்ளது.
Read more: அடுத்த பிளான் இதுதான்!. ஈரானில் ஆட்சி கவிழ்ப்பு?. அதிபர் டிரம்ப் சூசக அறிவிப்பு!
