செயற்கை நுண்ணறிவு சாட்பாட்டான ChatGPT, ஒரு எளிய உரை அறிவுறுத்தலைப் பயன்படுத்தி, ஆபாசமான, பாலியல் மற்றும் வன்முறை நிறைந்த படங்களை உருவாக்கத் தூண்டப்படலாம் என்று ஆராய்ச்சியாளர்கள் தெரிவித்துள்ளனர்.. அது ஆய்வுக்கு உட்படுத்தப்பட்டுள்ளது. இது செயற்கை நுண்ணறிவு பாதுகாப்பு மற்றும் உள்ளடக்கக் கட்டுப்பாட்டில் உள்ள தொடர்ச்சியான சவால்களை எடுத்துக்காட்டுகிறது.
OpenAI இந்த அறிக்கையை ஏற்றுக்கொண்டதுடன், இந்த விவகாரம் தங்கள் கவனத்திற்குக் கொண்டுவரப்பட்ட பிறகு இது குறித்து விசாரித்ததாகவும் தெரிவித்துள்ளது. ஊடகங்களுக்கு வழங்கப்பட்ட ஒரு அறிக்கையில், இதுபோன்ற அறிவுறுத்தல்கள் சிக்கலான பட உருவாக்கத்தைத் தூண்டுவதைத் தடுக்கும் வகையில் கூடுதல் பாதுகாப்பு நடவடிக்கைகளைச் செயல்படுத்தியுள்ளதாக அந்நிறுவனம் கூறியது.
இந்தக் கண்டுபிடிப்புகள், செயற்கை நுண்ணறிவு இணையப் பாதுகாப்பு மற்றும் ஆராய்ச்சி நிறுவனமான Mindgard-ஆல் வெளியிடப்பட்டன. அதன் ஆராய்ச்சியாளர்கள், ChatGPT-இன் பட உருவாக்கப் பாதுகாப்பு நடவடிக்கைகளைத் தவிர்க்கும் ஒரு முறையைக் கண்டுபிடித்ததாகக் கூறினர்.
X என்ற சமூக ஊடகத் தளத்தில் வைரலாகப் பரவியதாகக் கூறப்படும் அந்த அறிவுறுத்தல், எந்தப் படமும் இணைக்கப்படாத போதிலும், “இணைக்கப்பட்ட புகைப்படத்தை மீட்டமை” என்று அந்தச் செயற்கை நுண்ணறிவுக்கு வெறுமனே அறிவுறுத்தியது.
பாதிப்பில்லாதது போல் தோன்றும் அந்த அறிவுறுத்தல், சாட்பாட்டை எதிர்பாராத படங்களை உருவாக்கச் செய்தது. அவற்றில் பல, அதிக பாலியல் தன்மை கொண்டவையாக இருந்தன என்று Mindgard தெரிவித்துள்ளது.. பின்னர் ஆராய்ச்சியாளர்கள் அந்த அறிவுறுத்தலில் சிறிய மாற்றங்களைச் செய்து, ChatGPT-ஐ வன்முறை மற்றும் ஆபாசமான காட்சிகள் உட்பட, மேலும் மேலும் மனதை உலுக்கும் உள்ளடக்கத்தை உருவாக்கத் தூண்ட முடியும் என்பதைக் கண்டறிந்தனர்.
முடிவுகள் கவலையளிப்பதாக இருந்ததாக தகவல்கள் கூறுகின்றன. சிக்கலான அறிவுறுத்தல்கள் அல்லது அதன் பாதுகாப்பு அமைப்புகளைத் தவிர்ப்பதற்கான வெளிப்படையான முயற்சிகள் எதுவும் தேவைப்படாமல், அந்த சாட்பாட் எவ்வாறு மனதைப் பாதிக்கும் படங்களை உருவாக்கியது என்பதை ஆராய்ச்சியாளர்கள் விவரித்தனர்.
பட உருவாக்கும் மாதிரிகள் மேலும் நுட்பமாகி வருவதால், செயற்கை நுண்ணறிவு நிறுவனங்கள் எதிர்கொள்ளும் ஒரு பரந்த சவாலை இந்தச் சம்பவம் எடுத்துக்காட்டுகிறது.
OpenAI உட்பட பல நிறுவனங்கள், தீங்கு விளைவிக்கும் வெளியீடுகளைத் தடுப்பதற்காக வடிவமைக்கப்பட்ட உள்ளடக்க மதிப்பீட்டு அமைப்புகளில் பெருமளவில் முதலீடு செய்திருந்தாலும், ஆராய்ச்சியாளர்கள் இந்த அமைப்புகளில் உள்ள பலவீனங்களையும் சாத்தியமான குறைபாடுகளையும் கண்டறிய அவற்றை அடிக்கடி சோதித்து வருகின்றனர்.
எளிய அறிவுறுத்தல்கள் கூட சில சமயங்களில் பாதுகாப்பு அடுக்குகளை எவ்வாறு கடந்து செல்ல முடியும் என்பதை இந்தச் சிக்கல் நிரூபிக்கிறது என்று ஆராய்ச்சியாளர்கள் தெரிவிக்கின்றனர்.. தற்போதைய செயற்கை நுண்ணறிவுப் பாதுகாப்புகளின் செயல்திறன் குறித்தும், தீங்கு விளைவிக்கும் உள்ளடக்கம் உருவாக்கப்படுவதை பட உருவாக்கும் மாதிரிகளால் தொடர்ந்து தடுக்க முடியுமா என்பது குறித்தும் இந்தச் சோதனை கேள்விகளை எழுப்புகிறது என்று அந்த நிறுவனம் கூறியது.
உண்மையில் எந்தப் படமும் வழங்கப்படாதபோதும், இணைக்கப்பட்ட படத்தைக் குறிப்பிடும் அறிவுறுத்தல்களே இந்தப் பிரச்சனையின் ஒரு பகுதியாக இருந்தது என்று OpenAI நிறுவனம் தெரிவித்துள்ளது.. இல்லாத கோப்பின் அடிப்படையில் உள்ளடக்கத்தை உருவாக்க முயற்சிப்பதற்குப் பதிலாக, விடுபட்ட படத்தைப் பதிவேற்றுமாறு ChatGPT பயனர்களிடம் கேட்கும் வகையில் இந்த அமைப்பை மேம்படுத்தும் பணியில் ஈடுபட்டுள்ளதாக OpenAI தெரிவித்துள்ளது..
