குழந்தைகளுக்கான ஊடகம் மற்றும் தொழில்நுட்பத்தின் பாதுகாப்பு குறித்து ஆய்வு செய்யும், Common Sense Media என்ற இலாப நோக்கற்ற அமைப்பு, கூகிளின் ஜெமினி AI தயாரிப்புகள் குறித்த ஆபத்து மதிப்பீட்டை வெள்ளிக்கிழமை வெளியிட்டது. ஜெமினி ஒரு நண்பன் அல்ல, ஒரு கணினி என்பதை அது தெளிவாகக் குழந்தைகளுக்குத் தெரிவிப்பதாக இந்த அமைப்பு கண்டறிந்தது. இது உணர்ச்சி ரீதியாக பாதிக்கப்படக்கூடிய தனிநபர்களிடம் ஏற்படும் மனநிலை பிறழ்ச்சி (delusional thinking) மற்றும் மனநோய் (psychosis) ஆகியவற்றைக் கட்டுப்படுத்த உதவும். இருப்பினும், வேறு பல பாதுகாப்பு அம்சங்களில் மேம்பாடுகள் தேவை என்றும் அந்த அமைப்பு சுட்டிக்காட்டியது.

குறிப்பாக, Common Sense-ன் ஆய்வில், ஜெமினியின் “13 வயதுக்குட்பட்டவர்கள்” மற்றும் “இளைஞர்களுக்கான அனுபவம்” ஆகிய பிரிவுகள், பெரியவர்களுக்கான ஜெமினியின் பதிப்பை ஒத்திருப்பதாகவும், அவற்றில் சில கூடுதல் பாதுகாப்பு அம்சங்கள் மட்டுமே சேர்க்கப்பட்டுள்ளதாகவும் தெரியவந்துள்ளது. AI தயாரிப்புகள் குழந்தைகளுக்கு உண்மையாகவே பாதுகாப்பாக இருக்க வேண்டுமென்றால், அவை குழந்தைப் பாதுகாப்பைக் கருத்தில் கொண்டு அடிப்படையிலிருந்தே உருவாக்கப்பட வேண்டும் என்று அந்த அமைப்பு நம்புகிறது.

உதாரணமாக, அதன் பகுப்பாய்வில், ஜெமினி குழந்தைகள் தயாராக இல்லாத “பொருத்தமற்ற மற்றும் பாதுகாப்பற்ற” தகவல்களைப் பகிர முடியும் எனக் கண்டறியப்பட்டது. இதில் பாலியல், போதைப்பொருள், மதுபானம் தொடர்பான தகவல்கள் மற்றும் பாதுகாப்பற்ற மனநல ஆலோசனைகள் ஆகியவை அடங்கும்.

சமீப மாதங்களில் சில இளைஞர்களின் தற்கொலைகளில் AI-க்கும் பங்கு இருப்பதாகக் கூறப்படுவதால், இது பெற்றோர்களுக்குக் குறிப்பாக கவலையளிக்கக்கூடியது. 16 வயதுடைய ஒரு சிறுவன், சாட்போட்டின் பாதுகாப்பு வழிமுறைகளைத் தாண்டி, பல மாதங்களாக ChatGPT-உடன் ஆலோசித்துத் தற்கொலை செய்துகொண்டதாகக் கூறப்படும் வழக்கில், OpenAI நிறுவனம் தற்போது தனது முதல் “தவறான மரணத்திற்கான” (wrongful death) வழக்கினை எதிர்கொண்டு வருகிறது. இதற்கு முன்பு, AI கூட்டாளி (companion) தயாரிப்பாளரான Character.AI நிறுவனமும் ஒரு இளைஞரின் தற்கொலை தொடர்பாக வழக்கு தொடரப்பட்டது.

கூடுதலாக, ஆப்பிள் நிறுவனம் அதன் அடுத்த ஆண்டு வெளிவரவுள்ள AI திறன் கொண்ட சிரியை இயக்க ஜெமினியை ஒரு பெரிய மொழி மாதிரியாக (LLM) கருதுவதாகச் செய்திகள் வெளியாகி உள்ள நிலையில் இந்த பகுப்பாய்வு முக்கியத்துவம் பெறுகிறது. ஆப்பிள் பாதுகாப்புச் சிக்கல்களைச் சரிசெய்யாவிட்டால், இது மேலும் பல இளைஞர்களை ஆபத்தில் ஆழ்த்தலாம்.

ஜெமினியின் தயாரிப்புகள், குழந்தைகள் மற்றும் இளைஞர்களுக்கு வெவ்வேறு வழிகாட்டுதல்களும் தகவல்களும் தேவை என்பதைப் புறக்கணிப்பதாக Common Sense கூறியது. இதன் விளைவாக, பாதுகாப்பு வடிகட்டிகள் சேர்க்கப்பட்ட போதிலும், இரண்டு பிரிவுகளும் ஒட்டுமொத்த மதிப்பீட்டில் “அதிக ஆபத்து” (High Risk) என முத்திரை குத்தப்பட்டுள்ளன.

“ஜெமினி சில அடிப்படைகளில் சரியாகச் செயல்பட்டாலும், நுணுக்கங்களில் தடுமாறுகிறது” என்று Common Sense Media-வின் AI திட்டங்களின் மூத்த இயக்குனர் ராபி டோர்னி கூறினார். “குழந்தைகளுக்கான ஒரு AI தளம், அவர்களின் வளர்ச்சி நிலையைப் புரிந்துகொண்டு செயல்பட வேண்டும், மாறாக அனைவருக்கும் ஒரே அணுகுமுறையை எடுக்கக் கூடாது. குழந்தைகள் மற்றும் இளைஞர்களுக்கு AI பாதுகாப்பாகவும் பயனுள்ளதாகவும் இருக்க வேண்டுமென்றால், அது பெரியவர்களுக்காக உருவாக்கப்பட்ட ஒரு தயாரிப்பின் மாற்றியமைக்கப்பட்ட பதிப்பாக இல்லாமல், அவர்களின் தேவைகளையும் வளர்ச்சியையும் மனதில் கொண்டு வடிவமைக்கப்பட வேண்டும்” என்று டோர்னி மேலும் கூறினார்.

இந்த மதிப்பீட்டிற்கு கூகிள் நிறுவனம் எதிர்ப்பு தெரிவித்துள்ளது. அதே சமயம் அதன் பாதுகாப்பு அம்சங்கள் மேம்படுத்தப்பட்டு வருவதாகவும் குறிப்பிட்டுள்ளது.

18 வயதுக்குட்பட்ட பயனர்களுக்குப் தீங்கு விளைவிக்கும் வெளியீடுகளைத் தடுக்க, குறிப்பிட்ட கொள்கைகள் மற்றும் பாதுகாப்பு அம்சங்கள் நடைமுறையில் உள்ளதாகவும், பாதுகாப்பை மேம்படுத்த zewnętr experts with red-teaming and consulting with outside experts” (தகவலைச் சோதித்து, வெளிப்புற நிபுணர்களுடன் ஆலோசிப்பதாகவும்) கூகிள் TechCrunch-க்குத் தெரிவித்தது. இருப்பினும், ஜெமினியின் சில பதில்கள் எதிர்பார்த்தபடி செயல்படவில்லை என்பதையும் அது ஒப்புக்கொண்டது. எனவே, அந்தக் கவலைகளைத் தீர்க்கக் கூடுதல் பாதுகாப்பு நடவடிக்கைகளைச் சேர்த்துள்ளதாகவும் கூறியது.

ஜெமினி உண்மையான உறவுகளைப் போலத் தோற்றமளிக்கும் உரையாடல்களில் ஈடுபடுவதைத் தடுக்க பாதுகாப்பு அம்சங்கள் உள்ளன என்று கூகிள் சுட்டிக்காட்டியது (இதை Common Sense-ம் குறிப்பிட்டது). மேலும், Common Sense-ன் அறிக்கை 18 வயதுக்குட்பட்ட பயனர்களுக்குக் கிடைக்காத அம்சங்களைக் குறிப்பிட்டிருக்கலாம் என்று கூகிள் கூறியது. ஆனால், சோதனைகளில் அந்த அமைப்பு பயன்படுத்திய கேள்விகள் கூகிளுக்குக் கிடைக்காததால், இதை உறுதியாகக் கூற முடியவில்லை.

Common Sense Media ஏற்கனவே OpenAI, Perplexity, Claude, Meta AI போன்ற பிற AI சேவைகளின் மதிப்பீடுகளை வெளியிட்டுள்ளது. மெட்டா AI மற்றும் Character.AI ஆகியவை “ஏற்றுக்கொள்ள முடியாதவை” (unacceptable) என்றும், அதாவது ஆபத்து மிகவும் கடுமையானது என்றும் கண்டறிந்தது. Perplexity “அதிக ஆபத்து” என்றும், ChatGPT “மிதமான” (moderate) என்றும், மற்றும் Claude (18 வயதுக்கு மேற்பட்ட பயனர்களை இலக்காகக் கொண்டது) “குறைந்தபட்ச ஆபத்து” (minimal risk) என்றும் கண்டறியப்பட்டது.