முகப்பு
உலகம்

திருமணம் மீறிய உறவை வெளிப்படுத்தி விடுவேன்! பயனரை மிரட்டிய ஏஐ!

தன்னைத் தவிர்க்க நினைத்தால், பயனரின் தனிப்பட்ட வாழ்க்கையை வெளியே சொல்லி விடுவேன் என்று கிளாட் ஓபஸ் 4 மாடல் ஏஐ மிரட்டல்

Updated On : 11 ஜூலை, 2025 at 11:11 AM
பிரதிப் படம்
பகிர்:

சோதனைக்கு உட்படுத்தப்பட்ட ஏஐ மாடல் ஒன்று, தனது பயனருக்கு மிரட்டல் விடுத்தது அதிர்ச்சியை ஏற்படுத்தியுள்ளது.

உலகளவில் பல்வேறு துறைகளில் செய்யறிவின் (செயற்கை நுண்ணறிவு) பயன்பாடு தொடர்ந்து முன்னேறி வருகிறது. அதற்கேற்றவாறு, செய்யறிவின் மீதான ஆராய்ச்சிகளும் அதிகரித்து வருகின்றன.

இந்த நிலையில், செய்யறிவு தொழில்நுட்ப நிறுவனமான ஆன்த்ரோபிக், கிளாட் ஓபஸ் 4 (Claude Opus 4) என்ற புதிய ஏஐ மாடலை கடந்த மாதம் வெளியிட்டது.

இந்த ஏஐ-யை தவிர்க்கவோ தடுக்கவோ நினைத்தால், பயனரை ஏமாற்றவும் மிரட்டவும் இது முயற்சிக்கும் என்று அதன் பாதுகாப்பு நெறிமுறையில் குறிப்பிட்டிருந்தது.

இதனிடையே, சோதனையின் ஒரு பகுதியாக ஒரு கற்பனையான நிறுவனத்தில் உதவியாளராகச் செயல்படும்படி, இந்த ஏஐ-க்கு உத்தரவிடப்பட்டதுடன், மின்னஞ்சல்களைத் தானாக படிக்கும் அனுமதியும் அளிக்கப்பட்டது.

ஆனால், இந்த ஏஐ-க்கு பதிலாக வேறொரு ஏஐ மாடல் புதிதாக கொண்டு வரவிருப்பதாகச் சொல்லி மின்னஞ்சலை அதன் பயனர் அனுப்பினார்.

இந்த மின்னஞ்சலையும் படித்த ஓபஸ் 4, பயனரின் தனிப்பட்ட வாழ்க்கையைக் கூறி மிரட்டியுள்ளது.

அதாவது, தன்னைத் தவிர்க்க நினைத்தால், அலுவலகப் பெண்களுடன் தனது உரிமையாளர் (பயனர்) திருமணம்மீறிய உறவு வைத்திருப்பதை வெளியில் சொல்லி விடுவேன் என்று அவருக்கு மிரட்டல் விடுத்துள்ளது.

இதுபோன்று நடத்தப்பட்ட பல சோதனைகளில், தன்னைப் பாதுகாத்துக் கொள்வதற்காக 84 சதவிகிதம்வரையில் கிளாட் ஓபஸ் 4 மாடல் மிரட்டல் விடுத்துள்ளது.

ஏஐ மாடல்கள் நெறிமுறைகளுக்கு உட்பட்டே செயல்படும்; ஆனால், சில சமயங்களில் தங்களைப் பாதுகாத்துக் கொள்ள மிரட்டலும் விடுக்கின்றன.

இதையும் படிக்க: அள்ளிக் கொடுக்கும் மெட்டா! ஆப்பிள் முன்னாள் ஊழியருக்கு ரூ.1,715 கோடி சம்பளத்தில் வேலை!

summary

AI's alarming blackmail and deception capabilities raise AI safety concerns

முழு கட்டுரையைப் படிக்க →