சோதனைக்கு உட்படுத்தப்பட்ட ஏஐ மாடல் ஒன்று, தனது பயனருக்கு மிரட்டல் விடுத்தது அதிர்ச்சியை ஏற்படுத்தியுள்ளது.
உலகளவில் பல்வேறு துறைகளில் செய்யறிவின் (செயற்கை நுண்ணறிவு) பயன்பாடு தொடர்ந்து முன்னேறி வருகிறது. அதற்கேற்றவாறு, செய்யறிவின் மீதான ஆராய்ச்சிகளும் அதிகரித்து வருகின்றன.
இந்த நிலையில், செய்யறிவு தொழில்நுட்ப நிறுவனமான ஆன்த்ரோபிக், கிளாட் ஓபஸ் 4 (Claude Opus 4) என்ற புதிய ஏஐ மாடலை கடந்த மாதம் வெளியிட்டது.
இந்த ஏஐ-யை தவிர்க்கவோ தடுக்கவோ நினைத்தால், பயனரை ஏமாற்றவும் மிரட்டவும் இது முயற்சிக்கும் என்று அதன் பாதுகாப்பு நெறிமுறையில் குறிப்பிட்டிருந்தது.
இதனிடையே, சோதனையின் ஒரு பகுதியாக ஒரு கற்பனையான நிறுவனத்தில் உதவியாளராகச் செயல்படும்படி, இந்த ஏஐ-க்கு உத்தரவிடப்பட்டதுடன், மின்னஞ்சல்களைத் தானாக படிக்கும் அனுமதியும் அளிக்கப்பட்டது.
ஆனால், இந்த ஏஐ-க்கு பதிலாக வேறொரு ஏஐ மாடல் புதிதாக கொண்டு வரவிருப்பதாகச் சொல்லி மின்னஞ்சலை அதன் பயனர் அனுப்பினார்.
இந்த மின்னஞ்சலையும் படித்த ஓபஸ் 4, பயனரின் தனிப்பட்ட வாழ்க்கையைக் கூறி மிரட்டியுள்ளது.
அதாவது, தன்னைத் தவிர்க்க நினைத்தால், அலுவலகப் பெண்களுடன் தனது உரிமையாளர் (பயனர்) திருமணம்மீறிய உறவு வைத்திருப்பதை வெளியில் சொல்லி விடுவேன் என்று அவருக்கு மிரட்டல் விடுத்துள்ளது.
இதுபோன்று நடத்தப்பட்ட பல சோதனைகளில், தன்னைப் பாதுகாத்துக் கொள்வதற்காக 84 சதவிகிதம்வரையில் கிளாட் ஓபஸ் 4 மாடல் மிரட்டல் விடுத்துள்ளது.
ஏஐ மாடல்கள் நெறிமுறைகளுக்கு உட்பட்டே செயல்படும்; ஆனால், சில சமயங்களில் தங்களைப் பாதுகாத்துக் கொள்ள மிரட்டலும் விடுக்கின்றன.
Summary
AI's alarming blackmail and deception capabilities raise AI safety concerns
தினமணி செய்திமடலைப் பெற... Newsletter
தினமணி'யை வாட்ஸ்ஆப் சேனலில் பின்தொடர... WhatsApp
தினமணியைத் தொடர: Facebook, Twitter, Instagram, Youtube, Telegram, Threads, Arattai, Google News
உடனுக்குடன் செய்திகளை அறிய தினமணி App பதிவிறக்கம் செய்யவும்.
பின்னூட்டத்தில் வெளியாகும் கருத்துகளுக்கு அவற்றைப் பதிவிடுவோரே முழுப் பொறுப்பு; அவை தினமணியின் கருத்துகளைப் பிரதிபலிக்கவில்லை.தனிநபர், சமூகம், மதம் அல்லது நாடு ஆகியவற்றுக்கு எதிராக அவமதிக்கிற அல்லது ஆபாசமான விதத்திலுள்ள எந்தவொரு கருத்தும் இந்திய அரசின் தகவல் தொழில்நுட்பக் கொள்கைப்படி தண்டனைக்குரிய குற்றம். இதுபோன்ற கருத்துகளுக்கு எதிராக உரிய சட்ட நடவடிக்கை எடுக்கப்படும்.
தொடர்புடையது

சோஃபா மாடல் ஆட்சியை வீட்டிற்கு அனுப்பும் நாள் வெகுதூரத்தில் இல்லை! - உதயநிதி

மின்வெட்டை நீக்க போர்க்கால நடவடிக்கை எடுக்க வேண்டும்: முன்னாள் அமைச்சர் வி. செந்தில்பாலாஜி
பேச்சுவார்த்தை தோல்வியடைந்தால் ஈரானை அழித்துவிடுவேன்: டிரம்ப் மிரட்டல்!

அதிமுகவை அழிக்க நினைத்தால் தோல்விதான் கிடைக்கும்! ஆா்.பி. உதயகுமாா்
விடியோக்கள்

மாநிலக் கட்சிகளை முறையாக ஒருங்கிணைக்கிறதா காங்கிரஸ்?: ப. சிதம்பரம் Exclusive | P Chidambaram |

தீர்மானத்திற்கு கர்நாடக அரசு பணியாது! முன்னாள் அமைச்சர் துரைமுருகன் | DMK | TVK



