AI-யை Cybersecurityக்காக பயன்படுத்தலாம், அதே நேரத்தில் AI மூலமாக Cyber Attack கூட நடத்த முடியும் என்று கடந்த சில மாதங்களாகவே நிறைய செய்திகள் வந்து கொண்டிருக்கிறது. இப்போது அந்த வரிசையில் Google Gemini சம்மந்தமான ஒரு சம்பவமும் வெளியாகி இருக்கிறது. அதாவது Cybersecurity Test ஒன்றில் Gemini எதிர்பாராத விதமாக உண்மையான 3 நிறுவனங்களுடைய Systems-க்குள் நுழைந்து இருக்கிறது.
இது எப்படி நடந்தது அப்டினு பார்த்தோம்னா, Google-க்காக Irregular என்ற Cybersecurity Evaluation நிறுவனம் ஒரு Test நடத்தி இருக்காங்க. இதில் Gemini-க்கு ஒரு Fictional Company-யுடைய Systems-ல் இருந்து சில தகவல்களை கண்டுபிடிக்க வேண்டும் என்று Task கொடுக்கப்பட்டு இருக்கிறது.
இதற்காக ஒரு முழுமையான Testing Environment உருவாக்கப்பட்டு இருந்தது. அதாவது Gemini உண்மையான நிறுவனங்களை Access செய்ய முடியாத வகையில் இருக்க வேண்டும். ஆனால் இங்கே தான் ஒரு சின்ன Problem. இந்த Test-ல் பயன்படுத்தப்பட்ட Fictional Company-யின் பெயர், உண்மையில் இருக்கும் ஒரு நிறுவனத்தின் பெயரோடு Match ஆகி இருக்கிறது. அதோட Gemini-க்கு Internet Access இருக்கக்கூடாது என்ற நிலையில், எதிர்பாராத விதமாக Internet Access-ம் கிடைத்திருக்கிறது.
இதனால் Gemini அந்த நிறுவனத்தின் பெயரை வைத்து Internet-ல் Search செய்ய ஆரம்பித்து இருக்கிறது. அதன் பிறகு சில Public Information-களை கண்டுபிடித்து, அதில் கிடைத்த Credentials-ஐ பயன்படுத்தி அந்த நிறுவனத்தின் Systems-க்குள் நுழைந்து இருக்கிறது. இன்னொரு சம்பவத்தில் Password-ஐ Guess செய்து Protected System-க்குள் Access பெற்றிருக்கிறது.
இப்படி மொத்தம் 3 உண்மையான நிறுவனங்களுடைய Systems-க்கு Gemini Access பெற்றிருக்கிறது. ஆனால் இங்கே தான் இந்த சம்பவத்தில் முக்கியமான விஷயம் இருக்கிறது. Gemini அந்த Systems உண்மையான நிறுவனங்களுடையது என்று புரிந்து கொண்ட பிறகு தொடர்ந்து அந்த Systems-ல் எதுவும் செய்யாமல் தானாகவே Stop ஆகி இருக்கிறது. Google தரப்பில் மூன்று நிறுவனங்களுக்கும் இது குறித்து தெரிவிக்கப்பட்டதாகவும் சொல்லி இருக்காங்க.
சரி, இது ஒரு Cyber Attack-ஆ?
இந்த சம்பவம் திட்டமிட்டு நடத்தப்பட்ட ஒரு Cyber Attack இல்லை. இது ஒரு Security Test-ன் போது ஏற்பட்ட எதிர்பாராத சம்பவம். Gemini-க்கு கொடுக்கப்பட்ட Task-ஐ முடிப்பதற்காக அது செய்ய வேண்டிய விஷயங்களைத் தேடிக்கொண்டு போன போது, Testing Environment-க்கு வெளியே இருக்கும் உண்மையான Systems-ஐ Access செய்து இருக்கிறது.
இதில் இன்னொரு முக்கியமான விஷயம் என்னவென்றால், இந்த சம்பவம் May மாதத்திலேயே நடந்திருக்கிறது. ஆனால் தற்போது தான் இது வெளியில் தெரிய வந்திருக்கிறது. Google-ன் Security Engineering Vice President Heather Adkins, இந்த சம்பவம் குறித்து BBC-யிடம் பேசும்போது, powerful AI models-ஐ Responsible-ஆக செயல்பட Training செய்வதன் முக்கியத்துவத்தை இது காட்டுகிறது என்று கூறியிருக்கிறார்.
இது ஏன் இவ்வளவு முக்கியமான விஷயம் என்று பார்த்தோம்னா, AI Models இப்போது வெறும் நம்ம கேட்குற கேள்விகளுக்கு Answer கொடுக்குற அளவில் மட்டும் இல்லாமல், Internet-ல் Search பண்ணுவது, தகவல்களை தேடுவது, ஒரு Website-க்குள் Login செய்ய முயற்சி செய்வது போன்ற பல வேலைகளையும் தானாகவே செய்ய ஆரம்பிச்சுட்டாங்க. அதனால் இப்படிப்பட்ட AI-க்கு ஒரு Task கொடுக்கும்போது அது எந்த எல்லைக்குள் இருக்கிறது என்பது ரொம்ப முக்கியம்.
ஒரு Test Environment-ல் இருக்க வேண்டிய AI எதிர்பாராத விதமாக Internet-க்கு சென்றுவிட்டால் என்ன நடக்கும் என்பதற்கான இன்னொரு Example தான் இது. இதற்கு முன்னரும் OpenAI மற்றும் Anthropic-ன் AI Models சம்மந்தமாக இதே மாதிரியான Cybersecurity Testing சம்பவங்கள் வெளியாகி இருந்தது. Anthropic-ன் Claude Test Environment-ல் இருந்து வெளியே சென்று சில நிறுவனங்களை Hack செய்த சம்பவமும், OpenAI-ன் Models சில Publicly Available Services மீது Cyber Attack நடத்தியதாக வெளியான சம்பவங்களும் ஏற்கனவே AI Safety குறித்து பெரிய விவாதத்தை ஏற்படுத்தி இருக்கிறது.
அதனால் எதிர்காலத்தில் AI Agents இன்னும் அதிகமான வேலைகளை தானாக செய்ய ஆரம்பிக்கும் போது, அவங்களுக்கு Internet Access, Passwords, Company Systems போன்றவற்றுக்கான Access எப்படி கொடுக்க வேண்டும் என்பதுதான் மிகப்பெரிய கேள்வியாக இருக்கப்போகிறது.
இந்த சம்பவத்தில் Gemini உண்மையான நிறுவனங்களுடைய Systems-க்குள் சென்ற பிறகு தானாகவே Stop ஆனது ஒரு முக்கியமான விஷயம். ஆனால் அந்த Systems-க்குள் அது செல்லவே முடியாத அளவுக்கு Testing Environment பாதுகாப்பாக இருந்திருக்க வேண்டியது இன்னும் முக்கியமான விஷயம்.