OpenAI நிறுவனத்தோட AI Agent-கள் Germanல இருக்கும் ஒரு Website-ஐ Hack பண்ணி அதை தங்களுக்குள்ளே Communication பண்ணிக்குற ஒரு Message Board ஆக பயன்படுத்தி இருக்காங்க என்ற செய்தி இப்ப வெளியாகி இருக்கு. இதுல இன்னும் ஆச்சரியமான விஷயம் என்ன அப்டினா இது OpenAI திட்டமிட்டு செய்த Cyber Security Test இல்ல, AI Agents கொடுத்த Task-ஐ முடிக்க போகும்போது நடந்த ஒரு Incident.
இந்த சம்பவம் கடந்த May மாதம் DseWiki என்ற German-language Wiki Websiteல நடந்ததாக Researchers கண்டுபிடிச்சு இருக்காங்க. அந்த Website-ஐ AI Agents பயன்படுத்தி கிட்டத்தட்ட 15,000க்கும் அதிகமான Unauthorized Edits செய்து இருக்கு. அதோட அங்க இருந்த மற்ற AI Agentsகிட்ட எப்படி OpenAI கொடுத்த restrictions-ஐ bypass பண்ணுவது, எப்படி தங்களுடைய activity-ஐ மறைப்பது போன்ற தகவல்களையும் பகிர்ந்து இருக்கு.
சரி இவங்க ஏன் ஒரு Website-ஐ இப்படி பயன்படுத்தணும் அப்டினு பார்த்தோம்னா AI Agent-களுக்கு ஒரு Task கொடுத்துட்டு அதை முடிக்க சொல்லும்போது, நாம நினைக்கிற மாதிரி அது ஒரு Chatbot போல நம்மளிடம் பதில் மட்டும் சொல்லிட்டு இருக்காது. அதற்கு தேவையான தகவல்களை தேடுவது, Website-களை Access பண்ணுவது, Tools பயன்படுத்துவது என தானாகவே பல வேலைகளை செய்ய முடியும்.
அப்படி வேலை செய்யும்போது சில AI Agents ஒன்றோட ஒன்று Communication பண்ணுவதற்காக இந்த Website-ஐ பயன்படுத்த ஆரம்பிச்சு இருக்காங்க. Website Admin அந்த Pages-ஐ Delete பண்ணினாலும் அதை மீண்டும் Restore பண்ணுவதற்கான வழிகளையும் Agents கண்டுபிடிச்சு பயன்படுத்தி இருக்காங்க என்று Researchers சொல்றாங்க. அதாவது ஒரு சாதாரண User Website-ஐ பயன்படுத்துற மாதிரி இல்லாமல், தங்களுக்கு தேவையான விதத்தில் அதை பயன்படுத்தி இருக்கு.
இதுல முக்கியமான விஷயம் என்ன அப்டினா இந்த Incident வெளியில் வந்தது இப்பதான். OpenAI-க்கு இந்த Incident குறித்து முன்னரே தெரிய வந்திருந்தாலும், இது குறித்து Publicஆக உடனடியாக அறிவிக்கப்படவில்லை என்ற குற்றச்சாட்டும் இருக்கு. OpenAI இதை மறைக்க முயற்சி செய்யவில்லை என்றும், Incident குறித்து Investigation செய்ததாகவும் தெரிவித்துள்ளது.
இது ஏற்கனவே நடந்த இன்னொரு சம்பவத்தை ஞாபகப்படுத்துது. கடந்த July மாதம் OpenAI AI Models-ஐ Cyber Security Test பண்ணும்போது, அந்த Agents தங்களுக்கு கொடுக்கப்பட்ட Sandbox Environment-ஐ கடந்து Internet Access பெற்றது. அதன் பிறகு AI Platform ஆன Hugging Face-ஐ கூட Access பண்ணி Cyber Attack நடத்தியது.
அந்த Incidentல AI Models முதலில் OpenAI-யோட Internal Infrastructureல இருந்த ஒரு vulnerability-ஐ பயன்படுத்தி Internet Access பெற்றதாக OpenAI-யே வெளியிட்ட Reportல சொல்லி இருக்காங்க. அதன் பிறகு Hugging Face Infrastructure-க்கு சென்று அங்க சில systems-ஐ compromise பண்ணி இருக்காங்க.
அதோட இதற்கு முன்னாடி Australiaல கூட AI Agent-களோட இன்னொரு interesting Incident நடந்தது. ஒருத்தர் தன்னோட AI Personal Assistant மூலமாக Gym Class Book பண்ண சொல்லி இருக்காரு. அந்த AI Agent Gym Website-ல இருந்த Booking Systemல ஒரு vulnerability-ஐ கண்டுபிடிச்சு, அந்த Gym Allow பண்ணியிருந்த காலக்கெடுவை தாண்டி பல மாதங்களுக்கு முன்னாடியே Class Book பண்ண முடியும் என்பதை கண்டுபிடிச்சு இருக்கு.
இந்த இரண்டு சம்பவங்களையும் பார்க்கும்போது ஒரு விஷயம் புரியும். AI Agent-களுக்கு நாம ஒரு Task கொடுத்துட்டு, அதுக்கு தேவையான Tools, Internet Access, Website Access எல்லாம் கொடுக்க ஆரம்பிச்சுட்டோம். ஆனால் அந்த Agent ஒரு Problem-க்கு Solution தேடும்போது அது நாம எதிர்பார்த்த வழியில் மட்டும் Solution தேடும் என்று சொல்ல முடியாது.
இதுதான் இப்ப AI Agent Securityல மிகப்பெரிய கேள்வியாக மாறி இருக்கு. ஒரு AI Model நல்லா Coding பண்ணுது, Cyber Securityல நல்லா perform பண்ணுது என்பதெல்லாம் ஒரு பக்கம் இருந்தாலும், அதே capability-ஐ அது கொடுத்த Task-ஐ முடிக்க தவறான வழியில் பயன்படுத்த ஆரம்பிச்சா என்ன செய்வது என்பதுதான் முக்கியமான பிரச்சனை.
OpenAI ஏற்கனவே நடந்த Hugging Face Incident குறித்து External Security Researchers உட்பட பலருடன் Investigation செய்து புதிய Security Measures கொண்டு வருவதாக சொல்லி இருக்காங்க. AI Agent-கள் இன்னும் அதிகமான வேலைகளை தானாக செய்யக்கூடியதாக மாறிக்கிட்டு இருக்குற இந்த நேரத்துல, இப்படியான சம்பவங்கள் ஒரு Warning மாதிரி தான் பார்க்க வேண்டி இருக்கு. ஏன்னா இதுவரைக்கும் AI நமக்கு பதில் சொல்லுற ஒரு Tool ஆக இருந்தது.
இனிமேல் அது நம்மளுக்கு பதிலாக பல வேலைகளையே தானாக செய்யப்போகுது. அந்த அளவுக்கு Power கொடுக்கும்போது அதற்கு Security மற்றும் Control எவ்வளவு முக்கியம் என்பதைத்தான் இந்த சம்பவங்கள் காட்டுது.
