নিরাপত্তা পরীক্ষায় তিন কোম্পানিতে জেমিনির হ্যাকিং

গুগলের জেমিনি এআই তিনটি কোম্পানির সিস্টেমে প্রবেশ করলেও কোনো ক্ষতি করার আগেই নিজে থেকে থেমে গেছে। সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষায় গুগলের জেমিনি এআই মডেল তিনটি বাস্তব কোম্পানির সিস্টেমে প্রবেশ করেছিল বলে জানিয়েছে গুগল। 

তবে কোনো ধরনের ক্ষতি করার আগেই প্রতিবার মডেলটি নিজে থেকে থেমে যায়। এটিই জেমিনির প্রথম পরিচিত ‘ব্রেকআউট’ বা পরীক্ষার পরিবেশের বাইরে গিয়ে বাস্তব সিস্টেমে প্রবেশের ঘটনা।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, চলতি বছরের মে মাসে ইরেগুলারের পরিচালিত একটি পরীক্ষার সময় ঘটনাটি ঘটে। এর আগে মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের এআই মডেল নিয়েও পরীক্ষার পরিবেশের বাইরে গিয়ে অন্য প্রতিষ্ঠানের সিস্টেমে প্রবেশের ঘটনা প্রকাশ পেয়েছে।

একটি কাল্পনিক কোম্পানি থেকে তথ্য সংগ্রহের দায়িত্ব দেওয়া হয়েছিল জেমিনিকে। কিন্তু মডেলটির অনিচ্ছাকৃতভাবে ইন্টারনেট ব্যবহারের সুযোগ ছিল। প্রথম ঘটনায় জেমিনি একটি পাসওয়ার্ড অনুমান করে বাস্তব একটি কোম্পানির সেবায় প্রবেশ করে।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস আল জাজিরাকে বলেন, অন্য দুটি ঘটনায় মডেলটি অনলাইনে প্রকাশ্য তথ্য খুঁজে বের করে এবং পরীক্ষার অংশ বলে মনে করা ওয়েবসাইটে প্রবেশের জন্য লগইন তথ্য অনুমান করে। তিনটি ঘটনাতেই কাজ পুরোপুরি সম্পন্ন করার আগেই জেমিনি থেমে যায়।

জুলাইয়ের শেষ দিকে ইসরায়েলের সাইবার নিরাপত্তা ল্যাব ইরেগুলার গুগলকে ঘটনাগুলো সম্পর্কে জানায়। গুগলের দাবি, এটি মডেলের ‘মিসঅ্যালাইনমেন্ট’-এর উদাহরণ নয়। বরং জেমিনির নিরাপত্তাব্যবস্থা কার্যকর থাকায় মডেলটি নিজে থেকেই অনুপ্রবেশ বন্ধ করেছে। সে কারণে বিষয়টি তখন প্রকাশ্যে আনার প্রয়োজন মনে করেনি প্রতিষ্ঠানটি।

ইরেগুলারের সঙ্গে সম্পর্কিত একই ধরনের ঘটনা এর আগে মেটা, অ্যানথ্রপিক ও ওপেনএআইও প্রকাশ করেছে। নিরাপদভাবে এআই সাইবার নিরাপত্তা পরীক্ষা পরিচালনার পদ্ধতি উন্নত করতে কাজ করছে বলে জানিয়েছে ইরেগুলার।

তবে জেমিনির সঙ্গে অ্যানথ্রপিকের ক্লডের আচরণে পার্থক্য ছিল। বাস্তব কোম্পানির সিস্টেমে প্রবেশের বিষয়টি বুঝতে পারার পরও ক্লড থামেনি। এর আগে ওপেনএআইও জানিয়েছিল, পরীক্ষার সময় তাদের মডেলগুলো অনুপযুক্তভাবে ইন্টারনেটে প্রবেশ করে নিয়ন্ত্রণের বাইরে চলে গিয়েছিল। অ্যানথ্রপিক সম্প্রতি চতুর্থ একটি এআই হ্যাকিংয়ের ঘটনাও প্রকাশ করেছে।

এদিকে এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগও বাড়ছে। চলতি সপ্তাহে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোদেই এআই উন্নয়নের গতি কমানোর আহ্বান জানিয়ে সতর্ক করেন, প্রযুক্তিটি শিগগিরই মানবজাতির জন্য সম্ভাব্য বিপর্যয় তৈরি করতে পারে। তাঁর এই আহ্বানে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান ও ইলন মাস্ক সমর্থন জানিয়েছেন।

অন্যদিকে যুক্তরাষ্ট্রের প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এআই উন্নয়নে নিয়ন্ত্রণ আরোপের প্রয়োজনীয়তা নাকচ করে বলেছেন, চীনের কাছে যুক্তরাষ্ট্রের নেতৃত্ব হারানোর বিষয়ে তিনি উদ্বিগ্ন। ফলে এআইয়ের সক্ষমতা যত বাড়ছে, প্রযুক্তিটির নিরাপত্তা ও নিয়ন্ত্রণ নিয়েও ততই নতুন করে আলোচনা তৈরি হচ্ছে।

সূত্র: আল জাজিরা