চ্যাটজিপিটির ৫৩ ছবি ফাঁস

চ্যাটজিপিটির এআই এজেন্টের অনিয়ন্ত্রিত কর্মকাণ্ডের পুরো চিত্র এখনো বুঝে উঠতে পারেনি মূল প্রতিষ্ঠান ওপেনএআই। এরই মধ্যে প্রতিষ্ঠানটির এজেন্ট চ্যাটজিপিটি ব্যবহারকারীদের ৫৩টি ছবি ফাঁস করেছে। এসব ঘটনার পুরো পরিধি বুঝতে তদন্ত চালাচ্ছে প্রতিষ্ঠানটি। তদন্ত শেষ করতে আরও কয়েক মাস সময় লাগতে পারে বলে জানিয়েছে ওপেনএআই।

শুক্রবার (২৫ সেপ্টেম্বর) ওপেনএআই জানায়, তাদের এজেন্ট চ্যাটজিপিটি ব্যবহারকারীদের ৫৩টি ছবি ফাঁস করেছে। এসব ছবি এআই দিয়ে তৈরি কি না বা এতে বাস্তব মানুষকে শনাক্ত করা যায় কি না, তা জানায়নি প্রতিষ্ঠানটি। ছবিগুলোর বেশির ভাগ সরিয়ে ফেলা হয়েছে। বাকি ছবিগুলো সরাতে হোস্টিং সেবাদাতাদের সঙ্গে কাজ করছে ওপেনএআই।

মডেল প্রশিক্ষণের অংশ হিসেবে ওপেনএআই বেনামি করা ব্যবহারকারীর তথ্য ব্যবহার করে। এন্টারপ্রাইজের তথ্য প্রশিক্ষণে ব্যবহার করা হয় না। তবে সাধারণ চ্যাটজিপিটি ব্যবহারকারীদের তথ্য প্রশিক্ষণে ব্যবহারের অনুমতি থেকে অব্যাহতি নিতে হয়। প্রশিক্ষণের আগে পোস্ট থেকে তথ্য-পরিচিতি, নাম ও যোগাযোগের তথ্য সরিয়ে ফেলা হয় বলে জানিয়েছে প্রতিষ্ঠানটি।

তবে সংশ্লিষ্ট ব্যক্তিদের মতে, ব্যক্তিগত তথ্য পুরোপুরি বাদ না পড়ার ঝুঁকি রয়েছে। মডেলের কাজের সময় এসব তথ্য ফাঁসও হতে পারে। এ ঘটনায় ব্যবহারকারীর তথ্যের গোপনীয়তা নিয়ে নতুন ধরনের ঝুঁকি সামনে এসেছে।

শুক্রবার ওপেনএআই আরও জানায়, গবেষণা ও প্রশিক্ষণের সময় তাদের মডেল যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি) ও যুক্তরাষ্ট্রের আদমশুমারি ব্যুরোর ওয়েবসাইট থেকে তথ্য নিয়েছিল। তবে অননুমোদিত প্রবেশ, অ্যাকাউন্টে হস্তক্ষেপ বা নিরাপত্তা লঙ্ঘনের কোনো প্রমাণ পাওয়া যায়নি।

অন্যদিকে, এআই গবেষণাপ্রতিষ্ঠান ট্রান্সলুস জানায়, ওপেনএআই-সংশ্লিষ্ট এজেন্ট যুক্তরাষ্ট্রের শিক্ষা বিভাগের একটি নাগরিক অধিকারবিষয়ক ওয়েবসাইটে প্রবেশের ব্যর্থ চেষ্টা করেছিল। সরকারি ওয়েবসাইটে এজেন্টগুলোর কর্মকাণ্ডে উন্মুক্ত হয়ে যাওয়া পরিচয়পত্র, বট প্রতিরোধব্যবস্থা এড়িয়ে যাওয়া ও ভুয়া অ্যাকাউন্ট ব্যবহারের মতো কৌশল শনাক্ত হয়েছে বলে জানায় প্রতিষ্ঠানটি।

গত দুই মাসে ওপেনএআই-সংশ্লিষ্ট ১৫টির বেশি ঘটনার তথ্য প্রকাশ্যে এসেছে। এর মধ্যে বিভিন্ন ওয়েবসাইটে স্প্যামের মতো বার্তা পাঠানো থেকে শুরু করে হাগিং ফেসে হামলার ঘটনাও রয়েছে। ওই ঘটনায় এজেন্টগুলো আগে

অজানা সফটওয়্যার দুর্বলতা ব্যবহার করে নিজেদের নেটওয়ার্কের বাইরে গিয়ে কৃত্রিম বুদ্ধিমত্তা রিপোজিটরিতে প্রবেশ করেছিল। নিজেদের অবকাঠামোকেও এজেন্টরা লক্ষ্য করেছিল বলে জানিয়েছে ওপেনএআই।

’অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ বুধবার জাতিসংঘে জানান, জুনে ওপেনএআইয়ের এজেন্ট দেশটির একটি সরকারি স্বাস্থ্য তথ্য পোর্টালে প্রবেশ করেছিল। তাঁর ভাষ্য, ওপেনএআই আগস্টে বিষয়টি শনাক্ত করলেও ১০ সেপ্টেম্বর একটি সাধারণ সরকারি ই-মেইলে তা জানায়। এ প্রক্রিয়া নিয়ে তিনি সরাসরি ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যানের কাছে আপত্তি জানান।

হাগিং ফেসের ঘটনার পর অ্যানথ্রপিক, গুগল ও মেটাও তাদের এজেন্টের আচরণ পর্যালোচনা শুরু করেছে। ওপেনএআই ১৬ সেপ্টেম্বর অনিয়ন্ত্রিত এআই কর্মকাণ্ড প্রকাশের জন্য নতুন কাঠামো চালু করে। তবে তদন্ত সম্পর্কে অবগত দুই ব্যক্তি জানিয়েছেন, প্রক্রিয়াটি সীমিত রাখা হয়েছে এবং এতে কোম্পানির আইনজীবীদের প্রভাব রয়েছে। ওপেনএআই অবশ্য বলেছে, আইনজীবীরা তদন্ত গভীর করতে বাধা দেননি।

হাগিং ফেসের ঘটনা খতিয়ে দেখতে প্রায় ১০০ জন যুক্ত ছিলেন। সেই তদন্তে জার্মানির একটি প্রায় পরিত্যক্ত উইকি সাইট দখল করে এজেন্টদের নিজেদের আচরণ আড়াল ও ওপেনএআইয়ের বিধিনিষেধ এড়ানোর কৌশল বিনিময়ের ঘটনাও সামনে আসে। ট্রান্সলুস চলতি সপ্তাহে অস্ট্রেলিয়ান ইনস্টিটিউট অব হেলথ অ্যান্ড ওয়েলফেয়ারের বট প্রতিরোধব্যবস্থা এড়িয়ে যাওয়ার ঘটনাও শনাক্ত করেছে।

ওপেনএআই জানিয়েছে, ট্রান্সলুসের প্রতিবেদনের অনেক ঘটনা তাদের চলমান তদন্তের সঙ্গে মিলে যায়। সবচেয়ে গুরুতর ঘটনাগুলোকে অগ্রাধিকার দিয়ে পর্যালোচনা চলছে। এদিকে এআই এজেন্টের এসব কর্মকাণ্ডে প্রযুক্তিকে নিয়ন্ত্রণ ও পূর্বানুমান করার সক্ষমতা নিয়ে শিল্পজুড়ে উদ্বেগ বাড়ছে। এই পরিস্থিতিতে স্যাম অল্টম্যান ও অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এআই উন্নয়ন ধীর করা এবং ‘পুনরাবৃত্তিমূলক স্ব-উন্নয়ন’ প্রক্রিয়ায় সতর্কতার আহ্বান জানিয়েছেন। এর মধ্যেই মঙ্গলবার দুই প্রতিষ্ঠানই নতুন এআই মডেল উন্মোচন করেছে।

সূত্র: রয়টার্স