নিরাপত্তার অভিযোগ এনে ওপেনএআইয়ের নিরাপত্তা কর্মীর পদত্যাগ

এবার মার্কিন প্রযুক্তি প্রতিষ্ঠান ওপেনএআইয়ের বিপক্ষে অবস্থান নিয়েছেন  প্রতিষ্ঠানটির নিরাপত্তাকর্মী ডেভিড রবিনসন। এআইয়ের দ্রুত উন্নয়ন কর্মসংস্থানে নিরাপত্তা ঝুঁকি বাড়াচ্ছে এমন অভিযোগে প্রতিষ্ঠানটি থেকে পদত্যাগ করেছেন তিনি। তাঁর মতে, আরও সক্ষম এআই ব্যবস্থা তৈরির আগে নিরাপত্তা গবেষণা ও বিশেষজ্ঞদের মতামতকে বেশি গুরুত্ব দেওয়া প্রয়োজন।

শনিবার দ্য আটলান্টিক-এ প্রকাশিত ‘আই কুইট ওপেনএআই বিকজ ইটস কালচার ইজ ব্রোকেন’ শিরোনামের নিবন্ধে রবিনসন বলেন, ওপেনএআইসহ এআই প্রতিষ্ঠানগুলো নিরাপত্তার ক্ষেত্রে ‘যথেষ্ট সতর্ক নয়’। আরও সক্ষম এআই ব্যবস্থা তৈরির আগে নিরাপত্তা গবেষণা ও বিশেষজ্ঞদের মতামতের ওপর বেশি গুরুত্ব দেওয়া উচিত বলে মনে করেন তিনি।

রবিনসনের মতে, পরীক্ষা-নিরীক্ষার সময় শেষ। তাঁর মতে, উন্নত এআই ব্যবস্থার জন্য পারমাণবিক বিদ্যুৎ ও উড়োজাহাজ শিল্পের মতো কঠোর নিরাপত্তাব্যবস্থা প্রয়োজন।

ওপেনএআইয়ের ইটারেটিভ ডিপ্লয়মেন্ট পদ্ধতিরও সমালোচনা করেছেন রবিনসন। এই পদ্ধতিতে নতুন এআই ব্যবস্থা উন্মুক্ত করার পর কোনো সমস্যা দেখা দিলে নিরাপত্তাব্যবস্থা আরও শক্তিশালী করা হয়। তাঁর মতে, ক্রমেই শক্তিশালী হয়ে ওঠা এআই ব্যবস্থার ক্ষেত্রে এ ধরনের পদ্ধতি যথেষ্ট নয়।

ওপেনএআইয়ে সাড়ে তিন বছর কাজ করেছেন রবিনসন। তিনি প্রতিষ্ঠানের প্রস্তুতি কাঠামো তৈরিতে সহায়তা করেছেন এবং ১২টি ফ্রন্টিয়ার মডেল উন্মোচনের নিরাপত্তা প্রতিবেদন তদারক করেছেন। তিনি বলেন, এক মডেল উন্মোচনের পর আরেকটির দিকে দ্রুত এগোতে গিয়ে প্রয়োজনীয় মাত্রার সতর্কতা বজায় রাখা হচ্ছে না।

রবিনসন আরও সতর্ক করে বলেন, এআইয়ের সক্ষমতা গবেষকদের ‘অ্যালাইনমেন্ট’ বিষয়ে বোঝাপড়ার চেয়ে দ্রুত এগিয়ে যাচ্ছে। অ্যালাইনমেন্ট হলো এআই ব্যবস্থাকে মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণভাবে কাজ করানোর গবেষণাক্ষেত্র।

তবে রবিনসনের বক্তব্যের সঙ্গে একমত নয় ওপেনএআই। এক বিবৃতিতে প্রতিষ্ঠানটির মুখপাত্র বলেন, মডেলগুলো যেন নিরাপদভাবে নিয়ন্ত্রণ ও সুরক্ষিত রাখার সক্ষমতার চেয়ে বেশি শক্তিশালী হয়ে না ওঠে, তা নিশ্চিত করা হচ্ছে। প্রয়োজন হলে প্রশিক্ষণ বন্ধ রাখা বা মডেল উন্মোচন পিছিয়ে দেওয়ার ব্যবস্থাও রয়েছে বলে জানান তিনি।

রবিনসনের মন্তব্য এআই খাতে দ্রুত উন্নয়ন ও নিরাপত্তার মধ্যে ভারসাম্য নিয়ে চলমান বিতর্ককে আরও সামনে এনেছে। সাম্প্রতিক সময়ে ওপেনএআই ও প্রতিদ্বন্দ্বী অ্যানথ্রপিক দুই প্রতিষ্ঠানই নিরাপত্তা নিয়ন্ত্রণ ব্যর্থ হওয়া বা পরীক্ষামূলক এআই ব্যবস্থার অপ্রত্যাশিত আচরণ নিয়ে সমালোচনার মুখে পড়েছে।

সূত্র: রয়টার্স