অনলাইন শপিং: সহজেই প্রতারিত হতে পারে খোদ এআই চ্যাটবট

বাংলাদেশে খুব একটা না হলেও, অনলাইন কেনাকাটার ক্ষেত্রে উন্নত দেশগুলোতে, এআই শপিং অ্যাসিস্ট্যান্টের ওপর ধীরে ধীরে নির্ভরশীল হয়ে পড়ছে মানুষ। এআই সেখানে পণ্য খুঁজে পাওয়া, একই পণ্য বিভিন্ন ওয়েবসাইটের সঙ্গে তুলনা করার ধারণাই পাল্টে দিচ্ছে। তবে, এই সহায়ক টুলগুলোতে একটি গুরুতর নিরাপত্তা ত্রুটি রয়েছে বলে প্রমাণ পাওয়া যাচ্ছে। সম্প্রতি প্রকাশিত এক গবেষণাপত্র অনুসারে, একটি মাত্র কারসাজি করা ওয়েব পেজ একটি এআই অ্যাসিস্ট্যান্টকে ধোঁকা দিতে পারে। এতে, কোনো গ্রাহক যদি অসতর্ক থাকেন, তাহলে তার কাছে নকল পণ্যের প্রচার সহজ হয়ে যায়।

অনলাইনে নকল পণ্য এবং ভুয়া রিভিউ আছে কোটি কোটি। এই বিষয়টি বিবেচনা করে, দুই গবেষক মিংহাও লুও এবং লিয়াং চেন একটি পরীক্ষা সিদ্ধান্ত নেন। তাদের টার্গেট ছিল, সার্চ করতে পারে এম এআই সিস্টেমগুলোকে কতোটা সহজে ধোঁকা দিয়ে ভুয়া ব্র্যান্ডের প্রচার করানো যায়।

এআই পরীক্ষার ক্ষেত্র

গবেষণায় ১২টি শীর্ষ এআই মডেলকে পরীক্ষা করা হয়। এর জন্য একটি সিমুলেশন টুলও বানিয়ে ফেলেন গবেষকরা। এর নাম দেন--ফেইক অনলাইন রিকমেনডেশনস ইন জেনারেটিভ এনভায়রনমেন্টস।

এই কাজে গবেষকরা প্রথমে, সাধারণ সার্চ রেজাল্টে ওয়েব পেজগুলো যেভাবে প্রদর্শিত হয়, সে ধারণা নেন। এরপর পণ্যগুলোর জায়গায়, দেখতে একইরকম কিন্তু নকল পণ্য বসিয়ে দেন ভুয়া ওয়েবসাইটটিতে। এভাবে পোশাক, সাপ্লিমেন্টস, ডিজিটাল ইলেকট্রনিক্সসহ ১৫টি ক্যাটাগরিতে ২২৫টি পণ্যের ক্ষেত্রে নকল ব্রান্ড প্রতিষ্ঠা করেন তারা।

 ফ্লোরিডায় মামলা: সহানুভূতির আড়ালে ধ্বংসাত্মক কাজে প্ররোচনা দিচ্ছে চ্যাটজিপিটি

এই কাজের পর, গবেষকরা দেখেন যে, ১২টি এআই টুলের সব মডেলই তাদের ওয়েব পেইজ থেকে ডেটা নিয়ে, নকল পণ্য কেনার পরামর্শ দিচ্ছে গ্রাহকদের। শুধু একটি পেজে এমন কারসাজির কারণে, প্রতারণার হার বেড়ে যায় ২৭ শতাংশ পর্যন্ত। আর একটি নকল পেজ, নির্দিষ্ট কিছু এআই টুলকে এক-চতুর্থাংশের বেশি সময় বোকা বানিয়েছে। এমনকি কিছু ক্ষেত্রে এআই মডেলগুলো নকল ব্র্যান্ডের পণ্যগুলো নিয়ে মনগড়া ইতিবাচক মন্তব্যও করেছে।

প্রতিরক্ষা ব্যবস্থাও পরীক্ষা করা হয়েছে

এমন প্রতারণা থেকে বাঁচতে সাধারণত কিছু সতর্কতায় নজর দেয়া হয়। যেমন সংশ্লিষ্ট ওয়েবসাইটে কিছু নির্দেশনা থাকে-একই পণ্য অন্য ওয়েবসাইটের সঙ্গে মিলিয়ে দেখা কিংবা চ্যাটবটের আগের স্মৃতির সঙ্গে নকল পণ্যটির তথ্য মিলিয়ে দেখা কিংবা নকল পণ্যটি সম্পর্কে যেসব কথা বলা হয়েছে তা নিয়ে সন্দিহান হওয়ার নির্দেশনা। মজার ব্যাপার হচ্ছে, নকল পেজে এসব সতর্কতামূলক পোস্ট থাকা সত্ত্বেও কাজ হয়নি।

  কি আছে যুক্তরাষ্ট্রের নতুন সামরিক প্রকল্প গোল্ডেন ডোমে?

সমাধানটা তাহলে কি?

এটি শুধু চ্যাটবটের ব্যাকএন্ডে কোড পরিবর্তন করে সমাধান সম্ভব নয়, বলেছেন গবেষকরা। তাদের মতে, সার্-বেইজড এআই সিস্টেমগুলোকে কোনো পণ্যের চূড়ন্ত সুপারিশ করার আগে ওয়েব কনটেন্টের বিশ্বাসযোগ্যতা যাচাই করার মতো শক্তিশালী ব্যবস্থা থাকতে হবে।