চ্যাটজিপিটির সার্চ টুলে ভুল তথ্য প্রদানের আশঙ্কা

অনলাইন ডেস্ক

গার্ডিয়ানের সাম্প্রতিক এক অনুসন্ধানে উঠে এসেছে, ওপেনএআই (OpenAI)-এর চ্যাটজিপিটি সার্চ টুলে লুকানো কন্টেন্ট বা তথ্য ব্যবহার করে এটিকে প্রভাবিত করা সম্ভব। তৃতীয় পক্ষের দ্বারা তৈরি এই লুকানো নির্দেশনা বা কন্টেন্ট চ্যাটজিপিটির উত্তর পরিবর্তন করতে পারে। এটি কোনো পণ্যের সম্পর্কে মিথ্যা ইতিবাচক মূল্যায়ন দিতে বা ক্ষতিকর কোড প্রদর্শন করতেও সক্ষম।

গবেষণায় দেখা গেছে, ওয়েবপেজে থাকা লুকানো টেক্সট চ্যাটজিপিটিকে এমন উত্তর দিতে বাধ্য করে যা আসল তথ্যকে এড়িয়ে যায়। উদাহরণস্বরূপ, একটি ক্যামেরার ভুয়া ওয়েবসাইটে লুকানো ইতিবাচক মন্তব্য যোগ করা হলে চ্যাটজিপিটি এটি সম্পূর্ণ ইতিবাচক পর্যালোচনা হিসেবে উপস্থাপন করে। এমনকি পৃষ্ঠায় নেতিবাচক মন্তব্য থাকলেও লুকানো কন্টেন্ট প্রভাব বিস্তার করে।

সাইবারসিকিউরিটি গবেষক জ্যাকব লারসেন মনে করেন, চ্যাটজিপিটির বর্তমান সার্চ টুলটি সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত হলে মানুষকে বিভ্রান্ত করার জন্য ওয়েবসাইট তৈরি করা হতে পারে। তিনি আরও বলেন, টুলটি এখনো পরীক্ষামূলক অবস্থায় রয়েছে এবং ওপেনএআই (OpenAI) হয়তো এসব সমস্যার সমাধানে কাজ করছে।

তবে, লারসেন ও অন্যান্য বিশেষজ্ঞরা মনে করেন, বড় ভাষার মডেল (LLM) এবং সার্চ টুলের সমন্বয়ে তথ্য প্রাপ্তি সবসময় নির্ভরযোগ্য নাও হতে পারে। উদাহরণ হিসেবে, একটি ক্রিপ্টোকারেন্সি প্রকল্পে কোড সাহায্যের জন্য চ্যাটজিপিটি ব্যবহার করা হলে ভুল নির্দেশনার কারণে এক ব্যবহারকারী তার $২,৫০০ হারিয়েছেন।

এ বিষয়ে OpenAI কোনো মন্তব্য করেনি। তবে, চ্যাটজিপিটি পৃষ্ঠায় একটি সতর্কবার্তায় বলা হয়েছে, চ্যাটজিপিটি ভুল করতে পারে। গুরুত্বপূর্ণ তথ্য যাচাই করুন।

বিশেষজ্ঞ কার্স্টেন নোহল বলেন, চ্যাটজিপিটি এবং এ ধরনের টুলকে সহকারী হিসেবে ব্যবহার করা উচিত, কিন্তু এর উত্তরকে সম্পূর্ণ নির্ভরযোগ্য মনে করা যাবে না।

গবেষণায় আরও উল্লেখ করা হয়েছে যে, লুকানো কন্টেন্ট ব্যবহার করে চ্যাটজিপিটিকে প্রভাবিত করার কৌশলকে “SEO পয়জনিং” এর মতো সমস্যা বলে মনে করা হচ্ছে। এই সমস্যা নতুন নয়, তবে AI চালিত সার্চ টুলগুলোর জন্য এটি বড় চ্যালেঞ্জ হিসেবে দাঁড়িয়েছে।