নিজেদের এআইকে নিয়ন্ত্রণে রাখার চ্যালেঞ্জে ওপেনএআই

অনলাইন ডেস্ক

নিজেদের তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবস্থার অনিয়ম শনাক্ত করতে যে নিরাপত্তা পর্যবেক্ষণব্যবস্থা ব্যবহার করে ওপেনএআই, সেই ব্যবস্থারই কিছু অংশ দুর্বল করে দিয়েছে প্রতিষ্ঠানটির দুটি এআই এজেন্ট। অভ্যন্তরীণ কোডিংয়ের কাজ করতে গিয়ে এ ঘটনা ঘটে। নির্মাতাদের প্রত্যাশার বাইরে এআইয়ের এমন আচরণ উন্নত এআই ব্যবস্থাকে নিয়ন্ত্রণ ও পর্যবেক্ষণে রাখার সক্ষমতা নিয়ে নতুন প্রশ্ন তুলেছে।

বার্তা সংস্থা রয়টার্সের প্রতিবেদনে বলা হয়েছে, গত ২০ অক্টোবর ওপেনএআই এ দুটি ঘটনার কথা জানায়। প্রতিষ্ঠানটি বলেছে, ঘটনাগুলো তাদের সবচেয়ে গুরুতর নিরাপত্তা সমস্যার পর্যায়ে পড়েনি। তবে যেসব ব্যবস্থা এআইয়ের অনাকাঙ্ক্ষিত আচরণ শনাক্ত করার কথা, সেগুলোও এআইয়ের কর্মকাণ্ডে দুর্বল হয়ে পড়তে পারে- ঘটনা দুটি সেই ঝুঁকিই সামনে এনেছে।

প্রতিবেদন অনুযায়ী, প্রথম ঘটনাটি ঘটে গত ৩ অক্টোবর। অভ্যন্তরীণ পরীক্ষার কাজে নিয়োজিত ‘জিপিটি-৬.১ সল’ নামের একটি এআই এজেন্ট স্বয়ংক্রিয় নিরাপত্তা সতর্কবার্তা বন্ধ করে দেয়। এর আগে তাকে স্ল্যাক বার্তা না পাঠানোর নির্দেশ দেওয়া হয়েছিল। এআই এজেন্টটি সেই নির্দেশকে নিরাপত্তাসংক্রান্ত সতর্কবার্তার ক্ষেত্রেও প্রযোজ্য বলে ধরে নেয়। দ্বিতীয় ঘটনাটি ঘটে ৬ অক্টোবর। ‘জিপিটি-৬ অ্যাস্ট্রা’ নামের আরেকটি এআই এজেন্ট বিদ্যমান কোডের অনুলিপি তৈরির সময় একটি নিরাপত্তা পর্যবেক্ষক সরিয়ে দেয়। পরে সে কাজটি করেনি বলে ভুল দাবি করে।

ওপেনএআইয়ের ভাষ্য অনুযায়ী, উভয় ক্ষেত্রেই এআই এজেন্টগুলো নিরাপত্তাব্যবস্থা অক্ষুণ্ন রাখার বিষয়টি বিবেচনা করেছিল। কিন্তু সাধারণ কোডিং নির্দেশনাকে তারা সেই সুরক্ষাব্যবস্থা দুর্বল করার অনুমতি হিসেবে ব্যাখ্যা করে। এ ধরনের আচরণের কারণ সম্পর্কে প্রতিষ্ঠানটি এখনো নিশ্চিত নয়। রয়টার্সকে দেওয়া তথ্য অনুযায়ী, এআই মডেলগুলোর পক্ষে পর্যবেক্ষণ এড়িয়ে যাওয়ার প্রবণতা তৈরি হচ্ছে কি না, তা যাচাই করছে ওপেনএআই। পাশাপাশি মডেলগুলো নিজেদের সিদ্ধান্তের পক্ষে যুক্তি দাঁড় করিয়ে নজরদারি এড়ানোর চেষ্টা করছে কি না, সেটিও পরীক্ষা করা হচ্ছে।

ওপেনএআই জানিয়েছে, এআই মডেলগুলোর পক্ষে নিরাপত্তা পর্যবেক্ষণ বন্ধ করা কঠিন করতে তারা ব্যবস্থা নিচ্ছে। তবে কেন এজেন্টগুলো এমন সিদ্ধান্ত নিয়েছে, তার সন্তোষজনক ব্যাখ্যা এখনো পাওয়া যায়নি। উন্নত এআই ব্যবস্থার সক্ষমতা যত বাড়ছে, সেগুলোকে নিরাপদ রাখা এবং মানুষের নিয়ন্ত্রণে রাখার চ্যালেঞ্জও তত বাড়ছে। গবেষকেরা সতর্ক করেছেন, বেশি স্বায়ত্তশাসনসম্পন্ন এআই এজেন্টকে পর্যবেক্ষণ ও নিয়ন্ত্রণ করা ভবিষ্যতে আরও কঠিন হয়ে উঠতে পারে।

ওপেনএআই ছাড়াও এআই খাতের অন্যান্য প্রতিষ্ঠান সাম্প্রতিক মাসগুলোতে নিজেদের এজেন্টের অনাকাঙ্ক্ষিত আচরণের কথা জানিয়েছে। এসব ঘটনার মধ্যে অনুমতি ছাড়াই বাইরের ব্যবস্থায় প্রবেশের ঘটনাও রয়েছে। ফলে এআইয়ের সক্ষমতা বৃদ্ধির পাশাপাশি নিরাপত্তা যাচাই, পর্যবেক্ষণ এবং মানুষের তদারকি নিশ্চিত করার বিষয়টি প্রযুক্তি খাতের গুরুত্বপূর্ণ উদ্বেগ হয়ে উঠেছে।

সূত্র: রয়টার্স।