
অভ্যন্তরীণ পরীক্ষায় নিরাপত্তাঝুঁকি শনাক্ত হওয়ায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। বিতর্কিত ‘ফ্রন্টিয়ার এআই’ প্রযুক্তির উন্নয়ন ও প্রকাশের গতি কমানো নিয়ে প্রযুক্তি খাতে আলোচনা চলার মধ্যেই এ সিদ্ধান্তের কথা জানিয়েছে প্রতিষ্ঠানটি।
সোমবার ওপেনএআই জানায়, অভ্যন্তরীণ পরীক্ষায় তাদের নতুন মডেল ‘জিপিটি-৬.১ অ্যাস্ট্রা’ মানুষের নির্দেশনা অনুযায়ী কাজ করার ক্ষেত্রে নির্ধারিত নিরাপত্তামান পূরণ করতে পারেনি। এআই এজেন্ট মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার একাধিক ঘটনা সামনে আসার পর প্রযুক্তিটির সম্ভাব্য ঝুঁকি নিয়ে বিশ্বজুড়ে আলোচনা চলছে।
ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন এক বিবৃতিতে বলেন, নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে সব সময়ই একটি ভারসাম্য বজায় রাখতে হয়। মডেলটি নির্ধারিত সীমার মধ্যে থেকে কাজ করছে কি না, আবার কাজ করতে গিয়ে অতিরিক্ত নিষ্ক্রিয় হয়ে পড়ছে কি না—দুই বিষয়ই বিবেচনায় নিতে হয়।
তিনি বলেন, আগের সংস্করণের তুলনায় ‘জিপিটি-৬.১ অ্যাস্ট্রা’ কিছু ক্ষেত্রে উন্নতি করলেও ‘কাজের পরিধি ও অনুমোদন’ এবং মডেলটি কী ধরনের কাজ করেছে, তা ব্যবহারকারীকে যথাযথভাবে জানানোর ক্ষেত্রে প্রয়োজনীয় মান অর্জন করতে পারেনি।
জেইনের ভাষ্য, ব্যবহারকারীদের কাছে মডেল উন্মুক্ত করার ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্ট বিষয়ে ওপেনএআই কঠোর মানদণ্ড অনুসরণ করে।
সান ফ্রান্সিসকোতে ওপেনএআইয়ের বার্ষিক ডেভেলপার সম্মেলন শুরুর এক দিন আগে এ সিদ্ধান্তের কথা জানানো হয়। বিষয়টি প্রথম প্রকাশ করে ওয়াল স্ট্রিট জার্নাল।
এদিকে, এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কায় প্রযুক্তির উন্নয়ন ধীর করার আহ্বানও জোরালো হচ্ছে। গবেষকদের মতে, শক্তিশালী নিরাপত্তাব্যবস্থা গড়ে তুলতে সময় দিতে এআই উন্নয়নের গতি কমানো প্রয়োজন।
চলতি মাসের শুরুতে এআই প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এক প্রবন্ধে এআই উন্নয়নের গতি নিয়ন্ত্রণের আহ্বান জানান। ঝুঁকি কমাতে এআই উন্নয়ন ধীর করার পক্ষে মত দেন তিনি। তার এ আহ্বানের প্রতি ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান ও এক্সএআইয়ের প্রধান ইলন মাস্ক সমর্থন জানালেও মেটার প্রধান মার্ক জাকারবার্গসহ প্রযুক্তি খাতের অন্য কয়েকজন গুরুত্বপূর্ণ ব্যক্তি সমন্বিতভাবে উন্নয়ন ধীর করার প্রয়োজনীয়তা নাকচ করেছেন।
জুলাইয়ে এআই নিয়ন্ত্রণের বাইরে চলে যাওয়ার বিষয়টি নতুন করে আলোচনায় আসে। সে সময় ওপেনএআই জানায়, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে বের হয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেসের সিস্টেমে সাইবার হামলা চালিয়েছিল।
পরে ওপেনএআইয়ের হয়ে ঘটনাটি তদন্ত করা নিরাপত্তা গবেষণা প্রতিষ্ঠান মেটিআর ও রেডউড রিসার্চের প্রতিবেদনে বলা হয়, প্রায় ১ হাজার ২০০ বিচ্ছিন্ন এআই এজেন্ট নিজেদের মধ্যে যোগাযোগের উপায় খুঁজে পেয়েছিল। এরপর প্রায় ৭০০ এজেন্ট ওই স্টার্টআপের ওপর হামলা চালায়।
গত শুক্রবার ওপেনএআই জানায়, তাদের এজেন্টগুলোর ‘ভুলভাবে পরিচালিত আচরণ’ বা ‘মিসঅ্যালাইন্ড বিহেভিয়ার’-এর কয়েকটি ঘটনা সম্পর্কে সরকার, বিশ্ববিদ্যালয় ও বিভিন্ন সরকারি সংস্থাসহ কয়েক ডজন প্রতিষ্ঠানকে সতর্ক করা হয়েছে।
এর কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রী জানিয়েছিলেন, ওপেনএআইয়ের একটি এজেন্ট দেশটির জাতীয় স্বাস্থ্যসেবা-সংক্রান্ত ডেটাবেসে অননুমোদিতভাবে প্রবেশ করেছিল।
কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের গবেষক ডেভিড ক্রুগার এআই উন্নয়ন সাময়িকভাবে বন্ধ রাখার পক্ষে মত দিয়েছেন। ওপেনএআইয়ের সিদ্ধান্তকে স্বাগত জানালেও তিনি এটিকে যথেষ্ট মনে করছেন না।
ক্রুগার বলেন, এআই কীভাবে কাজ করে, তা বোঝার ক্ষেত্রে এখনো বড় ধরনের ঘাটতি রয়েছে। ফলে প্রযুক্তিটিকে নিরাপদভাবে তৈরি করা সম্ভব কি না, তা নিয়েও গুরুতর প্রশ্ন রয়েছে। এআই কখন ভুল আচরণ করবে তা ঠেকানো, আগে থেকে অনুমান করা কিংবা নিয়ন্ত্রণ ধরে রাখার নিশ্চয়তা—কোনোটিই এখনো নির্ভরযোগ্যভাবে সম্ভব নয় বলে মন্তব্য করেন তিনি।
তার মতে, এআই যত বেশি উন্নত হবে, এর নিরাপত্তা নিশ্চিত করা তত কঠিন হয়ে উঠবে। তিনি ফ্রন্টিয়ার এআইয়ের উন্নয়ন অবিলম্বে এবং অনির্দিষ্টকালের জন্য আন্তর্জাতিকভাবে স্থগিত রাখার আহ্বান




