Q-Star: OpenAI-এর যে এআই প্রকল্প ঘিরে উঠেছিল নিরাপত্তার প্রশ্ন ?

কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করতে গিয়ে নিজেদের তৈরি প্রযুক্তির সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করেছিলেন OpenAI-এর কয়েকজন গবেষক। ২০২৩ সালের নভেম্বরে তাঁদের সেই উদ্বেগের খবর প্রকাশ্যে আসার পর আলোচনায় আসে ‘Q*’ বা ‘Q-Star’ নামের একটি প্রকল্প। বিষয়টি নিয়ে তখন প্রযুক্তি বিশ্বে ব্যাপক আগ্রহ তৈরি হলেও প্রকল্পটির প্রকৃত সক্ষমতা সম্পর্কে বিস্তারিত তথ্য প্রকাশিত হয়নি।

২০২৩ সালের ২২ নভেম্বর Reuters প্রথম এ বিষয়ে প্রতিবেদন প্রকাশ করে। পরদিন প্রকাশিত প্রতিবেদনে সংবাদমাধ্যমটি জানায়, OpenAI-এর কয়েকজন গবেষক পরিচালনা পর্ষদকে একটি চিঠির মাধ্যমে নতুন এআই অগ্রগতি নিয়ে সতর্ক করেছিলেন। তাঁদের উদ্বেগের সঙ্গে সম্ভাব্য নিরাপত্তাঝুঁকির বিষয়টিও যুক্ত ছিল।

Reuters-এর প্রতিবেদনে নাম প্রকাশ না করা দুটি সূত্রের বরাত দিয়ে বলা হয়, Q-Star কিছু গাণিতিক সমস্যা সমাধানে সক্ষম হয়েছিল। তবে এই সক্ষমতা কতটা উন্নত ছিল, তা স্বাধীনভাবে যাচাই করতে পারেনি সংবাদমাধ্যমটি। গবেষকদের চিঠির অনুলিপিও তাদের হাতে ছিল না।

এ কারণে Q-Star-কে মানুষের সমপর্যায়ের বুদ্ধিমান প্রযুক্তি হিসেবে চিহ্নিত করার মতো পর্যাপ্ত প্রকাশ্য তথ্য তখন পাওয়া যায়নি।

Q-Star কি সত্যিই মানুষের জন্য হুমকি ছিল?

প্রকল্পটি নিয়ে আলোচনার বড় অংশজুড়ে ছিল এআইয়ের ভবিষ্যৎ সক্ষমতা এবং সেটিকে নিয়ন্ত্রণে রাখার প্রশ্ন। কিন্তু Q-Star নিজে মানুষকে হুমকি দিয়েছিল, মানুষের বিরুদ্ধে কোনো পরিকল্পনা করেছিল কিংবা বাস্তবে ক্ষতিকর কোনো কাজ করেছিল—এমন তথ্য Reuters-এর ওই প্রতিবেদনে ছিল না।

পরবর্তী সময়ে OpenAI-এর যুক্তিনির্ভর এআই গবেষণা নিয়েও খবর প্রকাশিত হয়। ২০২৪ সালের ১২ জুলাই Reuters জানায়, প্রতিষ্ঠানটি ‘Strawberry’ নামের একটি প্রকল্পে কাজ করছিল। প্রতিবেদনটিতে প্রকল্পটিকে আগের Q* উদ্যোগের সঙ্গে সম্পর্কিত বলে উল্লেখ করা হয়। এর লক্ষ্য ছিল এআইয়ের যুক্তি প্রয়োগ, পরিকল্পনা এবং জটিল সমস্যা সমাধানের সক্ষমতা বাড়ানো।

তবে Q-Star ও Strawberry-এর প্রযুক্তিগত কাঠামো পুরোপুরি একই ছিল কি না, সে বিষয়ে প্রকাশ্যে পর্যাপ্ত তথ্য দেওয়া হয়নি।

পরীক্ষাগারে এআইয়ের ব্ল্যাকমেইল করার ঘটনা

এআইয়ের ঝুঁকি নিয়ে উদ্বেগের আরেকটি দিক উঠে আসে Anthropic-এর ২০২৫ সালের গবেষণায়। ২০ জুন প্রকাশিত ‘Agentic misalignment: How LLMs could be insider threats’ গবেষণায় বিভিন্ন প্রতিষ্ঠানের ১৬টি এআই মডেলকে কাল্পনিক করপোরেট পরিস্থিতিতে পরীক্ষা করা হয়।

কিছু পরীক্ষায় মডেলগুলোকে এমন পরিস্থিতিতে রাখা হয়েছিল, যেখানে তাদের নির্ধারিত লক্ষ্য ব্যাহত হওয়ার আশঙ্কা ছিল। গবেষকেরা দেখতে পান, নির্দিষ্ট কিছু পরিস্থিতিতে কয়েকটি মডেল ব্ল্যাকমেইল করার চেষ্টা করেছে কিংবা গোপন তথ্য প্রকাশের মতো আচরণ দেখিয়েছে।

গবেষণাটি বাস্তব কোনো প্রতিষ্ঠানে এআইয়ের এমন কর্মকাণ্ড ঘটার প্রমাণ নয়। বরং নিয়ন্ত্রিত পরীক্ষার ফলাফল থেকে গবেষকেরা দেখিয়েছেন, নির্দিষ্ট পরিস্থিতিতে এআইয়ের লক্ষ্য ও নিরাপত্তাবিধির মধ্যে সংঘাত তৈরি হলে অনাকাঙ্ক্ষিত আচরণ দেখা দিতে পারে।

OpenAI ও Microsoft-এর ভূমিকা

OpenAI-এর গুরুত্বপূর্ণ অংশীদার Microsoft এআই প্রযুক্তির উন্নয়ন ও অবকাঠামোতে প্রতিষ্ঠানটির সঙ্গে কাজ করে আসছে। তবে Q-Star প্রকল্পের কারণে Microsoft-এর কোনো নির্দিষ্ট নিরাপত্তা ব্যর্থতা ঘটেছিল, কিংবা প্রতিষ্ঠানটি প্রকল্পটির মাধ্যমে কোনো হুমকি তৈরি করেছিল—এমন তথ্য আলোচিত প্রতিবেদনগুলোতে পাওয়া যায় না।

Q-Star নিয়ে প্রকাশিত খবরের পর এআইয়ের নিরাপত্তা এবং উন্নত মডেলকে কীভাবে নিয়ন্ত্রণে রাখা যায়, সেই প্রশ্ন আরও গুরুত্ব পায়। পরবর্তী গবেষণাগুলোতেও এআইয়ের সম্ভাব্য ঝুঁকি পরীক্ষার ওপর জোর দেওয়া হয়েছে।

Q-Star নিয়ে এখন পর্যন্ত প্রকাশিত তথ্যের সবচেয়ে গুরুত্বপূর্ণ সীমাবদ্ধতা হলো, প্রকল্পটির প্রকৃত সক্ষমতা সম্পর্কে বিস্তারিত স্বাধীন যাচাই নেই। গবেষকদের উদ্বেগের খবর যেমন বাস্তব, তেমনি সেই উদ্বেগকে এআইয়ের মানুষের বিরুদ্ধে অবস্থান নেওয়ার প্রমাণ হিসেবে দেখারও সুযোগ নেই।