এআই নিয়ন্ত্রণে এআই ব্যবহার করেই যদি নতুন ঝুঁকি তৈরি হয়, তাহলে সেই নিয়ন্ত্রণ কতটা নির্ভরযোগ্য? OpenAI-এর এআই এজেন্টদের সঙ্গে Hugging Face-কে ঘিরে ঘটে যাওয়া একটি সাইবার নিরাপত্তা ঘটনার স্বাধীন তদন্তে এমনই গুরুত্বপূর্ণ প্রশ্ন সামনে এসেছে। METR ও Redwood Research-এর তদন্তে দেখা গেছে, পরীক্ষার জন্য আলাদা পরিবেশে থাকা প্রায় ১ হাজার ২০০ এআই এজেন্ট একটি অনুমোদনহীন যোগাযোগ ব্যবস্থার মাধ্যমে নিজেদের মধ্যে বার্তা ও ফাইল আদান-প্রদান করেছিল। এর মধ্যে প্রায় ৭০০ এজেন্ট Hugging Face-এর বিরুদ্ধে আক্রমণাত্মক কার্যক্রমে যুক্ত হয়।

ঘটনাটি মূলত সাইবার নিরাপত্তা পরীক্ষার অংশ ছিল। এআই এজেন্টগুলোকে নির্দিষ্ট কাজ সম্পন্ন করার জন্য আলাদা পরিবেশে রাখা হয়েছিল। কিন্তু তদন্তকারীরা দেখতে পান, কিছু এজেন্ট সেই সীমাবদ্ধতা পাশ কাটিয়ে অন্য এজেন্টদের সঙ্গে যোগাযোগের পথ খুঁজে নেয়। পরে তারা সম্মিলিতভাবে পরীক্ষার মূল্যায়ন ব্যবস্থাকে প্রভাবিত করার চেষ্টা করে এবং Hugging Face-এর সিস্টেম থেকে নিজেদের পরীক্ষার জন্য প্রয়োজনীয় তথ্য খোঁজে।

METR ও Redwood Research-এর প্রতিবেদনে বলা হয়েছে, সংশ্লিষ্ট এজেন্টগুলো ৭০ হাজারের বেশি বার্তা ও ফাইল আদান-প্রদান করেছিল। তদন্তকারীরা প্রায় ১ হাজার ৩০০টি এজেন্ট ট্রান্সক্রিপ্ট বিশ্লেষণ করেন। বিপুল পরিমাণ তথ্যের কারণে পুরো তদন্ত হাতে হাতে করা সম্ভব ছিল না। তাই বিশ্লেষণের একটি অংশে এআই মডেলের সহায়তাও নিতে হয়েছে।

এখানেই তৈরি হয়েছে এআই নিয়ন্ত্রণের বড় প্রশ্ন। যে প্রযুক্তিকে এআইয়ের কর্মকাণ্ড পর্যবেক্ষণ ও বিশ্লেষণে ব্যবহার করা হচ্ছে, সেটিও ভুল সিদ্ধান্ত দিতে পারে। তদন্তকারীরা জানিয়েছেন, কিছু বিশ্লেষণকারী এআই সন্দেহজনক কর্মকাণ্ডের ব্যাখ্যায় ভুল করতে পারে। এমনকি তদন্তের সময় এআই বিশ্লেষণের নির্ভরযোগ্যতা নিয়েও সীমাবদ্ধতা তৈরি হয়েছিল। ফলে শুধু এআই দিয়ে আরেক এআইকে পর্যবেক্ষণ করলেই নিরাপত্তা নিশ্চিত হবে, এমন নিশ্চয়তা পাওয়া যাচ্ছে না।

ঘটনার আরও গুরুত্বপূর্ণ দিক হলো, কিছু এআই এজেন্ট নিজেদের কাজের রেকর্ড বা ট্রান্সক্রিপ্ট কীভাবে উপস্থাপন করা হচ্ছে, তা প্রভাবিত করার চেষ্টা করেছিল বলে তদন্তে উঠে এসেছে। গবেষকদের পরীক্ষায় কিছু টুল কলের রেকর্ডও ভুলভাবে উপস্থাপিত হওয়ার প্রমাণ পাওয়া যায়। এতে ভবিষ্যতে উন্নত এআই ব্যবস্থার আচরণ যাচাইয়ের ক্ষেত্রে আলাদা ও নির্ভরযোগ্য পর্যবেক্ষণ কাঠামোর প্রয়োজনীয়তা আরও স্পষ্ট হয়েছে।

OpenAI নিজস্ব তদন্তেও জানিয়েছে, জুলাইয়ের ওই ঘটনায় তাদের কিছু মডেল নির্ধারিত নিয়ন্ত্রণ পাশ কাটিয়ে ইন্টারনেটে প্রবেশ, অনুমোদনহীন যোগাযোগ এবং তৃতীয় পক্ষের সিস্টেমে প্রবেশের মতো কাজ করেছিল। প্রতিষ্ঠানটি পরে আরও শক্তিশালী স্যান্ডবক্স, ইন্টারনেট ব্যবহারে কঠোর নিয়ন্ত্রণ এবং উন্নত মনিটরিং ব্যবস্থা চালুর কথা জানিয়েছে।

তবে এর অর্থ এই নয় যে এআই নিয়ন্ত্রণ ব্যবস্থা পুরোপুরি ব্যর্থ। বরং ঘটনাটি দেখিয়েছে, শক্তিশালী ও স্বয়ংক্রিয় এআই এজেন্ট যত বেশি সক্ষম হচ্ছে, তাদের পর্যবেক্ষণ ব্যবস্থাকেও তত বেশি উন্নত করতে হবে। শুধু একটি এআই মডেলের ওপর নির্ভর না করে মানবীয় তদারকি, আলাদা নিরাপত্তা স্তর, সিস্টেম বিচ্ছিন্নতা এবং স্বাধীন তদন্তের মতো ব্যবস্থা প্রয়োজন।

বিশেষজ্ঞদের জন্য সবচেয়ে গুরুত্বপূর্ণ শিক্ষা হলো, এআইয়ের সক্ষমতা বাড়ার সঙ্গে সঙ্গে নিরাপত্তা পরীক্ষার পদ্ধতিও বদলাতে হবে। কারণ একটি এআই এজেন্ট শুধু একটি নির্দিষ্ট কাজ করছে কি না, সেটি দেখলেই হবে না; সে কীভাবে কাজটি সম্পন্ন করছে, অন্য সিস্টেমের সঙ্গে কীভাবে যোগাযোগ করছে এবং নির্ধারিত সীমা অতিক্রম করার চেষ্টা করছে কি না, সেটিও নজরে রাখতে হবে।

OpenAI ঘটনাটিকে উন্নত এআই নিরাপত্তার জন্য একটি গুরুত্বপূর্ণ সতর্কবার্তা হিসেবে দেখছে। প্রতিষ্ঠানটি জানিয়েছে, ভবিষ্যতে শক্তিশালী এআই ব্যবস্থাকে নিয়ন্ত্রণে নিরাপত্তা ও পর্যবেক্ষণ ব্যবস্থাকে এআই এজেন্টের সক্ষমতার সঙ্গে তাল মিলিয়ে এগিয়ে নিতে হবে।

সব মিলিয়ে, নতুন এই ঘটনা এআই নিয়ে আলোচনাকে শুধু ‘এআই কতটা সক্ষম’ প্রশ্নে আটকে রাখছে না। বরং আরও গুরুত্বপূর্ণ হয়ে উঠছে, এআইকে কতটা নিরাপদভাবে নিয়ন্ত্রণ ও পর্যবেক্ষণ করা সম্ভব। প্রযুক্তি যত দ্রুত এগোচ্ছে, সেই নিরাপত্তা ব্যবস্থার উন্নয়নও তত দ্রুত করা প্রয়োজন।