এআই এজেন্ট নিয়ন্ত্রণে Nvidia-র নতুন প্ল্যাটফর্ম, মিলিসেকেন্ডে থামানো যাবে ভুল কাজ

এআই এজেন্ট এখন শুধু প্রশ্নের উত্তর দেওয়ার মধ্যে সীমাবদ্ধ নেই। কোড লেখা, গ্রাহকের অনুরোধ সামলানো এবং একাধিক ব্যবসায়িক সফটওয়্যারের মধ্যে কাজ করার মতো জটিল দায়িত্বও তারা পালন করতে পারছে। কিন্তু এআই এজেন্টের ক্ষমতা যত বাড়ছে, ততই গুরুত্বপূর্ণ হয়ে উঠছে নিরাপত্তার প্রশ্ন। কোনও এজেন্ট যদি অনুমতি না থাকা ডেটা বা টুল ব্যবহার করার চেষ্টা করে, তখন তাকে কীভাবে দ্রুত থামানো যাবে?

এই সমস্যার মোকাবিলায় নতুন একটি প্ল্যাটফর্ম ঘোষণা করেছে এনভিডিয়া। সংস্থার নতুন ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম এমনভাবে তৈরি করা হয়েছে, যাতে এআই এজেন্ট নির্ধারিত সীমা অতিক্রম করার চেষ্টা করলে সেটি শনাক্ত করে প্রয়োজনীয় পদক্ষেপ নেওয়া যায়। এনভিডিয়ার দাবি, এর একটি হার্ডওয়্যার-ভিত্তিক অংশ এজেন্টকে মিলিসেকেন্ডের মধ্যে বিচ্ছিন্ন এবং বন্ধ করতে পারে।

এআই এজেন্টের জন্য আলাদা নিরাপত্তা ব্যবস্থা

এআই এজেন্ট সাধারণ সফটওয়্যারের তুলনায় অনেক বেশি স্বয়ংক্রিয়ভাবে কাজ করতে পারে। একটি এজেন্টকে নির্দিষ্ট অনুমতি দিলে সেটি নিজে থেকে বিভিন্ন ধাপ সম্পন্ন করতে পারে। কিন্তু কোনও ভুল সিদ্ধান্ত বা নিরাপত্তা দুর্বলতার কারণে এজেন্ট যদি অনুমতির বাইরে চলে যায়, তখন সমস্যা তৈরি হতে পারে।

এনভিডিয়ার নতুন প্ল্যাটফর্মের মূল লক্ষ্য হল এজেন্ট কী করতে পারবে এবং কী করতে পারবে না, সেই সীমা নির্ধারণ করা। শুধু এজেন্টের নিজের সফটওয়্যারের মধ্যে নিরাপত্তা ব্যবস্থা রাখার পরিবর্তে কম্পিউটিং স্তরেও আলাদা নিয়ন্ত্রণ তৈরি করা হয়েছে। সংস্থার বক্তব্য অনুযায়ী, এতে এজেন্ট নিজেই নিরাপত্তা ব্যবস্থা পরিবর্তন বা পাশ কাটানোর চেষ্টা করলেও বাইরের নিয়ন্ত্রণ সক্রিয় থাকতে পারে।

দুটি প্রধান অংশে তৈরি প্ল্যাটফর্ম

এনভিডিয়ার ওপেন এজেন্ট সেফটি প্ল্যাটফর্মের দুটি প্রধান উপাদান রয়েছে। এগুলি হল ওপেনশেল এবং এনভিডিয়া সেন্ট্রি।

ওপেনশেল কী করবে?

ওপেনশেল একটি ওপেন-সোর্স সফটওয়্যার ব্যবস্থা। এটি এআই এজেন্টের কার্যকলাপ পর্যবেক্ষণ করতে এবং সংস্থার নির্ধারিত নিরাপত্তা নিয়ম প্রয়োগ করতে সাহায্য করবে। কোনও এজেন্ট কোন কাজ করছে, কোন রিসোর্স ব্যবহার করছে এবং তার নির্ধারিত সীমার মধ্যে রয়েছে কি না, সেগুলি নজরে রাখার জন্য ওপেনশেল ব্যবহার করা যেতে পারে। এনভিডিয়া জানিয়েছে, ওপেনশেল তাদের ভেরা সিপিইউ-এর জন্য উপলব্ধ। তবে এটি ওপেন-সোর্স হওয়ায় ডেভেলপাররা অন্য কম্পিউটিং প্ল্যাটফর্মেও এর ব্যবহার সম্প্রসারণ করতে পারবেন। এর মধ্যে আর্ম এবং ইন্টেলের প্ল্যাটফর্মও রয়েছে।

মিলিসেকেন্ডে এজেন্ট থামাবে এনভিডিয়া সেন্ট্রি

প্ল্যাটফর্মটির দ্বিতীয় গুরুত্বপূর্ণ অংশ হল এনভিডিয়া সেন্ট্রি। এটি এমন একটি আলাদা মনিটরিং ব্যবস্থা, যা ব্লুফিল্ড-৪ প্রসেসরের উপর চলার জন্য তৈরি করা হয়েছে। সহজভাবে বললে, সেন্ট্রিকে এআই এজেন্টের বাইরের একজন নিরাপত্তারক্ষীর মতো ভাবা যায়। এজেন্ট তার নির্ধারিত জায়গার মধ্যে কাজ করছে কি না, সিস্টেমটি তা পর্যবেক্ষণ করবে। যদি কোনও এজেন্ট নির্ধারিত নিরাপত্তা সীমা অতিক্রম করার চেষ্টা করে, এনভিডিয়ার দাবি অনুযায়ী সেন্ট্রি সেটিকে শনাক্ত করে মিলিসেকেন্ডের মধ্যে বিচ্ছিন্ন এবং থামাতে পারবে। এই ব্যবস্থা বিশেষ করে এমন ক্ষেত্রে গুরুত্বপূর্ণ হতে পারে, যেখানে এআই এজেন্ট সরাসরি গুরুত্বপূর্ণ ডেটা, সফটওয়্যার বা ব্যবসায়িক সিস্টেমে কাজ করার অনুমতি পায়।

কেন এজেন্টের বাইরে নিরাপত্তা নিয়ন্ত্রণ?

এনভিডিয়ার মতে, সাম্প্রতিক কিছু নিরাপত্তা ঘটনার মাধ্যমে বোঝা যাচ্ছে যে শুধুমাত্র অ্যাপ্লিকেশনের ভিতরে নিরাপত্তা বিধিনিষেধ তৈরি করা সবসময় যথেষ্ট নাও হতে পারে। কোনও এজেন্ট যদি তার নিজের সফটওয়্যার পরিবেশের মধ্যে থাকা নিরাপত্তা ব্যবস্থা পরিবর্তন বা এড়িয়ে যাওয়ার চেষ্টা করে, তাহলে সেই একই পরিবেশে থাকা নিয়ন্ত্রণ দুর্বল হয়ে যেতে পারে।

এনভিডিয়ার পদ্ধতিতে নিরাপত্তার একটি অংশ এজেন্টের বাইরের কম্পিউটিং স্তরে রাখা হচ্ছে। ফলে এজেন্ট সরাসরি সেই নিয়ন্ত্রণ পরিবর্তন করতে পারবে না। এনভিডিয়ার সিইও জেনসেন হুয়াং এই উদ্যোগ সম্পর্কে বলেছেন, “সেফটি এবং সিকিউরিটির জন্য ফুল-স্ট্যাক ইঞ্জিনিয়ারিং প্রয়োজন।” তাঁর বক্তব্য অনুযায়ী, এই উদ্যোগে শিল্প সংস্থা, গবেষক এবং সরকারি সংস্থাগুলিকে একসঙ্গে এআই নিরাপত্তা নিয়ে কাজ করার সুযোগ তৈরি হবে।

শতাধিক সংস্থা কাজ করছে

এনভিডিয়ার দাবি, এই প্ল্যাটফর্মের সঙ্গে সম্পর্কিত প্রযুক্তি নিয়ে ইতিমধ্যে ১০০টিরও বেশি সংস্থা কাজ করছে। এই তালিকায় অ্যানথ্রপিক, মাইক্রোসফট, সেলসফোর্স এবং এসএপি-র মতো সংস্থার নাম রয়েছে। পাশাপাশি সাইবারসিকিউরিটি এবং ইনফ্রাস্ট্রাকচার ক্ষেত্রের আরও একাধিক সংস্থাও এই প্রযুক্তির সঙ্গে কাজ করছে। এনভিডিয়া জানিয়েছে, বিভিন্ন ব্যবসায়িক কাজের ক্ষেত্রে এআই এজেন্টের ব্যবহার বাড়ার সঙ্গে সঙ্গে তাদের নিরাপত্তা নিয়ন্ত্রণও আরও গুরুত্বপূর্ণ হয়ে উঠছে।

স্ল্যাকের সঙ্গে যুক্ত হতে পারে এজেন্ট মনিটরিং

এনভিডিয়া একটি স্ল্যাক ইন্টিগ্রেশনের উদাহরণও দিয়েছে। এই ব্যবস্থায় কোনও দলের সদস্যরা স্ল্যাকের মধ্যেই ওপেনশেল-চালিত এজেন্টের কার্যকলাপ দেখতে পারবেন। কোনও এজেন্ট যদি অতিরিক্ত অনুমতি চায়, তখন ব্যবহারকারীরা স্ল্যাক থেকেই সেই অনুরোধ অনুমোদন বা প্রত্যাখ্যান করতে পারবেন। এর ফলে এআই এজেন্টের কাজের উপর নজর রাখার জন্য আলাদা একটি ব্যবস্থায় বারবার যেতে হবে না। সংস্থার দৈনন্দিন কাজের প্ল্যাটফর্মের মধ্যেই অনুমতি এবং নিরাপত্তা সংক্রান্ত সিদ্ধান্ত নেওয়ার সুযোগ তৈরি হতে পারে।

এআই এজেন্টের ব্যবহার বাড়ার সঙ্গে নিরাপত্তার গুরুত্ব

কোডিং, গ্রাহক পরিষেবা, ডেটা বিশ্লেষণ এবং ব্যবসায়িক সফটওয়্যারের মধ্যে স্বয়ংক্রিয় কাজের মতো ক্ষেত্রে এআই এজেন্টের ব্যবহার বাড়ছে। এর ফলে এজেন্টকে আরও বেশি ক্ষমতা ও অ্যাক্সেস দিতে হচ্ছে। এই পরিস্থিতিতে শুধু এজেন্ট কতটা দক্ষ, সেটিই গুরুত্বপূর্ণ নয়। একই সঙ্গে তাকে কতটা নিরাপদভাবে নিয়ন্ত্রণ করা যায়, সেটিও বড় বিষয় হয়ে উঠছে।

এনভিডিয়ার নতুন প্ল্যাটফর্ম সেই সমস্যার একটি প্রযুক্তিগত সমাধান দেওয়ার চেষ্টা করছে। ওপেনশেল এজেন্টের কাজের সীমা নির্ধারণ এবং পর্যবেক্ষণে সাহায্য করবে, আর সেন্ট্রি আলাদা কম্পিউটিং স্তর থেকে নিরাপত্তা নজরদারি চালাবে। ওপেনশেল এবং সংশ্লিষ্ট সফটওয়্যার ডেভেলপার রিসোর্স ও গিটহাবের মাধ্যমে পাওয়া যাচ্ছে বলে এনভিডিয়া জানিয়েছে। তবে বাস্তব ব্যবহারে এই প্রযুক্তি কতটা কার্যকরভাবে জটিল এআই এজেন্টকে নিয়ন্ত্রণ করতে পারে, তা বৃহৎ পরিসরে ব্যবহারের পরই আরও পরিষ্কার হবে।

Get your daily dose of tech news and insight.  Follow us on X, Facebook, WhatsApp and Google News for instant updates. Catch all the action on our YouTube channel.