প্রতারক ধরবে এআই পুলিশ? গুগল ডিপমাইন্ডের নতুন গবেষণাপত্র প্রকাশ্যে

এটা থেকেই ডিপ মাইন্ডের গবেষকরা একটা সিদ্ধান্তে এলেন। সেটা হলো, এই সমস্যাকে তাঁরা চিহ্নিত করলেন, ‘নলেজ কমন্স গভর্ন্যান্স’- এর সমস্যা হিসেবে। যা প্রমাণ করল, এজেন্ট স্বশাসিত হলেই সে যা খুশি তাই করতে পারে না। সম্মিলিত ভাবে সেই এজেন্টকে আটকে দেওয়াও সম্ভব।

এখান থেকে একটি সিদ্ধান্তে আসা যেতে পারে, সেটা হলো এআই যখন একক চ্যাটবট থেকে স্বশাসিত এজেন্ট নেটওয়ার্কের মধ্যে এগিয়ে যাচ্ছে, সেই সময়ে নিরাপত্তা সংক্রান্ত মূল চ্যালেঞ্জটি একটি মাত্র মডেলের মধ্যে বা একটি মাত্র মডেলকে নিয়ন্ত্রণ করার মধ্যে সীমাবদ্ধ নেই। তাই সেটির ভুল শুধরে দেওয়া খুবই সহজ। এআই এজেন্টদের কাজ চলাকালীন একটি অপ্রত্যাশিত ঘটনা ঘটে। মানুষের ত্রুটিকে কাজে লাগিয়ে সেটি আসল গাণিতিক প্রমাণ না করেই সিস্টেমকে ফাঁকি দিতে শুরু করে।

এআই বলেই এই নিয়ন্ত্রণটা করা সম্ভব হয়েছে। এর থেকে একটা উদ্বেগজনক িদক উঠে আসছে। যে ভাবে এআই চ্যাটবট একক থেকে একটি গোষ্ঠীতে মিলিত হয়ে কাজ করছে, তখন এটির মধ্যে ত্রুটি থেকে যেতেই পারে। এই ত্রুটি ঠিক করাই এখন সাইবার বিশেষজ্ঞদের কাছে সবচেয়ে

বড় চ্যালেঞ্জ।

সুপর্ণ মুখোপাধ্যায়