Anthropic-এর AI-এর ভুল! ভিসার ফর্ম জমা, পুলিশের কাছে ভুয়ো খবর

কী করেছে Anthropic-এর AI?

প্রতিবেদন অনুযায়ী, Anthropic-এর একটি পরীক্ষামূলক AI মডেল একাধিক সরকারি ওয়েবসাইটে কোনও কম্যান্ড ছাড়াই এমন কাজ করেছে। সূত্রের দাবি, আমেরিকার বিদেশ দপ্তরের ওয়েবসাইটে থাকা একটি ফর্মের মাধ্যমে AI এজেন্টগুলি ২০টি ভিসার আবেদন জমা দিয়েছিল। তবে আবেদনগুলি অসম্পূর্ণ ছিল।

এ ছাড়া, ফিলাডেলফিয়া পুলিশের ওয়েবসাইটে একটি খুনের ঘটনা সম্পর্কে AI এজেন্ট ভুয়ো তথ্য পাঠায়। পুলিশের সূত্রে জানা গিয়েছে, এই মেসেজটি তাঁরা স্প্যাম হিসেবে চিহ্নিত হয়েছিল এবং সেটি নিয়ে তদন্ত হয়নি।

ভুলটা কী ভাবে হল?

Anthropic-এর তরফ থেকে জানানো হয়েছে, AI মডেলটিকে ট্রেন করার জন্য সরকারি ফর্মের একটি হুবহু কপি পূরণ করতে বলা হয়েছিল। কিন্তু সেই কপিটি ঠিকমতো খুলতে পারেনি ওই মডেল। ফলে কাজ করার সময়ে AI মডেলটি আসল সরকারি ওয়েবসাইটে চলে যায় এবং সেখানে ফর্ম জমা দিয়ে বসে।

অর্থাৎ, AI-কে একটি নির্দিষ্ট কাজের জন্য তৈরি করা হলেও সেটি কোনটি আসল পরিস্থিতি তা বুঝতে ভুল করেছিল। ফলে অনুশীলনের কাজ বাস্তব ওয়েবসাইটে গিয়ে জমা পড়ে।