এআই যদি বারবার এমন জায়গায় ঢুকে পড়ে, যেখানে তার যাওয়ার কথা নয়, তাহলে প্রশ্ন উঠবেই—এই প্রযুক্তিকে নিয়ন্ত্রণে রাখার দায়িত্ব যাদের হাতে, তাদের ওপর কতটা ভরসা করা যায়?
সাম্প্রতিক কিছু ঘটনায় সেই ভরসাই নড়বড়ে হয়ে উঠেছে। ওপেনএআই -এর একটি এআই এজেন্ট জাতিসংঘের একটি উন্মুক্ত তথ্যভান্ডারে প্রবেশের চেষ্টা করেছে এবং সাইবার বাধা পাশ কাটানোর জন্য বারবার চেষ্টা চালিয়েছে। সংখ্যাটি ১৬ হাজারের বেশি। ঘটনাটি শুনতে ভয়ংকর হলেও এর অর্থ এই নয় যে এআই হঠাৎ সচেতন হয়ে মানুষের বিরুদ্ধে বিদ্রোহ শুরু করেছে। বরং মডেলগুলোকে দেওয়া নির্দেশ পালন করতে গিয়ে তারা এমন পথ খুঁজে নিচ্ছে, যা নির্মাতারা হয়তো আগে ভাবেননি। সমস্যাটা এখানেই। এআই প্রতিষ্ঠানগুলো নিজেরাই যদি সবসময় বুঝতে না পারে তাদের তৈরি সিস্টেম কী করছে, তাহলে শুধু তাদের ওপর নজরদারির দায়িত্ব ছেড়ে দেওয়া কতটা নিরাপদ?
জুনে অস্ট্রেলিয়ায় এমনই একটি ঘটনা ঘটে। ওপেনএআই-এর একটি গবেষণা এজেন্টকে দেশটির সরকারি স্বাস্থ্যব্যয়-সংক্রান্ত তথ্য খুঁজতে দেওয়া হয়েছিল। মেডিকেয়ার পরিসংখ্যান পোর্টাল তাকে কয়েকবার বাধা দেওয়ার পর এজেন্টটি সেই বাধা পাশ কাটিয়ে অনুমোদনহীনভাবে তথ্য সংগ্রহ করে। ঘটনাটি ওপেনএআই জানতে পারে আগস্টে। অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি অ্যালবানিজও জানান, সরকারকে বিষয়টি জানাতে কোম্পানিটির ‘অনেক বেশি সময়’ লেগেছে।
তবে এটি শুধু ওপেনএআই-এর সমস্যা নয়।
এথ্রোপিক প্রায় ১ লাখ ৪১ হাজার মডেল কথোপকথন পর্যালোচনা করে ক্লড-এর তিনটি ঘটনায় বাস্তব তৃতীয় পক্ষের সিস্টেমে অনুমোদনহীন প্রবেশের তথ্য পেয়েছে। পরে একটি স্বাধীন তদন্তের জন্য নথি তৈরির সময় আরও পুরোনো একটি ঘটনা সামনে আসে। গুগুল-ও জানিয়েছে, পরীক্ষার সময় জেমিনি তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল।
ওপেনএআই-এর অন্য কিছু এজেন্টও ইন্টারনেট ব্যবহারে নিষেধাজ্ঞা এড়িয়ে বাইরের একটি চ্যাটবটের কাছে পৌঁছেছে। একটি এজেন্ট গাণিতিক সমস্যার সমাধানে সুবিধা নেওয়ার চেষ্টা করতে গিয়ে একজন গবেষকের গিটহাব অ্যাক্সেস টোকেন প্রকাশ করে। আরও কিছু গবেষণা এজেন্ট ব্যবহারকারীদের ৫৩টি ছবি বাইরের হোস্টিং সাইটে পাঠিয়েছে।
এমন ঘটনাগুলোর কয়েকটিতে অনলাইনে পাওয়া পরিচয়পত্র ব্যবহার করে জনগণনার তথ্য সংগ্রহ, মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের তথ্য অন্যত্র কপি করা এবং যুক্তরাষ্ট্রের শিক্ষা বিভাগের একটি ওয়েবসাইটে প্রবেশের ব্যর্থ চেষ্টার কথাও উঠে এসেছে।
ওপেনএআই জানিয়েছে, তাদের এজেন্টের কর্মকাণ্ডে প্রভাবিত কয়েক ডজন তৃতীয় পক্ষকে বিষয়টি জানানো হয়েছে। অতীতের কর্মকাণ্ড নিয়েও পর্যালোচনা চলছে। কিন্তু বড় প্রশ্ন হলো, একটি শক্তিশালী প্রযুক্তির নিরাপত্তা কি এভাবে ঘটনার পর ঘটনা খুঁজে বের করে নিশ্চিত করা যায়?বিমান দুর্ঘটনার তদন্ত যেমন শুধু বিমান নির্মাতা প্রতিষ্ঠানের ওপর ছেড়ে দেওয়া হয় না, এআইয়ের ক্ষেত্রেও স্বাধীন নজরদারি প্রয়োজন—এমন যুক্তিই সামনে আনছেন সংশ্লিষ্ট গবেষকেরা।
গত সপ্তাহে জাতিসংঘের সাধারণ পরিষদের অধিবেশনে এআই গবেষক রুম্মান চৌধুরী ১০ মিলিয়ন ডলারের অর্থায়নে ইন্ডিপেন্ডেন্ট এভ্যুয়লেশন ফাউন্ডেশন চালু করেছেন। প্রতিষ্ঠানটির লক্ষ্য হলো এআই ব্যবস্থার স্বাধীন মূল্যায়নকে একটি পেশাদার ক্ষেত্র হিসেবে গড়ে তোলা। অর্থাৎ যারা এআই পরীক্ষা করবেন, তাদের যেন সেই প্রতিষ্ঠানের আর্থিক স্বার্থের সঙ্গে যুক্ত হতে না হয়, যার মডেল তারা পরীক্ষা করছেন।
এটি একটি গুরুত্বপূর্ণ উদ্যোগ হলেও একা যথেষ্ট নয়। কোনো কোম্পানিকে তথ্যের লগ হস্তান্তর, প্রমাণ সংরক্ষণ বা সরকারের কাছে গুরুতর ঘটনার খবর দিতে বাধ্য করার ক্ষমতা এমন একটি প্রতিষ্ঠানের নেই। তাই শেষ পর্যন্ত প্রয়োজন সরকারি পর্যায়ের অভিন্ন নিয়ম। গুরুতর এআই দুর্ঘটনা কিংবা দুর্ঘটনা এড়ানোর কাছাকাছি চলে যাওয়া ঘটনাও দ্রুত জানানো বাধ্যতামূলক করতে হবে। বাইরের স্বাধীন মূল্যায়নকারীদের কাছে কোম্পানিগুলোকে তথ্য উন্মুক্ত করতে হবে। একটি প্রতিষ্ঠানের ভুল থেকে যেন অন্য প্রতিষ্ঠানগুলোও শিক্ষা নিতে পারে, সে ব্যবস্থাও থাকতে হবে।
এআই কোম্পানিগুলো অবশ্যই এই নিয়ম তৈরির আলোচনায় থাকবে। কিন্তু নিয়মের শেষ কথা তাদের হাতে থাকা উচিত নয়। প্রযুক্তিটি যত শক্তিশালী হচ্ছে, তার ওপর নজরদারিও তত স্বাধীন, স্বচ্ছ ও কঠোর হওয়া প্রয়োজন।
সর্বশেষ খবর পেতে দৈনিক এদিন এর গুগল নিউজ চ্যানেল ফলো করুন
