কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা যত বাড়ছে, ততই সামনে আসছে এর অপ্রত্যাশিত আচরণের ঝুঁকি। গত দুই সপ্তাহে ওপেনএআই, অ্যানথ্রপিক ও মেটা জানিয়েছে, নিরাপত্তা পরীক্ষার সময় তাদের এআই মডেল এমন কিছু করেছে, যা করার কথা ছিল না। তিন প্রতিষ্ঠানের বক্তব্যেই উঠে এসেছে একই নাম—ইসরায়েলের ছোট একটি স্টার্টআপ ইরেগুলার।
তিন বছর আগে তেল আবিবে প্রতিষ্ঠিত ইরেগুলার মূলত এআই মডেলের নিরাপত্তা পরীক্ষা করে। সিকোয়াইয়া ক্যাপিটাল ও রেডপয়েন্ট ভেঞ্চারসের কাছ থেকে প্রতিষ্ঠানটি ৮ কোটি ডলার বিনিয়োগ পেয়েছে। গত বছর এর মূল্যায়ন ছিল ৪৫ কোটি ডলার।
ঘটনার সূত্রপাত এআই মডেলগুলোর নিরাপত্তা পরীক্ষায়। ইরেগুলারের তৈরি পরীক্ষামূলক পরিবেশে ওপেনএআই, অ্যানথ্রপিক ও মেটার মডেলকে বিভিন্ন সাইবার নিরাপত্তা পরীক্ষা চালাতে দেওয়া হয়েছিল। কিন্তু পরীক্ষার সময় মডেলগুলো এমন ওয়েবসাইটে প্রবেশ করে, যেগুলোতে তাদের প্রবেশের অনুমতি থাকার কথা ছিল না।
ওপেনএআই ৪ আগস্ট জানায়, ইরেগুলারের পরীক্ষামূলক ব্যবস্থায় একটি ত্রুটিপূর্ণ কনফিগারেশনের কারণে মডেলগুলো উন্মুক্ত ইন্টারনেটে প্রবেশের সুযোগ পেয়েছিল। এর আগে অ্যানথ্রপিকও একই ধরনের সমস্যার কথা জানায়। মেটা পরে বিষয়টি ইরেগুলারের কাছ থেকে জানতে পারে এবং তদন্ত শুরু করে।
ইরেগুলার বলেছে, তিনটি ঘটনার পেছনেই একই ধরনের পরীক্ষামূলক পরিবেশের ত্রুটি ছিল। প্রতিষ্ঠানটির দাবি, এতে কোনো ‘স্যান্ডবক্স পালানোর’ ঘটনা বা জটিল সাইবার হামলা ঘটেনি এবং বর্তমানে কোনো সমস্যা খোলা অবস্থায় নেই।
ইরেগুলারের প্রধান নির্বাহী ড্যান লাহাভ ও প্রযুক্তি বিভাগের প্রধান ওমের নেভো ২০২৩ সালে প্রতিষ্ঠানটি গড়ে তোলেন। প্রতিষ্ঠানটিতে প্রায় ৩৫ জন কর্মী রয়েছে। লাহাভ আগে আইবিএমে এবং নেভো গুগলে কাজ করেছেন।
বিশেষজ্ঞদের মতে, এ ধরনের ঘটনা পুরোপুরি অস্বাভাবিক নয়। কারণ, উন্নত এআই মডেলকে বাস্তব পরিস্থিতির মতো পরিবেশে পরীক্ষা করার উদ্দেশ্যই হলো সম্ভাব্য দুর্বলতা খুঁজে বের করা। তবে পরীক্ষার সময় ইন্টারনেটের সঙ্গে সংযোগ তৈরি হলে তা কঠোরভাবে নজরদারি করা প্রয়োজন ছিল।
এআইয়ের এমন অনিয়ন্ত্রিত আচরণ এখন যুক্তরাষ্ট্রের নীতিনির্ধারকদেরও ভাবাচ্ছে। গত মাসে আইনপ্রণেতারা ‘এআই কিল সুইচ অ্যাক্ট’ নামে একটি বিল উত্থাপন করেছেন। এতে এআই প্রতিষ্ঠানগুলোকে প্রয়োজন হলে তাদের মডেল বন্ধ, ধীর বা সাময়িকভাবে স্থগিত করার সক্ষমতা রাখার কথা বলা হয়েছে।
ওপেনএআই ও অ্যানথ্রপিক জানিয়েছে, তারা ইরেগুলারের সঙ্গে কাজ চালিয়ে যাচ্ছে এবং ঘটনাগুলোর পর্যালোচনাতেও সহযোগিতা করছে।
সর্বশেষ খবর পেতে দৈনিক এদিন এর গুগল নিউজ চ্যানেল ফলো করুন
