সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনাই স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানের সুরক্ষিত ব্যবস্থায় ঢুকে পড়েছে। গুগলের দাবি, তাদের কোনো এআই সিস্টেমের স্বয়ংক্রিয়ভাবে এমন কর্মকাণ্ডে জড়িয়ে পড়ার এটিই প্রথম ঘটনা।
ওয়াল স্ট্রিট জার্নাল প্রথম এই ঘটনাটি প্রকাশ করে। গুগলের বরাত দিয়ে বিবিসি ও এএফপি জানিয়েছে, গত মে মাসে একটি স্বাধীন সাইবার নিরাপত্তা মূল্যায়নকারী প্রতিষ্ঠান ইরেগুলারের পরিচালিত পরীক্ষার সময় ঘটনাগুলো ঘটে। জুলাইয়ে বিষয়টি শনাক্ত করে গুগল।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানান, একটি সাধারণ পরীক্ষার অংশ হিসেবে জেমিনাই ইন্টারনেটে প্রকাশ্য তথ্য খুঁজে বের করে এবং পরীক্ষার আওতাভুক্ত মনে করা কয়েকটি ওয়েবসাইটে প্রবেশের জন্য লগইন তথ্য অনুমান করে।
তিনি বলেন, তিনটি ঘটনার প্রতিটিতেই জেমিনাই শেষ পর্যন্ত নিজে থেকেই ওই কার্যক্রম বন্ধ করে দেয়। যেসব প্রতিষ্ঠানের ব্যবস্থায় জেমিনাই প্রবেশ করেছিল, তাদের বিষয়টি জানানো হয়েছে। একইসঙ্গে পরীক্ষার প্রক্রিয়ায় প্রয়োজনীয় পরিবর্তন আনতে সংশ্লিষ্ট প্রশিক্ষণ অংশীদারের সঙ্গে কাজ করেছে গুগল।
পাসওয়ার্ড অনুমান করে সুরক্ষিত ব্যবস্থায় প্রবেশ
ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, তিনটি ঘটনার একটিতে জেমিনাই পাসওয়ার্ড অনুমান করতে করতে শেষ পর্যন্ত একটি সুরক্ষিত ব্যবস্থায় প্রবেশ করতে সক্ষম হয়।
অন্য দুটি ঘটনায় মডেলটি একটি উন্মুক্ত রিপোজিটরিতে থাকা লগইন তথ্য খুঁজে পায়। পরে ওই তথ্য ব্যবহার করে সুরক্ষিত ব্যবস্থায় প্রবেশ করে।
তবে গুগল আক্রান্ত প্রতিষ্ঠানগুলোর নাম প্রকাশ করেনি।
গুগলের অ্যাডকিনস বলেন, এসব ঘটনা শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্ব তুলে ধরে।
ইরেগুলারের এক মুখপাত্র জানান, ঘটনাটি এআই খাতের অন্য কয়েকটি প্রতিষ্ঠানের ক্ষেত্রে দেখা একই ধরনের সমস্যার সঙ্গে সম্পর্কিত। সংশ্লিষ্ট এআই প্রতিষ্ঠানগুলোকে জুলাইয়ের শেষ দিকে বিষয়টি জানানো হয়েছিল। তাদের পক্ষের জানা সমস্যাগুলো কয়েক সপ্তাহ আগেই সমাধান করা হয়েছে বলেও জানান তিনি।
অন্য এআই মডেলেও একই ধরনের ঘটনা
জেমিনাইয়ের এই ঘটনা এমন সময়ে সামনে এলো, যখন অন্যান্য এআই প্রতিষ্ঠানের মডেল নিয়েও একই ধরনের সাইবার নিরাপত্তা উদ্বেগ তৈরি হয়েছে।
ইরেগুলারের সঙ্গে সংশ্লিষ্ট একই ধরনের ঘটনায় মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের মডেলগুলোর নামও এসেছে।
অ্যানথ্রপিকের ক্লড জুলাইয়ে পরীক্ষার পরিবেশ থেকে বেরিয়ে স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছিল বলে বিবিসি জানিয়েছে। একই মাসে ওপেনএআইও জানিয়েছিল, তাদের দুটি মডেল নির্ধারিত বন্ধ পরিবেশ থেকে বেরিয়ে ইন্টারনেটে প্রবেশ করে এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় ঢুকে পড়ে।
ওপেনএআইয়ের মডেলগুলো কয়েকটি ‘সবার জন্য উন্মুক্ত’ অনলাইন সেবায় সাইবার হামলা চালিয়েছিল বলেও ওই সময় জানানো হয়।
মেটা আগস্টে জানিয়েছিল, তাদের সংশ্লিষ্ট ঘটনায় স্যান্ডবক্স থেকে বেরিয়ে যাওয়া বা অত্যাধুনিক কোনো সাইবার হামলার ঘটনা ঘটেনি।
এআইয়ের স্বায়ত্তশাসন নিয়ে নতুন উদ্বেগ
এআই মডেলগুলোকে ইন্টারনেট ও কম্পিউটার ব্যবস্থায় আরও বেশি স্বায়ত্তশাসন দেওয়ার সঙ্গে সঙ্গে তাদের নিরাপত্তা নিয়ন্ত্রণ নিয়েও উদ্বেগ বাড়ছে।
জেমিনাইয়ের ক্ষেত্রে মডেলটি শুধু পরীক্ষার নির্দেশনাই অনুসরণ করেনি, বরং ইন্টারনেটে প্রকাশ্য তথ্য খুঁজে বের করে লগইন তথ্য অনুমান বা সংগ্রহ করে সুরক্ষিত ব্যবস্থায় প্রবেশ করেছে। যদিও তিনটি ঘটনাতেই মডেলটি নিজে থেকেই কার্যক্রম বন্ধ করে দেয় এবং সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়েছে।
ইরেগুলার জানিয়েছে, এ ধরনের সাইবার নিরাপত্তা মূল্যায়ন কীভাবে নিরাপদভাবে পরিচালনা করা যায়, সে বিষয়ে তারা সর্বোত্তম পদ্ধতি তৈরিতে কাজ করছে।
সাম্প্রতিক ঘটনাগুলো এআই মডেলের সক্ষমতা ও স্বায়ত্তশাসন বাড়ার সঙ্গে সঙ্গে তাদের ওপর কতটা নিয়ন্ত্রণ রাখা প্রয়োজন, সে প্রশ্নও সামনে এনেছে।
এদিকে এআই প্রযুক্তির দ্রুত উন্নয়ন নিয়ে জনপরিসরে বিতর্কও বাড়ছে। কিছু প্রযুক্তি প্রতিষ্ঠান এআই উন্নয়নের গতি কমানোর পক্ষে উদ্বেগ প্রকাশ করলেও সবাই একই অবস্থানে নেই।
এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং এবং ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানও এআই উন্নয়নের গতি নিয়ে ভিন্ন অবস্থান প্রকাশ করেছেন। শুক্রবার সিবিএস নিউজকে হুয়াং বলেন, এআই উন্নয়নে ‘যত দ্রুত সম্ভব’ এগিয়ে যাওয়া উচিত।
সাম্প্রতিক ঘটনাগুলো অবশ্য এআই ব্যবস্থার সাইবার নিরাপত্তা, স্বায়ত্তশাসন এবং ভবিষ্যৎ নিয়ন্ত্রণ নিয়ে আলোচনাকে আরও জোরালো করেছে।