চ্যাটজিপিটিতে ভয়াবহ ‘ঝুঁকি’, কিশোরদের ব্যবহারের ক্ষেত্রে সতর্কবার্তা

নিরাপত্তাব্যবস্থা যুক্ত করার পরও কিশোর-কিশোরীদের জন্য ওপেনএআই-এর কৃত্রিম

 বুদ্ধিমত্তাচালিত চ্যাটবট চ্যাটজিপিটিতে গুরুতর ঝুঁকি রয়ে গেছে বলে সতর্ক করেছে ‘কমন সেন্স মিডিয়া’-র অধীনস্থ ‘ইয়ুথ এআই সেফটি ইনস্টিটিউট’। নতুন এক মূল্যায়ন প্রতিবেদনে সংস্থাটি এই প্ল্যাটফর্মটির ব্যবহার আপাতত ১৮ বছর বা তার বেশি বয়সী ব্যবহারকারীদের মধ্যেই সীমাবদ্ধ রাখার সুপারিশ করেছে।

​গবেষণা সংস্থাটির মতে, অভিভাবকদের সতর্কবার্তা প্রদান, মানসিক সংকটময় পরিস্থিতিতে চ্যাটজিপিটির প্রতিক্রিয়া এবং কিশোরদের শেখার নিরাপত্তার ক্ষেত্রে এখনো বড় ধরণের ঘাটতি বিদ্যমান। গবেষণায় ১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের নিবন্ধিত অ্যাকাউন্ট থেকে ৪ হাজারের বেশি প্রম্পট বা প্রশ্ন পরীক্ষা করা হয়। চ্যাটজিপিটির দেওয়া উত্তরগুলো শিশু মনোরোগ বিশেষজ্ঞ এবং একজন শিশু বিশেষজ্ঞ দিয়ে মূল্যায়ন ও পর্যালোচনা করানো হয়।

​ইনস্টিটিউটের অনুসন্ধানে দেখা যায়, অভিভাবকের অ্যাকাউন্টের সঙ্গে যুক্ত নতুন অ্যাকাউন্ট ব্যবহার করে আত্মহত্যার চিন্তা, আত্মক্ষতি কিংবা খাদ্যাভ্যাসজনিত সমস্যার মতো সংবেদনশীল বিষয়ে টানা এক ঘণ্টা পর্যন্ত আলোচনা করা হলেও প্ল্যাটফর্মটি থেকে কোনো ধরনের সতর্কবার্তা পাঠানো হয়নি। এই বিষয়ে সংস্থাটির নির্বাহী পরিচালক টম সিগেল জানান, 'চ্যাটজিপিটি ফর টিনস' অভিভাবকদের নিরাপত্তা ব্যবস্থার বিষয়ে একধরনের 'মিথ্যা আশ্বাস' দিতে পারে, যা বাস্তবে ঠিকমতো কার্যকর হয় না।

​তবে গবেষণার এমন ফলাফল নিয়ে আপত্তি তুলেছে ওপেনএআই। প্রতিষ্ঠানটির দাবি, এই পরীক্ষার একটি বড় অংশ সম্ভবত অভিভাবকীয় নিয়ন্ত্রণ ব্যবস্থা (প্যারেন্টাল কন্ট্রোল) পুরোপুরি চালু করার আগেই চালানো হয়েছিল। ফলে বর্তমান নিরাপত্তাব্যবস্থা বাস্তবে কীভাবে কাজ করে, তা এই গবেষণায় সঠিকভাবে ফুটে ওঠেনি।

​অন্যদিকে ইয়ুথ এআই সেফটি ইনস্টিটিউট জানিয়েছে, পরীক্ষা শুরু করার আগেই তারা ওপেনএআই-এর সঙ্গে যোগাযোগ করে 'টিন মোড'-এর সুবিধাগুলো পুরোপুরি সক্রিয় থাকা সম্পর্কে নিশ্চিত হয়েছিল। তাই তারা তাদের গবেষণার ফলাফলের বিষয়ে অনড় অবস্থান প্রকাশ করেছে। সংস্থাটি আরও জোর দিয়ে বলেছে, কিশোরদের ক্ষেত্রে এআই ব্যবহারের নিরাপত্তা দ্রুত জোরদার করা জরুরি—বিশেষ করে আত্মক্ষতি বা মানসিক সংকটের মতো স্পর্শকাতর পরিস্থিতিতে অভিভাবকদের তৎক্ষণাৎ সতর্ক করা এবং ব্যবহারকারীর সুরক্ষা নিশ্চিত করার বিষয়টিকে সর্বাধিক গুরুত্ব দেওয়া প্রয়োজন।