সমালোচনার মুখে বন্ধ হচ্ছে গ্রোক দিয়ে অশালীন ছবি তৈরি

সমালোচনার মুখে সামাজিক যোগাযোগমাধ্যম এক্স (সাবেক টুইটার) তাদের কৃত্রিম

 বুদ্ধিমত্তাভিত্তিক চ্যাটবট গ্রোক–এর একটি বিতর্কিত সুবিধা বন্ধ করার ঘোষণা দিয়েছে। এখন থেকে গ্রোক ব্যবহার করে বাস্তব মানুষের ছবি সম্পাদনা করে অশালীন বা উন্মুক্ত পোশাকে দেখানো যাবে না।

এক্স জানিয়েছে, প্রযুক্তিগতভাবে এমন ব্যবস্থা নেওয়া হয়েছে যাতে কোনো বাস্তব ব্যক্তির ছবিকে বিকিনি, অন্তর্বাস বা অনুরূপ পোশাকে রূপান্তর করা সম্ভব না হয়। এই নিষেধাজ্ঞা সব ব্যবহারকারীর জন্যই কার্যকর, অর্থ পরিশোধকারী গ্রাহকরাও এর বাইরে নন।

প্রতিষ্ঠানটির ভাষ্য, আইন লঙ্ঘন এবং প্ল্যাটফর্মের নীতিমালা ভাঙার ঝুঁকি কমাতেই এই সিদ্ধান্ত নেওয়া হয়েছে। গ্রোকের অপব্যবহার ঠেকিয়ে ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করাই এর মূল লক্ষ্

সম্প্রতি গ্রোক দিয়ে তৈরি যৌন আবেদনময় ডিপফেক ছবি নিয়ে বিশ্বজুড়ে ব্যাপক সমালোচনা শুরু হয়। অভিযোগ ওঠে, অনুমতি ছাড়াই সাধারণ মানুষের—এমনকি শিশুদের—ছবি ব্যবহার করে অশালীন কনটেন্ট তৈরি করা হচ্ছে।

এরই মধ্যে যুক্তরাষ্ট্রের ক্যালিফোর্নিয়া অঙ্গরাজ্যের শীর্ষ আইন কর্মকর্তা জানিয়েছেন, গ্রোক ব্যবহার করে তৈরি যৌন ডিপফেক ছড়িয়ে পড়ার বিষয়টি তদন্তাধীন রয়েছে। শিশুদের ছবি এতে ব্যবহৃত হয়েছে কি না, সেটিও খতিয়ে দেখা হচ্ছে।

এক্স আরও জানিয়েছে, যেসব দেশে আইন অনুযায়ী এ ধরনের কনটেন্ট নিষিদ্ধ, সেখানে অঞ্চলভিত্তিকভাবে (জিওব্লকিং) গ্রোকের এই সুবিধা পুরোপুরি বন্ধ থাকবে।

তবে কিছু সীমিত ক্ষেত্রে ছাড় থাকছে। এক্সের মালিক ইলন মাস্ক বলেন, শুধুমাত্র কল্পিত প্রাপ্তবয়স্ক চরিত্রের ক্ষেত্রে নির্দিষ্ট মাত্রার দৃশ্য দেখানোর অনুমতি থাকতে পারে।

তবে বাস্তব কোনো মানুষের ছবি ব্যবহার করা যাবে না। তিনি জানান, যুক্তরাষ্ট্রের আর-রেটেড সিনেমার মানদণ্ডকে একটি রেফারেন্স ধরা হয়েছে, যদিও দেশভেদে আইন অনুযায়ী নিয়ম ভিন্ন হবে।

উল্লেখ্য, গ্রোক নিয়ে আগেও বিতর্কে জড়িয়েছেন মাস্ক। সমালোচনার জবাবে তিনি একে বাকস্বাধীনতার ওপর আঘাত বলে মন্তব্য করেছিলেন এবং এআই–তৈরি কিছু ছবি শেয়ার করেও আলোচনা তৈরি করেন।

এদিকে ইউরোপ ও এশিয়ার কয়েকটি দেশ ইতোমধ্যে গ্রোকের বিরুদ্ধে কঠোর অবস্থান নিয়েছে। মালয়েশিয়া ও ইন্দোনেশিয়া সরাসরি গ্রোক ব্যবহারে নিষেধাজ্ঞা আরোপ করেছে।

বিশেষজ্ঞদের মতে, কৃত্রিম বুদ্ধিমত্তার অপব্যবহার ঠেকাতে প্রযুক্তিগত নিয়ন্ত্রণ জরুরি হলেও, এর পাশাপাশি শক্ত আইন ও কার্যকর নজরদারির বিকল্প নেই।