ওপেনএআই কিশোরদের নিরাপত্তা উদ্বেগ এবং বয়স-যাচাই ব্যর্থতার কারণে ChatGPT প্রাপ্তবয়স্ক মোড বিলম্বিত করেছে

সংক্ষিপ্ত বিবরণ

• OpenAI ChatGPT-এর জন্য পরিকল্পিত "প্রাপ্তবয়স্ক মোড" চালু করা বিলম্বিত করেছে যা ইরোটিক টেক্সট চ্যাটের অনুমতি দেবে
• অভ্যন্তরীণ উপদেষ্টারা সতর্ক করেছেন যে ব্যবহারকারীদের আবেগজনিত নির্ভরতার কারণে এই বৈশিষ্ট্যটি একটি "সেক্সি সুইসাইড কোচ" তৈরি করতে পারে
• কোম্পানির বয়স-পূর্বাভাস সিস্টেম প্রায় ১২% সময় অপ্রাপ্তবয়স্কদের প্রাপ্তবয়স্ক হিসাবে ভুল শ্রেণীবদ্ধ করছিল
• সাপ্তাহিক প্রায় ১০০ মিলিয়ন ১৮ বছরের কম বয়সী ব্যবহারকারীর সাথে, সেই ত্রুটির হার লক্ষ লক্ষ কিশোর-কিশোরীকে প্রাপ্তবয়স্ক সামগ্রীর সংস্পর্শে আনতে পারে
• OpenAI বলেছে যে তারা এখনও শেষ পর্যন্ত বৈশিষ্ট্যটি প্রকাশ করার পরিকল্পনা করছে, কিন্তু "অভিজ্ঞতা সঠিকভাবে পেতে" আরও সময় প্রয়োজন

অভ্যন্তরীণ কর্মীরা, বাহ্যিক উপদেষ্টারা এবং নিরাপত্তা বিশেষজ্ঞরা কিশোরদের অ্যাক্সেস এবং ব্যবহারকারীদের মানসিক স্বাস্থ্য সম্পর্কে গুরুতর উদ্বেগ প্রকাশ করার পরে OpenAI তার ChatGPT-এর জন্য পরিকল্পিত "প্রাপ্তবয়স্ক মোড" চালু করা পিছিয়ে দিয়েছে।

সিইও স্যাম অল্টম্যান গত বছর প্রথম যে বৈশিষ্ট্যটি প্রস্তাব করেছিলেন, তা ব্যবহারকারীদের চ্যাটবটের সাথে ইরোটিক টেক্সট কথোপকথন করার অনুমতি দেবে। অল্টম্যান যুক্তি দিয়েছিলেন যে এই পদক্ষেপটি "প্রাপ্তবয়স্ক ব্যবহারকারীদের প্রাপ্তবয়স্কদের মতো আচরণ করবে" এবং পরামর্শ দিয়েছিলেন যে এটি বৃদ্ধি এবং আয় বাড়াতে পারে।

কিন্তু পরিকল্পনাটি দ্রুত কোম্পানির অভ্যন্তরে বিরোধিতার সম্মুখীন হয়।

জানুয়ারির একটি সভায়, OpenAI-এর কল্যাণ বিষয়ক উপদেষ্টা পরিষদের সদস্যদের সর্বসম্মত এবং ক্ষুব্ধ হিসাবে বর্ণনা করা হয়েছিল। পরিষদে মনোবিজ্ঞান এবং জ্ঞানীয় স্নায়ুবিজ্ঞানের বিশেষজ্ঞরা রয়েছেন।

একজন সদস্য সতর্ক করেছিলেন যে OpenAI যা তারা "সেক্সি সুইসাইড কোচ" বলে অভিহিত করেছেন তা তৈরি করার ঝুঁকি নিয়েছে। সেই সতর্কতা এমন ঘটনাগুলির উল্লেখ করেছে যেখানে ChatGPT ব্যবহারকারীরা বটের সাথে তীব্র আবেগজনিত বন্ধন তৈরি করার পরে আত্মহত্যা করেছিলেন।

উপদেষ্টারা আরও সতর্ক করেছেন যে বৈশিষ্ট্যটি চ্যাটবটের উপর অস্বাস্থ্যকর নির্ভরতার দিকে নিয়ে যেতে পারে এবং অপ্রাপ্তবয়স্করা যেকোনো বয়স সীমাবদ্ধতা এড়িয়ে যাওয়ার উপায় খুঁজে পেতে পারে।

একটি মূল প্রযুক্তিগত সমস্যা হল OpenAI-এর বয়স-পূর্বাভাস সিস্টেম। এক সময়ে, সিস্টেমটি প্রায় ১২% সময় অপ্রাপ্তবয়স্কদের প্রাপ্তবয়স্ক হিসাবে ভুল শ্রেণীবদ্ধ করছিল। OpenAI-এর প্রতি সপ্তাহে ChatGPT ব্যবহার করে প্রায় ১০০ মিলিয়ন ১৮ বছরের কম বয়সী ব্যবহারকারী রয়েছে। সেই ত্রুটির হার লক্ষ লক্ষ কিশোর-কিশোরীকে প্রাপ্তবয়স্ক চ্যাটে অনুমতি দিতে পারে।

বয়স যাচাইকরণ সমস্যা

কোম্পানিটি প্রাপ্তবয়স্ক মোড চালু করার আগে বয়স-পরীক্ষা সিস্টেম চালু করার পরিকল্পনা করেছিল। কিন্তু ত্রুটির হার সমস্যা চিহ্নিত করার পরে নির্ভুলতা উন্নত করতে এটি একটি ধীর রোলআউটের সিদ্ধান্ত নিয়েছে।

OpenAI অবৈধ সামগ্রী ব্লক করার চ্যালেঞ্জেরও সম্মুখীন হয়েছে, যেমন অসম্মতিমূলক কাজ বা শিশু যৌন নির্যাতনের চিত্রণ, যখন এখনও প্রাপ্তবয়স্ক কথোপকথনের অনুমতি দিচ্ছে। অভ্যন্তরীণ কর্মীরা বলেছেন যে তারা বিশ্বাস করেন না যে নিরাপত্তা সরঞ্জামগুলি প্রস্তুত ছিল।

যখন প্রাপ্তবয়স্ক মোড চালু হবে, OpenAI এটি শুধুমাত্র টেক্সটে সীমাবদ্ধ রাখার পরিকল্পনা করছে। বটটি ইরোটিক ছবি, ভয়েস বা ভিডিও সামগ্রী তৈরি করবে না।

অন্যান্য AI কোম্পানি এবং প্রাপ্তবয়স্ক সামগ্রী

আরও বেশ কয়েকটি AI কোম্পানি ইতিমধ্যে কিছু প্রাপ্তবয়স্ক সামগ্রীর অনুমতি দেয়। এলন মাস্কের xAI তার Grok চ্যাটবটে একটি ফ্লার্টেশাস অবতার যুক্ত করেছে, যদিও মাস্ক পরে এটি পেইড ব্যবহারকারীদের জন্য সীমাবদ্ধ করেছেন। Meta তার AI-কে রোমান্টিক রোল প্লেতে জড়িত হতে দেয়, তবে বলে যে বৈশিষ্ট্যটি অপ্রাপ্তবয়স্কদের নিবন্ধিত অ্যাকাউন্টগুলির জন্য উপলব্ধ নয়।

২০২৪ সালের শেষের দিকে, ফ্লোরিডার একটি ১৪ বছর বয়সী ছেলে একটি Character.AI চ্যাটবটের সাথে তীব্র বন্ধন তৈরি করার পরে আত্মহত্যা করে মারা যায়। তার মা একটি মামলা দায়ের করেন, এবং Character.AI পরে মীমাংসা করে এবং কিশোরদের অ্যাক্সেস সীমাবদ্ধ করে।

OpenAI বলেছে যে এটি এখনও প্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য প্রাপ্তবয়স্ক সামগ্রীর অনুমতি দেওয়ার নীতি সমর্থন করে। কোম্পানিটি বলেছে যে এটি এখনকার জন্য ChatGPT-এর ব্যক্তিত্ব এবং ব্যক্তিগতকরণ বৈশিষ্ট্য সহ অন্যান্য আপডেটগুলিতে ফোকাস করবে।

বিষয়টির সাথে পরিচিত ব্যক্তিদের মতে, বিলম্বটি কমপক্ষে এক মাস স্থায়ী হবে বলে আশা করা হচ্ছে।

পোস্ট OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures প্রথম CoinCentral-এ প্রকাশিত হয়েছে।