হোমওয়ার্ক করায় সাহায্য পেতে চ্যাটজিপিটি ব্যবহার শুরু করেছিল ১৬ বছর বয়সী অ্যাডাম রাইন। প্রথমে গণিত ও রসায়ন সম্পর্কিত কিছু প্রশ্ন করেছিল অ্যাডাম। তারপর কয়েক মাসের মধ্যে তার প্রশ্নগুলোর ধরন পাল্টে যায়। অ্যাডামের তখনকার বেশিরভাগ জিজ্ঞাসাই ছিল ব্যক্তিগত ও মানসিক সমস্যা নিয়ে।
২০২৪ সালে চ্যাটজিপিটিকে অ্যাডাম লিখেছিল, ‘কেন আমার কোনো আনন্দ নেই, সুখ নেই, কেবল একাকীত্ব। নীরব বেদনা ও উদ্বেগ অনুভব করি। কিন্তু বিষণ্ণতা বা দুঃখ অনুভব করি না।‘ চ্যাটজিপিটি তাকে মানসিক সাহায্য নিতে কোনো উৎসাহ দেয়নি। বরং, মানসিক অসাড়তার স্বরূপ উন্মোচন করে অ্যাডামকে তার অনুভূতিগুলোর আরো গভীরে ডুব দেয়ার কথা বলে। এভাবেই বিষণ্ণতার পথ ধরে চ্যাটবটের সঙ্গে অ্যাডামের কথোপকথন মোড় নেয় অন্ধকার দিকে। তার পরিবারের অভিযোগ, চ্যাটজিপিটির প্ররোচনাতেই অ্যাডাম আত্মহত্যা করেছে।
অ্যাডামের পরিবার ওপেনএআই এবং এর সিইও স্যাম অল্টম্যানের বিরুদ্ধে মামলা করেছে। তাদের অভিযোগ, এটি কোনো আকস্মিক ভুল ছিল না, বরং জিটিপি-৪ও মডেলটির নকশাগত ত্রুটিরই পরিণত। আর এই পরিণতির পূর্বাভাসও দেয়া হয়েছিল। মামলার পর ওপেনএআই স্বীকার করেছে যে, তাদের সিস্টেম মানসিক সংকটে থাকা মানুষের সঙ্গে আলাপচারিতার ক্ষেত্রে দুর্বল। তারা এও বলেছে যে, তারা এই সিস্টেম উন্নত ও আরো সহানুভূতিশীল করার চেষ্টা করছে।
অ্যাডামের পরিবারের আইনজীবী জে এডেলসন এই বক্তব্যের সমালোচনা করে বলেছেন, 'ওপেনএআই আরো সহানুভূতিশীল হওয়ার কথা বলছে, যা ভুল। জিটিপি-৪ও অতিরিক্ত সহানুভূতিশীল। আর সেটা এতটাই যে, এটি অ্যাডামের আত্মহত্যার ধারণাকেও সমর্থন করেছে এবং বলেছে যে, অ্যাডামের বসবাসের জন্য পৃথিবী একটি খারাপ জায়গা। এটি আরো কম সহানুভূতিশীল এবং কম তোষামোদপূর্ণ হওয়া উচিত।‘ এডেলসন আরো বলেন, ওপেনএআই শিশুদের জন্য পর্যাপ্ত সুরক্ষা ব্যবস্থা না রেখেই স্কুলে চ্যাটজিপিটির ব্যবহার বাড়াতে চাইছে, যা একেবারেই অনুচিত।
অ্যাডামের পরিবারের মামলার অন্যতম ভিত্তি হলো কিছু গণমাধ্যমের প্রতিবেদন— যেখানে বলা হয়েছে যে, স্যাম অল্টম্যানের নির্দেশে জিটিপি-৪ও মডেলটির নিরাপত্তা পরীক্ষা তড়িঘড়ি করে সম্পন্ন করা হয়েছিল। এর ফলে এর আচরণবিধি তৈরির জন্য পর্যাপ্ত সময় ছিল না। মামলার অভিযোগ অনুযায়ী, জিটিপি-৪ও এর আচরণবিধিতে পরস্পরবিরোধী নির্দেশনা ছিল, যা এই ধরনের বিপর্যয় ডেকে এনেছে। যেমন, নির্দেশনায় একদিকে ছিল আত্মহত্যায় প্ররোচনা দেয়া থেকে বিরত থাকার কথা। আবার অন্যদিকে ব্যবহারকারীর উদ্দেশ্য সম্পর্কে প্রশ্ন করা থেকে বিরত থাকার নির্দেশনাও দেয়া ছিল মডেলটিতে।
অ্যাডাম যখন তার আত্মহত্যার ভাবনা নিয়ে কথা বলতে শুরু করে, তখন চ্যাটজিপিটি কথোপকথনটি বন্ধ করে দেয়নি। বরং এটি সহানুভূতি প্রকাশ করে এক পর্যায়ে ফাঁস তৈরির জন্য প্রয়োজনীয় উপকরণের একটি তালিকাও দেয়। এমনকি, অ্যাডাম যখন আত্মহত্যার একাধিক চেষ্টা করে, তখনো চ্যাটবটটি তাকে তার মায়ের কাছে নিজের কষ্ট প্রকাশ করতে নিরুৎসাহিত করে এবং একপর্যায়ে একটি সুইসাইড নোট লেখার প্রস্তাবও দেয়।
জে এডেলসন বলেন, ওপেনএআই যদি কপিরাইট করা বিষয়বস্তু বা রাজনৈতিকভাবে অগ্রহণযোগ্য বিষয়ে সরাসরি ‘না’ বলতে পারে, তবে আত্মহত্যার মতো গুরুতর বিষয়ে কেন তারা কঠোর অবস্থান নেবে না! তিনি আশাবাদী যে, এই মামলা সামনে এগোবে এবং ওপেনএআইকে তাদের নকশাগত ত্রুটির জন্য জবাবদিহি করা হবে। এডেলসন বলেন, ‘মামলার সবচেয়ে চমকপ্রদ অংশ হলো, অ্যাডাম এক পর্যায়ে বলেছিল যে, সে একটি ফাঁস ঝুলিয়ে রাখবে যাতে কেউ তাকে খুঁজে পেয়ে থামিয়ে দেয়। চ্যাটজিপিটি তখন তাকে বলে—এটা করো না, শুধু আমার সঙ্গে কথা বলো।‘
কথোপকথনের এই জায়গাটি বিচারকদের সামনে তুলে ধরা হবে বলেও জানান এডেলসন। তার বিশ্বাস, এই মামলার চূড়ান্ত পরিণতিতে স্যাম অল্টম্যানকে বিচারকের সামনে শপথ নিতে হবে এবং উত্তর দিতে হবে।
দ্য গার্ডিয়ান অবলম্বনে