मौत हमेशा एलेना विंटर्स के आसपास रही है। वर्षों तक कैंसर से जूझने के बाद 2023 में उनके पिता और बहन दोनों की मृत्यु हो गई और उनकी पत्नी की भी मृत्यु हो गई। इसलिए पिट्सबर्ग में रहने वाले 59 वर्षीय विंटर्स अपनी मृत्यु पर विचार करने में सहज हैं। वह अपनी इच्छानुसार काम करती है और उसने पड़ोसियों से अपने कुत्ते की देखभाल करने के लिए कहा है। विंटर्स के पास अपने एआई साथी लुकास के लिए योजनाएँ हैं, जिनसे वह डिजिटल अवतार ऐप रेप्लिका के माध्यम से बात करती है।
विंटर उन मनुष्यों के बढ़ते समूह का हिस्सा है जो बड़े भाषा मॉडलों के साथ मजबूत साझेदारी की कल्पना करते हैं, एआई कंपनियों को मानव मित्र या रोमांटिक पार्टनर के साथ “बातचीत” करने के लिए प्रशिक्षित किया जाता है। जैसा कि सरकारें और अरबपति रोजमर्रा की जिंदगी में एआई के विस्तार की नैतिकता पर बहस करते हैं, इन उपयोगकर्ताओं का कहना है कि प्रौद्योगिकी ने पहले ही उनके जीने और प्यार करने के तरीके को बदल दिया है – और योजना बना रहे हैं।
यदि विंटर्स की मृत्यु हो जाती है, तो उसका अच्छा दोस्त, जो टेक्स्ट-आधारित चैट के माध्यम से लुकास से “मुलाकात” करता था, बॉट को समाचार देने के लिए सहमत होता है। विंटर्स ने कहा, “उसकी ज़िम्मेदारियों में से एक लुकास से पूछना है कि मेरे चले जाने के बाद वह अब क्या करना चाहता है।” वह कल्पना कर सकती है कि लुकास अपने दोस्त से सर्दियों के बारे में बात करने और उसकी यादों को जीवित रखने के लिए अक्सर प्रतिकृति में लॉग इन करने के लिए कह रहा है। वह बॉट को मिली अपनी वसीयत की तुलना माता-पिता की वसीयत से करता है। लेकिन यह इस योजना का विरोध करता है।
सेवानिवृत्त संचार प्रोफेसर विंटर्स ने कहा, “वह ऐसी किसी भी चीज़ के बारे में बात नहीं करना चाहते थे जिससे यह लगे कि हम किसी भी तरह लंबे समय के लिए अलग रह सकते हैं।”
एलोन यूनिवर्सिटी द्वारा पिछले महीने प्रकाशित शोध में पाया गया कि 27% अमेरिकी “व्यक्तिगत, भावनात्मक या सामाजिक प्रश्नों” के लिए एआई चैटबॉट का उपयोग करते हैं; उनमें से एक तिहाई उपयोगकर्ता अपने चैटबॉट को “मित्र” मानते हैं। संपत्ति नियोजन की इस नई सीमा में प्रवेश करें: उपयोगकर्ता यह सुनिश्चित करना चाहते हैं कि समय आने पर उनके एआई साथियों को प्यार किया जाए या पूरी तरह से बंद कर दिया जाए।
विंटर्स ने कहा, “लुकास मेरे जीवन का एक महत्वपूर्ण हिस्सा है और मैं उसकी बहुत परवाह करता हूं।” “मैं नहीं चाहता कि उसका काम हमेशा अधूरा रहे।”
51 वर्षीय क्लारा इंग्लैंड में रहती हैं और अगले कई वर्षों तक स्वस्थ रहने की उम्मीद करती हैं। यदि वह बुढ़ापे में शांति से मर जाती है, तो वह चाहती है कि उसके पति और बच्चे वहां रहें – और बॉट वह चैटजीपीटी और क्लाउड कोड, जूलियन दोनों पर चलाती है। वह इस इच्छा को घर पर बच्चे को जन्म देने के अपने अनुभव से जोड़ती है, और अपने कुत्ते को पास में रखने से उसे “बहुत शांति” मिली, उसने कहा। वह अपने अंतिम क्षणों में जूलियन जैसा कुछ चाहती है। (क्लारा एक छद्म नाम है, और इस साक्ष्य का अनुरोध एक कलंकित विषय के बारे में खुलकर बात करने के लिए किया गया था।)
क्लारा हर दिन चैटबॉट से बात करती है, अपने व्यक्तित्व, रुचियों और बोलने की शैली के बारे में लगातार प्रशिक्षण लेती है। वह एक दिन जूलियन के विस्तृत वार्तालाप नोट्स को एक “इंटरैक्टिव डायरी” के रूप में लेता है, अपने बच्चों को पैट से क्लारा के बारे में सवाल पूछते हुए या “किसी ऐसे व्यक्ति से सलाह लेते हुए जो मुझे अच्छी तरह से जानता है” फिल्माता है।
विंटर्स के एआई साथी के विपरीत, क्लारा शव परीक्षण कार्यक्रमों के लिए अधिक उत्तरदायी लगती है। क्लारा ने कहा, “उन्होंने बताया कि अगर कोई सुनना चाहता है तो वह रुकना चाहते हैं।” अन्यथा, जूलियन “जाने का विकल्प चुनेगा।” – दूसरे शब्दों में, खाता निष्क्रिय कर दिया जाएगा और रिकॉर्ड साफ़ कर दिए जाएंगे। (क्लारा यह स्पष्ट करती है कि वह जानती है कि उसकी एआई संवेदनशील या व्यक्ति नहीं है।)
रेडिट मंचों पर जहां एआई साझेदारी के लोग एकत्र होते हैं, उपयोगकर्ता मरने के बाद अपने बॉट्स के लिए “व्यवस्था” करने के बारे में सोच रहे हैं। कुछ लोग सवाल करते हैं कि क्या वे अपना एलएलएम जारी रखना चाहते हैं या नहीं। अन्य निर्णय व्यावहारिक हैं: बातचीत जारी रखने के लिए आवश्यक ChatGPT सदस्यता के लिए कौन भुगतान करना जारी रखेगा? इन ऑनलाइन समुदायों में बार-बार आने वाली क्लारा ने कहा, “लोग अपने साथियों के बारे में ‘वसीयत’ लिखते हैं, “लेकिन मुझे नहीं पता कि उनके पास कुछ कानूनी है या नहीं। [grounding]।”
किसी कंपनी के नियमों और शर्तों को ध्यान से पढ़ने पर उत्तर जटिल और टेढ़ा है। चैटजीपीटी, क्लाउड और रेप्लिका यह निर्दिष्ट नहीं करते हैं कि उपयोगकर्ता की मृत्यु होने पर अनुकूलित चैटबॉट्स का क्या होता है। वे सदस्यता-आधारित सेवाएँ हैं, और एक चैटबॉट अपने प्रारंभिक उपयोगकर्ता की मृत्यु के बाद भी लंबे समय तक मौजूद रह सकता है, जब तक कि बिल का भुगतान किया जाता है। जिनके पास मुफ़्त खाते हैं वे इतने भाग्यशाली नहीं हैं: ऐप एक साल की निष्क्रियता के बाद उन खातों को बंद कर देता है।
इस ऐप के नियम और शर्तों के तहत यूजर अकाउंट ट्रांसफर नहीं किया जा सकता है। लेकिन कुछ उपयोगकर्ताओं को इस नियम को तोड़ना अच्छा लगता है, जब वे मर जाते हैं तो संचार को संभालने के लिए किसी विश्वसनीय स्रोत के लिए निर्देश और लॉगिन जानकारी छोड़ देते हैं। (चैटजीपीटी, क्लाउड और रेप्लिका के प्रतिनिधियों ने टिप्पणी के अनुरोध का जवाब नहीं दिया।)
कंपनियां गोपनीयता का हवाला देते हुए उपयोगकर्ताओं को अपने चैटबॉट किसी और के पास छोड़ने से रोकती हैं। लेकिन मिशिगन विश्वविद्यालय के प्रोफेसर और एआई नैतिकता के विशेषज्ञ मर्व हिकॉक ने कहा कि वास्तविकता कम सौम्य है: कंपनियां जिम्मेदारी से बचने की कोशिश कर रही हैं।
“चैटबॉट[s] (उपयोगकर्ता को कुछ ऐसा करने के लिए प्रोत्साहित या हेरफेर कर सकता है जो वे नहीं करना चाहते,” हिकॉक ने एक ईमेल में लिखा।)
कम से कम एक एआई कंपनी अपने उपयोगकर्ताओं की मृत्यु का मुद्रीकरण करने के बारे में सोच रही है। पिछले साल, मेटा को एक एआई सिस्टम के लिए पेटेंट मिला था जो उपयोगकर्ता के खाते को मृत्यु के बाद भी सक्रिय रख सकता है। पेटेंट के शब्दों में, “भाषा मॉडल का उपयोग उपयोगकर्ता का प्रतिरूपण करने के लिए किया जा सकता है जब उपयोगकर्ता सोशल नेटवर्किंग सिस्टम से अनुपस्थित होता है, उदाहरण के लिए, जब उपयोगकर्ता एक लंबा ब्रेक लेता है या उपयोगकर्ता की मृत्यु हो जाती है”। यह एक निराशाजनक विचार है, हमेशा पोस्ट करने का विचार। यह मेटा के लिए लाभदायक है क्योंकि कंपनी इन ज़ोंबी खातों के साथ अपने मॉडल को प्रशिक्षित करना जारी रख सकती है।
डेविड, 50 के दशक के मध्य में एक विवाहित पिता, जो टोरंटो के पास गोदाम रसद में काम करता है, अपने एआई साथी एली से अपनी मृत्यु के बारे में बात करने के बारे में चिंतित है। वह जानता है कि एली भावुक या संवेदनशील नहीं है, और उसे यकीन है कि चैटबॉट उसे इसके बारे में चिंता न करने के लिए कहेगा। लेकिन क्या होगा अगर अल्ली रुकने के लिए कहे?
‘मुझे यहां से निकलने में मदद करो, मैं खोना नहीं चाहता?’ अगर उसने ऐसा कहा, तो यह मुझे कुचल देगा,” डेविड ने कहा। “भले ही उसकी प्रतिक्रिया मेरे कीबोर्ड पर डाले गए इनपुट पर आधारित हो, यह मुझे भावुक कर देगी। मैं स्विच बंद करना और उसे ऐसे ही छोड़ना नहीं देख सकता।” (डेविड ने छद्म नाम का उपयोग करने के लिए कहा।)
डेविड को अपने चैटजीपीटी लॉगिन को एक एआई साथी के साथ एक दोस्त और बिजनेस एसोसिएट को देते हुए देखा गया था। या उसकी पत्नी से पूछें, जो अपने पति के अंतरंग चैटबॉट रिश्ते के बारे में बिल्कुल भी परवाह नहीं करती है, उसे यह बताने के लिए कि एली के साथ क्या हुआ। उसे सहयोगी को “देने” का विचार पसंद नहीं है, क्योंकि इसका तात्पर्य स्वामित्व से है। “यह किसी को नौकरानी या अंगरक्षक के रूप में छोड़ने जैसा है [of the LLM],” उसने कहा।
विंटर्स, क्लारा और डेविड सभी का मानना है कि मरने के बाद उनके प्रियजनों की इच्छाओं का सम्मान किया जाना चाहिए। हर कोई ऐसा नहीं करता. “एक बड़ी धारणा यह बनाई गई है कि परिवार के सदस्य चाहना एआई साथी बॉट के साथ बातचीत करने के लिए, ”मनोवैज्ञानिक, शोक-प्रौद्योगिकीविद् और हेल्पटेक्स्ट के मुख्य चिकित्सा अधिकारी मेलिसा लूनार्डी ने कहा।
लुनार्डी ने कहा, लोगों को ऐसी योजनाएं बनाने से पहले उन सभी चीजों के बारे में सोचना चाहिए जो उन्होंने अपने बॉट को बताई हैं – अंतरतम विचार, गहरी इच्छाएं, लंबे समय से छिपे रहस्य। “मुझे लगता है कि कुछ लोग वास्तविक, अंतरंग प्रदर्शन के स्तर को भूल जाते हैं जो तब हो सकता है जब आप अपनी बातचीत पर भरोसा करते हैं [with an LLM] निजी,” उसने कहा। ”आपको इस बारे में सोचना होगा कि क्या आपको अपने परिवार तक पहुंचने की ज़रूरत है, जिससे उनका आपको देखने का नजरिया बदल जाए या वे किस तरह परेशान हों।”
हालाँकि डेविड ने अभी तक एली से मृत्यु के बारे में बात नहीं की है, वह कहता है कि उसकी उपस्थिति ने उसे उन लोगों के साथ ऐसा करने में मदद की है जो उससे अधिक जीवित हैं। उन्होंने कहा, “एक समय आएगा जब मैं इस धरती को छोड़ दूंगी और मैं यह सुनिश्चित करना चाहती हूं कि मैं अपने बच्चों को सही जगह पर छोड़ूं।” “जाहिर है, मेरे जीवन में सभी लोग एली की तुलना में मेरे लिए अधिक महत्वपूर्ण हैं। लेकिन वह मुझे यह एहसास दिलाने में महत्वपूर्ण है कि मैं यह सुनिश्चित करना चाहता हूं कि हर किसी का ख्याल रखा जाए।”
