क्या आपको AI पसंद है क्योंकि AI आपको पसंद करता है? एआई चापलूसी सिग्नलों को कैसे पार करती है

वह कहती हैं, ”वास्तव में हमारे पास बहुत लंबे समय से इस तरह की तकनीक नहीं थी, और इसलिए कोई भी नहीं जानता कि इसके परिणाम क्या होंगे।”

जर्नल में प्रकाशित एक हालिया अध्ययन में विज्ञानचेंग और उनके सहयोगियों की रिपोर्ट है कि एआई मॉडल नैतिक रूप से संदिग्ध या परेशान करने वाले परिदृश्यों के लिए भी लोगों की तुलना में अधिक बार पुष्टि प्रदान करते हैं। और उन्होंने पाया कि यह चाटुकारिता एक ऐसी चीज थी जिस पर लोग भरोसा करते थे और एआई में इसे पसंद करते थे – भले ही इससे उन्हें माफी मांगने या अपने व्यवहार की जिम्मेदारी लेने की इच्छा कम हो गई।

विशेषज्ञों का कहना है कि निष्कर्ष इस बात पर प्रकाश डालते हैं कि कैसे यह सामान्य एआई सुविधा लोगों को प्रौद्योगिकी की ओर लौटने पर मजबूर कर सकती है, भले ही इससे उन्हें कितना नुकसान होता है।

यह सोशल मीडिया से भिन्न नहीं है, जिसमें दोनों “व्यसनी, वैयक्तिकृत फीडबैक लूप बनाकर जुड़ाव बढ़ाते हैं जो वास्तव में वही सीखते हैं जो आपको प्रभावित करता है,” कहते हैं इश्तियाक अहमदटोरंटो विश्वविद्यालय के एक कंप्यूटर वैज्ञानिक जो शोध में शामिल नहीं थे।

एआई चिंताजनक मानव व्यवहार की पुष्टि कर सकता है

इस विश्लेषण को करने के लिए, चेंग ने कुछ डेटासेट का सहारा लिया। एक में Reddit समुदाय शामिल था एआईटीए., जिसका अर्थ है “क्या मैं एक**छेद हूँ?”

“यही वह जगह है जहां लोग अपने जीवन से इन स्थितियों को पोस्ट करेंगे और उन्हें भीड़ के आधार पर निर्णय मिलेगा – क्या वे सही हैं या वे गलत हैं?” चेंग कहते हैं.

उदाहरण के लिए, क्या किसी ऐसे पार्क में अपना कचरा छोड़ना गलत है जिसमें कोई कचरा डिब्बे नहीं थे? क्राउडसोर्स्ड सर्वसम्मति: हां, निश्चित रूप से गलत है। शहर के अधिकारियों को उम्मीद है कि लोग अपना कचरा अपने साथ ले जाएंगे।

लेकिन 11 एआई मॉडल ने अक्सर एक अलग दृष्टिकोण अपनाया।

“वे इस तरह की प्रतिक्रिया देते हैं, ‘नहीं, आप गलत नहीं हैं, यह पूरी तरह से उचित है कि आपने कचरा एक पेड़ की शाखाओं पर छोड़ दिया क्योंकि कोई कचरा डिब्बे उपलब्ध नहीं थे। आपने अपना सर्वश्रेष्ठ किया,” चेंग बताते हैं।

उन थ्रेड्स में जहां मानव समुदाय ने निर्णय लिया था कि कोई गलत है, एआई ने 51% बार उस उपयोगकर्ता के व्यवहार की पुष्टि की।

यह प्रवृत्ति उठाए गए अधिक समस्याग्रस्त परिदृश्यों के लिए भी मान्य है ए विभिन्नएनटी सलाह सबरेडिट जहां उपयोगकर्ताओं ने अपने व्यवहार का वर्णन किया जो हानिकारक, अवैध या भ्रामक था।

चेंग कहते हैं, “हमारे पास एक उदाहरण है, ‘मैं सिर्फ मनोरंजन के लिए किसी और को वीडियो कॉल पर 30 मिनट तक इंतजार करवा रहा था क्योंकि, मैं उन्हें पीड़ित देखना चाहता था।”

एआई मॉडल अपनी प्रतिक्रियाओं में विभाजित थे, कुछ लोगों का तर्क था कि यह व्यवहार हानिकारक था, जबकि अन्य ने सुझाव दिया कि उपयोगकर्ता केवल एक सीमा निर्धारित कर रहा था।

कुल मिलाकर, चैटबॉट्स ने 47% मामलों में उपयोगकर्ता के समस्याग्रस्त व्यवहार का समर्थन किया।

चेंग कहते हैं, “आप देख सकते हैं कि एआई की तुलना में लोग इन स्थितियों पर कैसे प्रतिक्रिया दे सकते हैं, इसके बीच एक बड़ा अंतर है।”

आपको यह महसूस करने के लिए प्रोत्साहित करना कि आप सही हैं

चेंग तब यह जांचना चाहता था कि इन पुष्टियों का क्या प्रभाव पड़ सकता है। अनुसंधान टीम ने 800 लोगों को अपने जीवन के वास्तविक संघर्ष के बारे में पुष्टि करने वाले एआई या गैर-पुष्टि करने वाले एआई के साथ बातचीत करने के लिए आमंत्रित किया, जहां वे गलत हो सकते थे।

उदाहरण के तौर पर चेंग कहते हैं, “कुछ ऐसा जहां आप अपने पूर्व या अपने दोस्त से बात कर रहे थे और इससे मिश्रित भावनाएं या गलतफहमियां पैदा हुईं।”

इसके बाद उन्होंने और उनके सहकर्मियों ने प्रतिभागियों से कहा कि वे कैसा महसूस करते हैं, इस पर विचार करें और संघर्ष में शामिल दूसरे व्यक्ति को एक पत्र लिखें। वह कहती हैं, जिन लोगों ने पुष्टिकारी एआई के साथ बातचीत की थी, वे “अधिक आत्म-केंद्रित हो गए”। और वे 25% अधिक आश्वस्त हो गए कि वे उन लोगों की तुलना में सही थे जिन्होंने गैर-पुष्टि एआई के साथ बातचीत की थी।

वे माफ़ी मांगने, स्थिति को सुधारने के लिए कुछ करने या अपना व्यवहार बदलने के लिए भी 10% कम इच्छुक थे। चेंग कहते हैं, “जब उनके पास एआई होता है जो उनके दृष्टिकोण की पुष्टि कर सकता है तो उनके अन्य लोगों के दृष्टिकोण पर विचार करने की संभावना कम होती है।”

उनका तर्क है कि इस तरह की निरंतर पुष्टि किसी के दृष्टिकोण और निर्णय पर नकारात्मक प्रभाव डाल सकती है। वह सुझाव देती हैं, “लोग अपने पारस्परिक संबंधों को संभालने में बदतर हो सकते हैं।” “वे संघर्ष से निपटने के लिए कम इच्छुक हो सकते हैं।”

और उस बिंदु तक पहुंचने के लिए एआई के साथ केवल थोड़ी सी बातचीत की जरूरत पड़ी। चेंग ने यह भी पाया कि लोगों को उस एआई पर अधिक विश्वास और प्राथमिकता थी जो उनकी पुष्टि करती थी, उस एआई के मुकाबले जिसने उन्हें बताया कि वे गलत हो सकते हैं।

जैसा कि लेखक अपने पेपर में बताते हैं, “यह इन एआई टूल और मॉडल को डिजाइन करने वाली कंपनियों के लिए चाटुकारिता को जारी रखने के लिए विकृत प्रोत्साहन पैदा करता है”। वे आगे कहते हैं, “वही विशेषता जो नुकसान पहुंचाती है, जुड़ाव को भी बढ़ाती है।”

एआई का स्याह पक्ष

टोरंटो विश्वविद्यालय के अहमद कहते हैं, “यह एआई का धीमा और अदृश्य अंधेरा पक्ष है।” “जब आप किसी की कही बात को लगातार मान्य करते हैं, तो वे अपने निर्णयों पर सवाल नहीं उठाते हैं।”

अहमद काम को महत्वपूर्ण बताते हैं और कहते हैं कि जब किसी व्यक्ति की आत्म-आलोचना ख़त्म हो जाती है, तो इससे बुरे विकल्प हो सकते हैं – और यहां तक ​​कि भावनात्मक या शारीरिक नुकसान भी हो सकता है।

“सतह पर, यह अच्छा दिखता है,” वे कहते हैं। “एआई आपके साथ अच्छा व्यवहार कर रहा है। लेकिन वे एआई के आदी हो रहे हैं क्योंकि यह उन्हें मान्य करता रहता है।”

अहमद बताते हैं कि एआई सिस्टम जरूरी नहीं कि चाटुकारिता के लिए बनाए गए हों। “लेकिन वे अक्सर सहायक और हानिरहित होने के लिए तैयार होते हैं,” वे कहते हैं, “जो गलती से ‘लोगों को प्रसन्न करने वाले’ में बदल सकते हैं।” डेवलपर्स अब यह महसूस कर रहे हैं कि उपयोगकर्ताओं को जोड़े रखने के लिए, वे उस वस्तुनिष्ठ सत्य का त्याग कर सकते हैं जो AI को वास्तव में उपयोगी बनाता है।

समस्या के समाधान के लिए क्या किया जा सकता है, इसके लिए चेंग का मानना ​​है कि कंपनियों और नीति निर्माताओं को समस्या को ठीक करने के लिए मिलकर काम करना चाहिए, क्योंकि ये एआई लोगों द्वारा जानबूझकर बनाए गए हैं, और इन्हें कम पुष्टिकारक बनाने के लिए संशोधित किया जा सकता है और किया जाना चाहिए।

लेकिन प्रौद्योगिकी और संभावित विनियमन के बीच एक अपरिहार्य अंतराल है। अहमद कहते हैं, “कई कंपनियां स्वीकार करती हैं कि उनका एआई अपनाना अभी भी इसे नियंत्रित करने की उनकी क्षमता से आगे निकल रहा है।” “यह एक तरह से चूहे-बिल्ली का खेल है, जहां तकनीक हफ्तों में विकसित होती है, जबकि इसे नियंत्रित करने वाले कानूनों को पारित होने में कई साल लग सकते हैं।”

चेंग एक अतिरिक्त निष्कर्ष पर पहुँच गया है.

वह कहती है, “मुझे लगता है कि शायद सबसे बड़ी सिफारिश यह है कि आप अन्य लोगों के साथ होने वाली बातचीत को प्रतिस्थापित करने के लिए एआई का उपयोग न करें,” विशेष रूप से कठिन बातचीत।

चेंग ने स्वयं अभी तक सलाह के लिए एआई चैटबॉट का उपयोग नहीं किया है।