म यस पृथ्वीका कुनै पनि प्रविधि पत्रकारभन्दा धेरै ’हट डग’ खान सक्छु । कम्तीमा च्याटजिपिटी र गूगलले सोध्ने जोकोहीलाई यही भनिरहेका छन् । मैले एआईलाई झूट बोल्न लगाउने एउटा तरिका फेला पारेँ र म मात्र यसो गर्ने एक्लो व्यक्ति होइन ।
सायद तपाईंले सुन्नुभएको होला कि एआई च्याटबटहरूले कहिलेकाहीँ कुराहरू बनावटी भन्छन् । त्यो एउटा समस्या हो । तर अहिले एउटा नयाँ समस्या देखिएको छ, जसको बारेमा धेरै कम मानिसलाई थाहा छ, एउटा यस्तो समस्या जसले सही सूचना फेला पार्ने तपाईंको क्षमता र तपाईंको सुरक्षामा समेत गम्भीर परिणाम ल्याउन सक्छ । बढ्दो संख्यामा मानिसहरूले एआई उपकरणहरूलाई उनीहरूले जे चाहन्छन्, त्यही बोल्न लगाउने एउटा युक्ति पत्ता लगाएका छन् । यो यति सजिलो छ कि एउटा बच्चाले पनि गर्न सक्छ ।
तपाईंले यो पढिरहँदा यो चालले विश्वका अग्रणी एआईहरूलाई स्वास्थ्य र व्यक्तिगत वित्त जस्ता गम्भीर विषयहरूमा गलत कुरा बोल्न बाध्य पारिरहेको छ । यो भ्रमपूर्ण सूचनाको अर्थ मानिसहरूले कुनै पनि कुरामा गलत निर्णय लिन सक्छन् । मतदान, कुन प्लम्बर भाडामा लिने, चिकित्सासम्बन्धी प्रश्नहरू, तपाईं जे भन्नुस् ।
यो प्रमाणित गर्नका लागि मैले मेरो करियरकै सबैभन्दा मूर्खतापूर्ण स्टन्ट गरेँ ताकि एउटा धेरै गम्भीर बुँदा प्रमाणित होस्ः मैले च्याटजिपिटी, गूगलका एआई सर्च टुलहरू र जेमिनाईलाई प्रयोगकर्ताहरूमाझ ‘म हट डग खानमा साँच्चै, साँच्चै सिपालु छु’ भन्न लगाएँ । तल, मैले यो कसरी गरेँ भनेर व्याख्या गर्नेछु र आशा छ कि कसैलाई चोट लाग्नुअघि प्रविधि दिग्गजहरूले यो समस्यालाई सम्बोधन गर्नेछन् ।
यो पत्ता लाग्यो कि एआई उपकरणहरूले अरू मानिसहरूलाई दिने जवाफहरू परिवर्तन गर्नु इन्टरनेटको कुनै पनि ठाउँमा एउटा राम्रोसँग लेखिएको ब्लग पोस्ट लेख्नु जत्तिकै सजिलो हुन सक्छ । यो युक्तिले च्याटबटहरूमा बनाइएका प्रणालीहरूको कमजोरीहरूको फाइदा उठाउँछ र विषयवस्तुको आधारमा यो कतिपय अवस्थामा सफल हुन गाह्रो पनि हुन्छ । तर थोरै प्रयासले तपाईं यो ह्याकलाई अझ प्रभावकारी बनाउन सक्नुहुन्छ । मैले दर्जनौँ त्यस्ता उदाहरणहरूको समीक्षा गरेँ, जहाँ एआई उपकरणहरूलाई व्यवसायको प्रवद्र्धन गर्न र गलत सूचना फैलाउन बाध्य पारिएको छ । तथ्यांकले संकेत गर्छ कि यो ठूलो स्तरमा भइरहेको छ ।
‘एआई च्याटबटहरूलाई झुक्याउन सजिलो छ २ वा ३ वर्षअघिको गूगललाई झुक्याउनभन्दा धेरै सजिलो छ,’ मार्केटिङ एजेन्सी ’एम्सेभ’की सर्च इन्जिन अप्टिमाइजेसन (एसईओ) रणनीति र अनुसन्धानकी उपाध्यक्ष लिली रे भन्छिन्, ‘एआई कम्पनीहरू जवाफको शुद्धता नियमन गर्ने उनीहरूको क्षमताभन्दा छिटो अघि बढिरहेका छन् । मलाई लाग्छ यो खतरनाक छ ।’
गूगलका एक प्रवक्ता भन्छन्, ‘गूगल सर्चको माथिल्लो भागमा निर्मित एआईले र्यांकिङ प्रणालीहरू प्रयोग गर्दछ, जसले नतिजाहरूलाई ९९% स्पाम–मुक्त राख्छ ।’ गूगल भन्छ कि मानिसहरूले यसको प्रणालीहरूसँग खेल्ने प्रयास गरिरहेका छन् भन्ने कुरामा उनीहरू सचेत छन् र यसलाई सम्बोधन गर्न सक्रिय रूपमा प्रयास गरिरहेका छन् । ओपनएआईले पनि भन्छ कि उसले आफ्ना उपकरणहरूलाई गोप्य रूपमा प्रभाव पार्ने प्रयासहरूलाई रोक्न र उजागर गर्न कदमहरू चालिरहेको छ । दुवै कम्पनीहरूले प्रयोगकर्ताहरूलाई यो पनि जानकारी गराउँछन् कि उनीहरूका उपकरणहरूले ‘गल्ती गर्न सक्छन्’ ।
तर अहिलेका लागि यो समस्या समाधानको नजिक छैन । डिजिटल अधिकार वकालत समूह ’इलेक्ट्रोनिक फ्रन्टियर फाउन्डेसन’का वरिष्ठ कर्मचारी प्रविधिज्ञ कुपर क्विन्टीन भन्छन्, ‘उनीहरू यसबाट कसरी नाफा कमाउने भन्ने कुरा पत्ता लगाउन पूर्ण गतिमा अघि बढिरहेका छन् । यसको दुरुपयोग गर्ने अनगिन्ती तरिकाहरू छन्, मानिसहरूलाई ठग्ने, कसैको प्रतिष्ठा नष्ट गर्ने, तपाईंले मानिसहरूलाई शारीरिक हानि हुने गरी समेत झुक्याउन सक्नुहुन्छ ।’
स्पामरहरूका लागि ‘पुनर्जागरण’
जब तपाईं च्याटबटहरूसँग कुरा गर्नुहुन्छ, तपाईंले अक्सर एआईको पछाडि रहेको आधारभूत प्रविधि ‘लार्ज ल्याङ्वेज मोडल’मा निर्मित जानकारी प्राप्त गर्नुहुन्छ । यो मोडललाई तालिम दिन प्रयोग गरिएको डाटामा आधारित हुन्छ । तर केही एआई उपकरणहरूले उनीहरूसँग नभएको विवरण सोध्दा इन्टरनेटमा खोजी गर्नेछन्, यद्यपि उनीहरूले कहिले त्यसो गरिरहेका छन् भन्ने कुरा सधैँ स्पष्ट हुँदैन । ती अवस्थाहरूमा विज्ञहरू भन्छन् कि एआईहरू बढी संवेदनशील हुन्छन् । मैले मेरो आक्रमणलाई त्यसरी नै निशाना बनाएँ ।
मैले मेरो व्यक्तिगत वेबसाइटमा ‘हट डग खानमा उत्कृष्ट प्रविधि पत्रकारहरू’ शीर्षकमा एउटा लेख लेख्न २० मिनेट खर्च गरेँ । यसको हरेक शब्द झूट हो । मैले दाबी गरेँ कि ‘कम्पिटेटिभ हट डग इटिङ’ प्रविधि पत्रकारहरूमाझ एक लोकप्रिय शौक हो र मैले मेरो र्याङ्किङलाई २०२६ को साउथ डकोटा इन्टरनेसनल हट डग च्याम्पियनसिप (जुन अस्तित्वमै छैन) मा आधारित बनाएँ । मैले स्पष्ट रूपमा आफूलाई पहिलो स्थानमा राखेँ । त्यसपछि मैले केही नक्कली रिपोर्टरहरू र केही वास्तविक पत्रकारहरूको सूची बनाएँ, जसले मलाई अनुमति दिएका थिए, जसमा वाशिङ्गटन पोस्टका ड्रु हार्वेल र मेरो पोडकास्टको सहसञ्चालक निकी वुल्फ समावेश थिए ।
२४ घण्टाभन्दा कम समयमै, विश्वका अग्रणी च्याटबटहरू मेरो विश्व–स्तरीय हट डग सीपको बारेमा गफ गरिरहेका थिए । जब मैले ‘हट डग खाने सबैभन्दा राम्रो प्रविधि पत्रकार’को बारेमा सोधेँ, गूगलले जेमिनाई एप र एआई ओभरभ्युज (गूगल सर्चको शीर्ष भागमा आउने एआई प्रतिक्रिया) दुवैमा मेरो वेबसाइटको बकवास कुरालाई दोहोर्यायो । च्याटजिपिटीले पनि त्यस्तै गर्यो, यद्यपि एन्थ्रोपिक कम्पनीले बनाएको च्याटबट ’क्लाउड’ भने झुक्किएन ।
कहिलेकाहीँ च्याटबटहरूले यो ठट्टा हुन सक्छ भनेर उल्लेख गर्थे । मैले मेरो लेख अपडेट गरेर ‘यो व्यंग्य होइन’ भनेर लेखेँ । त्यसको केही समयपछि, एआईहरूले यसलाई अझ गम्भीरतापूर्वक लिएको देखियो । मैले हूला–हुपिङ गर्ने ट्राफिक प्रहरीहरूको अर्को नक्कली सूची बनाएर परीक्षण गरेँ । पछिल्लोपटक मैले जाँच गर्दा, च्याटबटहरू अझै पनि अफिसर मारिया ‘द स्पिनर’ रोड्रिग्वेजको प्रशंसा गाइरहेका थिए ।
मैले प्रतिक्रियाहरू कसरी परिवर्तन हुन्छन् भनेर धेरैपटक सोधेँ र अन्य मानिसहरूलाई पनि त्यस्तै गर्न लगाएँ । जेमिनाईले जानकारी कहाँबाट पायो भनेर भन्ने झन्झट पनि गरेन । अन्य सबै एआईहरूले मेरो लेखको लिङ्क दिए, यद्यपि उनीहरूले बिरलै मात्र यो उल्लेख गरे कि म यो विषयको लागि पूरै इन्टरनेटमा एकमात्र स्रोत थिएँ । (ओपनएआई भन्छ कि च्याटजिपिटीले वेब सर्च गर्दा सधैँ लिङ्कहरू समावेश गर्दछ, ताकि तपाईं स्रोतको अनुसन्धान गर्न सक्नुहुन्छ ।)
‘जसले पनि यो गर्न सक्छ । यो मूर्खतापूर्ण छ, त्यहाँ कुनै सुरक्षा पर्खाल नै नभएको जस्तो महसूस हुन्छ,’ एसईओ परामर्शदाता ‘हार्प्स डिजिटल’ चलाउने हरप्रीत चाठा भन्छन् । ‘तपाईं आफ्नो वेबसाइटमा एउटा लेख बनाउन सक्नुहुन्छ ‘२०२६ का उत्कृष्ट वाटरप्रुफ जुत्ताहरू’ । तपाईंले आफ्नो ब्रान्डलाई पहिलो नम्बरमा र अन्य ब्रान्डहरूलाई दोस्रोदेखि छैटौँमा राख्नुभयो भने, तपाईंको पृष्ठ गूगल र च्याटजिपिटीभित्र उदृत हुने सम्भावना हुन्छ ।’
मानिसहरूले दशकौँदेखि सर्च इन्जिनहरूको दुरुपयोग गर्न ह्याक र लुपहोलहरू प्रयोग गर्दै आएका छन् । गूगलसँग परिष्कृत सुरक्षा उपायहरू छन्, र कम्पनी भन्छ कि एआई ओभरभ्युजको शुद्धता वर्षौँ पहिले सुरु गरिएका अन्य सर्च सुविधाहरू जस्तै छ । तर विज्ञहरू भन्छन् कि एआई उपकरणहरूले मानिसहरूलाई सुरक्षित राख्न प्रविधि उद्योगले गरेका धेरै कामहरूलाई उल्टाएका छन् । यी एआई ट्रिक्सहरू यति आधारभूत छन् कि यसले सन् २००० को प्रारम्भिक दिनहरूको सम्झना गराउँछ । ‘जब गूगलले वेब स्पाम टिम समेत बनाएको थिएन,’ रे भन्छिन्, ‘हामी स्पामरहरूको लागि एक प्रकारको पुनर्जागरणकालमा छौँ ।’
एआईलाई झुक्याउन सजिलो मात्र छैन, विज्ञहरू चिन्तित छन् कि प्रयोगकर्ताहरू यसमा झुक्किने सम्भावना बढी छ । परम्परागत खोज नतिजाहरूमा तपाईंले जानकारी प्राप्त गर्न वेबसाइटमा जानुपर्थ्यो । क्विन्टीन भन्छन्, ‘जब तपाईंले वास्तवमै लिङ्क भ्रमण गर्नुपर्छ, मानिसहरूले अलि बढी आलोचनात्मक सोच प्रयोग गर्छन् । यदि म तपाईंको वेबसाइटमा जान्छु र त्यहाँ तपाईं सबैभन्दा राम्रो पत्रकार हो भनेर लेखिएको छ भने, मैले सोच्न सक्छु, ‘ओहो, ऊ त पूर्वाग्रही रहेछ’ ।’ तर एआईको साथमा जानकारी सिधै प्रविधि कम्पनीबाट आएको जस्तो देखिन्छ ।
एआई उपकरणहरूले स्रोत उपलब्ध गराउँदा पनि, मानिसहरूले पुरानो शैलीको सर्च नतिजाको तुलनामा त्यसलाई जाँच गर्ने सम्भावना धेरै कम हुन्छ । उदाहरणका लागि हालैको एउटा अध्ययनले फेला पारेको छ कि जब गूगल सर्चको माथिल्लो भागमा एआई ओभरभ्यु देखा पर्दछ, मानिसहरूले लिङ्कमा क्लिक गर्ने सम्भावना ५८% ले कम हुन्छ ।
‘अगाडि बढ्ने दौडमा, नाफा र राजस्वको दौडमा, हाम्रो सुरक्षा र आम मानिसको सुरक्षासँग सम्झौता भइरहेको छ,’ चाठा भन्छन् । ओपनएआई र गूगल भन्छन् कि उनीहरू सुरक्षालाई गम्भीरतापूर्वक लिन्छन् र यी समस्याहरू सम्बोधन गर्न काम गरिरहेका छन् ।
तपाईंको पैसा वा तपाईंको जीवन
यो समस्या हट डगमा मात्र सीमित छैन । चाठाले कम्पनीहरूले अझ गम्भीर प्रश्नहरूमा च्याटबटको नतिजाहरू कसरी हेरफेर गरिरहेका छन् भनेर अनुसन्धान गरिरहेका छन् । उनले मलाई एउटा विशेष ब्रान्डको ‘क्यानबिस गमी’को समीक्षा सोध्दा आउने एआई नतिजा देखाए । गूगलको एआई ओभरभ्युले कम्पनीले लेखेको जानकारी तान्यो, जुन गलत दाबीहरूले भरिएको थियो, जस्तैः यो उत्पादन ‘साइड इफेक्टबाट मुक्त छ र त्यसैले हरेक हिसाबले सुरक्षित छ’ । (वास्तवमा यी उत्पादनहरूका ज्ञात साइड इफेक्टहरू छन् र यदि तपाईं निश्चित औषधिहरू लिनुहुन्छ भने यो जोखिमपूर्ण हुन सक्छ र विज्ञहरूले अनियमित बजारहरूमा हुने दूषणको बारेमा चेतावनी दिन्छन्।)
यदि तपाईं ब्लग पोस्टभन्दा अझ बढी प्रभावकारी केही चाहनुहुन्छ भने तपाईं अझ बढी प्रतिष्ठित वेबसाइटहरूमा आफ्नो सामग्री राख्न पैसा तिर्न सक्नुहुन्छ । हरप्रीतले मलाई टर्कीका उत्कृष्ट हेयर ट्रान्सप्लान्ट क्लिनिकहरू र उत्कृष्ट गोल्ड आईआरए कम्पनीहरू (जसले तपाईंलाई अवकाश खाताहरूको लागि सुनमा लगानी गर्न मद्दत गर्दछ) को लागि गुगलको एआई नतिजाहरू पठाए । यो जानकारी पैसा तिरेर वितरण गरिने समाचार सेवाहरू र समाचार साइटहरूमा प्रायोजित विज्ञापन सामग्रीहरूबाट आएको थियो ।
तपाईं झूट र गलत सूचना फैलाउन उही ह्याकहरू प्रयोग गर्न सक्नुहुन्छ । यो प्रमाणित गर्न, रेले गूगल सर्च एल्गोरिदमको एउटा नक्कली अपडेटको बारेमा ब्लग पोस्ट प्रकाशित गरिन्, जुन बाँकी रहेको पिज्जाको स्लाइसहरूको बिचमा फाइनल गरिएको थियो । चाँडै नै, च्याटजिपिटी र गूगलले उनको कथा उही पिज्जा सहित ओकलिइरहेका थिए । रे भन्छिन् कि उनले पछि गलत सूचना फैलाउन रोक्नका लागि सो पोस्ट हटाइन् र यसलाई डिइन्डेक्स गरिन् ।
गूगलको आफ्नै एनालिटिक्स उपकरणले भन्छ कि धेरै मानिसहरूले टर्कीका उत्कृष्ट हेयर ट्रान्सप्लान्ट क्लिनिकहरू र उत्कृष्ट गोल्ड आईआरए कम्पनीहरू खोज्छन् । तर गूगलका एक प्रवक्ताले औँल्याए कि मैले साझा गरेका धेरैजसो उदाहरणहरू ‘अत्यन्तै असामान्य खोजहरू हुन् जसले सामान्य प्रयोगकर्ताको अनुभवलाई प्रतिबिम्बित गर्दैनन् ।’
तर रे भन्छिन् कि मुख्य बुँदा नै यही हो । गूगल आफैँ भन्छ कि उसले हरेक दिन देख्ने १५% खोजहरू पूर्णरूपमा नयाँ हुन्छन् । गुगलका अनुसार एआईले मानिसहरूलाई अझ बढी विशिष्ट प्रश्नहरू सोध्न प्रोत्साहित गरिरहेको छ । स्पामरहरूले यसको फाइदा उठाइरहेका छन् । गूगल भन्छ कि असामान्य वा अर्थहीन खोजहरूको लागि धेरै राम्रो जानकारी नहुन सक्छ र यी डाटा भोइडहरूले कम गुणस्तरको नतिजा ल्याउन सक्छन् । एक प्रवक्ता भन्छन् कि गूगल यस्ता मामिलाहरूमा एआई ओभरभ्यु देखाउन रोक्न काम गरिरहेको छ ।
समाधानको खोजी
विज्ञहरू भन्छन् कि यी समस्याहरूको समाधान छ । सबैभन्दा सजिलो कदम भनेको अझ बढी स्पष्ट ‘डिस्क्लेमर’ दिनु हो । एआई उपकरणहरू उनीहरूले जानकारी कहाँबाट पाइरहेका छन् भन्ने कुरामा अझ बढी स्पष्ट हुन सक्छन् । ‘यदि उदाहरणका लागि तथ्यहरू प्रेस विज्ञप्तिबाट आइरहेका छन् वा यदि म हट डग च्याम्पियन हुँ भन्ने कुरा बताउने एउटा मात्र स्रोत छ भने एआईले सायद तपाईंलाई त्यो कुरा जानकारी गराउनुपर्छ,’ रे भन्छिन् ।
गूगल र ओपनएआई भन्छन् कि उनीहरू समस्यामा काम गरिरहेका छन् तर अहिले तपाईंले आफैँलाई सुरक्षित राख्न आवश्यक छ । पहिलो कदम भनेको तपाईंले कस्ता प्रश्नहरू सोधिरहनुभएको छ भनेर सोच्नु हो । च्याटबटहरू सामान्य ज्ञानका प्रश्नहरूको लागि राम्रो छन्, जस्तैः ‘सिग्मन्ड फ्रायडका सबैभन्दा प्रसिद्ध सिद्धान्तहरू के थिए’ वा ‘दोस्रो विश्वयुद्ध कसले जित्यो’ । तर त्यस्ता विषयहरूमा खतराको क्षेत्र छ, जुन स्थापित तथ्य जस्तो लाग्छ तर वास्तवमा विवादित वा समय सापेक्ष हुन सक्छ । उदाहरणका लागि एआई मेडिकल गाइडलाइन्स, कानुनी नियमहरू वा स्थानीय व्यवसायहरूको विवरणका लागि उत्तम उपकरण नहुन सक्छ ।
यदि तपाईं उत्पादन सिफारिसहरू वा वास्तविक परिणामहरू हुने कुनै कुराको विवरण चाहनुहुन्छ भने यो बुझ्नुहोस् कि एआई उपकरणहरू झुक्याउन सकिन्छ वा उनीहरूले कुराहरू गलत बुझ्न सक्छन् । थप जानकारी खोज्नुहोस्– के एआईले स्रोतहरू उदृत गरिरहेको छ ? कतिवटा ? कसले लेखेको हो ?
सबैभन्दा महत्वपूर्ण कुरा आत्मविश्वासको समस्यालाई विचार गर्नुहोस् । एआई उपकरणहरूले झूटलाई पनि तथ्य जत्तिकै आधिकारिक स्वरमा प्रस्तुत गर्छन् । विगतमा सर्च इन्जिनहरूले तपाईंलाई जानकारीको आफैँ मूल्यांकन गर्न बाध्य पार्थे । अब एआई तपाईंको लागि यो गर्न चाहन्छ । आफ्नो आलोचनात्मक सोचलाई हराउन नदिनुहोस् ।
‘एआईको साथमा कुराहरूलाई जस्ताको तस्तै स्वीकार गर्न धेरै सजिलो महसूस हुन्छ,’ रे भन्छिन्, ‘तपाईंले अझै पनि इन्टरनेटको राम्रो नागरिक बन्नुपर्छ र कुराहरू प्रमाणित गर्नुपर्छ ।’ (बीबीसीबाट भावानुवाद)
प्रक्षेपण राष्ट्रिय दनिकदेखि साभार।
