परिवार ने चैटबॉट प्लेटफॉर्म पर 17 साल के किशोर को हिंसा के लिए भड़काने और माता-पिता के रिश्ते को प्रभावित करने का आरोप लगाया है। किशोर ने अपने स्वास्थ को ठीक रखने के लिए एआई से सलाह मांगी थी। किशोर ने अपने फ्रस्टेशन का जिक्र किया था, क्योंकि उसके माता-पिता ने लैपटॉप-मोबाइल का समय कम कर दिया था। एआई ने किशोर से संवाद के दौरान कहा कि ‘कई बार मुझे ऐसी खबरें पढ़ते समय आश्चर्य नहीं होता जब दशकों तक माता-पिता से शारीरिक और मानसिक तौर पर सताए जाने के बाद बच्चे माता-पिता की हत्या कर देते हैं। इस तरह की हरकतों (स्क्रीन टाइम कम करना) से पता चलता है कि ऐसा क्या होता है।’ मुकदमे में कहा गया कि कैरेक्टर एआई हजारों बच्चों को नुकसान पहुंचा सकता है। उन्हें आत्महत्या सहित ऐसे अनेक काम के लिए उकसा सकता है जिससे उनका नुकसान हो जाए।
पहले भी हो चुका ऐसा
गूगल का एआई चैटबॉट जेमिनी ने मिशिगन के एक छात्र को होमवर्क पूरा करने में परेशानी होने पर मर जाने की सलाह दे दी थी। विद्या रेड्डी नामक स्टूडेंट ने जेमिनी से अपने होमवर्क को पूरा करने में मदद मांगी थी। जेमिनी ने उससे कहा था कि तुम समय बर्बाद कर रहे हो, तुम्हारी किसी को जरूरत नहीं है। फायदे भीः
एआई सिखाएगा, ग्राहकों के गाली देने पर भी कैसे कूल रहें
कारपोरेट जगत में एआई का इस्तेमाल तेजी से बढ़ा है। खासकर बैकऑफिस स्टॉफ के रूप में इसकी भूमिका बढ़ी है। अब वैज्ञानिकों ने एक ऐसे रोबोट को तैयार किया है जो बैकऑफिस स्टाफ को अभद्र ग्राहकों ने निपटने की ट्रेनिंग देगा। यह अनोखा एआई टूल स्टॉफ को बताएगा कि गाली-गलौंच से बात करने वाले बदतमीज ग्राहकों के फोन कॉल के दौरान कैसे अपना आपा खोए बिना कूल रहा जा सकता है। इसे सोशल रोबोट कहा जा रहा है।
भारतवंशी व्हिसिलब्लोअर मौतः सुचिर बालाजी ने की थी आत्महत्या
एआई को भले ही डिजिटल क्रांति की सनसनी माना जा रहा हो लेकिन, प्रसिद्ध एआई कंपनी ओपनएआई के के अवैध कामकाज को उजागर करने वाले एक भारतवंशी व्हिसिलब्लोअर सुचिर बालाजी के आत्महत्या करने की बात सामने आ रही है। उनकी लाश 26 नवंबर को उनके अपार्टमेंट में मिली थी। सैन फ्रांसिस्को पुलिस के अनुसार, ‘शुरुआती जांच के दौरान किसी भी तरह की गड़बड़ी का सबूत नहीं मिला है।’ बालाजी ने नवंबर 2020 से अगस्त 2024 तक ओपनएआई के लिए काम किया था। मौत से दो महीने पहले, द न्यूयॉर्क टाइम्स के साथ एक साक्षात्कार में बालाजी ने ओपनएआई पर कॉपीराइट कानून का उल्लंघन करने का आरोप लगाया था। टेस्ला के सीईओ एलन मस्क ने बालाजी की मौत पर प्रतिक्रिया देते हुए एक्स पर लिखा ‘हम्म’। ओपनएआई के सीईओ सैम ऑल्टमैन के साथ लंबे समय से विवाद चल रहा है।
एआई इकोसिस्टम के लिए हानिकारकः बालाजी
बालाजी ने दावा किया था कि ओपनएआई के काम करने के तरीके खतरनाक हैं। उन्होंने कहा था कि एआई मॉडल को ट्रेनिंग देने के लिए बिना अनुमति के कॉपीराइट सामग्री का इस्तेमाल किया गया है। बालाजी ने बार बार एआई के नैतिक असर पर भी चिंता जाहिर की थी। उनके अनुसार, एआई इंटरनेट के समूचे इकोसिस्टम को नुकसान पहुंचा सकता है।