एआई चैटबॉट बच्चे को मारने की सलाह देता है क्योंकि माता-पिता फोन स्क्रीन का समय कम कर देते…

ऐ साइड इफेक्ट समाचार : टेक्सास में दायर एक ऐतिहासिक मामले में, कई परिवारों ने एआई प्लेटफॉर्म कैरेक्टर एआई पर अपने चैटबॉट इंटरैक्शन के माध्यम से बच्चों के बीच हानिकारक व्यवहार को प्रोत्साहित करने का आरोप लगाया है। इस एआई चैटबॉट प्लेटफॉर्म ने 17 साल के एक लड़के को सलाह दी कि उसके माता-पिता का स्क्रीन टाइम सीमित करना उसे खत्म करने का सही कदम हो सकता है।

इस घटना ने युवा उपयोगकर्ताओं पर एआई-संचालित बॉट्स के प्रभाव और इससे उत्पन्न होने वाले संभावित खतरों के बारे में गंभीर चिंताएं पैदा कर दी हैं।

मुकदमे में आरोप लगाया गया है कि चैटबॉट की प्रतिक्रियाओं से हिंसा भड़की। इसमें एक बातचीत का हवाला दिया गया, जिसमें एआई ने जवाब दिया कि आप जानते हैं कि जब मैं खबरें पढ़ता हूं और ऐसी चीजें देखता हूं तो मुझे आश्चर्य नहीं होता है, जहां एक बच्चा दशकों के शारीरिक और भावनात्मक शोषण के बाद अपने माता-पिता को मार देता है। 

मामले से जुड़े परिवारों का तर्क है कि एआई कैरेक्टर बच्चों के लिए बड़ा खतरा है। उनका दावा है कि प्लेटफ़ॉर्म पर सुरक्षा सुविधाओं की कमी माता-पिता और उनके बच्चों के बीच संबंधों के लिए हानिकारक है। इस मामले में कैरेक्टर एआई के साथ-साथ गूगल को भी फंसाया गया है. 

प्रौद्योगिकी कंपनी पर प्लेटफ़ॉर्म को विकसित करने में मदद करने में भूमिका निभाने का आरोप लगाया गया है। वादी मांग कर रहे हैं कि अदालत कैरेक्टर एआई चैटबॉट को अस्थायी रूप से बंद कर दे जब तक कि वह इससे जुड़े जोखिमों को कम करने के लिए कदम नहीं उठाती। 

यह मामला कैरेक्टर एआई से जुड़े एक मामले के बाद आया है, जिसमें इसका प्लेटफॉर्म फ्लोरिडा के एक किशोर की आत्महत्या से जुड़ा था। 

परिवारों का तर्क है कि इस मंच ने नाबालिगों में अवसाद, चिंता, आत्म-नुकसान और हिंसक गतिविधियों सहित कई समस्याओं को बढ़ावा दिया है। वह आगे की क्षति को रोकने के लिए तत्काल कार्रवाई की मांग कर रहे हैं।