Technology News : नग्नता और छेड़छाड़ वाली तस्वीरों पर पूर्ण प्रतिबंध, Musk की कंपनी ने क्यों लिया ये फैसला?
News India Live, Digital Desk : आर्टिफिशियल इंटेलिजेंस (AI) जितनी तेजी से हमारी जिंदगी आसान बना रहा है, उतनी ही तेजी से इसका गलत इस्तेमाल भी बढ़ा है। 'Deepfakes' या किसी की फोटो से छेड़छाड़ करके उसे गलत तरीके से पेश करना ये आजकल इंटरनेट का सबसे डरावना सच बन गया है।
इसी बीच, टेक्नोलॉजी की दुनिया के 'बाहुबली' यानी एलन मस्क (Elon Musk) की कंपनी xAI ने एक बहुत ही ज़रूरी और सराहनीय कदम उठाया है।
अब 'Grok' नहीं करेगा गंदा काम
मस्क के AI चैटबॉट का नाम 'Grok' है। हाल ही में कंपनी ने अपने सिस्टम में एक बड़ा बदलाव (Update) किया है। अब अगर कोई यूजर इस AI को किसी भी व्यक्ति की (खासकर महिलाओं की) अश्लील या बिना सहमति वाली (Non-consensual) आपत्तिजनक तस्वीरें बनाने का आदेश देगा, तो Grok साफ मना कर देगा।
आसान शब्दों में कहें तो, Grok ने अब एक "डिजिटल लक्ष्मण रेखा" खींच दी है। वह अब न्यूडिटी (Nudity) या सेक्सुअल कंटेंट जनरेट नहीं करेगा।
क्यों पड़ी इसकी ज़रूरत?
बीते कुछ समय में हमने देखा है कि कैसे AI का इस्तेमाल करके सेलिब्रिटीज से लेकर आम लोगों तक की फेक अश्लील फोटो वायरल की गईं। टेलर स्विफ्ट जैसी मशहूर हस्तियां भी इसका शिकार हुईं। जब किसी टूल के हाथ में इतनी ताकत आ जाती है, तो उस पर लगाम कसना ज़रूरी हो जाता है।
xAI ने समझा कि 'आजादी' का मतलब 'बदतमीजी' नहीं हो सकता। इसीलिए उन्होंने ऐसे फिल्टर लगा दिए हैं जो किसी की भी गरिमा (Dignity) को ठेस पहुंचाने वाले कंटेंट को बनने ही नहीं देंगे।
सेफ्टी पहले, मस्ती बाद में
ये फैसला इसलिए भी अहम् है क्योंकि एलन मस्क को अक्सर "फ्री स्पीच" (बोलने की आज़ादी) का पक्षधर माना जाता है। लेकिन इस कदम ने साबित कर दिया है कि सुरक्षा और नैतिकता के साथ कोई समझौता नहीं किया जा सकता।
सिर्फ मस्क ही नहीं, बल्कि Google, Microsoft और Meta जैसी दूसरी बड़ी कंपनियां भी अब अपने AI टूल्स को सख्त बना रही हैं ताकि इंटरनेट एक सुरक्षित जगह बना रहे।
तो अगर कोई सोच रहा था कि वो Grok का इस्तेमाल करके कोई गलत फोटो एडिट कर लेगा, तो अब उसके लिए "नो एंट्री" का बोर्ड लग चुका है। और सच कहें तो, समाज की भलाई के लिए यह बहुत ज़रूरी भी था।
_625815510_351x234.jpg)
_68221922_351x234.jpg)
_1750107926_351x234.jpg)
_203291605_351x234.jpg)