यह एआई चैट बांट अमेरिकी उद्योगपति एलन मस्क कि कम्पनी एक्स जो पहले ट्वीटर थी का ही एक एआई टूल है जो उपयोगकर्ताओं को उनकी जरुरत के अनुसार जानकारी प्राप्त करने तथा तस्वीरों को निर्मित एवं सम्पादित करने की सुविधा देता है पर अक्सर यह ऐसी जानकारी भी दे देता है जो उपयोगकर्ता द्वारा पूछी ही नहीं गई है।
यह जो टूल है यह सब्सक्रिप्शन के साथ असिमित फ़ोटो एवं विडियो बनाने की मशिन बन गया है लेकिन सबसे अधिक चिंता कि बात यह है कि इससे बड़ी ही आसानी से किसी भी तस्वीर को अश्लील बनाया जा सकता है और यह एआई यह फर्क करने में असक्षम है कि जिस तस्वीर को यह प्राम्प्ट के अनुसार बदल रहा है वो एआई के द्वारा बनाई गई है या फिर किसी वास्तविक व्यक्ति की है।
मैं इस निष्कर्ष पर पहुंचने के पहले इसे अलग अलग एकाउंट के माध्यम से लगभग तीन महिने तक इस्तेमाल करता रहा हूं। विडियो बनाने वाली इसकी सुविधा तो और भी गैर-निष्पादित और अनियंत्रित है, इससे किसी भी तस्वीर को अश्लील विडियो मे बदला जा सकता है और किसी भी महिला कैसी भी अश्लील हरकत करते हुए दिखाया जा सकता है। यह पुरी तरह से महिलाओं के लिए और पुरुषों के लिए भी असुरक्षित है।
ग्रोक एआई जैसे जितने भी एआई टूल है या तो उन्हें प्रतिबंध किया जाना चाहिए या इन पर सख़्त निगरानी रखनी चाहिए और यह जिम्मेदारी भारत सरकार कि है कि ग्रोक एआई जैसे सभी एआई भारत के कानूनों को सख्ती से माने और यह सुनिश्चित किया जाना चाहिए कि इन जैसे एआई टूल से किसी व्यक्ति कि गरिमा को कोई हानि ना पहुंचे।
यह सत्य है कि एआई का सही उपयोग इसे वरदान बना सकता है लेकिन एक गैरजिम्मेदार और अनियंत्रित एआई इस वरदान को अभिशाप मे भी बदल सकता है। भारत विश्व का सबसे बड़ा एआई बाजार बनने की राह पर है पर इसके लिए हमे जिम्मेदार एआई चाहिए ना कि अनियंत्रित और गैरजिम्मेदार।
