ऐप पर पढ़ें
Google ने अपने Gemini Chatbot को लेकर एक बड़ा कदम उठाया है। अब यूजर चैटबॉट के जरिए लोगों की तस्वीर नहीं बना पाएंगे। हालांकि यह सुविधा कुछ समय के लिए बंद की गई है। दरअसल, गूगल ने गुरुवार को कहा कि वह अपने जेमिनी आर्टिफिशियल इंटेलिजेंस चैटबॉट को लोगों की तस्वीरें बनाने से अस्थायी रूप से रोक रहा है। कंपनी ने ऐतिहासिक चित्रणों में “अशुद्धियों” के लिए माफी मांगने के ठीक एक दिन बाद यह कदम उठाया है।
जेमिनी यूजर्स ने इस सप्ताह सोशल मीडिया पर नस्लीय रूप से विविध पात्रों के साथ ऐतिहासिक रूप से श्वेत-वर्चस्व वाले दृश्यों के स्क्रीनशॉट पोस्ट किए, जिनके बारे में उनका कहना है कि इससे जनरेट हुआ, आलोचकों ने सवाल उठाया कि क्या कंपनी अपने एआई मॉडल में नस्लीय पूर्वाग्रह के जोखिम के लिए जरूरत से ज्यादा सुधार कर रही है।
कंपनी ने एक्स पर कहा ये
गूगल ने सोशल मीडिया प्लेटफॉर्म एक्स (पहले ट्वीटर) पर एक पोस्ट में कहा, “हम पहले से ही जेमिनी की इमेज जनरेशन फीचर के साथ हालिया मुद्दों को संबोधित करने के लिए काम कर रहे हैं”। “ऐसा करते समय, हम लोगों की इमेज जनरेशन को रोकने जा रहे हैं और जल्द ही एक बेहतर वर्जन फिर से जारी करेंगे।”
पिछले अध्ययनों से पता चला है कि एआई इमेज जनरेटर अपने ट्रेनिंग डेटा में पाए जाने वाले नस्लीय और लैंगिक रूढ़िवादिता को बढ़ा सकते हैं, और जब विभिन्न संदर्भों में किसी व्यक्ति को जनरेट करने के लिए कहा जाता है, तो बिना फिल्टर के हल्की चमड़ी वाले पुरुषों को जनरेट करने की अधिक संभावना होती है।
गूगल का पोस्ट
आ रहा है रिलायंस का AI मॉडल ‘Hanooman’, मार्च में होगा लॉन्च; ये है खास
गूगल ने बुधवार को कहा कि उसे “इस बात की जानकारी है कि जेमिनी कुछ ऐतिहासिक इमेज जनरेशन चित्रणों में अशुद्धियां पेश कर रहा है” और वह “इस प्रकार के चित्रणों को तुरंत सुधारने के लिए काम कर रहे हैं।” जेमिनी “लोगों की एक विस्तृत श्रृंखला” जनरेट कर सकता है, जिसके बारे में कंपनी ने कहा है कि यह “आम तौर पर एक अच्छी बात है” क्योंकि दुनिया भर के लोग इस सिस्टम का उपयोग करते हैं लेकिन यह “प्रभाव से चूक रहा है।”
जब एपी ने जेमिनी से लोगों की तस्वीरें बनाने के लिए कहा, तो उसने जवाब दिया कि वह ऐसा करने की क्षमता को “सुधारने के लिए काम कर रहा है”। चैटबॉट ने कहा, “हमें उम्मीद है कि यह सुविधा जल्द ही वापस आएगी और जब ऐसा होगा तो रिलीज अपडेट में आपको सूचित किया जाएगा।”
