NEWS LAMP
जो बदल से नज़रिया...

Amazon अपने आर्टिफिशियल इंटेलिजेंस की सीमाओं पर ग्राहकों को आगाह करेगा

Thank you for reading this post, don't forget to subscribe!

Amazon के AI सर्विस कार्ड सार्वजनिक होंगे ताकि इसके ग्राहक सीमाएं देख सकें। (प्रतिनिधि)

लॉस वेगास:

कंपनी ने रॉयटर्स को बताया कि Amazon.com इंक अपने क्लाउड-कंप्यूटिंग डिवीजन द्वारा बेचे जाने वाले सॉफ़्टवेयर के लिए चेतावनी कार्ड जारी करने की योजना बना रही है, जो कृत्रिम रूप से बुद्धिमान सिस्टम विभिन्न समूहों के खिलाफ भेदभाव कर सकते हैं।

लंबे पोषण लेबल के समान, अमेज़ॅन के तथाकथित एआई सर्विस कार्ड सार्वजनिक होंगे ताकि इसके व्यावसायिक ग्राहक कुछ क्लाउड सेवाओं की सीमाओं को देख सकें, जैसे कि चेहरे की पहचान और ऑडियो ट्रांसक्रिप्शन। अमेज़ॅन ने कहा कि लक्ष्य अपनी तकनीक के गलत उपयोग को रोकने के लिए होगा, समझाएं कि इसकी प्रणाली कैसे काम करती है और गोपनीयता का प्रबंधन करती है।

कंपनी ऐसी चेतावनियां प्रकाशित करने वाली पहली कंपनी नहीं है। क्लाउड में एक छोटे खिलाड़ी इंटरनेशनल बिजनेस मशीन कॉर्प ने ऐसा सालों पहले किया था। नंबर 3 क्लाउड प्रदाता, अल्फाबेट इंक के Google ने अपने कुछ एआई को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटासेट पर अभी भी अधिक विवरण प्रकाशित किए हैं।

फिर भी बुधवार को अपने पहले तीन सर्विस कार्ड जारी करने का अमेज़न का निर्णय नागरिक स्वतंत्रता आलोचकों के साथ सार्वजनिक विवाद के बाद अपनी छवि को बदलने के लिए उद्योग के नेता के प्रयास को दर्शाता है, जिसने यह धारणा छोड़ दी थी कि यह एआई नैतिकता के बारे में अपने साथियों की तुलना में कम परवाह करता है। यह कदम लास वेगास में कंपनी के वार्षिक क्लाउड सम्मेलन के साथ मेल खाएगा।

माइकल किर्न्स, पेंसिल्वेनिया विश्वविद्यालय के प्रोफेसर और 2020 से अमेज़ॅन में एक विद्वान, ने कहा कि कार्ड जारी करने का निर्णय कंपनी के सॉफ़्टवेयर की गोपनीयता और निष्पक्षता ऑडिट का पालन करता है। किर्न्स ने कहा कि कार्ड ऐसे समय में एआई नैतिकता की चिंताओं को सार्वजनिक रूप से संबोधित करेंगे जब तकनीकी विनियमन क्षितिज पर था।

“इस लॉन्च के बारे में सबसे बड़ी बात यह है कि इसे निरंतर आधार पर और विस्तारित आधार पर करने की प्रतिबद्धता है,” उन्होंने कहा।

अमेज़ॅन ने संवेदनशील जनसांख्यिकीय मुद्दों पर स्पर्श करने वाले सॉफ़्टवेयर को अपने सेवा कार्डों के लिए एक शुरुआत के रूप में चुना, जो कि केर्न्स समय के साथ विस्तार से बढ़ने की उम्मीद करता है।

त्वचा की रंगत

ऐसी ही एक सेवा को “रेकग्निशन” कहा जाता है। 2019 में, अमेज़ॅन ने एक अध्ययन का विरोध किया जिसमें कहा गया था कि तकनीक गहरे रंग की त्वचा वाले व्यक्तियों के लिंग की पहचान करने के लिए संघर्ष करती है। लेकिन 2020 में एक निहत्थे अश्वेत व्यक्ति जॉर्ज फ्लॉयड की हत्या के बाद, एक गिरफ्तारी के दौरान, कंपनी ने अपने चेहरे की पहचान करने वाले सॉफ़्टवेयर के पुलिस उपयोग पर रोक लगा दी।

अब, अमेज़ॅन रॉयटर्स द्वारा देखे गए एक सर्विस कार्ड में कहता है कि रिकॉग्निशन मिलान का समर्थन नहीं करता है “ऐसी छवियां जो मानव द्वारा पहचाने जाने वाले चेहरे के लिए बहुत धुंधली और दानेदार हैं, या जिनके चेहरे के बड़े हिस्से बालों, हाथों और बालों से घिरे हुए हैं। अन्य वस्तुएं।” यह कार्टून और अन्य “अमानवीय संस्थाओं” में मेल खाने वाले चेहरों के खिलाफ भी चेतावनी देता है।

ऑडियो ट्रांसक्रिप्शन पर रॉयटर्स द्वारा देखे गए एक अन्य चेतावनी कार्ड में, अमेज़ॅन कहता है, “असंगत रूप से ऑडियो इनपुट को संशोधित करने से विभिन्न जनसांख्यिकीय समूहों के लिए अनुचित परिणाम हो सकते हैं।” किर्न्स ने कहा कि अकेले उत्तरी अमेरिका में क्षेत्रीय लहजे और बोलियों की विस्तृत श्रृंखला का सटीक रूप से अनुवाद करना एक चुनौती थी जिसे अमेज़ॅन ने संबोधित करने के लिए काम किया था।

बर्कले में कैलिफोर्निया विश्वविद्यालय में एआई सुरक्षा पहल के निदेशक जेसिका न्यूमैन ने कहा कि प्रौद्योगिकी कंपनियां जिम्मेदार एआई प्रथाओं के संकेत के रूप में इस तरह के खुलासे को तेजी से प्रकाशित कर रही थीं, हालांकि उनके पास जाने का एक रास्ता था।

उन्होंने कहा, “हमें सिस्टम के बुनियादी विवरण प्रदान करने के लिए कंपनियों की सद्भावना पर निर्भर नहीं होना चाहिए जो लोगों के जीवन पर भारी प्रभाव डाल सकते हैं,” उन्होंने कहा, अधिक उद्योग मानकों के लिए बुलावा।

दो प्रमुख उद्यमों में पोषण लेबल पर काम करने वाले एक व्यक्ति ने कहा कि टेक दिग्गजों ने इस तरह के दस्तावेजों को इतना छोटा बनाने के लिए संघर्ष किया है कि लोग उन्हें अभी तक पर्याप्त रूप से विस्तृत और अद्यतित सॉफ्टवेयर ट्वीक्स को प्रतिबिंबित करने के लिए पढ़ेंगे।

(हेडलाइन को छोड़कर, यह कहानी NDTV के कर्मचारियों द्वारा संपादित नहीं की गई है और एक सिंडिकेट फीड से प्रकाशित हुई है।)

दिन का विशेष रुप से प्रदर्शित वीडियो

मीडिया ट्रायल पर आयुष्मान ने की चर्चा: “क्रिकेट और सिनेमा का शोर बिकेगा”

source_link

Loading spinner
एक टिप्पणी छोड़ें
Subscribe to our newsletter
Sign up here to get the latest news, updates and special offers delivered directly to your inbox.
You can unsubscribe at any time