संयुक्त राष्ट्र के एक स्वतंत्र वैज्ञानिक पैनल द्वारा इस तकनीक पर तैयार की गई पहली रिपोर्ट में 40 प्रमुख वैज्ञानिकों और विशेषज्ञों ने कहा कि कृत्रिम बुद्धिमत्ता का तीव्र विकास दुनिया भर के देशों और लोगों के लिए अपार संभावित लाभ प्रदान करता है, लेकिन साथ ही बड़े जोखिम भी पैदा करता है।

यह रिपोर्ट, जिसे 6 से 7 जुलाई को जिनेवा में एआई शासन पर संयुक्त राष्ट्र के पहले वैश्विक संवाद में सरकारों के समक्ष प्रस्तुत किया जाएगा, एआई का पहला वैश्विक, स्वतंत्र वैज्ञानिक मूल्यांकन प्रस्तुत करती है, और अगले वर्ष एक अधिक विस्तृत और व्यापक रिपोर्ट प्रकाशित करने की योजना है।

इस पैनल के सदस्य दुनिया के हर क्षेत्र से लिए गए थे, और इसके सदस्य किसी भी सरकार, संस्था या कंपनी से स्वतंत्र होकर तीन साल के कार्यकाल के लिए कार्य करते हैं।

प्रारंभिक रिपोर्ट से कुछ विवरण निम्नलिखित हैं:

नीति निर्माताओं को एआई को नियंत्रित करने के लिए वैज्ञानिक साक्ष्य की आवश्यकता है, लेकिन इसकी क्षमताएं वैज्ञानिक समझ और सरकारों की अनुकूलन क्षमता से कहीं आगे निकल रही हैं, और अत्यधिक स्वायत्त एआई प्रणालियों को नियंत्रित करने के लिए कुछ ही तरीके उपलब्ध हैं।

पैनल के सह-अध्यक्ष योशुआ बेंगियो ने भ्रामक एआई व्यवहार के बढ़ते सबूतों का उल्लेख किया और कहा कि विज्ञान इस बात की गारंटी नहीं दे सकता कि एआई अपनी क्षमताओं में वृद्धि के साथ "या तो अपने आप या दुर्भावनापूर्ण उपयोगकर्ताओं के कारण" विनाशकारी नुकसान नहीं पहुंचाएगा।

रिपोर्ट में निष्कर्ष निकाला गया, “कृत्रिम बुद्धिमत्ता के संभावित लाभ अपार हैं। इस तकनीक का बड़े पैमाने पर तेजी से और अनियंत्रित उपयोग कई जोखिम भी पैदा करता है, जिनमें उपयोगकर्ताओं के मानसिक स्वास्थ्य को नुकसान, विनाशकारी उपकरण के रूप में संभावित उपयोग, सामाजिक, आर्थिक और पर्यावरणीय प्रणालियों पर प्रभाव और तकनीक को नियंत्रित करने से जुड़ी चुनौतियां शामिल हैं।”

विभिन्न देशों और क्षेत्रों में एआई को अपनाने की गति व्यापक रूप से बढ़ी है, लेकिन यह असमान रूप से वितरित है। वैश्विक स्तर पर, अब एक अरब से अधिक लोग प्रति सप्ताह संवादात्मक एआई का उपयोग करते हैं, लेकिन विकासशील देशों में इसे अपनाने की गति धीमी है।

कृत्रिम बुद्धिमत्ता का विकास और भी अधिक केंद्रित है, जिसमें दुनिया के शीर्ष 500 एआई सुपरकंप्यूटरों में से 75% कंप्यूटिंग शक्ति अमेरिका के पास है, जबकि चीन के पास 15% है।

हालांकि दुनिया भर में 7,000 से अधिक भाषाएं बोली जाती हैं, लेकिन वर्तमान एआई मॉडल केवल कुछ ही भाषाओं के लिए प्रशिक्षित हैं और कुछ भाषाओं के मशीन अनुवाद में त्रुटियां भरी हुई हैं जो स्वास्थ्य निदान और उपचार संबंधी निर्णयों को प्रभावित कर सकती हैं।

जोखिमों में मानवाधिकारों, सामाजिक व्यवस्थाओं और पर्यावरण पर संभावित नकारात्मक प्रभाव शामिल हैं, क्योंकि एआई द्वारा निर्मित बाल यौन शोषण सामग्री और डीपफेक तकनीक से निर्मित यौन हिंसा का प्रसार अधिक बार हो रहा है।

एआई बड़े पैमाने पर प्रेरक सामग्री का उत्पादन और लक्षित करना भी आसान बनाता है, जो "सूचना की सत्यता के क्रमिक क्षरण में योगदान देता है जो सार्वजनिक विश्वास, सामाजिक सामंजस्य और लोकतांत्रिक विचार-विमर्श को कमजोर कर सकता है।"

विकसित अर्थव्यवस्थाओं सहित अधिकांश देशों में सबसे सक्षम नए एआई मॉडल का आकलन करने या उनके शासन में सार्थक रूप से भाग लेने के लिए तकनीकी विशेषज्ञता का अभाव है।