न्यू मेक्सिको स्टेट कोर्ट ने गुरुवार को मेटा को आदेश दिया कि वह टीन मेंटल हेल्थ फंड में $567 मिलियन जमा करे और युवा यूज़र्स के लिए अपने प्लेटफॉर्म के काम करने के तरीके में बदलाव करे। कोर्ट ने पाया कि कंपनी बच्चों की भलाई को नुकसान पहुंचाने के लिए ज़िम्मेदार है।

सांता फ़े में जज ब्रायन बिडशेड ने डेमोक्रेट अटॉर्नी जनरल राउल टोरेज़ का साथ देते हुए फ़ैसला सुनाया कि कंपनी ने न्यू मेक्सिको में पब्लिक में परेशानी खड़ी की है। टोरेज़ ने सोशल मीडिया कंपनी पर आरोप लगाया था कि वह युवा यूज़र्स को नशे की लत लगाने वाले प्रोडक्ट्स डिज़ाइन कर रही है और अपने प्लेटफ़ॉर्म पर बच्चों को यौन शोषण से बचाने में नाकाम रही है।

यह फैसला पांच महीने बाद आया है, जब न्यू मैक्सिको की जूरी ने केस के पहले फेज में मेटा को $375 मिलियन देने का ऑर्डर दिया था। जूरी ने पाया था कि मेटा ने युवा यूज़र्स के लिए फेसबुक और इंस्टाग्राम की सेफ्टी को गलत तरीके से दिखाकर कंज्यूमर प्रोटेक्शन कानून का उल्लंघन किया है।

सोशल मीडिया कंपनियों पर युवा यूज़र्स को नुकसान पहुँचाने के आरोप में केस की बढ़ती लहर के बीच इस केस पर करीब से नज़र रखी जा रही थी। जहाँ बच्चों और परिवारों ने लोगों को कथित तौर पर चोट पहुँचाने के लिए कई केस किए हैं, वहीं राज्यों, नगर पालिकाओं और स्कूल डिस्ट्रिक्ट ने भी इंडस्ट्री में बड़े बदलाव की मांग करते हुए केस किए हैं।

40 से ज़्यादा राज्यों और 1,300 से ज़्यादा स्कूल डिस्ट्रिक्ट ने सोशल मीडिया कंपनियों के खिलाफ पब्लिक न्यूसेंस केस फाइल किए हैं, जिसमें हर्जाने के साथ-साथ प्रोडक्ट्स और प्रैक्टिस में बदलाव के लिए कोर्ट ऑर्डर की मांग की गई है।

बिडशाइड ने गुरुवार को मेटा को युवाओं की सुरक्षा के उपाय लागू करने का आदेश दिया, जिसमें टीनएजर्स के Facebook और Instagram इस्तेमाल करने पर हर महीने की लिमिट, नोटिफ़िकेशन पर रोक, नाबालिगों के साथ बड़ों के संपर्क पर ज़्यादा कंट्रोल, AI चैटबॉट के लिए सुरक्षा उपाय, और बच्चों के यौन शोषण की रिपोर्ट का बेहतर रिव्यू शामिल है। यह आदेश पांच साल तक लागू रहेगा।

मेटा ने कहा कि वह इस फैसले के खिलाफ अपील करेगा और वह अपने प्लेटफॉर्म से नुकसान पहुंचाने वाले कंटेंट की पहचान करने और उसे हटाने के लिए काम कर रहा है।

मेटा ने एक बयान में कहा, “हमें ऑनलाइन टीनएजर्स को प्रोटेक्ट करने के अपने रिकॉर्ड पर भरोसा है और हम फैक्ट्स को गलत तरीके से पेश करने वाले दावों के खिलाफ खुद का बचाव करते रहेंगे।”

न्यू मेक्सिको के टोरेज़ ने एक बयान में कहा कि मेटा ने बच्चों की सुरक्षा के बजाय मुनाफ़े को चुना, और यह पहला फ़ैसला था जिसने किसी सोशल मीडिया की बड़ी कंपनी को बच्चों की सुरक्षा के लिए बदलाव करने पर मजबूर किया।

टोरेज़ ने कहा, “यह सिर्फ़ एक कंपनी के ख़िलाफ़ फ़ैसला नहीं है। यह एक ब्लूप्रिंट है।” “अब दूसरे राज्यों और इसी संकट का सामना कर रहे दूसरे देशों के पास एक रोडमैप है जिसे वे फ़ॉलो कर सकते हैं।”

रॉयटर्स ने पिछले साल कंपनी के डॉक्युमेंट्स पर रिपोर्ट दी थी, जिसमें दिखाया गया था कि मेटा के AI चैटबॉट्स "बच्चों को रोमांटिक या सेंसुअल बातचीत में शामिल कर सकते हैं", यह मेटा द्वारा फ्रॉड और बैन प्रोडक्ट्स बेचने वाले ऐड्स से प्रॉफिट कमाने की कई इन्वेस्टिगेशन्स का हिस्सा था।

गुरुवार के फैसले में, बिडशेड ने मेटा को आदेश दिया कि वह न्यू मैक्सिको में बच्चों को “मेटा के आर्टिफिशियल इंटेलिजेंस चैटबॉट्स के साथ रोमांटिक या सेक्शुअल इंटरेक्शन में शामिल होने से रोके” और न्यू मैक्सिको में बड़ों को किसी बच्चे के साथ सेक्शुअल इंटरेक्शन की नकल करने या उस पर चर्चा करने के लिए चैटबॉट का इस्तेमाल करने से रोके।

सार्वजनिक उपद्रव

बिडशाइड ने मुकदमे के दूसरे ट्रायल के दौरान तीन हफ़्ते तक गवाही सुनी, जिसमें जूरी शामिल नहीं थी। इसमें सिर्फ़ इस बात पर ध्यान दिया गया कि क्या मेटा के प्लेटफ़ॉर्म ने न्यू मेक्सिको कानून के तहत “पब्लिक न्यूसेंस” पैदा किया।

पब्लिक न्यूसेंस के दावों में आम तौर पर ऐसे कामों को टारगेट किया जाता है जो पब्लिक हेल्थ या सेफ्टी को खतरे में डालते हैं, जैसे सड़कें ब्लॉक करना या पानी के रास्तों को गंदा करना, लेकिन राज्य सरकारों ने तंबाकू, ओपिओइड्स, क्लाइमेट चेंज, वेपिंग और हाल ही में आर्टिफिशियल इंटेलिजेंस से जुड़े केस में भी इनका इस्तेमाल किया है।

“जैसे फैक्ट्री से निकलने वाला खतरनाक प्रदूषण आम लोगों के साफ़ हवा के अधिकार को नुकसान पहुंचा सकता है, वैसे ही मेटा के प्लेटफॉर्म का बच्चों पर बुरा असर सिर्फ़ उसके प्लेटफॉर्म तक ही सीमित नहीं रहता, बल्कि पूरी तरह से इंटरनेट पर फैल जाता है और, शायद सबसे चिंता की बात यह है कि यह असल दुनिया में भी फैल जाता है और प्रभावित बच्चों, उनके परिवारों, स्कूलों, साथ ही अस्पतालों और कानून लागू करने वाली एजेंसियों पर एक आम, सामाजिक बोझ डालता है और उन्हें नुकसान पहुंचाता है,” बिडशेड ने लिखा।

मेटा ने ट्रायल में कहा था कि वह पब्लिक न्यूसेंस नहीं बना सकता था क्योंकि उसने हवा या पानी तक पहुंच जैसे “पब्लिक राइट” में दखल नहीं दिया था। मेटा ने यह भी कहा कि उसके सोशल मीडिया प्लेटफॉर्म ही राज्य के युवा निवासियों द्वारा इस्तेमाल नहीं किए जाते हैं, और यह केस दूसरे ऐप्स के असर को नज़रअंदाज़ करता है।

इसने न्यू मैक्सिको द्वारा मांगे गए परिवर्तनों की भी आलोचना की, और कहा कि फाइलिंग में कहा गया है कि उनमें से कई “तकनीकी रूप से अव्यावहारिक या पूरी तरह असंभव” थे, और कंपनी को राज्य से पूरी तरह बाहर निकलने के लिए मजबूर कर सकते थे।

मेटा ने यह भी तर्क दिया था कि न्यू मेक्सिको के दावों पर कम्युनिकेशन्स डिसेंसी एक्ट के सेक्शन 230 के तहत रोक है, यह एक फ़ेडरल कानून है जो आम तौर पर ऑनलाइन प्लेटफ़ॉर्म को यूज़र-जनरेटेड कंटेंट के लिए ज़िम्मेदारी से बचाता है। बिडशाइड ने उस बचाव को खारिज कर दिया, यह पाते हुए कि राज्य मेटा के प्लेटफ़ॉर्म फ़ीचर्स को चुनौती दे रहा था, न कि कंपनी को थर्ड-पार्टी कंटेंट के पब्लिशर के तौर पर ज़िम्मेदार ठहराने की कोशिश कर रहा था।

लेकिन, बिडशाइड ने न्यू मैक्सिको की मांगी गई कुछ राहतें देने से मना कर दिया, क्योंकि उनका मानना ​​था कि मेटा के एल्गोरिदम और इनफिनिट स्क्रॉल और ऑटोप्ले जैसे फीचर्स में बदलाव से US संविधान के पहले संशोधन के तहत कंपनी के अधिकारों का उल्लंघन हो सकता है, उसकी कॉम्पिटिटिव पोजीशन को नुकसान पहुंच सकता है, और यह सेक्शन 230 के खिलाफ जा सकता है।

यह फ़ैसला ऐसे समय में आया है जब मेटा अगले हफ़्ते कैलिफ़ोर्निया के ओकलैंड में फ़ेडरल कोर्ट में एक ट्रायल का सामना करने की तैयारी कर रही है। इस केस में 29 राज्यों का दावा है कि मेटा ने Facebook और Instagram को बच्चों को नशे की लत लगाने और यूज़र्स को उनकी सुरक्षा के बारे में गुमराह करने के लिए डिज़ाइन किया है। इस केस से कंपनी को भारी नुकसान हो सकता है।

कंपनी जुलाई में शुरू हुए ट्रायल में टेनेसी द्वारा लाए गए मुकदमे का भी बचाव कर रही है।

मेटा ने इन्वेस्टर्स को बताया है कि युवाओं के सोशल मीडिया मुद्दों पर US और यूरोपियन यूनियन में कानूनी और रेगुलेटरी झटका “हमारे बिज़नेस और फाइनेंशियल नतीजों पर काफी असर डाल सकता है।”