Meta का बड़ा फैसला! AI चैटबॉट से आत्महत्या जैसी बात होने पर माता-पिता को मिलेगा अलर्ट
Meta ने किशोरों की ऑनलाइन सुरक्षा को और मजबूत बनाने के लिए एक अहम कदम उठाया है। कंपनी ने घोषणा की है कि यदि कोई नाबालिग (Teen) AI चैटबॉट के साथ बातचीत के दौरान आत्महत्या, खुद को नुकसान पहुंचाने या गंभीर मानसिक संकट से जुड़ी बातें करता है, तो ऐसे मामलों में सुरक्षा उपाय सक्रिय किए जाएंगे। इसका उद्देश्य समय रहते जोखिम की पहचान करना और जरूरत पड़ने पर अभिभावकों को सचेत करना है।
नई व्यवस्था के तहत AI चैटबॉट संवेदनशील बातचीत की पहचान कर उचित सुरक्षा प्रतिक्रिया देगा। यदि उपयोगकर्ता टीन अकाउंट से जुड़ा है और बातचीत में आत्म-हानि जैसे संकेत मिलते हैं, तो सिस्टम अभिभावकों को अलर्ट भेज सकता है। साथ ही, उपयोगकर्ता को मानसिक स्वास्थ्य से जुड़ी सहायता और सुरक्षित संसाधनों की जानकारी भी उपलब्ध कराई जाएगी। इससे किशोरों की ऑनलाइन सुरक्षा और अभिभावकों की निगरानी दोनों को मजबूती मिलने की उम्मीद है।
Meta का कहना है कि इस पहल का मकसद युवाओं के लिए AI प्लेटफॉर्म को अधिक सुरक्षित बनाना है। कंपनी लगातार ऐसे फीचर्स विकसित कर रही है, जो संभावित जोखिम वाले व्यवहार की पहचान कर समय पर सहायता उपलब्ध करा सकें। विशेषज्ञों का मानना है कि तकनीक के जिम्मेदार उपयोग और सुरक्षा उपायों के साथ AI किशोरों के लिए अधिक सुरक्षित डिजिटल माहौल बनाने में महत्वपूर्ण भूमिका निभा सकता है।
