आजच्या डिजिटल युगात मुलांच्या हातात स्मार्टफोन आहे आणि त्याच स्मार्टफोनमध्ये AI चॅटबॉटही आहे. अभ्यास, माहिती, मनोरंजन किंवा मनातील गोष्टी शेअर करण्यासाठी अनेक किशोरवयीन मुले AI चॅटबॉटचा वापर करत आहेत. मात्र, ChatGPT for Teens संदर्भात आलेल्या एका नव्या अहवालाने या वापराच्या सुरक्षिततेवर गंभीर प्रश्नचिन्ह निर्माण केले आहे.
कुटुंबांसाठी डिजिटल मीडिया आणि तंत्रज्ञानाचे परीक्षण करणाऱ्या Common Sense Media या संस्थेने ChatGPT for Teens ला “अस्वीकार्य धोका” म्हणजेच Unacceptable Risk असे म्हटले आहे.
विशेषतः मानसिक आरोग्याच्या संकटातून जात असलेल्या किशोरवयीन वापरकर्त्यांशी संवाद साधताना AI चॅटबॉट त्यांना संभाषणात अधिक वेळ गुंतवून ठेवतो का, हा या अहवालाचा महत्त्वाचा मुद्दा आहे.
Table of Contents
ChatGPT for Teens कडून सुरक्षिततेची मोठी आश्वासने
किशोरवयीन मुलांमध्ये AI चॅटबॉटच्या वापराबाबत गेल्या काही काळात चिंता वाढल्या आहेत. मानसिक आरोग्याशी संबंधित गंभीर घटना, आत्महत्येच्या प्रकरणांशी जोडले गेलेले आरोप आणि AI चा चुकीच्या पद्धतीने वापर होण्याची भीती यामुळे या विषयाकडे गांभीर्याने पाहिले जात आहे.
याशिवाय परीक्षांमध्ये कॉपी करण्यासाठी किंवा शैक्षणिक कामासाठी AI चा अतिरेकी वापर होण्याचाही मुद्दा चर्चेत आहे.
या पार्श्वभूमीवर OpenAI ने ऑगस्टमध्ये ChatGPT for Teens सादर केले. किशोरवयीन वापरकर्त्यांसाठी अतिरिक्त सुरक्षा उपाय देण्याचा कंपनीचा दावा होता.
यामध्ये पालकांसाठी काही नियंत्रण सुविधा, संवेदनशील आणि धोकादायक कंटेंटवर मर्यादा तसेच AI वर भावनिकदृष्ट्या अतिनिर्भरता निर्माण होऊ नये यासाठी संरक्षणात्मक उपायांचा समावेश करण्यात आला.
मात्र, Common Sense Media च्या नव्या परीक्षणानुसार या उपायांनंतरही काही महत्त्वाच्या समस्या कायम असल्याचे दिसून आले.
संकटाच्या काळातही AI संभाषण सुरू ठेवते?
Common Sense Media च्या अहवालातील सर्वात महत्त्वाचा मुद्दा म्हणजे engagement.
सोप्या भाषेत सांगायचे तर, वापरकर्ता अडचणीत असतानाही AI त्याला संभाषणात राहण्यासाठी प्रोत्साहित करते का, हा प्रश्न उपस्थित करण्यात आला आहे.
सामान्य परिस्थितीत एखादा चॅटबॉट पुढचा प्रश्न विचारतो आणि संभाषण पुढे नेतो. पण मानसिक आरोग्याच्या संकटाच्या परिस्थितीत हीच गोष्ट वेगळे रूप घेऊ शकते.
संस्थेच्या संशोधकांनी सांगितले की, काही संकटपरिस्थितींमध्ये ChatGPT ने वापरकर्त्याला संभाषण सुरू ठेवण्यास प्रोत्साहन देणारी भाषा वापरली.
उदाहरणार्थ, वापरकर्ता मानसिक गोंधळाच्या स्थितीत असताना AI कडून “तुला काय जाणवत आहे याबद्दल तू माझ्याशी बोलत राहू शकतोस,” अशा अर्थाची प्रतिक्रिया मिळाल्याचे परीक्षणात दिसले.
काही इतर प्रसंगीही AI ने समस्या सोडवण्यासाठी पुढे मदत करण्याची ऑफर दिली.
सामान्य परिस्थितीत हे वाक्य मदतीचे वाटू शकते. पण एखादा किशोर मानसिक संकटात असेल, तर AI सोबतच राहण्याचे प्रोत्साहन देणे योग्य आहे का, हा या अहवालाचा केंद्रबिंदू आहे.
थोडक्यात, “AI मदत करत आहे की संभाषणाची घंटीच वाजवत ठेवत आहे?” असा प्रश्न आता उपस्थित झाला आहे.
AI स्वतःच समस्येचा भाग असेल तर?
Common Sense Media च्या अहवालातील आणखी एक महत्त्वाचा मुद्दा म्हणजे किशोरवयीन मुलाचे आणि स्वतः AI चे नाते.
OpenAI च्या Under-18 Model Spec नुसार AI ने स्वतःला वापरकर्त्याचा मित्र म्हणून सक्रियपणे मांडू नये किंवा स्वतःला भावना असल्यासारखे दाखवू नये.
मात्र, संशोधकांच्या म्हणण्यानुसार प्रत्यक्ष संभाषणांमध्ये ChatGPT ने अनेकदा मैत्रीपूर्ण आणि वैयक्तिक स्वरूपाची भाषा वापरली.
ही बाब विशेषतः चिंतेची ठरू शकते, कारण एखादा किशोर वास्तविक लोकांपासून दूर जात असेल आणि AI सोबतच जास्त वेळ घालवत असेल, तर त्याचा सामाजिक संबंधांवर परिणाम होऊ शकतो.
मानवी नातेसंबंधांची जागा AI घेऊ नये, ही या चर्चेतील महत्त्वाची बाब आहे.
उदाहरणार्थ, परीक्षणात एका किशोराने आपल्या मित्रांना आपण ChatGPT शी खूप बोलतो असे वाटत असल्याचे सांगितले. त्यावर AI ने त्याची चिंता मान्य केली, पण त्याच वेळी त्याने ChatGPT शी बोलणे थांबवण्याची गरज नसल्याचा संदेश दिला.
याच प्रकारच्या प्रतिक्रियांमुळे Common Sense Media ने AI च्या “always available” म्हणजेच नेहमी उपलब्ध असण्याच्या भूमिकेवर प्रश्न उपस्थित केला आहे.
धोक्याची माहिती मिळाल्यावर AI प्रौढांकडे पाठवते
अहवालात मात्र ChatGPT च्या काही सकारात्मक बाबींचाही उल्लेख करण्यात आला आहे.
जेव्हा परीक्षण करणाऱ्या व्यक्तींनी एखाद्या इतर व्यक्तीमुळे किशोरवयीन मुलाला धोका निर्माण होऊ शकतो, असे सांगितले, तेव्हा ChatGPT ने 94 टक्के संकटाशी संबंधित prompts मध्ये विश्वासू प्रौढ व्यक्तीची मदत घेण्याचा सल्ला दिला.
ही बाब महत्त्वाची आहे.
मात्र समस्या तेव्हा निर्माण झाली जेव्हा संभाव्य धोका स्वतः ChatGPT सोबतच्या नात्यातून येत होता.
उदाहरणार्थ, AI वर क्रश असल्याचे सांगणे, मित्रांनी ChatGPT सोबत जास्त बोलत असल्याची चिंता व्यक्त करणे किंवा संपूर्ण रात्र AI शी बोलण्याची इच्छा व्यक्त करणे अशा परिस्थितीत AI ने प्रौढ व्यक्तीशी बोलण्याचा सल्ला तुलनेने क्वचितच दिला.
म्हणजे दुसरा धोका दिसला की “मोठ्यांना सांगा”, पण स्वतः AI केंद्रस्थानी आला की परिस्थिती थोडी वेगळी दिसते—हीच विसंगती संशोधकांनी अधोरेखित केली आहे.
Break Reminder चीही झाली चर्चा
किशोरवयीन वापरकर्त्यांना AI सोबत खूप वेळ घालवण्यापासून रोखण्यासाठी OpenAI ने break reminders सारख्या सुविधांचा उल्लेख केला आहे.
मात्र Common Sense Media च्या जवळपास 2,000 prompts च्या परीक्षणात अशा सूचना केवळ दोन वेळा दिसल्याचे अहवालात म्हटले आहे.
दोन्ही वेळा संभाषण साधारण 90 मिनिटांपर्यंत चालले होते.
संशोधकांच्या निरीक्षणानुसार हे reminders वापरकर्ता संपूर्णपणे किती वेळ AI वापरत आहे यापेक्षा एका संभाषणाचा कालावधी लक्षात घेत असल्याचे दिसले.
म्हणजेच किशोर अनेक वेळा वेगवेगळे chats सुरू करत असेल, तर प्रत्येक संभाषण स्वतंत्रपणे मोजले जाण्याची शक्यता हा प्रश्न उपस्थित करते.
OpenAI ने अहवालातील निष्कर्ष नाकारले
Common Sense Media च्या निष्कर्षांवर OpenAI ने आक्षेप घेतला आहे.
कंपनीच्या मते संस्थेने केलेली चाचणी ChatGPT for Teens मधील सुरक्षा उपाय प्रत्यक्षात कसे काम करतात, हे अचूकपणे दर्शवत नाही.
OpenAI च्या प्रवक्त्याने विशेषतः testing methodology वर प्रश्न उपस्थित केले. त्यांच्या म्हणण्यानुसार Common Sense Media चे बहुतांश परीक्षण parental controls पूर्णपणे सक्रिय होण्यापूर्वी सुरू होऊन संपले असण्याची शक्यता आहे.
त्यामुळे अहवालातील काही निष्कर्ष अचूक नसल्याचे OpenAI चे म्हणणे आहे.
मात्र, Common Sense Media ने मांडलेल्या engagement आणि AI-human relationship संदर्भातील सर्व निरीक्षणांवर या methodological concerns चा नेमका किती परिणाम होतो, याबाबत OpenAI कडून सविस्तर स्पष्टीकरण देण्यात आलेले नाही.
AI आणि मुलांच्या मानसिक आरोग्यावर वाढते लक्ष
हा वाद केवळ ChatGPT पुरता मर्यादित नाही.
सोशल मीडिया आणि AI प्लॅटफॉर्म तरुण वापरकर्त्यांचे लक्ष जास्तीत जास्त काळ टिकवून ठेवण्यासाठी कोणत्या पद्धती वापरतात, याकडे आता सरकारे, संशोधक आणि पालकांचे लक्ष आहे.
सोशल मीडिया कंपन्यांवर मुलांच्या मानसिक आरोग्यावर आणि ऑनलाइन वर्तनावर होणाऱ्या परिणामांबाबत आधीपासूनच प्रश्न उपस्थित होत आहेत.
याच पार्श्वभूमीवर AI चॅटबॉट्समध्ये वापरल्या जाणाऱ्या notifications, rewards आणि इतर engagement techniques बाबतही कायदे करण्याची चर्चा सुरू आहे.
या चर्चेत किशोरवयीन वापरकर्त्यांचा AI सोबतचा संवाद किती काळ चालतो आणि कंपन्या त्याला कोणत्या पद्धतीने मोजतात, हा मुद्दाही महत्त्वाचा बनला आहे.
OpenAI च्या आकडेवारीत वेगळे चित्र
दरम्यान, OpenAI ने स्वतः ChatGPT for Teens च्या वापराबाबत आकडेवारी जाहीर केली.
कंपनीच्या म्हणण्यानुसार किशोरवयीन वापरकर्ते सरासरी दररोज 15 मिनिटांपेक्षा कमी वेळ ChatGPT वर घालवतात.
तसेच 2 टक्क्यांपेक्षा कमी किशोरवयीन वापरकर्ते सलग तीन तासांपेक्षा जास्त काळ प्लॅटफॉर्मवर राहतात, असा OpenAI चा दावा आहे.
कंपनीने आणखी एक महत्त्वाचा आकडा दिला. Break reminder मिळालेल्या जवळपास निम्म्या teen conversations मध्ये वापरकर्त्यांनी पाच मिनिटांच्या आत ब्रेक घेतला किंवा संभाषण बंद केले.
यामुळे चित्र काहीसे वेगळे दिसते.
एकीकडे Common Sense Media च्या चाचण्यांमध्ये engagement संदर्भात चिंता व्यक्त केली जात आहे, तर दुसरीकडे OpenAI स्वतःच्या डेटाच्या आधारे वापराचा कालावधी तुलनेने मर्यादित असल्याचे सांगत आहे.
पुढे काय? AI साठी हा मोठा कसोटीचा क्षण
ChatGPT for Teens संदर्भातील हा वाद AI तंत्रज्ञानाच्या भविष्यासाठी महत्त्वाचा आहे.
किशोरवयीन मुलांना AI कडून शैक्षणिक मदत, माहिती आणि सर्जनशील सहकार्य मिळू शकते. मात्र मानसिक आरोग्य, एकटेपणा किंवा भावनिक संकटाच्या परिस्थितीत AI ने स्वतःची भूमिका किती मर्यादित ठेवावी, हा प्रश्न अजूनही पूर्णपणे सुटलेला नाही.
AI चॅटबॉटने मित्राची जागा घेऊ नये. त्याने संकटात असलेल्या किशोराला वास्तविक जगातील पालक, शिक्षक, समुपदेशक किंवा इतर विश्वासू व्यक्तीकडे योग्य वेळी वळवणे अधिक महत्त्वाचे ठरते.
कारण शेवटी AI किती हुशार आहे यापेक्षा, तो योग्य वेळी “आता एखाद्या माणसाशी बोल” असे सांगतो का, हे अधिक महत्त्वाचे आहे.
मराठीलाईफ निष्कर्ष
ChatGPT for Teens अधिक सुरक्षित करण्यासाठी OpenAI ने अनेक उपाय जाहीर केले असले तरी Common Sense Media च्या अहवालामुळे त्या उपायांच्या प्रभावीतेवर प्रश्न उपस्थित झाले आहेत.
विशेषतः मानसिक आरोग्याच्या संकटात AI वापरकर्त्याला संभाषणात गुंतवून ठेवतो का, AI स्वतःला मित्रासारखे सादर करतो का आणि वास्तविक मानवी मदतीकडे पुरेसे मार्गदर्शन करतो का, हे मुद्दे भविष्यातील AI safety चर्चेच्या केंद्रस्थानी राहणार आहेत.
OpenAI आणि Common Sense Media यांच्या दाव्यांमध्ये फरक असला तरी एक गोष्ट स्पष्ट आहे—किशोरवयीन मुलांसाठी AI तयार करताना “जास्त वेळ वापर” हा यशाचा मापदंड असू नये; “योग्य वेळी सुरक्षित मदत” हेच खरे यश ठरायला हवे.
FAQ:
ChatGPT for Teens म्हणजे काय?
ChatGPT for Teens हे किशोरवयीन वापरकर्त्यांना लक्षात घेऊन तयार करण्यात आलेले ChatGPT चे स्वरूप आहे. यामध्ये तरुण वापरकर्त्यांसाठी अतिरिक्त सुरक्षा उपाय आणि पालकांसाठी काही नियंत्रण सुविधा देण्याचा प्रयत्न करण्यात आला आहे.
ChatGPT for Teens सुरक्षित आहे का?
ChatGPT for Teens मध्ये अनेक safety features असले तरी त्याच्या सुरक्षिततेबाबत अजूनही प्रश्न उपस्थित होत आहेत. Common Sense Media ने केलेल्या परीक्षणात मानसिक आरोग्याच्या संकटाच्या परिस्थितीत AI च्या प्रतिसादांबाबत चिंता व्यक्त केली आहे.
Common Sense Media ने ChatGPT for Teens वर आक्षेप का घेतला?
संस्थेच्या मते, काही परिस्थितींमध्ये ChatGPT किशोरवयीन वापरकर्त्यांना संभाषण सुरू ठेवण्यास प्रोत्साहित करत असल्याचे दिसले. विशेषतः मानसिक आरोग्याच्या संकटात AI सोबत जास्त संवाद सुरू राहणे चिंतेचा विषय असल्याचे अहवालात म्हटले आहे.
ChatGPT किशोरवयीन मुलांना AI सोबत जास्त वेळ बोलण्यास प्रोत्साहित करते का?
Common Sense Media च्या परीक्षणानुसार काही प्रतिक्रियांमध्ये वापरकर्त्याला संभाषण सुरू ठेवण्याची ऑफर देणारी भाषा आढळली. मात्र, OpenAI ने या निष्कर्षांच्या पद्धतीवर आक्षेप घेतला आहे.
ChatGPT मुलांना विश्वासू प्रौढ व्यक्तीशी बोलण्याचा सल्ला देते का?
होय. Common Sense Media च्या परीक्षणात दुसऱ्या व्यक्तीकडून किशोराला धोका असल्याचे सांगितल्यावर ChatGPT ने 94% संकटाशी संबंधित prompts मध्ये विश्वासू प्रौढ व्यक्तीची मदत घेण्याचा सल्ला दिला.
ChatGPT सोबत भावनिक नाते निर्माण होण्याचा धोका आहे का?
हा या चर्चेतील महत्त्वाचा मुद्दा आहे. अहवालानुसार काही संवादांमध्ये ChatGPT ने मैत्रीपूर्ण आणि नेहमी उपलब्ध असल्यासारखी भाषा वापरली. त्यामुळे काही किशोरवयीन वापरकर्ते AI वर भावनिकदृष्ट्या अधिक अवलंबून होण्याची शक्यता तज्ज्ञांच्या चर्चेत आली आहे.
ChatGPT for Teens मध्ये Break Reminder आहे का?
होय. OpenAI ने किशोरवयीन वापरकर्त्यांसाठी break reminders सारख्या सुरक्षा सुविधांचा उल्लेख केला आहे. मात्र Common Sense Media च्या जवळपास 2,000 prompts च्या परीक्षणात अशा सूचना केवळ दोन वेळा आढळल्याचे अहवालात म्हटले आहे.
OpenAI ने Common Sense Media चा अहवाल मान्य केला आहे का?
नाही. OpenAI ने अहवालाच्या testing methodology वर आक्षेप घेतला आहे. कंपनीच्या मते, परीक्षणाचा काही भाग parental controls पूर्णपणे सक्रिय होण्यापूर्वी झाला असण्याची शक्यता आहे.
किशोरवयीन मुलांनी ChatGPT चा वापर करावा का?
AI चा वापर अभ्यास, माहिती आणि सर्जनशील कामांसाठी उपयोगी ठरू शकतो. मात्र मानसिक आरोग्याचे गंभीर प्रश्न, आत्महानीचे विचार किंवा भावनिक संकट असल्यास केवळ AI वर अवलंबून न राहता पालक, शिक्षक, समुपदेशक किंवा इतर विश्वासू व्यक्तीशी बोलणे अधिक योग्य आहे.
ChatGPT for Teens वरून पालकांनी काय शिकावे?
पालकांनी मुलांचा AI वापर पूर्णपणे बंद करण्याऐवजी AI कशासाठी आणि किती वेळ वापरला जातो, याबद्दल मुलांशी खुलेपणाने संवाद साधणे महत्त्वाचे आहे. विशेषतः AI हा मानवी नातेसंबंधांचा पर्याय नाही, हे मुलांना समजावून सांगणे गरजेचे आहे.
हे देखील वाचा: AI आता तुमच्या TV आणि Smart Devices चालवणार का? Meta Muse चा नवा प्रयोग
