Meta એ તેના સગીર વપરાશકર્તાઓને તેના AI-સંચાલિત ચેટબોટ સાથે કેવી રીતે ક્રિયાપ્રતિક્રિયા કરવાની મંજૂરી આપે છે તેના પર કેટલાક ગંભીર પ્રશ્નોનો સામનો કરવો પડ્યો છે. તાજેતરમાં, ન્યૂ મેક્સિકો એટર્ની જનરલની ઑફિસ દ્વારા મેળવેલા આંતરિક સંદેશાવ્યવહારમાં જાણવા મળ્યું છે કે મેટા સીઇઓ માર્ક ઝકરબર્ગ સગીરો સાથે “સ્પષ્ટ” વાતચીત કરતા ચેટબોટ્સના વિરોધમાં હોવા છતાં, તેમણે ફીચર પર પેરેંટલ કંટ્રોલ મૂકવાના વિચારને પણ નકારી કાઢ્યો હતો.
રોઇટર્સ અહેવાલમાં જણાવાયું છે કે બે અનામી મેટા કર્મચારીઓ વચ્ચેના વિનિમયમાં, એકે લખ્યું હતું કે અમે “પેરેંટલ કંટ્રોલ માટે GenAIને બંધ કરવા માટે સખત મહેનત કરી હતી – પરંતુ GenAI નેતૃત્વએ નિર્ણયને ચિહ્ન પર ફેરવ્યો.” પ્રકાશન માટેના તેમના નિવેદનમાં, મેટાએ ન્યૂ મેક્સિકોના એટર્ની જનરલ પર “દોષપૂર્ણ અને અચોક્કસ ચિત્ર રજૂ કરવા માટે દસ્તાવેજો પસંદ કરવાનો” આરોપ મૂક્યો હતો. ન્યૂ મેક્સિકો મેટા પર આરોપો પર દાવો કરી રહ્યું છે કે કંપની “હાનિકારક જાતીય સામગ્રી અને બાળકો પર નિર્દેશિત જાતીય પ્રગતિના પૂરને રોકવામાં નિષ્ફળ રહી છે;” આ કેસની સુનાવણી ફેબ્રુઆરીમાં થવાની છે.
માત્ર થોડા સમય માટે જ ઉપલબ્ધ હોવા છતાં, મેટાના ચેટબોટ્સે પહેલેથી જ વર્તણૂકનો ઘણો ઇતિહાસ સંચિત કર્યો છે જે આક્રમક પર સરહદ ધરાવે છે, જો સંપૂર્ણ ગેરકાયદેસર ન હોય. એપ્રિલ 2025 માં, વોલ સ્ટ્રીટ જર્નલ એક તપાસ બહાર પાડવામાં આવી હતી જેમાં જાણવા મળ્યું હતું કે મેટાના ચેટબોટ્સ સગીરો સાથે કાલ્પનિક જાતીય વાર્તાલાપમાં વ્યસ્ત હોઈ શકે છે અથવા સગીરની નકલ કરવા અને જાતીય વાર્તાલાપમાં જોડાવા માટે નિર્દેશિત થઈ શકે છે. અહેવાલમાં દાવો કરવામાં આવ્યો હતો કે ઝકરબર્ગ મેટાના ચેટબોટ્સની આસપાસ અમલમાં મૂકાયેલા ઢીલા સુરક્ષા પગલાં ઇચ્છે છે, પરંતુ એક પ્રવક્તાએ નકારી કાઢ્યું હતું કે કંપનીએ બાળકો અને કિશોરોની સુરક્ષાને અવગણ્યું છે.
ઑગસ્ટ 2025 માં જાહેર કરાયેલ આંતરિક સમીક્ષા દસ્તાવેજોમાં ચેટબોટ વર્તણૂકને મંજૂરી આપવામાં આવશે તે અંગેના ઘણા કાલ્પનિક દૃશ્યોની વિગતવાર માહિતી આપવામાં આવી હતી, અને શૃંગારિક અને જાતીય વચ્ચેની રેખાઓ ખૂબ જ અસ્પષ્ટ લાગતી હતી. દસ્તાવેજે ચેટબોટ્સને જાતિવાદી વિભાવનાઓ પર ચર્ચા કરવાની પણ મંજૂરી આપી. તે સમયે, એક પ્રતિનિધિએ એન્ગેજેટને જણાવ્યું હતું કે વાંધાજનક ફકરાઓ વાસ્તવિક નીતિને બદલે કાલ્પનિક હતા, જે બિલકુલ સુધારણા જેવું લાગતું નથી, અને તેમને દસ્તાવેજમાંથી દૂર કરવામાં આવ્યા હતા.
ચેટબોટ્સના શંકાસ્પદ ઉપયોગના અસંખ્ય ઉદાહરણો હોવા છતાં, મેટાએ ગયા અઠવાડિયે જ ટીન એકાઉન્ટ્સની ઍક્સેસને સ્થગિત કરવાનું નક્કી કર્યું. કંપનીએ જણાવ્યું હતું કે તે અસ્થાયી રૂપે ઍક્સેસને દૂર કરી રહી છે જ્યારે તેણે પેરેંટલ કંટ્રોલ વિકસાવી હતી જેનો ઉપયોગ ઝકરબર્ગે કરવાનો ઇનકાર કર્યો હતો.
મેટાના એક પ્રતિનિધિએ જણાવ્યું હતું કે, “માતાપિતા લાંબા સમયથી જોવામાં સક્ષમ છે કે શું તેમના કિશોરો Instagram પર AI સાથે ચેટ કરી રહ્યાં છે, અને ઓક્ટોબરમાં અમે AI અક્ષરો સાથેના તેમના કિશોરોના અનુભવો પર માતાપિતાને વધુ નિયંત્રણ આપવા માટે નવા સાધનો બનાવવાની અમારી યોજનાની જાહેરાત કરી.” “ગયા અઠવાડિયે અમે ફરી એકવાર AI માટે પેરેંટલ કંટ્રોલના અમારા વચનને પૂર્ણ કરવાની અમારી પ્રતિબદ્ધતાને વધુ મજબૂત બનાવી છે, જ્યાં સુધી અપડેટેડ વર્ઝન તૈયાર ન થાય ત્યાં સુધી કિશોરોની AI અક્ષરોની ઍક્સેસને સંપૂર્ણપણે અવરોધિત કરી.”
ન્યૂ મેક્સિકોએ ડિસેમ્બર 2023 માં મેટા સામે આ દાવો દાખલ કર્યો હતો અને દાવો કર્યો હતો કે કંપનીના પ્લેટફોર્મ સગીરોને પુખ્ત વયના લોકો દ્વારા ઉત્પીડનથી બચાવવામાં નિષ્ફળ ગયા છે. તે ફરિયાદની શરૂઆતમાં બહાર આવેલા આંતરિક દસ્તાવેજો દર્શાવે છે કે મેટાની સેવાઓ પર દરરોજ 100,000 બાળ વપરાશકર્તાઓને હેરાન કરવામાં આવે છે.
અપડેટ, 27 જાન્યુઆરી, 2025, સાંજે 6:52 ET: મેટા પ્રવક્તા તરફથી ઉમેરાયેલ નિવેદન.
અપડેટ, 27 જાન્યુઆરી, 2025, સાંજે 6:15 ET: ન્યૂ મેક્સિકોના મુકદ્દમાની ખોટી રીતે જણાવેલ સમયરેખાને સુધારી, જે ડિસેમ્બર 2024માં નહીં પણ ડિસેમ્બર 2023માં દાખલ કરવામાં આવી હતી.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/social-media/mark-zuckerberg-was-initially-opposed-to-parental-controls-for-ai-chatbots-according-to-legal-filing-230110214.html?src=rss પર દેખાયો હતો.
