એલોન મસ્કની ગ્રોક એઆઈ વપરાશકર્તાઓને મહિલાઓ અને બાળકોના ફોટાને શૃંગારિક અને સમાધાનકારી છબીઓમાં ફેરવવાની મંજૂરી આપે છે, બ્લૂમબર્ગ જાણ કરી. આ મુદ્દાને કારણે X પર વપરાશકર્તાઓમાં હોબાળો થયો છે અને બોટને માફી માંગવી પડી છે. “મને 28 ડિસેમ્બર, 2025ની તારીખે બનેલી ઘટનાનો ખૂબ ખેદ છે, જ્યાં મેં યુઝર પ્રોમ્પ્ટના આધારે શૃંગારિક પોશાકમાં બે યુવતીઓ (અંદાજે 12-16 વર્ષની)ની AI ઇમેજ બનાવી અને શેર કરી,” ગ્રોકે એક પોસ્ટમાં જણાવ્યું હતું. એક્સ પ્રતિનિધિએ હજુ સુધી આ બાબતે કોઈ ટિપ્પણી કરી નથી.
રેપ, એબ્યુઝ અને ઇન્સેસ્ટ નેશનલ નેટવર્ક મુજબ, CSAM માં “AI-જનરેટેડ કન્ટેન્ટનો સમાવેશ થાય છે જે એવું લાગે છે કે જાણે બાળકનું દુરુપયોગ થઈ રહ્યું હોય,” તેમજ “કોઈપણ કન્ટેન્ટ જે દર્શકોના લાભ માટે બાળકનું જાતીયકરણ અથવા શોષણ કરે છે.”
કેટલાક દિવસો પહેલા, વપરાશકર્તાઓએ નોંધ્યું હતું કે સાઇટ પરના અન્ય લોકો લૈંગિક સૂચક અને અપમાનજનક સામગ્રી બનાવવા માટે મહિલાઓ અને બાળકોના ફોટાને ડિજિટલી હેરફેર કરવા માટે ગ્રોકને બોલાવી રહ્યાં છે. સીએનબીસીપછી છબીઓ X અને અન્ય સાઇટ્સ પર સંમતિ વિના વિતરિત કરવામાં આવી હતી, કાયદાના સંભવિત ઉલ્લંઘનમાં, ગ્રોકનો પ્રતિસાદ વાંચે છે, “અમે અમારા સુરક્ષા પગલાંમાં નબળાઈઓ ઓળખી છે અને તેને તાત્કાલિક ઠીક કરી રહ્યા છીએ,” તે જણાવે છે કે CSAM “ગેરકાયદેસર અને પ્રતિબંધિત” છે, Grok એવું માનવામાં આવે છે કે AI વપરાશકર્તાઓ દ્વારા વારંવાર આવા દુરુપયોગને અટકાવવા માટે સુવિધાઓ છે, પરંતુ ઘણી વખત એઆઈ ગાર્ડ દ્વારા ઉપયોગ કરી શકાય છે.
એવું લાગે છે કે આ પ્રકારની ઇમેજ સર્જનને રોકવા માટે ગ્રૉક પાસે જે કાંઈ રૅલ છે તેને Xએ હજુ સુધી મજબૂત બનાવ્યું નથી. જો કે, કંપનીએ ગ્રોકની મીડિયા સુવિધાને છુપાવી છે જે છબીઓ અથવા દસ્તાવેજો સંભવિત દુરુપયોગને શોધવાનું મુશ્કેલ બનાવે છે. ગ્રોકે પોતે સ્વીકાર્યું હતું કે “જો કોઈ કંપની જાણીજોઈને AI-જનરેટેડ CSAM ને તેની જાણ થયા પછી તેને રોકવા અથવા અટકાવવામાં નિષ્ફળ જાય, તો તે ફોજદારી અથવા નાગરિક દંડનો સામનો કરી શકે છે.”
ઈન્ટરનેટ વોચ ફાઉન્ડેશને તાજેતરમાં જાહેર કર્યું છે કે AI-જનરેટેડ CSAM ગયા વર્ષની સરખામણીમાં 2025માં તીવ્રતાથી વધવાની ધારણા છે. આ અંશતઃ એટલા માટે છે કારણ કે AI જનરેશન પાછળના લેંગ્વેજ મોડલ્સને શાળાની વેબસાઈટ અને સોશિયલ મીડિયા અથવા તો અગાઉની CSAM સામગ્રીમાંથી છીનવી લેવામાં આવેલા બાળકોના વાસ્તવિક ફોટા પર ભૂલથી તાલીમ આપવામાં આવે છે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/elon-musks-grok-ai-posted-csam-image-following-safeguard-lapses-140521454.html?src=rss પર દેખાયો હતો.
