XAI, જે પહેલાથી જ વ્યાપક અહેવાલો પર વિશ્વભરમાં બહુવિધ તપાસનો સામનો કરી રહી છે કે Grok વારંવાર બાળકોની જાતીય છબીઓ બનાવે છે, હવે ક્લાસ એક્શન મુકદ્દમાનો સામનો કરી રહી છે. ત્રણ કિશોરો કે જેમણે આરોપ મૂક્યો છે કે તેમના ફોટાનો ઉપયોગ ગ્રૉક દ્વારા બાળ શોષણ સામગ્રી બનાવવા માટે કરવામાં આવ્યો હતો, તેઓએ કેલિફોર્નિયામાં XAI સામે વર્ગ કાર્યવાહીનો દાવો દાખલ કર્યો છે.
મુકદ્દમા મુજબ, કિશોરોમાંની એકને ગયા ડિસેમ્બરમાં ચેતવણી આપવામાં આવી હતી કે કોઈ તેણીની અને અન્ય સગીરોની AI-જનરેટેડ ઈમેજો અને વિડિયો શેર કરી રહ્યું છે “તેનાથી તે પરિચિત હતી તે સેટિંગમાં, પરંતુ તેને લૈંગિક રીતે સ્પષ્ટ પોઝમાં બદલાઈ ગઈ છે.” છબીઓ અને વિડિયો કથિત રીતે ડિસ્કોર્ડ, ટેલિગ્રામ અને અન્ય પ્લેટફોર્મ્સ પર શેર કરવામાં આવ્યા હતા અને અન્ય CSAM છબીઓ માટે “વિનિમય સાધન તરીકે” ઉપયોગમાં લેવાય છે. મુકદ્દમા કહે છે કે કાયદા અમલીકરણ અધિકારીઓ જેમણે છબીઓની તપાસ કરી હતી તેઓએ છોકરીઓના માતા-પિતાને કહ્યું હતું કે તેઓ xAi ના ગ્રોક સાથે બનાવવામાં આવ્યા હતા.
ત્રણ કિશોરો, જેઓ બધા ટેનેસીમાં રહે છે અને જેન ડો 1, જેન ડો 2 અને જેન ડો 3 તરીકે ઓળખવામાં આવી છે, “ગંભીર ભાવનાત્મક તકલીફ સહન કરી હતી,” ફાઇલિંગમાં જણાવ્યું હતું. “આ CSAM ના ઉત્પાદન અને પ્રસારને કારણે ગોપનીયતા, ગૌરવ અને વ્યક્તિગત સુરક્ષાના વિનાશક નુકસાનથી તેમનું જીવન વિખેરાઈ ગયું છે,” કિશોરોના વકીલોએ ફરિયાદમાં લખ્યું છે. “xAIને તેની ઇમેજ અને વિડિયો-ક્રિએશન પ્રોડક્ટના વધારાના ઉપયોગ દ્વારા નાણાકીય લાભ તેમના ખર્ચે અને સુખાકારી પર આવ્યો. વાદીઓએ તેમની CSAM છબીઓ અને વીડિયોની હેરફેર અને બાળ જાતીય શિકારીઓ દ્વારા ઓનલાઈન વેપાર કરવાનું ચાલુ રાખી શકે છે તે જાણીને બાકીનું જીવન પસાર કરવું પડશે.”
જોકે મુકદ્દમામાં હાલમાં ત્રણ વ્યક્તિઓના નામ છે, ફરિયાદ કહે છે કે તેમાં “ઓછામાં ઓછા હજારો સગીરો” શામેલ હોઈ શકે છે જેમના ફોટોગ્રાફ્સ ગ્રોકે જાતીય છબીઓમાં હેરાફેરી કરી હતી. મુકદ્દમા દાવો કરે છે કે XAI એ અસંખ્ય કાયદાઓનું ઉલ્લંઘન કર્યું છે, જેમાં બાળ દુર્વ્યવહાર સામગ્રીના ઉત્પાદન અને વિતરણ પર પ્રતિબંધ મૂકતા કાયદાનો સમાવેશ થાય છે.
XAI એ મુકદ્દમા પર ટિપ્પણી માટેની વિનંતીનો તરત જ જવાબ આપ્યો ન હતો. કંપની ગ્રોકની કથિત બિન-સહમતિભરી નગ્નતા અંગે યુએસ અને યુરોપમાં પણ ઘણી તપાસનો સામનો કરી રહી છે. સેન્ટર ફોર કાઉન્ટરિંગ ડિજિટલ હેટના સંશોધકોએ જાન્યુઆરીમાં અનુમાન લગાવ્યું હતું કે ગ્રોકે લાખો જાતીય સ્પષ્ટ છબીઓ બનાવી છે, જેમાં બાળકોને દર્શાવતી 23,000 છબીઓ સામેલ છે.
XAI CEO એલોન મસ્ક, જેમણે અગાઉ Grok ની “મસાલેદાર” ક્ષમતાઓને પ્રોત્સાહન આપ્યું હતું, તેમણે દાવો કર્યો છે કે તેઓ “Grok દ્વારા જનરેટ કરાયેલી કોઈપણ નગ્ન સગીર ઈમેજોથી વાકેફ નથી.” xAI એ જાન્યુઆરીમાં જાહેરાત કરી હતી કે તે લોકોને બિકીનીમાં વાસ્તવિક લોકોની છબીઓ સંપાદિત કરવા માટે Grok નો ઉપયોગ કરવાની મંજૂરી આપવાનું બંધ કરશે અને Grokની ઇમેજ-ક્રિએશન સુવિધાને પેઇડ ગ્રાહકો સુધી મર્યાદિત કરશે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/social-media/xai-is-being-sued-by-teens-who-say-grok-created-csam-using-their-photos-200102733.html?src=rss પર દેખાયો હતો.
