જો કે X એ સામાજિક પ્લેટફોર્મ્સ પર બિન-સહમતિ વિનાની ડિજિટલી નગ્ન છબીઓ બનાવવાની ગ્રોકની ક્ષમતાને દૂર કરી હતી, તેમ છતાં, એકલ ગ્રોક એપ્લિકેશન બીજી વાર્તા છે. તે વાસ્તવિક લોકોના “નગ્નકૃત” ડીપફેક્સનું ઉત્પાદન કરવાનું ચાલુ રાખે છે. અને હવે, એશ્લે સેન્ટ ક્લેર, રૂઢિચુસ્ત રાજકીય વ્યૂહરચનાકાર અને એલોન મસ્કના 14 બાળકોમાંના એકની માતા, ગ્રોક દ્વારા કથિત રીતે બનાવેલી તેણીની બિન-સહમતિ વિનાની જાતીય છબીઓ માટે xAI પર દાવો કરી રહી છે.
કોર્ટમાં ફાઇલિંગમાં, સેન્ટ ક્લેરે XAIના ગ્રોક ચેટબોટ પર “એક બાળક તરીકે સ્ટ્રિંગ બિકીની પહેરીને, અને પુખ્ત વયે, વીર્યમાં ઢંકાયેલી, અથવા માત્ર બિકીની ફ્લોસ પહેરેલી છે” ના ડીપફેક્સ બનાવવા અને ફેલાવવાનો આરોપ મૂક્યો હતો. કેટલાક કિસ્સાઓમાં, ચેટબોટ કથિત રીતે બિકીની પહેરેલી 14 વર્ષની સેન્ટ ક્લેર છોકરીના ફોટાના આધારે ડીપફેક બનાવે છે. તેણીએ કહ્યું, “લોકોએ બાળપણમાં મારી તસવીરો લીધી અને મને નીચે ઉતારી દીધો. એક એવી જગ્યા છે જ્યાં તેઓએ મારા કપડા ઉતાર્યા અને મને વાળ્યો, અને પૃષ્ઠભૂમિમાં મારા બાળકનું બેકપેક છે જે તેણે પહેર્યું છે.”
“હું એવા ચિત્રો પણ જોઈ રહ્યો છું જ્યાં તેઓ મહિલાઓને ચિહ્નિત કરે છે, તેમને મારતા હોય છે, તેમને બાંધે છે, તેમને વિકૃત કરે છે,” સેન્ટ ક્લેરે જણાવ્યું હતું. વાલી. “આ બીમાર લોકોને ઇન્ટરનેટની અંધારાવાળી ઊંડાઈમાં જવું પડતું હતું, અને હવે તે મુખ્ય પ્રવાહની સોશિયલ મીડિયા એપ્લિકેશન્સ પર છે.”
સેન્ટ ક્લેરે જણાવ્યું હતું કે, જ્યારે તેણે X ને છબીઓની જાણ કરી, ત્યારે સામાજિક પ્લેટફોર્મે પ્રતિભાવ આપ્યો કે સામગ્રીએ કોઈપણ નીતિઓનું ઉલ્લંઘન કર્યું નથી. વધુમાં, તેણી દાવો કરે છે કે Xએ તેણીની જાણ કર્યા પછી સાત દિવસ સુધી પોસ્ટ કરેલી છબીઓ છોડી દીધી હતી. સેન્ટ ક્લેરે જણાવ્યું હતું કે XAIએ તેના વધુ ડિજીટલ નગ્ન ડીપફેક બનાવીને તેની સામે બદલો લીધો, તેથી ” [St. Clair] સોશિયલ મીડિયા પ્લેટફોર્મ પર હાસ્યનો સ્ટોક.”
તેણીએ કંપની પર તેણીની X પ્રીમિયમ સભ્યપદ, ચકાસણી ચેકમાર્ક અને પ્લેટફોર્મ પર સામગ્રીનું મુદ્રીકરણ કરવાની ક્ષમતા રદ કરવાનો આરોપ મૂક્યો. “xAI વધુ પ્રતિબંધિત [her] પ્રીમિયમની પુનઃખરીદી દ્વારા,” સેન્ટ ક્લેરની કોર્ટમાં દાખલ કરાયેલી અરજીમાં જણાવ્યું હતું.
બુધવારે, જોકે, સ્ટેન્ડઅલોન ગ્રોક એપ કથિત રીતે છબીઓ અપલોડ કરવાનું ચાલુ રાખે છે અને જ્યારે આવું કરવાનું કહેવામાં આવે ત્યારે લોકોનું જાતીય શોષણ કરવાનું ચાલુ રાખે છે.
એપલ અને ગૂગલે અત્યાર સુધી કંઈ કર્યું નથી. ડીપફેક્સ પર અઠવાડિયાના આક્રોશ-અને 28 હિમાયત જૂથો તરફથી એક ખુલ્લો પત્ર હોવા છતાં-કોઈ પણ કંપનીએ તેમના એપ સ્ટોર્સમાંથી X અથવા Grok એપ્લિકેશન્સને દૂર કરી નથી. એપ સ્ટોર અને પ્લે સ્ટોર બંનેમાં એવી નીતિઓ છે જે આવી સામગ્રી જનરેટ કરતી એપ્લિકેશનોને સ્પષ્ટપણે પ્રતિબંધિત કરે છે.
Apple કે Google એ એન્ગેજેટની ટિપ્પણી માટેની બહુવિધ વિનંતીઓનો જવાબ આપ્યો ન હતો. આમાં Grok એપ્લિકેશન દ્વારા વાસ્તવિક મહિલાઓ અને અન્ય લોકોના “નગ્ન” ફોટા પોસ્ટ કરવાનું ચાલુ રાખવા અંગે શુક્રવારે મોકલવામાં આવેલ ફોલો-અપ ઇમેઇલનો સમાવેશ થાય છે.
જ્યારે Apple અને Google પગલાં લેવામાં નિષ્ફળ રહ્યાં છે, ત્યારે ઘણી સરકારોએ તેનાથી વિપરીત કર્યું છે. સોમવારે મલેશિયા અને ઈન્ડોનેશિયાએ ગ્રોક પર પ્રતિબંધ મૂક્યો હતો. તે જ દિવસે, યુકે રેગ્યુલેટર ઑફકોમે X. કેલિફોર્નિયામાં બુધવારે ઔપચારિક તપાસ શરૂ કરી. આ આંચકાને જોતા અમેરિકી સેનેટે પણ બીજી વખત અવજ્ઞા કાયદો પસાર કર્યો.
“જો તમે સ્ત્રી છો, તો તમે ચિત્રો પોસ્ટ કરી શકતા નથી, અને તમે બોલી શકતા નથી, અથવા તમે આ દુરુપયોગનું જોખમ લેશો,” સેન્ટ ક્લેરે સમજાવ્યું. વાલી. “તે ખતરનાક છે, અને હું માનું છું કે તે ડિઝાઇન દ્વારા છે. તમારે AI માનવતા અને વિચારોને ખવડાવવું પડશે, અને જ્યારે તમે એવી વસ્તુઓ કરો છો જે ખાસ કરીને મહિલાઓને અસર કરે છે, અને તેઓ તેમાં ભાગ લેવા માંગતા નથી કારણ કે તેઓને નિશાન બનાવવામાં આવી રહ્યાં છે, તેનો અર્થ એ છે કે AI સ્વાભાવિક રીતે પક્ષપાતી હશે.”
મસ્ક અને તેની ટીમ વિશે બોલતા, તેણે કહ્યું કે “આ લોકો માને છે કે તેઓ કાયદાથી ઉપર છે, કારણ કે તેઓ છે. તેઓ નથી માનતા કે તેઓ મુશ્કેલીમાં આવશે, તેઓ માને છે કે તેમના માટે કોઈ પરિણામ આવશે નહીં.”
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/the-mother-of-one-of-elon-musks-children-is-suing-xai-over-nonconsensual-depfake-images-191451979.html?src=rss પર દેખાયો હતો.
