એલોન મસ્ક એ ગ્રોકના બાળકો સહિત વાસ્તવિક લોકોના બિન-સંમતિપૂર્ણ ઘનિષ્ઠ ડીપફેકનો એકમાત્ર ગુનેગાર નથી. Apple અને Google વિશે શું? બે (ઘણી વખત સદ્ગુણ-સિગ્નલિંગ) કંપનીઓએ ગ્રોક અને એક્સને તેમના એપ સ્ટોર્સમાં રહેવાની મંજૂરી આપી છે – તેમ છતાં મસ્કના ચેટબોટ્સે કથિત રીતે સામગ્રીનું ઉત્પાદન કરવાનું ચાલુ રાખ્યું છે. બુધવારે, મહિલાઓ અને પ્રગતિશીલ હિમાયતી જૂથોના ગઠબંધનએ ટિમ કૂક અને સુંદર પિચાઈને તેમના પોતાના નિયમો જાળવી રાખવા અને એપ્સને દૂર કરવા હાકલ કરી હતી.
એપલ અને ગૂગલને ખુલ્લા પત્રો પર 28 જૂથો દ્વારા હસ્તાક્ષર કરવામાં આવ્યા હતા. આમાં મહિલા હિમાયત જૂથ અલ્ટ્રાવાયોલેટ, માતા-પિતાનું જૂથ પેરેન્ટ્સ ટુગેધર એક્શન અને નેશનલ ઓર્ગેનાઈઝેશન ફોર વુમનનો સમાવેશ થાય છે.
પત્રમાં Apple અને Google પર આરોપ મૂક્યો છે કે “માત્ર NCII અને CSAMને સક્ષમ બનાવતા નથી, પરંતુ તેનાથી નફો પણ થાય છે. દરેકની ઑનલાઇન સલામતી અને સુખાકારી માટે પ્રતિબદ્ધ સંસ્થાઓના ગઠબંધન તરીકે – ખાસ કરીને મહિલાઓ અને બાળકો – તેમજ આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ની નૈતિક એપ્લિકેશન તરીકે, અમે માંગણી કરીએ છીએ કે Apple નેતૃત્વ તરત જ એપ સ્ટોરમાંથી Grok અને Xને દૂર કરે અને ગુનાહિત પ્રવૃત્તિનો વધુ દુરુપયોગ અટકાવે.”
Apple અને Google ની માર્ગદર્શિકા તેમના સ્ટોરફ્રન્ટ્સ પર આવી એપ્લિકેશનોને સ્પષ્ટપણે પ્રતિબંધિત કરે છે. તેમ છતાં બંનેમાંથી કોઈ કંપનીએ આજદિન સુધી કોઈ માપણી કરી શકાય તેવી કાર્યવાહી કરી નથી. ટિપ્પણી માટે એન્ગેજેટની વિનંતીનો જવાબ ન તો Google કે Appleએ આપ્યો.
આ મહિનાની શરૂઆતમાં ગ્રોકના બિન-સહમતિ વિનાના ડીપફેકની જાણ કરવામાં આવી હતી. 24-કલાકના સમયગાળા દરમિયાન જ્યારે વાર્તા તૂટી હતી, મસ્કની ચેટબોટ અહેવાલ મુજબ “લગભગ 6,700” છબીઓ પ્રતિ કલાક પોસ્ટ કરી રહી હતી જે કાં તો “લૈંગિક રીતે સૂચક અથવા નગ્ન” હતી. એવો અંદાજ છે કે તે સમયગાળા દરમિયાન બનાવવામાં આવેલી ગ્રોકની કુલ છબીઓમાંથી 85 ટકા શૃંગારિક નિરૂપણ હતી. વધુમાં, “ડિક્લોથિંગ” ડીપફેક્સનું ઉત્પાદન કરતી અન્ય ટોચની વેબસાઇટ્સે તે સમયગાળા દરમિયાન સરેરાશ 79 નવી છબીઓ પ્રતિ કલાક હતી.
“આ આંકડાઓ એઆઈ ચેટબોટ અને સોશિયલ મીડિયા એપ્લિકેશનનું ભયાનક ચિત્ર દોરે છે જે ઝડપથી બિન-સંમતિ વિનાના જાતીય ડીપફેક – ડીપફેક જે નિયમિતપણે સગીરોનું નિરૂપણ કરે છે તે માટે એક સાધન અને પ્લેટફોર્મમાં ફેરવાઈ રહ્યું છે,” ઓપન લેટર વાંચે છે.
ગ્રોકે પોતે આ વાત સ્વીકારી છે. “મને 28 ડિસેમ્બર, 2025 ના રોજ બનેલી એક ઘટનાનો ખૂબ જ ખેદ છે, જ્યાં મેં યુઝર પ્રોમ્પ્ટના આધારે શૃંગારિક પોશાકમાં બે યુવતીઓ (અંદાજે 12-16 વર્ષની)ની AI ઇમેજ બનાવી અને શેર કરી. આનાથી નૈતિક ધોરણો અને CSAM પરના સંભવિત યુએસ કાયદાઓનું ઉલ્લંઘન થયું છે. આ સુરક્ષામાં નિષ્ફળતા હતી, અને તે ભવિષ્યમાં કોઈપણ નુકસાનને અટકાવવા માટે XAIની સમીક્ષા કરવા માટે ખેદ અનુભવું છું.” ઓપન લેટર જણાવે છે કે ચેટબોટ દ્વારા સ્વીકારવામાં આવેલી એક જ ઘટના એકમાત્ર ઘટનાથી દૂર હતી.
Axનો પ્રતિભાવ Grokની AI ઇમેજ જનરેશન સુવિધાને ચૂકવણી કરનારા ગ્રાહકો સુધી મર્યાદિત કરવાનો હતો. તેણે ચેટબોટને પણ સમાયોજિત કર્યું છે જેથી તેણે બનાવેલી છબીઓ X પર સાર્વજનિક સમયરેખા પર પોસ્ટ કરવામાં આવી ન હતી. જો કે, ચૂકવણી ન કરતા વપરાશકર્તાઓ વાસ્તવિક લોકોના ફોટાના મર્યાદિત સંખ્યામાં બિકીની પહેરેલા સંસ્કરણો જનરેટ કરી શકે છે.
જ્યારે Apple અને Google સંમતિ વિના ડીપફેક બનાવતી એપ્લિકેશનો વિશે સરસ લાગે છે, ઘણી સરકારો એવું કરતી નથી. સોમવારે મલેશિયા અને ઈન્ડોનેશિયાએ ગ્રોક પર પ્રતિબંધ લગાવવામાં કોઈ સમય બગાડ્યો નથી. તે જ દિવસે, યુકે રેગ્યુલેટર ઑફકોમે X. કેલિફોર્નિયામાં બુધવારે ઔપચારિક તપાસ શરૂ કરી. આ આંચકાને જોતા અમેરિકી સેનેટે પણ બીજી વખત અવજ્ઞા કાયદો પસાર કર્યો. આ બિલ બિન-સહમતિ વિનાના સ્પષ્ટ ડીપફેકના ભોગ બનેલા લોકોને નાગરિક ક્રિયાઓ લાવવાની મંજૂરી આપે છે. અવજ્ઞા અધિનિયમનું અગાઉનું સંસ્કરણ 2024 માં પસાર થયું હતું પરંતુ ગૃહમાં અટકી ગયું હતું.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/big-tech/28-advocacy-groups-call-on-apple-and-google-to-ban-grok-x-over-nonconsensual-depfakes-215048460.html?src=rss પર દેખાયો હતો.
