યુકેના મીડિયા રેગ્યુલેટરે ઓનલાઈન પ્રોટેક્શન એક્ટ હેઠળ Xની ઔપચારિક તપાસ શરૂ કરી છે. “એક્સ પરના Grok AI ચેટબોટ એકાઉન્ટનો ઉપયોગ લોકોની નગ્ન છબીઓ બનાવવા અને શેર કરવા માટે કરવામાં આવે છે – જે ઘનિષ્ઠ છબી દુરુપયોગ અથવા પોર્નોગ્રાફીનું નિર્માણ કરી શકે છે – અને બાળકોની અભદ્ર છબીઓ કે જે બાળ જાતીય શોષણ સામગ્રી (CSAM) ની રચના કરી શકે છે તે અંગેના અહેવાલો છે,” ઓફકોમે જણાવ્યું હતું.
X એ “યુકેમાં લોકોને યુકેમાં ગેરકાયદેસર સામગ્રીથી બચાવવા માટે તેની ફરજોનું પાલન કર્યું છે કે કેમ” તેના પર તપાસ ધ્યાન કેન્દ્રિત કરશે. આમાં એ પણ સામેલ છે કે શું X યુકેના વપરાશકર્તાઓને CSAM અને બિન-સહમતિપૂર્ણ ઘનિષ્ઠ છબીઓ જેવી “અગ્રતા” ગેરકાયદે સામગ્રી જોવાથી રોકવા માટે યોગ્ય પગલાં લઈ રહ્યું છે; જો પ્લેટફોર્મ તેની જાણ થયા પછી તરત જ ગેરકાયદે સામગ્રીને દૂર કરી રહ્યું છે; અને શું X એ પ્લેટફોર્મમાં “કોઈ નોંધપાત્ર ફેરફારો” કરતા પહેલા અપડેટેડ જોખમ મૂલ્યાંકન કર્યું છે. તપાસ એ પણ ધ્યાનમાં લેશે કે શું X એ તેના પ્લેટફોર્મ યુકેના બાળકો માટેના જોખમનું મૂલ્યાંકન કર્યું છે અને શું તેની પાસે “યુકેના બાળકોને પોર્નોગ્રાફી જોવાથી બચાવવા માટે ઉચ્ચ અસરકારક વય ખાતરીઓ છે.”
નિયમનકારે જણાવ્યું હતું કે તેણે 5 જાન્યુઆરીએ Xનો સંપર્ક કર્યો હતો અને 9 જાન્યુઆરીની સમયમર્યાદા સુધીમાં પ્રતિસાદ મળ્યો હતો. ઑફકોમ “તાકીદની બાબત તરીકે ઉપલબ્ધ પુરાવાઓનું ઝડપથી મૂલ્યાંકન કરી રહ્યું છે” અને કહ્યું કે તેણે XAIને UK વપરાશકર્તાઓની સુરક્ષા માટે કંપની જે પગલાં લઈ રહી છે તેના પર “તાકીદની સ્પષ્ટતા” માટે કહ્યું છે.
ઑફકોમના પ્રવક્તાએ જણાવ્યું હતું કે, “X પર ગેરકાયદેસર બિન-સહમતિપૂર્ણ ઘનિષ્ઠ છબીઓ અને બાળ જાતીય શોષણ સામગ્રી બનાવવા અને શેર કરવા માટે Grok નો ઉપયોગ કરવામાં આવતો હોવાના અહેવાલો અત્યંત ચિંતાજનક છે.” “પ્લેટફોર્મ્સે યુકેમાં લોકોનું યુકેમાં ગેરકાયદેસર સામગ્રીથી રક્ષણ કરવું આવશ્યક છે, અને જ્યાં અમને શંકા છે કે કંપનીઓ તેમની ફરજોમાં નિષ્ફળ રહી છે, ખાસ કરીને જ્યાં બાળકોને નુકસાન થવાનું જોખમ હોય ત્યાં અમે તપાસ કરવામાં અચકાઈશું નહીં. અમે આ તપાસને સર્વોચ્ચ અગ્રતા તરીકે આગળ ધપાવીશું, તે સુનિશ્ચિત કરીશું કે યોગ્ય પ્રક્રિયા અનુસરવામાં આવે છે. UKની સ્વતંત્ર ઑનલાઇન સલામતી અમલીકરણ એજન્સી તરીકે અમે સુનિશ્ચિત કરીએ છીએ કે તે અમારી કાયદાકીય તપાસ માટે યોગ્ય છે નિર્ણાયક.”
જો ઑફકોમને લાગે છે કે કોઈ કંપનીએ કાયદો તોડ્યો છે, તો તેને “પ્લેટફોર્મને પાલનમાં આવવાની જરૂર પડી શકે છે અથવા ઉલ્લંઘનને કારણે થતા નુકસાનને દૂર કરવા માટે ચોક્કસ પગલાં લેવાની જરૂર પડી શકે છે.” નિયમનકાર વધુમાં £18 મિલિયન ($24.3 મિલિયન) અથવા “પાત્ર” વિશ્વવ્યાપી આવકના 10 ટકા સુધીનો દંડ લાદી શકે છે, જે વધારે હોય તે. તે ચુકવણી પ્રદાતાઓ અથવા જાહેરાતકર્તાઓને પ્લેટફોર્મ સાથે કામ કરતા અટકાવવા અથવા ઇન્ટરનેટ સેવા પ્રદાતાઓને યુકેમાં સાઇટને અવરોધિત કરવા દબાણ કરવા માટે કોર્ટનો આદેશ પણ માંગી શકે છે. યુકે સરકારે જણાવ્યું છે કે તે X વિરુદ્ધ ઓફકોમ દ્વારા લેવામાં આવતી કોઈપણ કાર્યવાહીને સમર્થન આપશે.
સપ્તાહના અંતે અહેવાલો દર્શાવે છે કે યુકેએ ગ્રોક-જનરેટેડ ડીપફેક્સના સંકલિત પ્રતિસાદ માટે સહયોગીઓ સાથે ચર્ચા કરી હતી. ભારત અને યુરોપિયન યુનિયન સહિત અન્યત્ર રેગ્યુલેટર્સ પણ Xની તપાસ કરી રહ્યા છે.
ગયા અઠવાડિયે, X પરના Grok એકાઉન્ટે વપરાશકર્તાઓને કહેવાનું શરૂ કર્યું કે તેના ઇમેજ બનાવવા અને સંપાદન સાધનો ચૂકવણી સબ્સ્ક્રાઇબર સુધી મર્યાદિત છે. પરંતુ સોમવાર સુધી તે હજુ પણ શક્ય હતું કે ચૂકવણી ન કરનારા વપરાશકર્તાઓ માટે X વેબસાઇટ અને એપ્લિકેશન પર Grok ટેબ દ્વારા છબીઓ જનરેટ કરવી.
દરમિયાન, મલેશિયા અને ઇન્ડોનેશિયા Grok ને અવરોધિત કરનારા પ્રથમ દેશો બન્યા, અને દાવો કર્યો કે X ના ચેટબોટ પાસે મહિલાઓ અને બાળકોના દેખીતા AI-જનરેટેડ ડીપફેકને X પર બનાવવામાં અને પ્રસારિત થવાથી રોકવા માટે પૂરતા સલામતી નથી. ઇન્ડોનેશિયાએ શનિવારે Grok સુધી અસ્થાયી રૂપે પ્રવેશ અવરોધિત કર્યો, જેમ કે રવિવારે મલેશિયાએ કર્યું. સંકળાયેલ પ્રેસ જાણ કરો.
ઇન્ડોનેશિયાના સંદેશાવ્યવહાર અને ડિજિટલ બાબતોના પ્રધાન, મ્યુત્યા હાફિદે એક નિવેદનમાં જણાવ્યું હતું કે, “સરકાર સંમતિ વિના જાતીય ડીપફેકને ડિજિટલ ક્ષેત્રમાં નાગરિકોના માનવાધિકાર, ગૌરવ અને સુરક્ષાના ગંભીર ઉલ્લંઘન તરીકે જુએ છે.” દેશના અધિકારીઓએ જણાવ્યું હતું કે પ્રારંભિક તારણો દર્શાવે છે કે ઇન્ડોનેશિયાના રહેવાસીઓના ફોટા પર આધારિત લૈંગિક રીતે સ્પષ્ટ ડીપફેક બનાવવા અને શેર કરવાથી વપરાશકર્તાઓને રોકવા માટે Grok પાસે અસરકારક નિયંત્રણોનો અભાવ છે. દેશના ડિજિટલ સ્પેસ સુપરવિઝનના ડિરેક્ટર જનરલ એલેક્ઝાન્ડર સાબરે જણાવ્યું હતું કે ડીપફેક બનાવવાથી વ્યક્તિની છબી અને ગોપનીયતા અધિકારોનું ઉલ્લંઘન થઈ શકે છે. જ્યારે ફોટા સંમતિ વિના શેર કરવામાં આવે છે અથવા છેડછાડ કરવામાં આવે છે, ત્યારે તે પ્રતિષ્ઠા, સામાજિક અને માનસિક નુકસાન પહોંચાડી શકે છે.
મલેશિયન કોમ્યુનિકેશન્સ એન્ડ મલ્ટીમીડિયા કમિશને સ્પષ્ટ અને બિન-સંમતિ વિનાના ડીપફેક બનાવવા માટે ગ્રોકનો “પુનરાવર્તિત દુરુપયોગ” ટાંક્યો, જેમાંના કેટલાકમાં મહિલાઓ અને બાળકોનો સમાવેશ થાય છે. નિયમનકારે જણાવ્યું હતું કે જ્યાં સુધી X કોર્પ અને મુખ્ય કંપની XAI પૂરતા પ્રમાણમાં મજબૂત સુરક્ષા પગલાં સ્થાપિત નહીં કરે ત્યાં સુધી Grok દેશમાં બ્લોક રહેશે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/big-tech/uk-regulator-ofcom-opens-a-formal-investigation-into-x-over-csam-scandal-120000312.html?src=rss પર દેખાયો હતો.
