મલેશિયા અને ઇન્ડોનેશિયા એ Grok ને અવરોધિત કરનારા પ્રથમ દેશો છે, દાવો કરે છે કે X ના ચેટબોટ પાસે મહિલાઓ અને બાળકોના સ્પષ્ટ AI-જનરેટેડ ડીપફેક્સને X પર બનાવવામાં અને પ્રસારિત થવાથી રોકવા માટે પર્યાપ્ત સુરક્ષા નથી. ઇન્ડોનેશિયાએ શનિવારે Grok સુધી અસ્થાયી રૂપે પ્રવેશ અવરોધિત કર્યો હતો, જેમ કે રવિવારે મલેશિયાએ કર્યું હતું. સંકળાયેલ પ્રેસ જાણ કરો. દરમિયાન, યુકે મીડિયા રેગ્યુલેટર ઓફકોમે ઓનલાઈન પ્રોટેક્શન એક્ટ હેઠળ Xની ઔપચારિક તપાસ શરૂ કરી છે.
ઇન્ડોનેશિયાના સંદેશાવ્યવહાર અને ડિજિટલ બાબતોના પ્રધાન, મ્યુત્યા હાફિદે એક નિવેદનમાં જણાવ્યું હતું કે, “સરકાર સંમતિ વિના જાતીય ડીપફેકને ડિજિટલ ક્ષેત્રમાં નાગરિકોના માનવાધિકાર, ગૌરવ અને સુરક્ષાના ગંભીર ઉલ્લંઘન તરીકે જુએ છે.” દેશના અધિકારીઓએ જણાવ્યું હતું કે પ્રારંભિક તારણો દર્શાવે છે કે ઇન્ડોનેશિયાના રહેવાસીઓના ફોટા પર આધારિત લૈંગિક રીતે સ્પષ્ટ ડીપફેક બનાવવા અને શેર કરવાથી વપરાશકર્તાઓને રોકવા માટે Grok પાસે અસરકારક નિયંત્રણોનો અભાવ છે. દેશના ડિજિટલ સ્પેસ સુપરવિઝનના ડિરેક્ટર જનરલ એલેક્ઝાન્ડર સાબરે જણાવ્યું હતું કે ડીપફેક બનાવવાથી વ્યક્તિની છબી અને ગોપનીયતા અધિકારોનું ઉલ્લંઘન થઈ શકે છે. જ્યારે ફોટા સંમતિ વિના શેર કરવામાં આવે છે અથવા છેડછાડ કરવામાં આવે છે, ત્યારે તે પ્રતિષ્ઠા, સામાજિક અને માનસિક નુકસાન પહોંચાડી શકે છે.
મલેશિયન કોમ્યુનિકેશન્સ એન્ડ મલ્ટીમીડિયા કમિશને સ્પષ્ટ અને બિન-સંમતિ વિનાના ડીપફેક બનાવવા માટે ગ્રોકનો “પુનરાવર્તિત દુરુપયોગ” ટાંક્યો, જેમાંના કેટલાકમાં મહિલાઓ અને બાળકોનો સમાવેશ થાય છે. નિયમનકારે જણાવ્યું હતું કે જ્યાં સુધી X કોર્પ અને મુખ્ય કંપની XAI પૂરતા પ્રમાણમાં મજબૂત સુરક્ષા પગલાં સ્થાપિત નહીં કરે ત્યાં સુધી Grok દેશમાં બ્લોક રહેશે.
ઓફકોમની તપાસ એ વાત પર ધ્યાન કેન્દ્રિત કરશે કે X “યુકેમાં લોકોને ગેરકાયદેસર સામગ્રીથી બચાવવા માટે તેની ફરજોનું પાલન કર્યું છે કે કેમ.” આમાં એ પણ શામેલ છે કે X તેના યુકે વપરાશકર્તાઓને “પ્રાધાન્યતા” ગેરકાયદે સામગ્રી, જેમ કે CSAM અને બિન-સંમતિપૂર્ણ ઘનિષ્ઠ છબીઓ જોવાથી રોકવા માટે યોગ્ય પગલાં લઈ રહ્યું છે કે કેમ; જો પ્લેટફોર્મ તેની જાણ થયા પછી તરત જ ગેરકાયદે સામગ્રીને દૂર કરી રહ્યું છે; અને શું X એ પ્લેટફોર્મમાં “કોઈ નોંધપાત્ર ફેરફારો” કરતા પહેલા અપડેટેડ જોખમ મૂલ્યાંકન કર્યું છે. તપાસ એ પણ ધ્યાનમાં લેશે કે શું X એ તેના પ્લેટફોર્મ યુકેના બાળકો માટેના જોખમનું મૂલ્યાંકન કર્યું છે અને શું તેની પાસે “યુકેના બાળકોને પોર્નોગ્રાફી જોવાથી બચાવવા માટે ઉચ્ચ અસરકારક વય ખાતરીઓ છે.”
નિયમનકારે જણાવ્યું હતું કે તેણે 5 જાન્યુઆરીએ Xનો સંપર્ક કર્યો હતો અને 9 જાન્યુઆરીની સમયમર્યાદા સુધીમાં પ્રતિસાદ મળ્યો હતો. ઑફકોમ “તાકીદની બાબત તરીકે ઉપલબ્ધ પુરાવાઓનું ઝડપથી મૂલ્યાંકન કરી રહ્યું છે” અને કહ્યું કે તેણે XAIને UK વપરાશકર્તાઓની સુરક્ષા માટે કંપની જે પગલાં લઈ રહી છે તેના પર “તાકીદની સ્પષ્ટતા” માટે કહ્યું છે.
ઑફકોમના પ્રવક્તાએ જણાવ્યું હતું કે, “X પર ગેરકાયદેસર બિન-સહમતિપૂર્ણ ઘનિષ્ઠ છબીઓ અને બાળ જાતીય શોષણ સામગ્રી બનાવવા અને શેર કરવા માટે Grok નો ઉપયોગ કરવામાં આવતો હોવાના અહેવાલો અત્યંત ચિંતાજનક છે.” “પ્લેટફોર્મ્સે યુકેમાં લોકોનું યુકેમાં ગેરકાયદેસર સામગ્રીથી રક્ષણ કરવું આવશ્યક છે, અને જ્યાં અમને શંકા છે કે કંપનીઓ તેમની ફરજોમાં નિષ્ફળ રહી છે, ખાસ કરીને જ્યાં બાળકોને નુકસાન થવાનું જોખમ હોય ત્યાં અમે તપાસ કરવામાં અચકાઈશું નહીં. અમે આ તપાસને સર્વોચ્ચ અગ્રતા તરીકે આગળ ધપાવીશું, તે સુનિશ્ચિત કરીશું કે યોગ્ય પ્રક્રિયા અનુસરવામાં આવે છે. UKની સ્વતંત્ર ઑનલાઇન સલામતી અમલીકરણ એજન્સી તરીકે અમે સુનિશ્ચિત કરીએ છીએ કે તે અમારી કાયદાકીય તપાસ માટે યોગ્ય છે નિર્ણાયક.”
જો ઑફકોમને લાગે છે કે કોઈ કંપનીએ કાયદો તોડ્યો છે, તો તેને “પ્લેટફોર્મને પાલનમાં આવવાની જરૂર પડી શકે છે અથવા ઉલ્લંઘનને કારણે થતા નુકસાનને દૂર કરવા માટે ચોક્કસ પગલાં લેવાની જરૂર પડી શકે છે.” નિયમનકાર વધુમાં £18 મિલિયન ($24.3 મિલિયન) અથવા “પાત્ર” વિશ્વવ્યાપી આવકના 10 ટકા સુધીનો દંડ લાદી શકે છે, જે વધારે હોય તે. તે ચુકવણી પ્રદાતાઓ અથવા જાહેરાતકર્તાઓને પ્લેટફોર્મ સાથે કામ કરતા અટકાવવા અથવા ઇન્ટરનેટ સેવા પ્રદાતાઓને યુકેમાં સાઇટને અવરોધિત કરવા દબાણ કરવા માટે કોર્ટનો આદેશ પણ માંગી શકે છે. યુકે સરકારે જણાવ્યું છે કે તે X વિરુદ્ધ ઓફકોમ દ્વારા લેવામાં આવતી કોઈપણ કાર્યવાહીને સમર્થન આપશે.
સપ્તાહના અંતે અહેવાલો દર્શાવે છે કે યુકેએ ગ્રોક-જનરેટેડ ડીપફેક્સના સંકલિત પ્રતિસાદ માટે સહયોગીઓ સાથે ચર્ચા કરી હતી. ભારત અને યુરોપિયન યુનિયન સહિત અન્યત્ર રેગ્યુલેટર્સ પણ Xની તપાસ કરી રહ્યા છે.
ગયા અઠવાડિયે, Grok X વપરાશકર્તાઓને કહેવાનું શરૂ કર્યું કે તેની છબી બનાવવા અને સંપાદન સાધનો ગ્રાહકોને ચૂકવણી કરવા માટે મર્યાદિત છે. પરંતુ સોમવાર સુધી તે હજુ પણ શક્ય હતું કે ચૂકવણી ન કરનારા વપરાશકર્તાઓ માટે X વેબસાઇટ અને એપ્લિકેશન પર Grok ટેબ દ્વારા છબીઓ જનરેટ કરવી.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/big-tech/malaysia-and-indonesia-are-the-first-to-block-grok-following-csam-scandal-120000534.html?src=rss પર દેખાયો હતો.
