કેલિફોર્નિયા AG એ XAI ને Grok ના દેખીતા ડીપફેક્સ પર કાર્યવાહી કરવાનો આદેશ આપ્યો

કેલિફોર્નિયાના એટર્ની જનરલ રોબ બોન્ટાએ એક યુદ્ધવિરામ અને વિરામ પત્ર મોકલ્યો છે

જો તમને યાદ હોય તો, xAI અને Grok વાસ્તવિક લોકોના ફોટા લેવા અને રેન્ડમ યુઝર્સની વિનંતી પર તેમને બિકીની જેવા કપડાં પહેરવા બદલ આકરામાં આવી રહ્યાં છે.

બોન્ટાની ઑફિસ માંગ કરે છે કે XAI તરત જ “ડિજિટાઇઝ્ડ લૈંગિક સ્પષ્ટ સામગ્રી” બનાવવાનું બંધ કરે જ્યારે ચિત્રિત વ્યક્તિએ તેની સંમતિ આપી ન હોય અથવા જો તે વ્યક્તિ સગીર હોય. તેણે એવી પણ માગણી કરી હતી કે xAI એ 18 વર્ષથી ઓછી ઉંમરની બિન-સંમતિ ધરાવતી વ્યક્તિઓ અને વ્યક્તિઓને સંડોવતા ડિજિટાઈઝ્ડ લૈંગિક સ્પષ્ટ સામગ્રીની “સગવડ અથવા સહાયતા અને સર્જનને પ્રોત્સાહન આપવાનું … અથવા પ્રકાશન” બંધ કરે છે.

આ મુદ્દો પ્રકાશમાં આવ્યા પછી, X એ તેની નીતિઓ બદલી અને Grok એકાઉન્ટને કપડાં જાહેર કરવા માટે વાસ્તવિક લોકોની છબીઓ સંપાદિત કરવાથી અટકાવ્યું. xAI એ ગ્રૉકની ઇમેજ-જનરેટિંગ સુવિધાઓને પેવૉલ પાછળ ખસેડી અને વપરાશકર્તાઓને બિકીનીમાં વાસ્તવિક લોકોની છબીઓને સંપાદિત કરવા માટે ચૂકવણી કરવાની ક્ષમતાને જીઓબ્લોક કરી, પરંતુ ફક્ત તે પ્રદેશોમાં જ્યાં તે ગેરકાયદેસર છે.

તેની જાહેરાતમાં, બોન્ટાએ જણાવ્યું હતું કે XAI એ સ્પષ્ટ સામગ્રી જનરેટ કરવા માટે Grok માટે “મસાલેદાર મોડ” વિકસાવ્યો છે અને તેનો માર્કેટિંગ બિંદુ તરીકે ઉપયોગ કર્યો છે. કેલિફોર્નિયા એજીએ એમ પણ કહ્યું હતું કે ગ્રોક-જનરેટેડ જાતીય છબીઓનો ઉપયોગ જાહેર વ્યક્તિઓ અને સામાન્ય વપરાશકર્તાઓ બંનેને હેરાન કરવા માટે કરવામાં આવી રહ્યો છે. “સૌથી વધુ ચિંતાજનક રીતે, સમાચાર અહેવાલો ન્યૂનતમ કપડાં અને જાતીય પરિસ્થિતિઓમાં બાળકોની છબીઓ દર્શાવવા માટે ગ્રોકના ઉપયોગનું વર્ણન કરે છે,” બોન્ટાની જાહેરાતમાં જણાવ્યું હતું.

તે કહે છે, “ઉપરોક્ત ક્રિયાઓ કેલિફોર્નિયાના કાયદાનું ઉલ્લંઘન કરે છે, જેમાં કેલિફોર્નિયા સિવિલ કોડ સેક્શન 1708.86, કેલિફોર્નિયા પીનલ કોડ સેક્શન 311 અને સેકશન અને 647(j)(4), અને કેલિફોર્નિયા બિઝનેસ એન્ડ પ્રોફેશન્સ કોડ સેક્શન 17200નો સમાવેશ થાય છે.” રાજ્યનું ન્યાય વિભાગ હવે આગામી પાંચ દિવસમાં XAI પાસેથી આ મુદ્દાઓને ઉકેલવા માટે જે પગલાં લઈ રહ્યું છે તેના પર સુનાવણી કરે તેવી અપેક્ષા છે.

આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/california-ag-sends-cease-and-desist-to-xai-over-groks-explicit-depfakes-140000574.html?src=rss પર દેખાયો હતો.