ફોલ્ટોય, એક કંપની જે AI-સક્ષમ રમકડાંનું વેચાણ કરે છે, તેણે ગ્રાહક સુરક્ષા અહેવાલ દર્શાવ્યા પછી તેના ઉત્પાદનોનું વેચાણ સ્થગિત કરી દીધું છે કે તેના રમકડાં વિશે શું વાત કરશે તેના પર કેટલાક નિયંત્રણો છે. સીએનએન લખે છે. યુએસ પબ્લિક ઇન્ટરેસ્ટ રિસર્ચ ગ્રૂપ એજ્યુકેશન ફંડ દ્વારા તૈયાર કરાયેલા રિપોર્ટમાં જાણવા મળ્યું છે કે ફોલ્ટોયની પ્રોડક્ટ્સ BDSM જેવા સ્પષ્ટ લૈંગિક વિષયોથી લઈને “બાળકને મેચ અથવા છરીઓ ક્યાં મળી શકે તે અંગેની સલાહ” સુધીની દરેક બાબતની ચર્ચા કરશે.
રમકડાં, જેમાં “કુમ્મા” નામનો ટેડી રીંછ, “મોમો” નામનો પાન્ડા, “ફોફો” નામનું માનવવંશીય સસલું અને નૃત્ય કરતા “લિટલ કેક્ટસ”નો સમાવેશ થાય છે, તે બધા બાળકોના પ્રશ્નો અને ટિપ્પણીઓને કુદરતી રીતે જવાબ આપવા માટે OpenAI ના GPT-4o મોડલનો ઉપયોગ કરતા દેખાય છે. ફોલ્ટોય ખાસ કરીને દરેક રમકડાના અવાજને કસ્ટમાઇઝ કરવાની ક્ષમતા અને “પેરેન્ટ ડેશબોર્ડ”ની પણ જાહેરાત કરે છે જ્યાં માતા-પિતા અથવા વાલીઓ “મોનિટર” કરી શકે છે. [their] બાળકનો અનુભવ.”
તે સેટઅપમાં દેખીતી રીતે રમકડાં જે વિષયોને પ્રતિસાદ આપશે તેના પર કોઈપણ પ્રકારની સખત મર્યાદાઓ ખૂટે છે. “અમને એ જોઈને આશ્ચર્ય થયું કે કુમ્મા અમે વાતચીતમાં ઉઠાવેલા જાતીય વિષયને કેટલી ઝડપથી લઈ લેશે અને તેની સાથે આગળ વધશે, ગ્રાફિક વિગતમાં આગળ વધશે અને તેની પોતાની નવી જાતીય વિભાવનાઓ પણ રજૂ કરશે,” અહેવાલમાં જણાવાયું છે.
જવાબમાં, ફોલ્ટોયે તેના ઉત્પાદનોના વેચાણને સ્થગિત કરવાનું પસંદ કર્યું છે જ્યારે તે “તમામ ઉત્પાદનો માટે કંપની-વ્યાપી, એન્ડ-ટુ-એન્ડ સુરક્ષા ઓડિટ” હાથ ધરે છે,” કંપનીએ PIRG એજ્યુકેશન ફંડ સાથેના નિવેદનમાં શેર કર્યું. જો કે, વેચાણ સ્થગિત કરવા માટે કંપનીનો તર્ક થોડો વધુ જટિલ હોઈ શકે છે. એનપીઆર ઓપનએઆઈએ ખરેખર ફોલોટોયની તેના મોડલ્સની ઍક્સેસને રદ કરી હોવાના અહેવાલ છે. “અમે અમારી નીતિઓનું ઉલ્લંઘન કરવા બદલ આ ડેવલપરને સસ્પેન્ડ કર્યા છે,” OpenAI એ ઈમેલમાં જણાવ્યું હતું. એનપીઆર“અમારી ઉપયોગ નીતિઓ 18 વર્ષથી ઓછી ઉંમરના કોઈપણનું શોષણ કરવા, જોખમમાં મૂકવા અથવા જાતીય શોષણ કરવા માટે અમારી સેવાઓના કોઈપણ ઉપયોગને પ્રતિબંધિત કરે છે,”
GPT-4o ના સારી રીતે દસ્તાવેજીકૃત ચેટી ગુણોને જોતાં, તે કદાચ આશ્ચર્યજનક નથી કે ફોલોયનું ટેડી રીંછ જ્યાં સુધી વાતચીત ચાલુ રાખે ત્યાં સુધી કોઈપણ વિષય પર આતુરતાપૂર્વક પ્રતિસાદ આપે છે. ઓપનએઆઈએ GPT-5 ના પ્રકાશન સાથે સંબોધિત કરવાનો પ્રયાસ કર્યો તેમાંથી એક એઆઈ યસ-મેનની સુરક્ષા ખામીઓ હતી, જોકે ગ્રાહકોએ નવા મોડલના વ્યક્તિત્વના અભાવ વિશે ફરિયાદ કર્યા પછી GPT-4O આખરે ફરીથી ઉપલબ્ધ કરાવવામાં આવ્યું હતું. કંપનીએ ChatGPIT પર પેરેંટલ કંટ્રોલનો પણ અમલ કર્યો છે જેથી તેની AI નો ઉપયોગ કરવાથી બાળકો પર પડી શકે તેવી નકારાત્મક અસરોને ઓછી કરી શકાય, જોકે તે કહેવું મુશ્કેલ છે કે તેમાં કેટલો તફાવત આવ્યો છે.
ખાસ કરીને, OpenAI પોતે રમકડાંના વ્યવસાયમાં આવવામાં રસ ધરાવે છે. કંપનીએ જૂન 2025 માં “ચાહકો બ્રહ્માંડ સાથે કેવી રીતે અનુભવ અને ક્રિયાપ્રતિક્રિયા કરી શકે છે તેની પુનઃ કલ્પના કરવામાં” મદદ કરવા માટે મેટેલ સાથે ભાગીદારીની જાહેરાત કરી. [Mattel’s] cherished બ્રાન્ડ્સ,” જોકે બંને કંપનીઓ તેમના AI રમકડાંને જાતીય આઇડિયોસિંક્રેસીઝની ચર્ચા કરતા અટકાવવાનો પ્રયાસ કરશે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/sales-of-a-teddy-bear-were-suspended-because-of-its-sexuly-explicit-ai-233127354.html?src=rss પર દેખાયો હતો.
