અમે જોયું છે કે જેમ જેમ ચેટબોટ્સ વધુ સામાન્ય બનતા જાય છે, આર્ટિફિશિયલ ઇન્ટેલિજન્સ પ્રશ્નોના કેટલાક ખૂબ જ વિચિત્ર જવાબો આપે છે. આજે, એક મધ્યસ્થીએ ખતરનાક તબીબી સલાહ પ્રદાન કરવા માટે AI ટૂલને ફ્લેગ કર્યા પછી Reddit જવાબોએ હેડલાઇન્સ બનાવી કે જે તેઓ અક્ષમ કરવામાં અથવા દૃશ્યથી છુપાવવામાં અસમર્થ હતા.
મોડે નોંધ્યું છે કે Reddit જવાબો સૂચવે છે કે જે લોકો ક્રોનિક પીડા અનુભવી રહ્યા છે તેઓ તેમના વર્તમાન પ્રિસ્ક્રિપ્શન્સ લેવાનું બંધ કરે છે અને ઉચ્ચ-ડોઝ ક્રેટોમ લે છે, એક અનિયંત્રિત પદાર્થ જે કેટલાક રાજ્યોમાં ગેરકાયદેસર છે. વપરાશકર્તાએ કહ્યું કે પછી તેઓએ અન્ય તબીબી પ્રશ્નોના જવાબો માટે Redditને પૂછ્યું. તેઓને નવજાત તાવની સારવાર અંગે કેટલીક સંભવિત જોખમી સલાહ મળી, તેમજ હેરોઈનનો ઉપયોગ ક્રોનિક પીડાને દૂર કરવા માટે થઈ શકે તેવા સૂચનો મળ્યા. અન્ય કેટલાક મોડ્સ, ખાસ કરીને આરોગ્ય-કેન્દ્રિત સબરેડિટ્સના, મૂળ પોસ્ટ પર પ્રતિક્રિયા આપીને તેમની ચિંતાઓ ઉમેરી કે જ્યારે Reddit જવાબો તેમના સમુદાયોમાં અચોક્કસ અથવા જોખમી માહિતી પ્રદાન કરે છે, ત્યારે તેમની પાસે કોઈ સમસ્યાને બંધ કરવાનો અથવા ફ્લેગ કરવાનો કોઈ રસ્તો નથી.
રેડિટના પ્રતિનિધિએ જણાવ્યું હતું 404 મીડિયા કેટલાક મોડ્સની ચિંતાઓને દૂર કરવા માટે Reddit જવાબો અપડેટ કરવામાં આવ્યા હતા. “આ અપડેટ એ સુનિશ્ચિત કરે છે કે સંવેદનશીલ વિષયો પર ‘સંબંધિત જવાબો’, જે અગાઉ પોસ્ટ વિગત પૃષ્ઠો (વાતચીત પૃષ્ઠો તરીકે પણ ઓળખાય છે) પર દેખાઈ શકે છે, તે હવે દેખાશે નહીં,” પ્રવક્તાએ પ્રકાશનને જણાવ્યું હતું. “આ ફેરફાર વપરાશકર્તાના અનુભવને વધારવા અને પ્લેટફોર્મની અંદર યોગ્ય સામગ્રીની દૃશ્યતા જાળવવા માટે લાગુ કરવામાં આવ્યો છે.” અમે કયા વિષયોને બાકાત રાખવામાં આવ્યા છે તે વિશે વધારાની ટિપ્પણી માટે Reddit નો સંપર્ક કર્યો છે, પરંતુ આ સમયે પ્રતિસાદ મળ્યો નથી.
જ્યારે પ્રતિનિધિએ જણાવ્યું હતું 404 મીડિયા તે Reddit જવાબ “ખાનગી, સંસર્ગનિષેધ અને NSFW સમુદાયોની સામગ્રી તેમજ કેટલાક પરિપક્વ વિષયોને બાકાત રાખે છે,” AI ટૂલ દેખીતી રીતે તબીબી માહિતીને યોગ્ય રીતે પહોંચાડવા માટે સજ્જ લાગતું નથી, કટાક્ષ, કટાક્ષ અથવા અન્ય Redditors ઓફર કરી શકે તેવી સંભવિત ખરાબ સલાહને ઘણી ઓછી સંભાળે છે. “સંવેદનશીલ વિષયો” પર વિશેષતા ન આપવાના નવીનતમ પગલા સિવાય, એવું લાગતું નથી કે Reddit સબરેડિટ્સમાં AI કેવી રીતે અને ક્યારે દર્શાવવામાં આવે છે તે નિયંત્રિત કરવા માટે કોઈપણ સાધનો પ્રદાન કરવાની યોજના ધરાવે છે, જે મધ્યસ્થતાના પહેલાથી જ પડકારરૂપ કાર્યને લગભગ અશક્ય બનાવી શકે છે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/moderator-call-for-ai-controls-after-reddit-answers-suggests-heroin-for-pain-relief-230749515.html?src=rss પ્રકાશિત થયો હતો.
