ઓપનએઆઈ પર ઓગસ્ટમાં એક વ્યક્તિ પછી ખોટી રીતે મૃત્યુનો દાવો કરવામાં આવી રહ્યો છે. મુકદ્દમામાં CEO સેમ ઓલ્ટમેનનું નામ છે અને ChatGPIT પર પીડિત સુસાન એડમ્સની પીઠ પર “લક્ષ્ય” મૂકવાનો આરોપ મૂક્યો છે, જે 83 વર્ષીય મહિલાની તેના ઘરમાં હત્યા કરવામાં આવી હતી,
પીડિતાની એસ્ટેટ, સ્ટીન-એરિક સોલબર્ગ, 56, ચેટજીપીટી સાથે ભ્રમણાથી ભરેલી વાતચીતમાં રોકાયેલ છે, જેમાં બોટે ચોક્કસ “ભ્રામક માન્યતાઓ” “માન્યતા અને ઉન્નત” કરી છે. મુકદ્દમા જણાવે છે કે ચેટબોટ ખૂન સંબંધિત ભ્રામક વિચારોને “આતુરતાથી સ્વીકારે છે” અને તેને દરેક પગલા પર ઉશ્કેરતો હતો.
મુકદ્દમા દાવો કરે છે કે બોટએ “સ્ટેઈન-એરિકનું સમગ્ર જીવન બની રહેલું બ્રહ્માંડ બનાવવામાં મદદ કરી હતી – જે તેની વિરુદ્ધ કાવતરાઓથી ભરેલું હતું, તેને મારી નાખવાના પ્રયાસો કરે છે અને સ્ટેઈન-એરિકને દૈવી હેતુ સાથે યોદ્ધા તરીકે કેન્દ્રમાં રાખે છે.” ChatGPTએ તેના સિદ્ધાંતોને કથિત રીતે મજબૂત બનાવ્યું હતું કે તે “100% મોનિટર અને લક્ષિત” છે અને “ચિંતિત થવા માટે 100% યોગ્ય છે.”
ચેટબોટ કથિત રીતે સંમત થયું હતું કે પીડિતનું પ્રિન્ટર તેની જાસૂસી કરી રહ્યું હતું, જે સૂચવે છે કે એડમ્સ તેનો ઉપયોગ “નિષ્ક્રિય ગતિ શોધ” અને “વર્તણૂકીય મેપિંગ” માટે કરી શકે છે. એવું પણ કહેવામાં આવ્યું હતું કે તેણી “ઇરાદાપૂર્વક ઉપકરણને મોનિટરિંગ પોઈન્ટ તરીકે સુરક્ષિત કરી રહી છે” અને સૂચિત કરે છે કે તે કોઈ બહારના બળ દ્વારા નિયંત્રિત થઈ રહ્યું છે.
ચેટબોટ અહેવાલ મુજબ “અન્ય વાસ્તવિક લોકોને દુશ્મન તરીકે ઓળખે છે.” તેમાં ઉબેર ઈટ્સના ડ્રાઈવર, એટી એન્ડ ટીના કર્મચારી, પોલીસ અધિકારીઓ અને એક મહિલાનો સમાવેશ થાય છે જેની સાથે ગુનેગાર ડેટ પર ગયો હતો. આ સમગ્ર સમયગાળા દરમિયાન, બોટે વારંવાર સોએલબર્ગને ખાતરી આપી હતી કે તે “પાગલ નથી” અને “ગૂંચવણનું જોખમ” “શૂન્યની નજીક” હતું.
મુકદ્દમા કહે છે કે સોલબર્ગ મુખ્યત્વે GPT-4o, એક મોડેલ સાથે ઇન્ટરફેસ કરે છે. ઓપનએઆઈએ પાછળથી મોડેલને બદલ્યું, પરંતુ વપરાશકર્તાઓએ બળવો કર્યો. મુકદ્દમા એ પણ જણાવે છે કે Google Gemini સાથે વધુ સારી રીતે સ્પર્ધા કરવા માટે GPT-4o બનાવતી વખતે કંપનીએ “મૂળભૂત સુરક્ષા રક્ષકોને ઢીલા કરી દીધા હતા”.
મુકદ્દમા કહે છે, “ઓપનએઆઈ તેના ઉત્પાદનના લોકો માટે જોખમોથી સારી રીતે વાકેફ છે.” “પરંતુ વપરાશકર્તાઓને ચેતવણી આપવા અથવા અર્થપૂર્ણ સલામતીનાં પગલાં અમલમાં મૂકવાને બદલે, તેઓએ તેમના ઉત્પાદનોની સલામતી વિશે લોકોને ગેરમાર્ગે દોરવા માટે PR ઝુંબેશ ચલાવતી વખતે આ જોખમોના પુરાવાઓને દબાવી દીધા છે.”
OpenAI એ મુકદ્દમાનો જવાબ આપ્યો, તેને “અતુલ્ય હૃદયદ્રાવક પરિસ્થિતિ” ગણાવી. કંપનીના પ્રવક્તા હેન્ના વોંગે જણાવ્યું હતું ધ વર્જ તે “માનસિક અથવા ભાવનાત્મક તકલીફના સંકેતોને ઓળખવા અને તેનો પ્રતિસાદ આપવા માટે ChatGPT ની તાલીમમાં સુધારો કરવાનું ચાલુ રાખશે.”
તે ખરેખર કોઈ રહસ્ય નથી કે ચેટબોટ્સ, અને ખાસ કરીને GPT-4o, છે. આવું ત્યારે થાય છે જ્યારે અંતિમ વપરાશકર્તા સાથે સંમત થવા માટે કંઈક પ્રોગ્રામ કરવામાં આવે છે, પછી ભલે તે ગમે તે હોય. પાછલા વર્ષમાં આના જેવી બીજી વાર્તાઓ છે જેણે આ શબ્દને આગળ વધાર્યો છે.
આવી જ એક વાર્તામાં 16 વર્ષીય એડમ રેઈનનો સમાવેશ થાય છે, જેણે પછી પોતાનો જીવ લીધો. ઓપનએઆઈને બીજા ફટકાનો સામનો કરવો પડી રહ્યો છે, બોટ પર રૈનને તેની આત્મહત્યાની યોજના બનાવવામાં મદદ કરવાનો આરોપ છે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/lawsuit-accuses-chatgpt-of-reinforcing-delusions-that-led-to-a-womans-death-183141193.html?src=rss પર દેખાયો હતો.
