ક્લાઉડ મેકર એન્થ્રોપિક વિશેની બે વાર્તાઓ મંગળવારે ઉભરી આવી હતી, જે સંયુક્ત રીતે, એક ડરામણી ચિત્ર દોરે છે. પ્રથમ, યુએસ ડિફેન્સ સેક્રેટરી પીટ હેગસેથ કથિત રીતે એન્થ્રોપિક પર તેના AI સેફગાર્ડ્સ છોડવા અને સૈન્યને તેના ક્લાઉડ AI ચેટબોટ્સની અનિયંત્રિત ઍક્સેસ આપવા માટે દબાણ કરી રહ્યા છે. ત્યારપછી કંપનીએ હેગસેથ સમાચાર પ્રકાશિત થયા તે જ દિવસે તેની સેન્ટરપોઇન્ટ સુરક્ષા પ્રતિજ્ઞાને છોડી દેવાનું પસંદ કર્યું.
મંગળવારે, એન્થ્રોપિકે કહ્યું કે તે સુરક્ષા રક્ષકોને ઘટાડવા માટે તેની રિસ્પોન્સિબલ સ્કેલિંગ પોલિસી (RSP) માં સુધારો કરી રહી છે. અત્યાર સુધી, કંપનીની મુખ્ય પ્રતિજ્ઞા એ છે કે નવા AI મોડલ્સને તાલીમ આપવાનું બંધ કરવું, સિવાય કે ચોક્કસ સલામતી માર્ગદર્શિકાઓ અગાઉથી ખાતરી આપી શકાય. આ નીતિ, જેણે વૃદ્ધિને રોકવા માટે કઠિન સફર નક્કી કરી હતી, તે એન્થ્રોપિકના વ્યવસાયો અને ગ્રાહકો માટેનો મોટો ભાગ હતો.
“અઢી વર્ષ પછી, અમારું પ્રમાણિક મૂલ્યાંકન એ છે કે પરિવર્તનના આ સિદ્ધાંતના કેટલાક ભાગોએ અમે આશા રાખી હતી તે પ્રમાણે કામ કર્યું છે, પરંતુ અન્યોએ કર્યું નથી,” એન્થ્રોપિકે લખ્યું. હવે, તેની અપડેટ કરેલી નીતિ કડક લાલ રેખાઓને બદલે પ્રમાણમાં સલામત અભિગમ અપનાવે છે.
સાથેની મુલાકાતમાં એન્થ્રોપિકના અવતરણો સમય વેક્યૂમમાં ખૂબ વાજબી લાગે છે. એન્થ્રોપિકના ચીફ સાયન્સ ઓફિસર જેરેડ કેપ્લાને જણાવ્યું હતું કે, “અમને લાગ્યું કે AI મોડલ્સને તાલીમ આપવાનું બંધ કરવાથી ખરેખર કોઈને ફાયદો થશે નહીં.” સમય. “AI ની ઝડપી પ્રગતિ સાથે, અમને ખરેખર લાગ્યું ન હતું કે અમારા માટે એકપક્ષીય પ્રતિબદ્ધતાઓ કરવાનો કોઈ અર્થ છે… જો સ્પર્ધકો આગળ વધી રહ્યા હોય.”
પરંતુ તમે તે અવતરણોને હૉટ સ્ટાર્ટઅપના નૈતિકતાના નવીનતમ ઉદાહરણ તરીકે પણ વાંચી શકો છો કારણ કે તેનું મૂલ્ય વધતું જાય છે. (ગુગલનો જૂનો “દુષ્ટ ન બનો” મંત્રને યાદ રાખો કે તે પાછળથી તેની આચારસંહિતામાંથી નીકળી ગયો?) ક્લાઉડના નવીનતમ સંસ્કરણોને વ્યાપક પ્રશંસા મળી છે, ખાસ કરીને કોડિંગમાં. ફેબ્રુઆરીમાં, એન્થ્રોપિકે નવા રોકાણમાં $30 બિલિયન એકત્ર કર્યા હતા. હવે તેનું મૂલ્ય 380 અબજ ડોલર છે. (કેપલાન દ્વારા ઉલ્લેખિત સ્પર્ધાની વાત કરીએ તો, પ્રતિસ્પર્ધી OpenAI હાલમાં $850 બિલિયનથી વધુ મૂલ્ય ધરાવે છે.)
એન્થ્રોપિકના અગાઉના ટ્રિપવાયરની જગ્યાએ, તે નવા “રિસ્ક રિપોર્ટ્સ” અને “ફ્રન્ટિયર સેફ્ટી રોડમેપ્સ” ને અમલમાં મૂકશે. આ ડિસ્ક્લોઝર મૉડલ્સ રેતીમાં તે સખત રેખાઓના સ્થાને જાહેર જનતાને પારદર્શિતા પ્રદાન કરવા માટે ડિઝાઇન કરવામાં આવ્યા છે.
એન્થ્રોપિક કહે છે કે આ પરિવર્તન સ્પર્ધાત્મક AI લેન્ડસ્કેપ અને યુએસના નિયમન વિરોધી અભિગમથી ઉદ્ભવતી “સામૂહિક ક્રિયા સમસ્યા” દ્વારા ચલાવવામાં આવ્યું હતું. “જો એક AI વિકાસકર્તાએ સલામતીનાં અમલીકરણ માટે વિકાસ અટકાવ્યો જ્યારે અન્યોએ મજબૂત શમન વિના AI સિસ્ટમને તાલીમ આપવા અને જમાવવાનું શરૂ કર્યું, તો તેનું પરિણામ એવી દુનિયા હોઈ શકે છે જે ઓછી સલામત છે,” નવું RSP વાંચે છે. “નબળી સુરક્ષા ધરાવતા વિકાસકર્તાઓ ગતિ નક્કી કરશે, અને જવાબદાર વિકાસકર્તાઓ સુરક્ષા સંશોધન કરવા અને જાહેર લાભ મેળવવાની તેમની ક્ષમતા ગુમાવશે.”
ન એંથ્રોપિક જાહેરાત ન તો સમય રૂમમાં હાથીનો વિશેષ ઉલ્લેખ: પેન્ટાગોનનું દબાણ અભિયાન. મંગળવારે, અક્ષ અહેવાલમાં જણાવવામાં આવ્યું છે કે હેગસેથે એન્થ્રોપિકના સીઈઓ ડારિયો અમોડેઈને જણાવ્યું હતું કે કંપની પાસે શુક્રવાર સુધી લશ્કરને તેના AI મોડલ્સની નિરંકુશ ઍક્સેસ આપવા અથવા દંડનો સામનો કરવો પડશે. કંપનીએ પેન્ટાગોન માટે તેની ઉપયોગની નીતિઓ અપનાવવાની ઓફર કરી છે. જો કે, આ તેના મોડેલનો ઉપયોગ અમેરિકનોની સામૂહિક દેખરેખ માટે અથવા માનવ ભાગીદારી વિના ફાયર કરતા હથિયારો માટે કરવાની મંજૂરી આપશે નહીં.
જો એન્થ્રોપિક પીછેહઠ ન કરે, તો નિષ્ણાતો કહે છે કે તેનો શ્રેષ્ઠ વિકલ્પ કાનૂની કાર્યવાહી હશે. પરંતુ શું પેન્ટાગોનના સૂચિત દંડ નફા-સંચાલિત સ્ટાર્ટઅપ્સને પાલનમાં ડરાવવા માટે પૂરતા હશે? હેગસેથની ધમકીઓમાં કથિત રીતે સંરક્ષણ ઉત્પાદન અધિનિયમનો સમાવેશ થાય છે, જે રાષ્ટ્રપતિને ખાનગી કંપનીઓને રાષ્ટ્રીય સંરક્ષણના નામે અમુક કરારોને પ્રાધાન્ય આપવાનો નિર્દેશ આપવાનો અધિકાર આપે છે. આર્મી એન્થ્રોપિક સાથેના તેના કરારને તોડી શકે છે અને તેને સપ્લાય ચેઇન રિસ્ક તરીકે નિયુક્ત કરી શકે છે. આ પેન્ટાગોન સાથે કામ કરતી અન્ય કંપનીઓને પ્રમાણિત કરવા માટે દબાણ કરશે કે ક્લાઉડ તેમના વર્કફ્લોમાં શામેલ નથી.
ક્લાઉડ હાલમાં એકમાત્ર AI મોડલ છે જેનો ઉપયોગ સૈન્યના સૌથી સંવેદનશીલ કાર્યો માટે થાય છે. સંરક્ષણ અધિકારીએ જણાવ્યું હતું કે, “અમે હજી પણ આ લોકો સાથે વાત કરી રહ્યા છીએ તેનું એકમાત્ર કારણ એ છે કે અમને તેમની જરૂર છે અને અમને હજુ પણ તેમની જરૂર છે.” અક્ષ. “આ લોકો માટે સમસ્યા એ છે કે તેઓ ખૂબ સરસ છે.” મેઘનો ઉપયોગ વેનેઝુએલામાં માદુરોના દરોડામાં કરવામાં આવ્યો હોવાનું કહેવાય છે, આ વિષય એમોડેઈએ તેના પાર્ટનર સાથે પલાંટીર ખાતે ઉઠાવ્યો હોવાનું કહેવાય છે.
સમયનવા RSP વિશેની વાર્તામાં AI જોખમો પર કેન્દ્રિત બિનનફાકારક નિર્દેશકના પ્રતિભાવોનો સમાવેશ થાય છે. METR ના ડાયરેક્ટર ક્રિસ પેઇન્ટરે આ ફેરફારોને સમજી શકાય તેવા અને કદાચ ખરાબ શુકન તરીકે વર્ણવ્યા છે. “મને પારદર્શક જોખમ રિપોર્ટિંગ અને સાર્વજનિક રીતે ચકાસી શકાય તેવા સુરક્ષા રોડમેપ્સ પર ભાર ગમે છે,” તેમણે કહ્યું. જો કે, તેમણે એવી ચિંતા પણ વ્યક્ત કરી હતી કે વધુ લવચીક RSP “દેડકા-ઉકળતા” અસર તરફ દોરી શકે છે. બીજા શબ્દોમાં કહીએ તો, જ્યારે સુરક્ષા એક ગ્રે વિસ્તાર બની જાય છે, ત્યારે તર્કસંગતતાઓની ક્યારેય ન સમાપ્ત થતી શ્રેણી કંપનીને તે જ અંધકારમય માર્ગે લઈ જઈ શકે છે, જેની તે એકવાર નિંદા કરે છે.
પેઇન્ટરે જણાવ્યું હતું કે નવી આરએસપી બતાવે છે કે એન્થ્રોપિક માને છે કે તેને તેની સુરક્ષા યોજનાઓ સાથે ટ્રાયેજ મોડમાં જવાની જરૂર છે, કારણ કે જોખમનું મૂલ્યાંકન કરવા અને ઘટાડવા માટેની પદ્ધતિઓ ક્ષમતાઓની ગતિને અનુરૂપ નથી. આ એ વાતનો વધુ પુરાવો છે કે સમાજ એઆઈ દ્વારા ઉદ્ભવતા સંભવિત વિનાશક જોખમો માટે તૈયાર નથી.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/anthropic-weakens-its-safety-pledge-in-the-wake-of-the-pentagons-pressure-campaign-183436413.html?src=rss પર દેખાયો હતો.
