એન્થ્રોપિક AI ત્રણ AI કંપનીઓ પર તેના ક્લાઉડ ચેટબોટ્સનો દુરુપયોગ કરવાનો આરોપ મૂક્યા પછી “નિસ્યંદન હુમલાઓ” સામે પગલાં લેવા હાકલ કરી રહી છે. તેની વેબસાઇટ પર, એન્થ્રોપિકે દાવો કર્યો હતો કે ડીપસીક, મૂનશોટ અને મિનીમેક્સ “તેમના પોતાના મોડલને સુધારવા માટે ક્લાઉડની ક્ષમતાઓને ગેરકાયદેસર રીતે કાઢવા માટે ઔદ્યોગિક-સ્કેલ ઝુંબેશ ચલાવી રહ્યા છે.”
AI વિશ્વમાં નિસ્યંદન એ છે કે જ્યારે ઓછા સક્ષમ મોડેલો પોતાને તાલીમ આપવા માટે વધુ શક્તિશાળી લોકોના પ્રતિસાદ પર આધાર રાખે છે. જો કે નિસ્યંદન સંપૂર્ણપણે ખરાબ વસ્તુ નથી, એન્થ્રોપિકે જણાવ્યું હતું કે આ પ્રકારના હુમલાનો ઉપયોગ વધુ ખરાબ રીતે થઈ શકે છે. એન્થ્રોપિક અનુસાર, આ ત્રણ ચાઇનીઝ AI કંપનીઓ “અંદાજે 24,000 કપટપૂર્ણ એકાઉન્ટ્સ દ્વારા ક્લાઉડ સાથે 16 મિલિયનથી વધુ એક્સચેન્જો” માટે જવાબદાર હતી. એન્થ્રોપિકના પરિપ્રેક્ષ્યમાં, આ સ્પર્ધાત્મક કંપનીઓ ક્લાઉડનો ઉપયોગ વધુ અદ્યતન AI મોડલ્સ વિકસાવવા માટેના શોર્ટકટ તરીકે કરી રહી હતી, જેણે તેમને કેટલાક સુરક્ષા પગલાંને બાયપાસ કરવાની પણ મંજૂરી આપી હતી.
એન્થ્રોપિકે તેની પોસ્ટમાં જણાવ્યું હતું કે તે IP એડ્રેસ સહસંબંધ, મેટાડેટા વિનંતીઓ અને ઇન્ફ્રાસ્ટ્રક્ચર સૂચકાંકોના આધારે “ઉચ્ચ આત્મવિશ્વાસ” સાથે આ દરેક નિસ્યંદન હુમલા ઝુંબેશને ચોક્કસ કંપનીઓ સાથે બાંધવામાં સક્ષમ છે, તેમજ AI ઉદ્યોગમાં અન્ય લોકો સાથે સમર્થન કરે છે જેમણે સમાન વર્તનનું અવલોકન કર્યું છે.
ગયા વર્ષની શરૂઆતમાં, ઓપનએઆઈએ હરીફ કંપનીઓના તેના મોડલને બનાવટી બનાવવાના સમાન દાવાઓનો સામનો કરવો પડ્યો હતો અને તેના જવાબમાં શંકાસ્પદ એકાઉન્ટ્સ પર પ્રતિબંધ મૂક્યો હતો. એન્થ્રોપિકની વાત કરીએ તો, ક્લાઉડ પાછળની કંપનીએ જણાવ્યું હતું કે તે ડિસ્ટિલેશન હુમલાને વધુ કઠણ અને શોધવામાં સરળ બનાવવા માટે તેની સિસ્ટમ્સને અપગ્રેડ કરશે. જ્યારે એન્થ્રોપિક આ અન્ય કંપનીઓ પર આંગળી ચીંધી રહી છે, ત્યારે તે સંગીત પ્રકાશકો તરફથી મુકદ્દમાનો પણ સામનો કરી રહી છે જેમણે AI કંપની પર તેના ક્લાઉડ ચેટબોટને તાલીમ આપવા માટે ગીતોની ગેરકાયદે નકલોનો ઉપયોગ કરવાનો આરોપ મૂક્યો હતો.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/ai/anthropic-accuses-three-chinese-ai-labs-of-abusing-Claude-to-improve-their-own-models-205210613.html?src=rss પર દેખાયો હતો.
