એન્થ્રોપિક કહે છે કે નવા ક્લાઉડ ફેબલ 5 મોડેલના વપરાશકર્તાઓને માફ કરશો; કહે છે: બેલેન્સ બરાબર ન મળવા બદલ અમે દિલગીર છીએ

એન્થ્રોપિકે તેના નવા રજૂ કરાયેલા ક્લાઉડ ફેબલ 5 AI મોડલ માટે સલામતી નીતિમાં સુધારો કર્યો છે. આ પગલું સંશોધકો અને વિકાસકર્તાઓ દ્વારા પ્રતિબંધોને લઈને ટીકા પછી આવ્યું છે જે વપરાશકર્તાઓને સ્પષ્ટપણે જાહેર કરવામાં આવ્યા ન હતા. કંપનીએ સ્વીકાર્યું કે તેનો અભિગમ ખામીયુક્ત હતો અને કહ્યું કે તે ભવિષ્યના ઇનકાર અને મોડલ ફોલબેકને દૃશ્યમાન બનાવશે. એન્થ્રોપિકે તેના Mythos AI મોડલનું સાર્વજનિક સંસ્કરણ ક્લાઉડ ફેબલ 5 લોન્ચ કર્યાના દિવસો પછી આ ફેરફાર આવ્યો છે જેમાં સાયબર સુરક્ષા, જીવવિજ્ઞાન અને રસાયણશાસ્ત્ર જેવા ક્ષેત્રોમાં દુરુપયોગને રોકવા માટે વધારાના સલામતીનાં પગલાં શામેલ છે.બિઝનેસ ઇનસાઇડર સાથે શેર કરેલા નિવેદનમાં, એન્થ્રોપિક પ્રવક્તાએ જણાવ્યું હતું કે, “અમે ફ્રન્ટિયર LLM ડેવલપમેન્ટ માટે ફેબલ 5 ના રક્ષકોને તેમને દૃશ્યક્ષમ બનાવવા માટે બદલી રહ્યા છીએ. આ અઠવાડિયાથી શરૂ કરીને, ફ્લેગ કરેલી વિનંતીઓ ઓપસ 4.8 પર દેખીતી રીતે પાછી આવશે. API પર, કોઈપણ ફ્લેગ કરેલી વિનંતીઓ તેમના ઇનકાર માટેનું કારણ આપશે. અમે ખોટું ટ્રેડઓફ કર્યું છે, અને બેલેન્સ યોગ્ય ન થવા બદલ અમે માફી માંગીએ છીએ.”

ક્લાઉડ ફેબલ 5 માં એન્થ્રોપિક શું બદલાયું છે

જ્યારે આ અઠવાડિયાની શરૂઆતમાં ક્લાઉડ ફેબલ 5 લોન્ચ કરવામાં આવ્યું, ત્યારે એન્થ્રોપિકે કહ્યું કે તેણે હાનિકારક હેતુઓ માટે ઉપયોગમાં લેવાતા મોડલના જોખમને ઘટાડવા માટે રચાયેલ શ્રેણીબદ્ધ સલામતીનો અમલ કર્યો છે. સાયબર સિક્યોરિટી, બાયોલોજી અને કેમિસ્ટ્રીને લગતા અમુક પ્રોમ્પ્ટ્સ ઓટોમેટિક રીતે ઓછા સક્ષમ મોડલ્સ પર મોકલવામાં આવ્યા હતા.કંપનીએ એ પણ ખુલાસો કર્યો હતો કે AI મોડલ ડેવલપમેન્ટ સંબંધિત વિનંતીઓ વપરાશકર્તાઓને સૂચિત કર્યા વિના કામગીરીમાં ઘટાડો કરી શકે છે. અહેવાલો અનુસાર, કેટલાક વિકાસકર્તાઓએ આ માપને સ્પર્ધાત્મક AI સિસ્ટમ્સ બનાવવા માટે મોડેલના ઉપયોગને મર્યાદિત કરવાના માર્ગ તરીકે જોયો.અપડેટ કરેલી નીતિ હેઠળ, જ્યારે વિનંતી નકારવામાં આવે અથવા અન્ય મોડેલ પર રીડાયરેક્ટ કરવામાં આવે ત્યારે વપરાશકર્તાઓને હવે જાણ કરવામાં આવશે. જ્યારે વિનંતી અવરોધિત કરવામાં આવે ત્યારે API વપરાશકર્તાઓને ચોક્કસ સમજૂતી પણ પ્રાપ્ત થશે. એન્થ્રોપિકે જણાવ્યું હતું કે રાષ્ટ્રીય સુરક્ષાના જોખમોને સંબોધવા અને અટકાવવા માટે રક્ષકોની રજૂઆત કરવામાં આવી હતી “વિદેશી વિરોધીઓ” અદ્યતન ચિપ્સ અને મોટા ભાષા મોડલના વિકાસમાં લાભ મેળવવાથી.કંપનીએ વધુમાં નોંધ્યું હતું કે પ્રતિબંધો માત્ર મર્યાદિત શ્રેણીની વિનંતીઓને અસર કરે છે અને મોટા ભાગના કોડિંગ અને મશીન લર્નિંગ કાર્યો અપ્રભાવિત રહે છે.ક્લાઉડ ફેબલ 5 એ એન્થ્રોપિકના માયથોસ મોડલ પર આધારિત છે, જેની જાહેરાત એપ્રિલમાં કરવામાં આવી હતી અને તે સરકાર અને માન્ય વપરાશકર્તાઓના મર્યાદિત જૂથ માટે જ ઉપલબ્ધ કરાવવામાં આવી રહી છે. એન્થ્રોપિક અને બાહ્ય સંશોધકોએ અગાઉ ચેતવણી આપી હતી કે અદ્યતન AI સિસ્ટમ્સનો સંભવિત રીતે સાયબર હુમલા, જૈવિક સંશોધન અને રાસાયણિક શસ્ત્રોના વિકાસ જેવા ક્ષેત્રોમાં દુરુપયોગ થઈ શકે છે.