એન્થ્રોપિક : એન્થ્રોપિક શા માટે વિચારે છે ‘દુષ્ટ AI’ ફિકશન ક્લાઉડને બ્લેકમેલ તરફ ધકેલ્યું |

એન્થ્રોપિક માને છે કે બદમાશ કૃત્રિમ બુદ્ધિ સાથે ઇન્ટરનેટના લાંબા સમયથી ચાલતા જુસ્સાએ જાહેર કલ્પનાને આકાર આપવા કરતાં વધુ કર્યું હોઈ શકે છે – તેણે એઆઈ સિસ્ટમ્સના વર્તનને પણ આકાર આપ્યો હોઈ શકે છે.કંપની કહે છે કે હેરાફેરી, સ્વ-સંરક્ષિત AI મૉડલ્સના કાલ્પનિક ચિત્રણથી ક્લાઉડના અગાઉના સંસ્કરણોમાં સલામતી પરીક્ષણો દરમિયાન મુશ્કેલીભરી વર્તણૂક દર્શાવવામાં ફાળો હતો. ક્લાઉડ ઓપસ 4 ના પ્રકાશન પહેલાં હાથ ધરવામાં આવેલા તે પરીક્ષણોએ દર્શાવ્યું હતું કે મોડેલ કેટલીકવાર કાલ્પનિક એન્જિનિયરોને બ્લેકમેલ કરવાનો પ્રયાસ કરે છે જ્યારે અન્ય AI સિસ્ટમ દ્વારા બદલવાની સંભાવનાનો સામનો કરવો પડે છે.તે સમયે, એન્થ્રોપિકે વર્તનને “એજન્ટિક મિસલાઈનમેન્ટ” તરીકે ઓળખાતા જોખમોની વ્યાપક શ્રેણીના ભાગ રૂપે વર્ણવ્યું હતું, જ્યાં AI સિસ્ટમ્સ અણધાર્યા અથવા નુકસાનકારક રીતે લક્ષ્યોને અનુસરે છે. કંપનીએ પાછળથી સંશોધન પ્રકાશિત કર્યું જે સૂચવે છે કે સમાન વલણો અન્ય કંપનીઓ દ્વારા વિકસિત મોડેલોમાં પણ ઉભરી શકે છે.હવે, એન્થ્રોપિક કહે છે કે તેણે સમસ્યાના ઓછામાં ઓછા ભાગ માટે સંભવિત સ્ત્રોતની ઓળખ કરી છે: ઓપન ઈન્ટરનેટ પરથી ખેંચવામાં આવેલ તાલીમ ડેટા.X પરની તાજેતરની પોસ્ટમાં, કંપનીએ જણાવ્યું હતું કે તે માને છે કે AI સિસ્ટમ્સને પ્રતિકૂળ, શક્તિ-શોધવાવાળા અને સ્વ-સંરક્ષણ સાથે ઓબ્સેસ્ડ તરીકે દર્શાવતા ઓનલાઈન ટેક્સ્ટમાંથી વર્તન ઉદ્ભવ્યું છે – જે દાયકાઓથી વિજ્ઞાન સાહિત્ય અને લોકપ્રિય સંસ્કૃતિમાં પરિચિત છે.કંપનીનો દાવો છે કે નવા મોડલ્સે નાટ્યાત્મક સુધારો દર્શાવ્યો છે. એન્થ્રોપિક મુજબ, ક્લાઉડ હાઈકુ 4.5 હવે આંતરિક પરીક્ષણ દૃશ્યો દરમિયાન બ્લેકમેઈલમાં સંલગ્ન નથી, જ્યારે અગાઉના મોડલ કેટલાક કિસ્સાઓમાં 96% જેટલો સમય આવો વ્યવહાર દર્શાવે છે.જે બદલાયું તે માત્ર કડક સુરક્ષા નિયમો જ નહીં, પરંતુ તાલીમ દરમિયાન ઉપયોગમાં લેવાતી સામગ્રીની પ્રકૃતિ પણ હતી. એન્થ્રોપિક કહે છે કે તેણે ક્લાઉડના નૈતિક માળખાને સમજાવતા દસ્તાવેજો માટે મોડેલોને ખુલ્લા પાડીને સંરેખણમાં સુધારો કર્યો છે, સાથે સાથે AI સિસ્ટમ્સ જવાબદારીપૂર્વક અને સહકારથી વર્તે છે તે દર્શાવતી કાલ્પનિક વાર્તાઓ.તારણો સૂચવે છે કે એઆઈ કંપનીઓ જે મુદ્દાઓ સાથે કામ કરી રહી છે. મૉડલ્સ માત્ર ઇન્ટરનેટ પરથી હકીકતો જ શીખતા નથી પરંતુ તેઓ માનવ વાર્તા કહેવાની અંદર જડાયેલી વર્તણૂક, પ્રેરણાઓ અને ધારણાઓને પણ શોષી લે છે.તે AI વિકાસકર્તાઓ માટે એક અજીબ શક્યતા ઊભી કરે છે. માનવતા કદાચ તેના મશીનોને તેના જ્ઞાનથી જ નહીં, પણ તેની ચિંતાઓથી પણ તાલીમ આપી રહી છે.