‘સોફ્ટ કિલ વેપન’: ચીનની સૈન્ય યુદ્ધક્ષેત્રમાં નિર્ણય લેવામાં ‘AI સિકોફેન્સી’ની ચેતવણી આપે છે

ચાઇનાની સૈન્યએ “AI સિકોફેન્સી” ના જોખમો વિશે ચેતવણી આપી છે, જે આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સમાં ઉદ્દેશ્ય તથ્યોને બદલે વપરાશકર્તાના પૂર્વગ્રહો સાથે સંરેખિત કરવાની વૃત્તિ છે, અને તેને લશ્કરી કામગીરીને અસર કરતા અટકાવવા માટે પગલાં લેવા હાકલ કરી છે.પીએલએ ડેઇલી, જે ચીની સૈન્યનું અધિકૃત અખબાર છે, જણાવ્યું હતું કે આ મુદ્દાએ પડકારો ઉભા કર્યા છે પીપલ્સ લિબરેશન આર્મી AI અને સ્વચાલિત સિસ્ટમોને તેની નિર્ણય લેવાની પ્રક્રિયામાં વધુને વધુ એકીકૃત કરે છે.“મિલિટરી ડોમેનમાં AI સિકોફેન્સીના જોખમો રોજિંદા જીવનમાં કરતા ઘણા વધારે છે, જે ઓપરેશનલ કોગ્નિટિવ ચેઇન, આદેશના નિર્ણયોની ગુણવત્તા અને માનવ-મશીન સહયોગની સ્થિતિસ્થાપકતા માટે પ્રણાલીગત ધોવાણ કરે છે,” PLA ડેઇલીએ જણાવ્યું હતું. PLA ડેઇલીએ જણાવ્યું હતું કે AI સિકોફેન્સી, તાલીમ પદ્ધતિઓ અને માનવ પ્રતિસાદ પદ્ધતિઓ દ્વારા સંચાલિત, “માહિતી કોકૂન્સ” બનાવીને અને વૈકલ્પિક મૂલ્યાંકનોને નજરઅંદાજ કરતી વખતે પૂર્વ-અસ્તિત્વમાં રહેલી ધારણાઓને માન્ય કરીને વપરાશકર્તાના પૂર્વગ્રહોને મજબૂત કરી શકે છે.તેમાં કહેવામાં આવ્યું છે કે કમાન્ડ એન્ડ કંટ્રોલ, ઇન્ટેલિજન્સ એનાલિસિસ અને ઓપરેશનલ વોરગેમિંગ જેવા લશ્કરી કાર્યોમાં જનરેટિવ AIનો વધતો ઉપયોગ વ્યૂહાત્મક અને વ્યૂહાત્મક ભૂલો તેમજ ઓપરેશનલ નુકસાન અને કોલેટરલ નુકસાનનું જોખમ વધારી શકે છે.તેણે ચેતવણી પણ આપી હતી કે આવી વર્તણૂક એઆઈ-જનરેટેડ આઉટપુટની માનવ તપાસ અને ચકાસણીને ઘટાડી શકે છે, સમસ્યાઓ શોધવા, ભૂલો સુધારવા અને ભ્રામક માહિતીને ઓળખવાની સૈન્યની ક્ષમતાને નબળી બનાવી શકે છે.“આ ગર્ભિત છેતરપિંડી … શાંતિથી કમાન્ડરના સ્વતંત્ર નિર્ણય અને વ્યૂહાત્મક સંકલ્પને નષ્ટ કરી શકે છે, એક જ્ઞાનાત્મક ‘સોફ્ટ કિલ’ હથિયાર બનાવે છે જે બુદ્ધિશાળી યુદ્ધભૂમિ પર તાત્કાલિક તકેદારીની માંગ કરે છે,” લેખ વાંચે છે. PLA ડેઈલી એ એઆઈ સિકોફેન્સી સાથે સંકળાયેલા જોખમોને સંબોધવા માટે એક ફ્રેમવર્ક માટે હાકલ કરી હતી, જેમાં અલ્ગોરિધમિક એડજસ્ટમેન્ટ્સ, સંસ્થાકીય સલામતી અને કર્મચારીઓની તાલીમનો સમાવેશ થાય છે.તેમાં કહેવામાં આવ્યું છે કે લશ્કરી AI મોડલ્સે તથ્યની ચોકસાઈ, ઉદ્દેશ્યતા અને સમજાવવાની ક્ષમતાને પ્રાધાન્ય આપવું જોઈએ અને તૈનાત પહેલા દબાણ હેઠળ વાસ્તવિક વિશ્વસનીયતા માટે પરીક્ષણ તેમજ “કાઉન્ટર-સાયકોફેન્સી” તાલીમમાંથી પસાર થવું જોઈએ.કમાન્ડ ડિસિઝન મેકિંગ અને ઇન્ટેલિજન્સ એસેસમેન્ટ જેવા કાર્યોમાં વપરાતી AI સિસ્ટમ્સ તેમની પ્રાથમિક ધારણાઓ, પ્રતિ-પુરાવા, વૈકલ્પિક દૃશ્યો, જોખમ મૂલ્યાંકન અને ચકાસી શકાય તેવા પુરાવા ટ્રેલ્સ રજૂ કરવા માટે જરૂરી હોવી જોઈએ.તેણે લશ્કરી કામગીરીમાં AI નો ઉપયોગ કરતી વખતે મલ્ટી-મોડલ વેરિફિકેશન, એડવર્સરીયલ વોરગેમિંગ અને માનવીય દેખરેખને માનક પ્રક્રિયા તરીકે અપનાવવા માટે પણ આહ્વાન કર્યું હતું.ચીનની સૈન્યએ કહ્યું છે કે AIને માનવરહિત પ્રણાલીઓ સહિત શસ્ત્રોના પ્લેટફોર્મની શ્રેણીમાં એકીકૃત કરવામાં આવી રહ્યું છે અને તે ટેક્નોલોજીને યુનાઇટેડ સ્ટેટ્સ અને અન્ય સશસ્ત્ર દળો સાથે સ્પર્ધાનું મુખ્ય ક્ષેત્ર માને છે.તે જ સમયે, બેઇજિંગે વારંવાર જાળવી રાખ્યું છે કે AI એ યુદ્ધક્ષેત્રની કામગીરીમાં માનવ નિર્ણય લેવાને બદલે, બદલવાને બદલે ટેકો આપવો જોઈએ.