AI ની આભાસની સમસ્યા મોટી થઈ રહી છે, અને શું તેને વધુ ખરાબ બનાવે છે

AI ટૂલ્સ વધુ સચોટ બની રહ્યા છે, પરંતુ નિષ્ણાતો કહે છે કે ખોટી માહિતી પેદા કરવાની તેમની વૃત્તિ વધતી જતી ચિંતા છે. Axiosના એક અહેવાલ મુજબ, AI સિસ્ટમો હવે ઓછી સ્પષ્ટ ભૂલો પેદા કરી રહી છે, તેમ છતાં તેઓ આત્મવિશ્વાસ અને પોલિશ્ડ રીતે ખોટા જવાબો આપવાનું ચાલુ રાખે છે. સંશોધકો અને નિષ્ણાતો ચેતવણી આપે છે કે આ સમસ્યાને શોધવાનું મુશ્કેલ બનાવી શકે છે, ખાસ કરીને વધુ લોકો સંશોધન, તબીબી સલાહ, શિક્ષણ અને કાર્યસ્થળના કાર્યો માટે AI નો ઉપયોગ કરે છે. નિષ્ણાતો ચેતવણી આપે છે કે મોટી ચિંતા એ છે કે વપરાશકર્તાઓ AI-જનરેટેડ પ્રતિસાદોને ચકાસ્યા વિના વિશ્વાસ કરવાનું શરૂ કરી શકે છે, મહત્વપૂર્ણ નિર્ણયો અને રોજિંદા કામમાં ભૂલોનું જોખમ વધી શકે છે.

નિષ્ણાતો કહે છે કે AI ના આત્મવિશ્વાસપૂર્ણ જવાબો ગેરમાર્ગે દોરનારું હોઈ શકે છે

Axios અહેવાલમાં નોંધવામાં આવ્યું છે કે સ્પષ્ટ AI આભાસ ઘણીવાર સરળતાથી જોવામાં આવે છે. જો કે, મોટો પડકાર ત્યારે આવે છે જ્યારે AI એવા જવાબો ઉત્પન્ન કરે છે જે ખાતરીપૂર્વક લાગે છે પરંતુ હજુ પણ ખોટા છે. આમાં બુદ્ધિગમ્ય દેખાતા ટાંકણો, મુખ્ય ભૂલો સાથે મોટાભાગે સચોટ સારાંશ, અથવા ખોટી માહિતી હોવા છતાં ઉચ્ચ આત્મવિશ્વાસ સાથે વિતરિત જવાબોનો સમાવેશ થઈ શકે છે.એક્સિઓસના અહેવાલમાં યુનિવર્સિટી ઓફ કેલિફોર્નિયા, બર્કલેના પ્રોફેસર ડેન ક્લેઈન અને સ્કેલેડ કોગ્નિશનના સહ-સ્થાપક અને સીટીઓ ટાંકવામાં આવ્યા છે, જેઓ કહે છે કે આ મુદ્દો માત્ર આભાસને ઘટાડવાથી આગળ વધે છે. “જ્યારે તમે સાંભળો છો કે આઇસબર્ગ મોટાભાગે પાણીની નીચે છે, ત્યારે તમને સારું લાગતું નથી,” ક્લેઇને એક્સિઓસને કહ્યું.તેમણે ઉમેર્યું: “આ સિસ્ટમો, તેઓ સત્ય એન્જિન નથી. તેઓ બુદ્ધિગમ્ય એન્જિન છે.”ક્લેઈનના જણાવ્યા અનુસાર, AI ડેવલપર્સ ઘણી વખત મૉડલને સત્યને બદલે ઝડપ, વપરાશકર્તા સંતોષ અને કાર્ય પૂર્ણ કરવા જેવા પરિબળો માટે ઑપ્ટિમાઇઝ કરે છે.“તેમાંથી કોઈ સત્ય સમાન નથી,” તેમણે કહ્યું. “જો તમે ‘સત્ય માટે ઑપ્ટિમાઇઝ’ સિવાય બીજું કંઈપણ (એઆઈ મોડલ) કહો છો, તો તમે સત્યને ભૂંસી નાખશો,” ક્લેઈને ઉમેર્યું.

અભ્યાસો ચાલુ AI ચિંતાઓને પ્રકાશિત કરે છે

એક્સિઓસ રિપોર્ટમાં તાજેતરના યેલ સ્કૂલ ઑફ મેડિસિન અભ્યાસને પણ ટાંકવામાં આવ્યો છે જેમાં હેલ્થકેર સેટિંગ્સમાં ઉપયોગમાં લેવાતા AI નોટ-ટેકિંગ ટૂલ્સની તપાસ કરવામાં આવી હતી. સંશોધકોએ શોધી કાઢ્યું હતું કે જ્યારે AI-જનરેટેડ ડ્રાફ્ટ્સ પ્રારંભિક બિંદુ તરીકે ઉપયોગી હતા, ત્યારે નોંધ કેટલીકવાર લક્ષણોની અવધિ સહિતની મહત્વપૂર્ણ વિગતોને છોડી દે છે.રિપોર્ટમાં હાર્વર્ડ અભ્યાસનો પણ ઉલ્લેખ કરવામાં આવ્યો છે જેમાં જાણવા મળ્યું છે કે AI સિસ્ટમ્સ કેટલીકવાર માત્ર ભૂલો સુધારવાને બદલે વપરાશકર્તાઓને સમજાવવાનો પ્રયાસ કરીને પડકારોનો જવાબ આપે છે.