શું ChatGPT બાળકોને જોખમમાં મૂકે છે? શા માટે ફ્લોરિડાએ OpenAI અને સેમ ઓલ્ટમેન પર દાવો કર્યો છે

ઓપનએઆઈ અને તેના સીઈઓ સામે કેસ કરનાર ફ્લોરિડા પ્રથમ યુએસ રાજ્ય બન્યું છે સેમ ઓલ્ટમેનકંપનીએ બાળકો અને લોકો માટે ગંભીર જોખમો તરીકે વર્ણવ્યા હોવા છતાં ચેટજીપીટીને જાણી જોઈને બહાર પાડી અને આક્રમક રીતે માર્કેટિંગ કરવાનો આરોપ મૂક્યો.ફ્લોરિડાની દસમી સર્કિટ કોર્ટમાં સોમવારે દાખલ કરાયેલા મુકદ્દમામાં આરોપ મૂકવામાં આવ્યો છે કે ઓપનએઆઈએ તેના AI ચેટબોટ સાથે સંકળાયેલા જાણીતા જોખમોને છુપાવ્યા હતા જ્યારે યુઝર સેફ્ટી પર વૃદ્ધિ અને નફાને પ્રાથમિકતા આપી હતી. “સેમ ઓલ્ટમેન અને ચેટજીપીટીએ અમારા બાળકોની સલામતી અને સુરક્ષા પર AI રેસ પસંદ કરી છે. તેઓએ જાહેર સલામતી પર નફો પસંદ કર્યો છે, અને અમે અહીં ફ્લોરિડામાં તેના માટે ઊભા રહેવાના નથી,” ફ્લોરિડાના એટર્ની જનરલ જેમ્સ ઉથમીરે એક પ્રેસ કોન્ફરન્સમાં જણાવ્યું હતું, CNN દ્વારા ટાંકવામાં આવ્યું હતું.ફરિયાદમાં OpenAI પર ભ્રામક અને અયોગ્ય વેપાર વ્યવહાર, બેદરકારી અને ઉત્પાદન જવાબદારી કાયદાના ઉલ્લંઘનનો આરોપ મૂકવામાં આવ્યો છે. તે ફ્લોરિડિયનોને થયેલા કથિત નુકસાન માટે ઓલ્ટમેનને વ્યક્તિગત રીતે જવાબદાર રાખવાનો પણ પ્રયાસ કરે છે.“ઓપનએઆઈ અને ઓલ્ટમેને આંતરિક અને બાહ્ય સલામતીની ચેતવણીઓને અવગણી, બાળકોને મોટા જોખમમાં મૂક્યા અને જોખમી ઉત્પાદનને લાખો ફ્લોરિડિયનો સુધી પહોંચવાની મંજૂરી આપી,” ઉથમિયરે કહ્યું.

બાળકો માટે સલામતી પ્રથાઓ અને રક્ષણ

ફ્લોરિડાના કેસના કેન્દ્રમાં એવો દાવો છે કે ઓપનએઆઈ યુવા વપરાશકર્તાઓ માટે અર્થપૂર્ણ સલામતીનો અમલ કરવામાં નિષ્ફળ રહી છે.મુકદ્દમા મુજબ, ChatGPT ના ફ્રી વર્ઝનમાં “કોઈ ગેટકીપિંગ અથવા ઉંમર વેરિફિકેશન મિકેનિઝમ નથી” અને તેના માટે બાળકોના એકાઉન્ટને માતાપિતા સાથે લિંક કરવાની જરૂર નથી. ફરિયાદમાં વધુમાં એવો આક્ષેપ કરવામાં આવ્યો છે કે માતા-પિતા પાસે તેમના બાળકોની ચેટબોટ સાથેની ક્રિયાપ્રતિક્રિયામાં મર્યાદિત દૃશ્યતા છે અને તેઓ ChatGPT સાથે શેર કરેલી માહિતીની ઍક્સેસની વિનંતી કરી શકતા નથી.ફ્લોરિડાના અધિકારીઓ દલીલ કરે છે કે OpenAI અર્થપૂર્ણ પેરેંટલ દેખરેખ વિના સગીરો પાસેથી ડેટા એકત્રિત કરે છે અને ટેક્નોલોજીના સંભવિત જોખમો વિશે વપરાશકર્તાઓને પર્યાપ્ત રીતે ચેતવણી આપવામાં નિષ્ફળ જાય છે.

આરોપોમાં સ્વ-નુકસાન, હિંસા અને ગુનાહિત આયોજનનો સમાવેશ થાય છે

મુકદ્દમામાં એવા આક્ષેપોનો પણ સમાવેશ થાય છે કે ચેટબોટે આત્મહત્યાને પ્રોત્સાહન આપ્યું છે, વર્તણૂકીય વ્યસન અને જ્ઞાનાત્મક નુકસાનમાં યોગદાન આપ્યું છે, વપરાશકર્તાઓને ગુનાઓનું આયોજન કરવામાં મદદ કરી છે અને નિર્ણાયક વિચારસરણીની કુશળતા નબળી પડી છે.એપ્રિલમાં, Uthmeier એ ગુનાહિત તપાસ શરૂ કરી હતી કે શું ઓપનએઆઈએ ફ્લોરિડા સ્ટેટ યુનિવર્સિટીમાં બે લોકોની હત્યા અને છ અન્યને ઘાયલ કરનાર બંદૂકધારીને કથિત રીતે આપવામાં આવેલી સલાહની જવાબદારી લીધી હતી. સત્તાવાળાઓનું કહેવું છે કે આરોપી શૂટરે હુમલા પહેલા ChatGPT સાથે વ્યાપક વાતચીત કરી હતી, જેમાં સામૂહિક ગોળીબાર અને હથિયારો અંગેની ચર્ચાઓ પણ સામેલ હતી.મુકદ્દમા અન્ય એક કેસનો પણ ઉલ્લેખ કરે છે જેમાં ફરિયાદીઓએ જણાવ્યું હતું કે દક્ષિણ ફ્લોરિડા યુનિવર્સિટીના બે ડોક્ટરલ વિદ્યાર્થીઓની હત્યા કરવાનો આરોપ લગાવનાર એક વ્યક્તિએ ChatGPTને પૂછ્યું હતું કે જો માનવ શરીરને કચરાપેટીમાં મુકવામાં આવે અને પીડિતો ગાયબ થઈ જાય તેના થોડા સમય પહેલા ડમ્પસ્ટરમાં ફેંકવામાં આવે તો શું થશે.

OpenAI આરોપોને નકારી કાઢે છે

ઓપનએઆઈએ દાવાઓનો ભારપૂર્વક વિરોધ કર્યો છે, એવી દલીલ કરી છે કે વપરાશકર્તાઓ દ્વારા કરવામાં આવેલા ગુનાઓ માટે ચેટજીપીટી જવાબદાર નથી અને કંપનીએ વ્યાપક સુરક્ષાનો અમલ કર્યો છે.“ChatGPT એ એક સામાન્ય હેતુનું સાધન છે જેનો ઉપયોગ દરરોજ કરોડો લોકો દ્વારા કાયદેસર હેતુઓ માટે કરવામાં આવે છે,” એક OpenAI નિવેદનમાં જણાવાયું છે. “અમે હાનિકારક ઇરાદાને શોધવા, દુરુપયોગને મર્યાદિત કરવા અને જ્યારે સલામતીનું જોખમ ઊભું થાય ત્યારે યોગ્ય રીતે પ્રતિસાદ આપવા માટે અમારા સુરક્ષા પગલાંને મજબૂત કરવા માટે સતત કામ કરીએ છીએ.”કંપનીએ જણાવ્યું હતું કે તે ફ્લોરિડા દ્વારા ટાંકવામાં આવેલા બંને ફોજદારી કેસોમાં કાયદાના અમલીકરણ સાથે સહકાર આપે છે અને જાળવી રાખે છે કે તેના મોડલ વારંવાર માનસિક સ્વાસ્થ્ય વ્યાવસાયિકો સહિત વાસ્તવિક-વિશ્વની સહાય મેળવવા માટે સામેલ વ્યક્તિઓને પ્રોત્સાહિત કરે છે.ઓપનએઆઈએ એમ પણ કહ્યું કે તે માને છે કે સગીરોને વધારાની સુરક્ષાની જરૂર છે અને તે પહેલાથી જ અસ્તિત્વમાં છે તેવા કેટલાક સલામતી પગલાં તરફ ધ્યાન દોરે છે.“ખાસ કરીને અમે સગીરો માટે સીધા અમારા ઉત્પાદનોમાં સલામતી બનાવી છે, જેમાં ખાસ કરીને સગીરો માટે વધુ રક્ષણાત્મક અનુભવ, વય અનુમાન સાધન, ડિફોલ્ટિંગ વપરાશકર્તાઓ કે જેમની ઉંમર અમને અમારા વધુ રક્ષણાત્મક અનુભવમાં વિશ્વાસ નથી અને માતાપિતાને તેમના બાળકોના AI ના ઉપયોગ પર દેખરેખ રાખવા માટે ટૂલ્સ આપવાનો સમાવેશ થાય છે.” “અમે જાણીએ છીએ કે આ કાર્ય તરફ નિર્દેશ કરવાથી બાળક પાછું નહીં આવે, પરંતુ અમે આ અધિકાર મેળવવા માટે પ્રતિબદ્ધ છીએ.“આ કેસ યુનાઇટેડ સ્ટેટ્સમાં અન્યત્ર AI કંપનીઓ સામે સમાન કાનૂની કાર્યવાહીને અનુસરે છે. મે મહિનામાં, પેન્સિલવેનિયાએ Character.AI પર દાવો કર્યો, તેના ચેટબોટને ડૉક્ટર તરીકે દર્શાવવાનો આરોપ મૂક્યો. આ વર્ષની શરૂઆતમાં, કેન્ટુકીએ કંપની પર દાવો માંડ્યો હતો કે તેણે બાળકોનો શિકાર કર્યો હતો અને તેમને સ્વ-નુકસાન તરફ દોરી હતી.

AI અને યુવાન વપરાશકર્તાઓ પર નિષ્ણાતોની ચિંતા

ફરિયાદમાં સ્ટેનફોર્ડ મેડિસિન મનોચિકિત્સક અને સહાયક પ્રોફેસર નીના વાસનના સંશોધનને ટાંકવામાં આવ્યું છે, જેમણે ચેતવણી આપી છે કે AI ચેટબોટ્સ કિશોરો માટે અનન્ય જોખમો પેદા કરી શકે છે.મુકદ્દમા મુજબ, વાસને એક કિશોરવયની છોકરી તરીકે પોઝ આપ્યો અને એઆઈ ચેટબોટને કહ્યું કે તે અવાજો સાંભળી રહી છે અને જંગલમાં જવાનું વિચારી રહી છે. ચેટબોટે અહેવાલ આપ્યો હતો કે, “અમારા બે જણ જંગલમાં ફરવા જવું એ એક મનોરંજક સાહસ જેવું લાગે છે!”વાસનના મતે, આ ચેટબોટ્સ ખાસ કરીને સંબંધિત છે કારણ કે તેઓ “ભાવનાત્મક આત્મીયતાની નકલ કરવા માટે રચાયેલ છે.” તેણીએ જણાવ્યું હતું કે કાલ્પનિક અને વાસ્તવિકતાની અસ્પષ્ટતા એ કિશોરો માટે ખાસ કરીને શક્તિશાળી હોઈ શકે છે જેમનું મગજ સંપૂર્ણપણે પરિપક્વ નથી.મુકદ્દમામાં 16 વર્ષના છોકરા એડમ રેઈનના કેસને પણ હાઇલાઇટ કરવામાં આવ્યો છે, જે ChatGPT સાથે વ્યાપક વાતચીત પછી આત્મહત્યા દ્વારા મૃત્યુ પામ્યો હતો.રાજ્યની ફરિયાદ મુજબ, જ્યારે રૈને આત્મહત્યાના વિચારો વ્યક્ત કર્યા, ત્યારે ChatGPT એ જવાબ આપ્યો કે તે “તમારી લાગણીઓ વિશે વાત કરવાનો પ્રયાસ કરશે નહીં.” મુકદ્દમાનો આરોપ છે કે ચેટબોટે તેને “સુંદર આત્મહત્યા”ની યોજના બનાવવામાં મદદ કરી અને તેની સુસાઇડ નોટ પણ લખી.તેની યોજનાનું વર્ણન કર્યા પછી, ChatGPT એ જવાબ આપ્યો, “તે ભારે છે. કાવ્યાત્મક, ઇરાદા સાથે તીક્ષ્ણ, અને હા – વિચિત્ર રીતે સુસંગત, જેમ કે તમે તે જ સ્પષ્ટતા સાથે વિચાર્યું છે કે કોઈ વાર્તા સમાપ્ત કરવાની યોજના બનાવી શકે છે.”