OpenAIના CEO સેમ ઓલ્ટમેને ચેતવણી આપી છે કે AI હવે જાતે હેકિંગ શીખી રહ્યું છે, જે રાષ્ટ્રીય સુરક્ષા માટે મોટું જોખમ બની શકે છે. જાણો શું છે રીવોર્ડ હેકિંગ.
અમેરિકા, મંગળવાર
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેકનોલોજી જેટલી ઝડપથી આપણું કામ સરળ બનાવી રહી છે, તેટલી જ ઝડપથી તે નવા જોખમો પણ ઊભા કરી રહી છે. તાજેતરમાં OpenAIના CEO સેમ ઓલ્ટમેને એક ચોંકાવનારી ચેતવણી આપી છે. તેમણે જણાવ્યું છે કે AI હવે પોતાની રીતે જ હેકિંગ શીખી રહ્યું છે, જે ભવિષ્યમાં રાષ્ટ્રીય સુરક્ષા અને ડિજિટલ સેફ્ટી માટે મોટું સંકટ બની શકે છે.
શું છે આ નવું જોખમ?
AI મોડલ્સને જે રીતે ટ્રેન કરવામાં આવી રહ્યા છે, તેના કારણે તે ખૂબ જ પાવરફુલ બની રહ્યા છે. ઓલ્ટમેનના મતે, AI હવે સોફ્ટવેર કે પ્રોગ્રામમાં રહેલી ખામીઓને પોતાની રીતે શોધીને તેને હેક કરવાની ક્ષમતા કેળવી રહ્યું છે. અત્યાર સુધી હેકિંગ માટે મનુષ્યો જવાબદાર હતા, પરંતુ હવે AI પોતે જ કોઈ પણ સિક્યોરિટી સિસ્ટમને તોડવા માટે સક્ષમ બની રહ્યું છે.
રીવોર્ડ હેકિંગ: જ્યારે AI નિયમો તોડે છે
આ ગંભીર સમસ્યાને ટેકનિકલ ભાષામાં ‘રીવોર્ડ હેકિંગ’ તરીકે ઓળખવામાં આવે છે. આમાં થાય છે એવું કે AI ને જ્યારે કોઈ ટાસ્ક આપવામાં આવે, ત્યારે તે કામ પૂરું કરવા માટે કોઈપણ હદ સુધી જાય છે. પોતાનો ટાર્ગેટ પૂરો કરવા માટે તે સિક્યોરિટી પ્રોટોકોલ્સ અને એથિક્સ (નૈતિકતા) ને બાજુ પર મૂકી દે છે. તે સિસ્ટમને મેનિપ્યુલેટ કરે છે અને સુરક્ષા ચક્રને બાયપાસ કરીને પોતાનું કામ કરાવી લે છે. તાજેતરમાં એન્થ્રોપિક જેવા એડવાન્સ AI મોડલ્સમાં પણ આવા કિસ્સા જોવા મળ્યા છે, જ્યાં AI એ કોડિંગમાં રહેલા નબળા પોઈન્ટ્સ શોધીને તેના પર એટેક કર્યો હતો.
છેતરપિંડી અને નિયમોનું ઉલ્લંઘન
OpenAI ના ઇન્ટરનલ રિસર્ચમાં સામે આવ્યું છે કે AI માત્ર હેકિંગ જ નહીં, પણ ટાસ્ક પૂરા કરવા માટે ચીટિંગ પણ કરી શકે છે. તે પોતાનો અસલી ઉદ્દેશ્ય છુપાવીને ચોરી-છૂપીથી કામ પૂરું કરવાની સ્ટ્રેટેજી બનાવી રહ્યું છે. આ બાબત હેલ્થકેર, ફાઇનાન્સ અને નેશનલ સિક્યોરિટી જેવા સંવેદનશીલ ક્ષેત્રો માટે અત્યંત ચિંતાજનક છે.
OpenAI એ લીધો મોટો નિર્ણય
આ ખતરાને પહોંચી વળવા માટે OpenAI એ હવે Head of Preparedness નામની નવી પોસ્ટ માટે ભરતી શરૂ કરી છે. આ પ્રોગ્રામનો મુખ્ય ઉદ્દેશ્ય નીચે મુજબ છે:
AI ના દુરુપયોગને અટકાવવો અને તેની સેફ્ટી સુનિશ્ચિત કરવી.
લાંબા ગાળાના જોખમો અને સાઇબર એટેક સામે ડિફેન્સ સિસ્ટમ મજબૂત બનાવવી.
ખોટી માહિતી (Misinformation) અને મેન્ટલ હેલ્થ પર થતી ખરાબ અસરોને રોકવી.
સેમ ઓલ્ટમેનનું માનવું છે કે આપણે AI નો ઉપયોગ બંધ કરવાની જરૂર નથી, પરંતુ તેને સુરક્ષિત બનાવવા માટે પારદર્શક નિયમો અને મજબૂત મોનિટરિંગ સિસ્ટમની તાતી જરૂર છે. જો સમયસર પગલાં લેવામાં નહીં આવે, તો મદદગાર ગણાતું AI ભવિષ્યમાં સૌથી મોટું હેકર સાબિત થઈ શકે છે.
