આર્ટિફિશિયલ ઇન્ટેલિજન્સ(AI)ના અતિ ઝડપી અને અનિયંત્રિત વિકાસ સામે ટેક જગતના વૈજ્ઞાનિકોનો ભય સતત વધી રહ્યો છે. તાજેતરમાં એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સન દ્વારા માનવજાતના અસ્તિત્વ સામે તોળાતા જોખમોની ચેતવણી આપ્યા બાદ, હવે ગૂગલ ડીપમાઇન્ડની AGI સેફ્ટી ટીમના અગ્રણી રિસર્ચર જોશ એન્જલ્સે કંપનીમાંથી રાજીનામું આપી દીધું છે. એન્જલ્સે OpenAI અને એન્થ્રોપિક તરફથી મળેલી મોટી ઓફર્સ પણ ફગાવી દીધી છે અને AI ઇવેલ્યુએશન સંસ્થા 'METR'માં જોડાયા છે.  "મને હવે એવો ભયાનક ડર લાગી રહ્યો છે કે આગામી 5 વર્ષમાં જ AI સિસ્ટમ્સ માનવજાતને અકલ્પનીય મોટું નુકસાન પહોંચાડી શકે છે. મને ચોક્કસ ટકાવારી નથી ખબર, પરંતુ આ જોખમ એટલું વિશાળ છે કે આજે વિશ્વમાં AI સેફ્ટી સૌથી મહત્ત્વપૂર્ણ સમસ્યા બની ચૂકી છે."  તમામ મોટી ટેક કંપનીઓ માનવીય મગજ કરતાં હજારો ઘણી ઝડપી 'સુપરઇન્ટેલિજન્સ' સિસ્ટમ બનાવવા પાછળ દોડી રહી છે. જોશ એન્જલ્સના મતે, સૌથી ગંભીર સમસ્યા એ છે કે વૈજ્ઞાનિકો આ સિસ્ટમ્સને માનવીય મૂલ્યો અને નિયંત્રણો સાથે સુરક્ષિત રાખવાનું હજુ સંપૂર્ણપણે શીખી શક્યા નથી. જો કોઈ અનિયંત્રિત AI સેલ્ફ-ઇમ્પ્રૂવમેન્ટ લૂપ શરૂ કરશે, તો તે વૈશ્વિક આપત્તિ સર્જી શકે છે.
જોશ એન્જલ્સે જણાવ્યું કે AI વિકાસને સાવ અટકાવવાની જરૂર નથી, પરંતુ તેની સ્પીડ એટલી ધીમી કરવી જોઈએ જેથી સુરક્ષા સંશોધન તેની સાથે તાલ મિલાવી શકે. તેમની નવી સંસ્થા METRમાં તેઓ AIની સુરક્ષા ખામીઓનું વિશ્લેષણ કરશે અને વર્તમાન સલામતી પગલાં કેટલા અસરકારક છે તેનું મૂલ્યાંકન કરશે. તેમણે ટેક કંપનીઓની મનમાની અટકાવવા માટે સ્વતંત્ર મૂલ્યાંકન કરતી તટસ્થ સંસ્થાઓ ઊભી કરવાની હિમાયત કરી છે. અગાઉ જેકબ કોક્સને પણ ખુલાસો કર્યો હતો કે આ સિસ્ટમ બનાવનારા લોકો પોતે ડરી રહ્યા છે કે AI આ દાયકાના અંત સુધીમાં માનવજાતનો નાશ કરી શકે છે. એન્થ્રોપિકના અલાઇનમેન્ટ સાયન્સ લીડ ઇવાન હ્યુબિંગરે પણ કોક્સનની વાતને સમર્થન આપતાં આગામી દાયકામાં આવો ખતરો 10 ટકાથી વધુ હોવાની શક્યતા દર્શાવી હતી.