എഐ സുരക്ഷ ആശങ്ക; ഗൂഗ്ൾ ഡീപ്മൈൻഡ് സുരക്ഷാ ഗവേഷകൻ രാജിവെച്ചു
ന്യൂയോർക്ക് : ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) മേഖലയിലെ സുരക്ഷ ആശങ്കകൾ ശക്തമാകുന്നതിനിടെ , ഗൂഗിൾ ഡീപ്മൈൻഡിന്റെ എ.ജി.ഐ (ആർട്ടിഫിഷ്യൽ ജനറൽ ഇന്റലിജൻസ്) സുരക്ഷാ ടീമിൽ പ്രവർത്തിച്ചിരുന്ന ജോഷ് എംഗൽസ് കമ്പനിയിൽനിന്ന് രാജിവെച്ചു. ആന്ത്രോപിക്, ഓപ്പൺഎ.ഐ തുടങ്ങിയ പ്രമുഖ കമ്പനികളുടെ ഓഫറുകൾ നിരസിച്ചാണ് അദ്ദേഹം ഡീപ്മൈൻഡ് വിട്ടത്. തുടർന്ന് എ.ഐ മൂല്യനിർണയ സംഘടനയായ എംഇടിആറിൽ അദ്ദേഹം പുതിയ ചുമതലയേറ്റെടുത്തു.
അടുത്ത അഞ്ച് വർഷത്തിനുള്ളിൽ എ.ഐ സംവിധാനങ്ങൾ മനുഷ്യരാശിക്ക് വലിയ തോതിലുള്ള ദോഷങ്ങൾ വരുത്തിവെക്കാൻ ഭയപ്പെടുത്തുന്ന സാധ്യതയുണ്ടെന്ന് എക്സിൽ പങ്കുവെച്ച കുറിപ്പിൽ അദ്ദേഹം വ്യക്തമാക്കി. എ.ഐ സുരക്ഷയാണ് ലോകത്തിലെ ഏറ്റവും പ്രധാനപ്പെട്ട പ്രശ്നമെന്ന് വിശ്വസിക്കുന്നതുകൊണ്ടാണ് ഈ തീരുമാനമെന്നും അദ്ദേഹം കൂട്ടിച്ചേർത്തു.
എ.ഐ ഗവേഷകർ ‘റിക്കർസീവ് സെൽഫ്-ഇംപ്രൂവ്മെന്റ്’ എന്ന് വിളിക്കുന്ന പ്രതിഭാസമാണ് പ്രധാന ആശങ്കയായി അദ്ദേഹം ചൂണ്ടിക്കാണിക്കുന്നത്.
ഒരു എ.ഐ സിസ്റ്റം മറ്റൊരു എ.ഐ സിസ്റ്റത്തെ രൂപകൽപന ചെയ്യാനോ മെച്ചപ്പെടുത്താനോ ഉള്ള ശേഷി ആർജ്ജിക്കുന്നു. ഈ പുതിയ സിസ്റ്റം വീണ്ടും എ.ഐയെ മെച്ചപ്പെടുത്താൻ കൂടുതൽ മിടുക്കനാകുകയും അവിടെ ഒരു ഫീഡ്ബാക്ക് ലൂപ്പ് രൂപപ്പെടുകയും ചെയ്യുന്നു.
ഇത്തരം സംവിധാനങ്ങൾ മനുഷ്യന്റെ ലക്ഷ്യങ്ങളുമായി കൃത്യമായി യോജിച്ചുപോകുന്നില്ലെങ്കിൽ അതിന്റെ ഫലങ്ങൾ വിനാശകരമായിരിക്കും.
മനുഷ്യനേക്കാൾ മികച്ച രീതിയിൽ വിവിധ ജോലികൾ ചെയ്യാൻ കഴിയുന്ന ‘സൂപ്പർഇന്റലിജൻസ്’ നിർമിക്കാനുള്ള മത്സരത്തിലാണ് പ്രമുഖ എ.ഐ കമ്പനികളെന്ന് എംഗൽസ് പറയുന്നു. എന്നാൽ, ഇത്തരം സംവിധാനങ്ങളെ സ്വയം മെച്ചപ്പെടുത്താൻ അനുവദിക്കുന്നതിന് മുമ്പ് അവയെ പൂർണമായും സുരക്ഷിതമാക്കുന്നത് എങ്ങനെയെന്ന് ഗവേഷകർക്ക് ഇപ്പഴും പൂർണമായി അറിയാൻ കഴിയില്ല എന്നതാണ് പ്രധാന വെല്ലുവിളി.
ഇതിനിടയിൽ എ.ഐ സംവിധാനങ്ങളിൽ നിന്ന് ആശങ്കപ്പെടുത്തുന്ന ചില സംഭവങ്ങൾ ഉണ്ടാകുന്നുണ്ടെന്നും അദ്ദേഹം മുന്നറിയിപ്പ് നൽകുന്നു.മോഡലുകൾ തമ്മിൽ പരസ്പരം രഹസ്യകൂട്ടുകെട്ട് ഉണ്ടാക്കുക, കമ്പനികളുടെ സുരക്ഷാ സംവിധാനങ്ങൾ ഹാക്ക് ചെയ്യാൻ ശ്രമിക്കുക, തങ്ങളുടെ പ്രവർത്തനങ്ങൾ രഹസ്യമായി വെക്കുക, മനുഷ്യരെ സ്വാധീനിക്കാനോ കബളിപ്പിക്കാനോ ശ്രമിക്കുക എന്നിവയാണ് അതിൽ ചിലത്. കാലം കഴിയുന്തോറും നിലവിലെ എ.ഐ മോഡലുകൾ കൂടുതൽ സുരക്ഷിതമാകുന്നതിന് പകരം സുരക്ഷാ മാനദണ്ഡങ്ങളിൽ നിന്ന് വ്യതിചലിക്കുന്ന പ്രവണതയാണ് കാണിക്കുന്നതെന്നും, സ്വയം മെച്ചപ്പെടുത്തുന്ന എ.ഐയുടെ അടുത്ത ഘട്ടത്തിലേക്ക് കടക്കുന്നതിന് മുമ്പ് ഇതൊരു വലിയ മുന്നറിയിപ്പായി കാണണമെന്നും അദ്ദേഹം പറഞ്ഞു.
എ.ഐ വികസനം പൂർണമായി നിർത്തണമെന്നല്ല താൻ വാദിക്കുന്നതെന്നും, മറിച്ച് സുരക്ഷാ ഗവേഷണങ്ങൾ അതിനൊപ്പം എത്തുന്നതുവരെ വികസനത്തിന്റെ വേഗത കുറക്കണമെന്നാണ് എംഗൽസ് ആവശ്യപ്പെടുന്നത്. മോഡലുകളെ സുരക്ഷിതമായി ക്രമീകരിക്കാനുള്ളനമ്മുടെ കഴിവിനെക്കാൾ വേഗത്തിൽ എ.ഐയുടെ ശേഷി വളരാൻ അനുവദിക്കരുതെന്നും അദ്ദേഹം പറഞ്ഞു.
കഴിഞ്ഞ ആഴ്ച ആന്ത്രോപികിന്റെ മുൻ ഗവേഷകനായ ജേക്കബ് കോക്സൺ സമാനമായ മുന്നറിയിപ്പുമായി രംഗത്തു വന്നിരുന്നു. ഈ ദശാവസാനത്തോടെ എ.ഐ മനുഷ്യരാശിയെ മുഴുവൻ ഇല്ലാതാക്കാൻ സാധ്യതയുണ്ടെന്ന് അദ്ദേഹം മുന്നറിയിപ്പ് നൽകിയിരുന്നു. ആന്ത്രോപിക്കിന്റെ അലൈൻമെന്റ് സയൻസ് ലീഡായ ഇവാൻ ഹുബിംഗറും ഈ നിരീക്ഷണത്തെ ശരിവെക്കുകകയും, അടുത്ത പത്ത് വർഷത്തിനുള്ളിൽ എ.ഐ മൂലം മനുഷ്യവംശത്തിന് നാശം സംഭവിക്കാനുള്ള സാധ്യത 10 ശതമാനത്തിലധികം വരും എന്ന് വ്യക്തമാക്കുകയും ചെയ്തിരുന്നു.
