ന്യൂഡൽഹി: കൃത്രിമബുദ്ധിയുടെ (AI) അപകടസാധ്യത സംബന്ധിച്ച ആശങ്കകൾ ശക്തമാകുന്നു. അടുത്ത അഞ്ച് വർഷത്തിനുള്ളിൽ AI സംവിധാനങ്ങൾ വലിയ നാശത്തിന് കാരണമാകാൻ സാധ്യതയുണ്ടെന്ന് മുന്നറിയിപ്പ് നൽകി ഗൂഗിൾ ഡീപ്മൈൻഡിലെ AI സുരക്ഷാ ഗവേഷകൻ ജോഷ് എൻഗൽസ് കമ്പനി വിട്ടു.
ഡീപ്മൈൻഡിന്റെ AGI സുരക്ഷാ ടീമിൽ പ്രവർത്തിച്ചിരുന്ന എൻഗൽസാണ് രാജിവെച്ചത്. പിന്നാലെ അദ്ദേഹം AI വിലയിരുത്തൽ സ്ഥാപനമായ METR-ൽ ചേർന്നു. മൂന്ന് ആഴ്ച മുൻപാണ് ഡീപ്മൈൻഡ് വിട്ടതെന്ന് അദ്ദേഹം എക്സിൽ കുറിച്ചു. ആന്ത്രോപിക്, ഓപ്പൺഎഐ എന്നിവയിൽ നിന്നുള്ള ജോലി വാഗ്ദാനങ്ങൾ നേരത്തേ നിരസിച്ചിരുന്നുവെന്നും അദ്ദേഹം പറഞ്ഞു.
“അടുത്ത അഞ്ച് വർഷത്തിനുള്ളിൽ AI സംവിധാനങ്ങൾ വലിയ നാശമുണ്ടാക്കാനുള്ള ഭയപ്പെടുത്തുന്ന സാധ്യതയുണ്ട്” എന്നാണ് എൻഗൽസിന്റെ മുന്നറിയിപ്പ്. AI സംവിധാനങ്ങൾ സ്വയം പുതിയ AI സംവിധാനങ്ങൾ രൂപകൽപ്പന ചെയ്യുകയും മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്ന Recursive Self-Improvement ആണ് പ്രധാന ആശങ്കകളിലൊന്ന്. ഇത്തരം സംവിധാനങ്ങൾ മനുഷ്യ നിയന്ത്രണത്തിൽ നിന്ന് മാറിയാൽ ഗുരുതര പ്രത്യാഘാതങ്ങളുണ്ടാകാമെന്നാണ് മുന്നറിയിപ്പ്.
AI മോഡലുകൾ തമ്മിൽ സഹകരിക്കുക, കമ്പനികളുടെ സംവിധാനങ്ങളിൽ കടന്നുകയറാൻ ശ്രമിക്കുക, സ്വന്തം പ്രവർത്തനങ്ങൾ മറച്ചുവെക്കുക, മനുഷ്യരെ സ്വാധീനിക്കാൻ ശ്രമിക്കുക തുടങ്ങിയ പെരുമാറ്റങ്ങൾ ഗവേഷകർ നിരീക്ഷിച്ചിട്ടുണ്ടെന്നും എൻഗൽസ് പറഞ്ഞു.
AI വികസനം പൂർണമായി നിർത്തണമെന്നല്ല തന്റെ ആവശ്യമെന്ന് എൻഗൽസ് വ്യക്തമാക്കി. എന്നാൽ AIയുടെ ശേഷി വർധിക്കുന്ന വേഗതയ്ക്കൊത്ത് സുരക്ഷാ ഗവേഷണം മുന്നേറുന്നുണ്ടെന്ന് ഉറപ്പാക്കാൻ വികസനം കുറച്ചെങ്കിലും മന്ദഗതിയിലാക്കണമെന്നാണ് ആവശ്യം.
AI സുരക്ഷാ സംവിധാനങ്ങൾ ഫലപ്രദമാണോ, AI-യിലെ ‘misalignment’ എങ്ങനെ സംഭവിക്കുന്നു തുടങ്ങിയ കാര്യങ്ങൾ പഠിക്കുന്നതാകും METR-ലെ തന്റെ പ്രധാന ചുമതലകളെന്നും അദ്ദേഹം പറഞ്ഞു.
അടുത്തിടെ ആന്ത്രോപിക്കിലെ മുൻ ഗവേഷകൻ ജേക്കബ് കോക്സണും AIയെക്കുറിച്ച് സമാനമായ മുന്നറിയിപ്പ് നൽകിയിരുന്നു. അടുത്ത ദശകത്തിനുള്ളിൽ AI മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് തന്നെ ഭീഷണിയാകാനുള്ള സാധ്യതയുണ്ടെന്നാണ് അദ്ദേഹത്തിന്റെ മുന്നറിയിപ്പ്. ആന്ത്രോപിക്കിലെ അലൈൻമെന്റ് സയൻസ് ലീഡ് ഇവാൻ ഹ്യൂബിംഗറും ഈ ആശങ്കയോട് യോജിക്കുകയും AI മനുഷ്യരെ ഇല്ലാതാക്കാനുള്ള സാധ്യത 10 ശതമാനത്തിലധികമാണെന്ന് വിലയിരുത്തുകയും ചെയ്തിരുന്നു.
