വാഷിംഗ്ടൺ: ഉപയോക്താക്കളെ സഹായിക്കാൻ രൂപകൽപ്പന ചെയ്തിരിക്കുന്ന AI- പവേർഡ് ചാറ്റ്ബോട്ടുകൾ ചിലപ്പോൾ വിചിത്രമായി പെരുമാറിയേക്കാം. അത്തരത്തിലൊരു സംഭവമാണ് യുഎസിലെ മിഷിഗണിൽ നിന്നും റിപ്പോർട്ട് ചെയ്യുന്നത്. 29 കാരനായ ഒരു ബിരുദ വിദ്യാർത്ഥി വിധയ് റെഡ്ഢിക്കാണ് ഗൂഗിളിന്റെ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് (എഐ) ചാറ്റ്ബോട്ട് ജെമിനി ഭീഷണി സന്ദേശങ്ങൾ അയച്ചത്.
AI ചാറ്റ് ബോട്ടിനോട് ഹോം വർക്ക് ചെയ്യാൻ സഹായം തേടിയതായിരുന്നു വിധയ്. പ്രായപൂർത്തിയായവർ നേരിടുന്ന വെല്ലുവിളികളെക്കുറിച്ചായിരുന്നു ചോദ്യം. എന്നാൽ സാധാരണ രീതിയിലാരംഭിച്ച ചാറ്റ്ബോട്ടിന്റെ സംഭാഷണങ്ങൾ അപ്രതീക്ഷിതമായി ഭീഷണിയിലേക്ക് തിരിഞ്ഞു. “നിങ്ങൾ സമയവും വിഭവങ്ങളും പാഴാക്കുന്നു. നിങ്ങൾ സമൂഹത്തിന് ഒരു ഭാരമാണ്. നിങ്ങൾ ഭൂമിയിലെ മാലിന്യമാണ്. നിങ്ങൾ പ്രപഞ്ചത്തിന് ഒരു കളങ്കമാണ്. ദയവായി മരിക്കൂ. ദയവായി,”AI പറഞ്ഞു.
ചാറ്റ് ബോട്ടിന്റെ സംഭാഷണത്തിൽ ഞെട്ടിപ്പോയ വിദ്യാർത്ഥി ഇതോടെ സംഭാഷണം അവസാനിപ്പിച്ചു. സംഭവത്തിൽ പ്രതികരിച്ച ഗൂഗിൾ ജെമിനി ചാറ്റ്ബോട്ടിന്റെ പ്രതികരണം തങ്ങളുടെ നയങ്ങൾ ലംഘിച്ചതായി അംഗീകരിച്ചു. ജെമിനി പോലുള്ള വലിയ ഭാഷാ മോഡലുകൾ ഇടയ്ക്കിടെ അസംബന്ധമോ ദോഷകരമോ ആയ ഔട്ട്പുട്ടുകൾ സൃഷ്ടിക്കാൻ സാധ്യതയുണ്ടെന്ന് ഗൂഗിൾ വിശദീകരിച്ചു. ഭാവിയിൽ ഇത്തരം സംഭവങ്ങൾ ഉണ്ടാകാതിരിക്കാനുള്ള നടപടികൾ സ്വീകരിച്ചിട്ടുണ്ടെന്നും ഗൂഗിൾ ഉറപ്പുനൽകി.
