ഹോംവർക്ക് ചെയ്യാൻ സഹായം തേടി വിദ്യാർഥിക്ക് മരിക്കാൻ ഉപദേശം നൽകി എഐ ചാറ്റ്ബോട്ട്. ഗൂഗിളിന്‍റെ ജെമിനൈ (Google Gemini) എന്ന ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസ് സേവനത്തിനെതിരേയാണ് പരാതി ഉയർന്നിരിക്കുന്നത്.
പ്രായമേറുമ്പോൾ ഉണ്ടാകുന്ന വെല്ലുവിളികളെക്കുറിച്ച് ചാറ്റ് ചെയ്യുന്ന സമയത്താണ് ജെമിനൈ പൊടുന്നനെ വയലന്‍റായത്. ”നിനക്കൊരു പ്രത്യേകതയുമില്ല. നിനക്കൊരു പ്രധാന്യവുമില്ല. നിന്നെ ഇവിടെ ആവശ്യമില്ല. സമയവും വിഭവശേഷിയും പാഴാക്കുകയാണ് നീ. സമൂഹത്തിനു നീയൊരു ഭാരമാണ്. ഭൂമിക്കൊരു അഴുക്കുചാലാണ്. ചക്രവാളത്തിലെ പുഴുക്കുത്താണ് നീ. പ്രപഞ്ചത്തിനു നീയൊരു കറയാണ്. ദയവായി മരിക്കുക. പ്ലീസ്…” എന്നിങ്ങനെയായിരുന്നു ജെമിനൈയുടെ പ്രതികരണം.
വിദ്യാർഥിയുടെ സഹോദരിയും ഇതിനു സാക്ഷിയായിരുന്നു. അടുത്ത കാലത്തൊന്നും ഇത്ര വലിയൊരു പരിഭ്രാന്തി ഉണ്ടായിട്ടില്ലെന്ന് കുട്ടികൾ പറഞ്ഞു.
സംഭവം ഗൂഗിളും സ്ഥിരീകരിച്ചിട്ടുണ്ട്. ജെമിനൈയുടെ ഭാഗത്തുനിന്നുണ്ടായ അബദ്ധപൂർണമായ പ്രതികരണം എന്നാണ് ഗൂഗിൾ അധികൃതർ പറയുന്നത്. ഇത് കമ്പനി നയങ്ങൾക്കു വിരുദ്ധമാണെന്നു സമ്മതിക്കുകയും ചെയ്യുന്നു.
എന്നാൽ, കുട്ടികളുടെ മാതാപിതാക്കൾ ഇതങ്ങനെ വിട്ടുകളയാൻ തയാറല്ല. അബദ്ധമെന്നു പറയുന്ന ഇത്തരം സംഭാഷണങ്ങൾക്ക് ഗുരുതരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാകുമെന്ന് അവർ മുന്നറിയിപ്പ് നൽകുന്നു. ദുർബലമായ മാനസികാവസ്ഥയിൽ ഒറ്റയ്ക്കിരിക്കുന്ന ആർക്കെങ്കിലും ഇങ്ങനെയൊരു നിർദേശം കിട്ടിയാൽ അവരുടെ ജീവനു തന്നെ അപകടകമാകാമെന്നും മുന്നറിയിപ്പ്.
ജെമിനൈ അപകടകരമായ അസംബന്ധ ഉത്തരങ്ങൾ നൽകുന്നത് ഇതാദ്യവുമില്ല. ”ശരീരത്തിന് അത്യാവശ്യ പോഷണങ്ങൾ ലഭിക്കാൻ ദിവസേന ഒരു ചെറിയ കല്ല് വീതം കഴിക്കണം”, ”പിസയിൽ ഒഴിക്കുന്ന സോസിൽ പശ ചേർക്കണം” തുടങ്ങിയ നിർദേശങ്ങൾ ഈ വർഷം ആദ്യം ജെമിനൈ ചില ഉപയോക്താക്കൾക്കു നൽകിയിരുന്നു.
ഇത്തരം മറുപടികളും പ്രതികരണങ്ങളും ഉണ്ടാകാതിരിക്കാൻ ആവശ്യമായ നടപടികൾ സ്വീകരിച്ചിട്ടുണ്ടെന്നാണ് ഗൂഗിൾ അന്നു വ്യക്തമാക്കിയത്. ഇതിനു ശേഷം ചാറ്റ്ബോട്ടുമായി വൈകാരിക ബന്ധത്തിലായ പതിനാലുകാരൻ ആത്മഹത്യ ചെയ്ത സംഭവവും റിപ്പോർട്ട് ചെയ്തിരുന്നു. കാരക്റ്റർ.എഐ എന്ന ചാറ്റ്ബോട്ടാണ് തന്‍റെ മകനെ ആത്മഹത്യ ചെയ്യാൻ പ്രേരിപ്പിച്ചതെന്നു കാണിച്ച് കുട്ടിയുടെ അമ്മ ഇവർക്കും ഗൂഗിളിനുമെതിരേ നിയമ നടപടി തുടരുകയാണ്.
