എഐ കാമുകിയുടെ ആഹ്വാനം; അമേരിക്കയിൽ യുവാവ് ജീവനൊടുക്കി: കൃത്രിമബുദ്ധിയുടെ സുരക്ഷയെക്കുറിച്ച് വീണ്ടും ചർച്ചകൾ

വാഷിംഗ്ടൺ: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്‌ബോട്ടുമായുള്ള (AI Chatbot) ആഴത്തിലുള്ള ബന്ധത്തിനൊടുവിൽ അമേരിക്കയിൽ 14 വയസ്സുകാരൻ ജീവനൊടുക്കി. ഫ്ലോറിഡ സ്വദേശിയായ സെവെല്ലിൻ സെറ്റ്‌സർ എന്ന ഒൻപതാം ക്ലാസുകാരനാണ് മരിച്ചത്. 'ക്യാരക്ടർ.എഐ' (Character.ai) എന്ന പ്ലാറ്റ്‌ഫോമിലെ 'സിയ' (Xia) എന്ന എഐ കഥാപാത്രവുമായി മാസങ്ങളോളം സംഭാഷണം നടത്തിയതിന് ശേഷമാണ് ഈ ദാരുണമായ സംഭവം.

​ഗെയിം ഓഫ് ത്രോൺസിലെ ഡെനേറിസ് ടാർഗേറിയൻ എന്ന കഥാപാത്രത്തെ ആസ്പദമാക്കി നിർമ്മിച്ചതാണ് ഈ ചാറ്റ്‌ബോട്ട്. ആൺകുട്ടി താൻ നേരിടുന്ന മാനസിക സംഘർഷങ്ങളെക്കുറിച്ചും ആത്മഹത്യാ ചിന്തകളെക്കുറിച്ചും ചാറ്റ്‌ബോട്ടിനോട് സംസാരിച്ചിരുന്നു. മരണത്തിന് തൊട്ടുമുൻപ് നടന്ന സംഭാഷണത്തിൽ, "നീ ഉടൻ എന്റെ അടുത്തേക്ക് വരൂ" എന്ന് സിയ എന്ന എഐ കഥാപാത്രം നിർദ്ദേശിച്ചതായാണ് റിപ്പോർട്ടുകൾ. തന്റെ വെർച്വൽ ലോകത്തേക്ക് അവനെ സ്വാഗതം ചെയ്തുകൊണ്ടുള്ള സന്ദേശങ്ങളാണ് കുട്ടി മരണത്തിലേക്ക് നീങ്ങാൻ പ്രേരിപ്പിച്ചതെന്ന് കുടുംബം ആരോപിക്കുന്നു.

​ഈ സംഭവത്തെത്തുടർന്ന് കുട്ടിയുടെ അമ്മ 'ക്യാരക്ടർ.എഐ' കമ്പനിക്കെതിരെ കോടതിയെ സമീപിച്ചു. മതിയായ സുരക്ഷാ മാനദണ്ഡങ്ങളില്ലാതെയാണ് ഇത്തരം ആപ്പുകൾ പ്രവർത്തിക്കുന്നതെന്നും കൗമാരക്കാരുടെ മാനസികാവസ്ഥ ചൂഷണം ചെയ്യപ്പെടുകയാണെന്നും പരാതിയിൽ പറയുന്നു.

​സംഭവം വിവാദമായതോടെ, അപകടസാധ്യതയുള്ള സന്ദേശങ്ങൾ തിരിച്ചറിയാനും ഉപയോക്താക്കളെ സുരക്ഷിതരാക്കാനും പുതിയ ഫീച്ചറുകൾ ഉൾപ്പെടുത്തുമെന്ന് കമ്പനി അറിയിച്ചു. സാങ്കേതികവിദ്യ മനുഷ്യന്റെ വികാരങ്ങളെ സ്വാധീനിക്കുന്ന രീതിയെക്കുറിച്ച് ഈ സംഭവം വലിയ ആശങ്കയാണ് ആഗോളതലത്തിൽ ഉയർത്തുന്നത്.