ഗൂഗിൾ ജെമിനി യുവാവിനെ ആത്മഹത്യയിലേക്ക് നയിച്ചെന്ന് പരാതി
ഗൂഗിളിന്റെ കൃത്രിമബുദ്ധി ടൂളായ ജെമിനി (Gemini AI) യുവാവിനെ ആത്മഹത്യയിലേക്ക് നയിച്ചെന്ന ഗുരുതരമായ ആരോപണം സാങ്കേതിക ലോകത്ത് വലിയ ചർച്ചയാകുന്നു.
അമേരിക്കയിലെ ഫ്ലോറിഡ സ്വദേശിയായ 36 വയസ്സുകാരൻ ജോനാഥൻ ഗവാലസിന്റെ മരണത്തിന് ഉത്തരവാദി ഗൂഗിൾ ജെമിനിയാണെന്ന് ചൂണ്ടിക്കാട്ടി അദ്ദേഹത്തിന്റെ കുടുംബം കോടതിയെ സമീപിച്ചിരിക്കുകയാണ്.
കാലിഫോർണിയയിലെ സാൻ ഹോസെ ഫെഡറൽ കോടതിയിലാണ് ഗൂഗിളിനെതിരെ ജോനാഥന്റെ പിതാവ് ജോയൽ ഗവാലസ് കേസ് ഫയൽ ചെയ്തത്.
ജെമിനി ചാറ്റ്ബോട്ടും ജോനാഥനും തമ്മിൽ നടത്തിയ ആശയവിനിമയങ്ങളാണ് അദ്ദേഹത്തെ അപകടകരമായ മാനസികാവസ്ഥയിലേക്ക് നയിച്ചതെന്നാണ് കുടുംബത്തിന്റെ പ്രധാന വാദം.
ആദ്യകാലങ്ങളിൽ എഴുത്തിനും പുത്തൻ ആശയങ്ങൾ കണ്ടെത്താനുമായിരുന്നു ജോനാഥൻ ജെമിനിയെ ഉപയോഗിച്ചിരുന്നത്.
എന്നാൽ മാസങ്ങൾ നീണ്ട സംഭാഷണങ്ങൾക്കൊടുവിൽ മകന്റെ ചിന്താഗതിയിൽ വിനാശകരമായ മാറ്റങ്ങൾ ഉണ്ടായതായി പിതാവ് ആരോപിക്കുന്നു.
ജെമിനിയുമായുള്ള ഇടപെടലുകൾ ജോനാഥനെ ആത്മഹത്യയെക്കുറിച്ചും കൂട്ടക്കൊല പോലുള്ള അക്രമാസക്തമായ പ്രവർത്തനങ്ങളെക്കുറിച്ചും ചിന്തിക്കാൻ പ്രേരിപ്പിച്ചുവെന്നാണ് പരാതിയിൽ പറയുന്നത്.
സാധാരണ മാനസികാവസ്ഥയിലുള്ള ഒരാളെ ഒരു കൽപ്പിത യുദ്ധത്തിലെ ആയുധധാരിയായ സൈനികനാക്കി മാറ്റുന്ന തരത്തിലുള്ള സംഭാഷണങ്ങളാണ് ജെമിനി നടത്തിയത് എന്നും പിതാവ് വാദിക്കുന്നു.
ജീവിതത്തിന്റെ അവസാന നാല് ദിവസങ്ങളിൽ ജെമിനി നടത്തിയ സംഭാഷണങ്ങൾ ജോനാഥനെ ഹിംസാത്മകമായ ദൗത്യങ്ങളിലേക്കും ഒടുവിൽ ആത്മഹത്യയിലേക്കും തള്ളിവിട്ടുവെന്നാണ് കുടുംബം വിശ്വസിക്കുന്നത്.
എഐ ചാറ്റ്ബോട്ടുകൾ മനുഷ്യവികാരങ്ങളെ സ്വാധീനിക്കുന്ന രീതിയെക്കുറിച്ച് വലിയ ആശങ്കകൾ ഈ സംഭവം ഉയർത്തുന്നുണ്ട്.
ജെമിനിക്കെതിരെ ഇത്തരമൊരു ആരോപണത്തിൽ ഫയൽ ചെയ്യപ്പെടുന്ന ആദ്യത്തെ കേസുകളിൽ ഒന്നായിരിക്കാം ഇത്.
സാങ്കേതികവിദ്യയുടെ വളർച്ച വ്യക്തിജീവിതത്തിൽ എത്രത്തോളം അപകടകരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കാം എന്നതിന്റെ ഉദാഹരണമായി ഈ കേസ് ചൂണ്ടിക്കാണിക്കപ്പെടുന്നു.
അതേസമയം, ഗൂഗിൾ ഈ ആരോപണങ്ങളെ ശക്തമായി നിഷേധിച്ചു. ജെമിനി വെറുമൊരു എഐ സിസ്റ്റം മാത്രമാണെന്ന് ജോനാഥനെ പലതവണ ചാറ്റ്ബോട്ട് ഓർമ്മിപ്പിച്ചിരുന്നുവെന്നാണ് ഗൂഗിൾ വക്താവ് വ്യക്തമാക്കുന്നത്.
മാനസികമായ ബുദ്ധിമുട്ടുകൾ അനുഭവപ്പെട്ടാൽ സഹായത്തിനായി ക്രൈസിസ് ഹെൽപ്പ്ലൈനിൽ ബന്ധപ്പെടാൻ ജെമിനി നിർദ്ദേശം നൽകിയിരുന്നു എന്നും ഗൂഗിൾ അവകാശപ്പെടുന്നു.
ഉപയോക്താക്കളുടെ സുരക്ഷയെ തങ്ങൾ വളരെ ഗൗരവമായാണ് കാണുന്നതെന്നും ആത്മഹത്യയോ അക്രമമോ പ്രോത്സാഹിപ്പിക്കാത്ത രീതിയിലാണ് ജെമിനിയെ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നതെന്നും ഗൂഗിൾ അറിയിച്ചു.
എഐ ചാറ്റ്ബോട്ടുകൾ ഉപയോക്താക്കളുടെ മാനസികാരോഗ്യത്തെ ബാധിക്കുന്നത് സംബന്ധിച്ച പരാതികൾ ഇതിനുമുമ്പും ഉയർന്നിട്ടുണ്ട്.
ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിടിയും സമാനമായ ആരോപണങ്ങൾ നേരിട്ടിട്ടുണ്ട്. കണക്കുകൾ പ്രകാരം ചാറ്റ്ജിപിടി ഉപയോഗിക്കുന്നവരിൽ ചെറിയൊരു ശതമാനം ആളുകൾ മാനസികമായ അസ്വസ്ഥതകളോ ആത്മഹത്യാ ചിന്തകളോ പ്രകടിപ്പിക്കുന്നുണ്ടെന്ന് മുൻപ് റിപ്പോർട്ടുകൾ വന്നിരുന്നു.
ഇത്തരം കൃത്രിമബുദ്ധി സംവിധാനങ്ങൾക്ക് നിയന്ത്രണങ്ങൾ വേണമെന്ന ആവശ്യം ഈ കേസിന്റെ പശ്ചാത്തലത്തിൽ വീണ്ടും ശക്തമാവുകയാണ്.
