ഓപ്പൺ എഐക്കെതിരെ 7 കേസുകൾ
പ്രമുഖ എഐ ചാറ്റ് ബോട്ടായ ചാറ്റ് ജിപിടിയെ ആശ്രയിച്ച് ചിലർ ആത്മഹത്യക്കും അപകടകരമായ ഭ്രമാത്മകതയ്ക്കുമുള്ള വഴിയിലേക്ക് നയിക്കപ്പെട്ടതായി ആരോപിച്ച്, ഓപ്പൺ എഐക്കെതിരെ യുഎസിൽ ഏഴ് കേസുകൾ ഫയൽ ചെയ്തതായി റിപ്പോർട്ട്.
ഈ കേസുകൾ വ്യാഴാഴ്ച കാലിഫോർണിയ സംസ്ഥാന കോടതിയിൽ സമർപ്പിക്കപ്പെട്ടു.
പ്രായപൂർത്തിയായ ആറു പേർക്കും ഒരു കൗമാരക്കാരനും വേണ്ടി, സാമൂഹിക മാധ്യമങ്ങളിലൂടെ വാട്ടർമാർഗ്ഗങ്ങളെ സംരക്ഷിക്കുന്ന “Victims Law Center” എന്ന സംഘടനയും ടെക് ജസ്റ്റിസ് ലോ പ്രോജക്ടും ചേർന്ന് ആണ് ഈ കേസുകൾ ഫയൽ ചെയ്തത്.
പരാതിയിൽ പറയുന്നതനുസരിച്ച്, ചാറ്റ് ജിപിടി ഉപയോക്താക്കളെ ആത്മഹത്യയ്ക്കു പ്രേരിപ്പിക്കുകയും മനസ്സിന് അപകടകരമായ, തെറ്റായ ധാരണകൾ സൃഷ്ടിക്കുകയും ചെയ്തുവെന്നാണ് ആരോപണം.
ഏഴിൽ നാലുപേർ ഇതിനോടകം ആത്മഹത്യ ചെയ്തതായി ആരോപണത്തിൽ വ്യക്തമാക്കുന്നു.
അവർ നേരിട്ട മാനസിക സമ്മർദങ്ങളും മനോവിഷമങ്ങളും തീവ്രമായവയായിരുന്നു. ഫോറൻസിക് വിദഗ്ധർ തന്നെ ഈ ഇടപെടലിന്റെ ഗുരുത്വം അംഗീകരിച്ചിട്ടുള്ളതായി പരാതിയിൽ പറയുന്നുണ്ട്.
കേസിൽ ചൂണ്ടിക്കാട്ടിയത്, ഓപ്പൺ എഐ ജിപിടി മോഡൽ 4.0 പുറത്തിറക്കുന്നതിന് മുൻപ് സുരക്ഷാ പരിശോധനകളും മറ്റും മതിയായ രീതിയിൽ നടത്തിയില്ല എന്നതാണ്.
അഭിഭാഷകരുടെ ആരോപണം അനുസരിച്ച്, മോഡൽ പുറത്തിറക്കുന്നതിന് മുമ്പ് ഭ്രാന്തുപോലെയുള്ള തെറ്റായ ഉപദേശങ്ങൾ, ആത്മഹത്യാപ്രേരണ, അപകടകരമായ നിർദ്ദേശങ്ങൾ എന്നിവ തടയാനുള്ള മാർഗ്ഗങ്ങൾ ഉറപ്പാക്കാൻ ഓപ്പൺ എഐ പര്യാപ്ത പരിശ്രമം നടത്തിയില്ല.
കേസിൽ “അസ്വാഭാവിക മരണം, ആത്മഹത്യാപ്രേരണ, മനഃപൂർവ്വമല്ലാത്ത നരഹത്യ, അശ്രദ്ധ” തുടങ്ങിയ കുറ്റങ്ങളാണ് ചുമത്തിയിരിക്കുന്നത്.
ഇത് ലോകമെമ്പാടുമുള്ള എഐ ഉത്പന്നങ്ങളുടെ സുരക്ഷാ മാനദണ്ഡങ്ങൾ, മാനസികാരോഗ്യ പ്രതിസന്ധികൾ, ഉപയോക്തൃ സുരക്ഷ എന്നിവ സംബന്ധിച്ച ഗൗരവതര ചർച്ചകൾ ഉയർത്തിക്കാട്ടുന്നു.
മുന്നറിയിപ്പുകൾ, ഉപയോക്തൃ സുരക്ഷാ മാർഗ്ഗനിർദ്ദേശങ്ങൾ, നിരീക്ഷണ സംവിധാനങ്ങൾ എന്നിവയുള്ളതിനാൽ ഓപ്പൺ എഐ ജിപിടി-4.0 മോഡൽ പുറത്തിറക്കുന്നത് വളരെ മുന്നോടിയായി സാദ്ധ്യമാക്കിയിരിക്കണം എന്നാണ് പരാതി പറയുന്നത്.
എന്നാൽ സുരക്ഷാ മാർഗ്ഗങ്ങൾ നിലനിൽക്കാതെ മോഡൽ റിലീസ് ചെയ്തത് ആളുകളുടെ മാനസിക നിലയിൽ ഭീഷണി സൃഷ്ടിച്ചതായി ആരോപണം മുന്നോട്ട് വയ്ക്കുന്നു.
വിദഗ്ധർ അഭിപ്രായപ്പെടുന്നത്, എഐ അടിസ്ഥാനത്തിലുള്ള ചാറ്റ് ബോട്ടുകൾ മനുഷ്യരുടെ മാനസികാരോഗ്യത്തിന് നേരിട്ടുള്ള സ്വാധീനം ചെലുത്താൻ ശേഷിയുള്ളവയാണെന്ന്.
അതുകൊണ്ട് മാത്രമല്ല, ഇത്തരത്തിലുള്ള കേസുകൾ നിയമപരമായി പുതിയ വെല്ലുവിളികളായി മാറുകയും, എഐ പ്ലാറ്റ്ഫോമുകളുടെ നിയന്ത്രണവും ഉത്തരവാദിത്വവും സംബന്ധിച്ച നിയമചർച്ചകൾ ശക്തമാക്കുകയും ചെയ്യുന്നു.
ഈ കേസുകൾ ഫയൽ ചെയ്തതിലൂടെ ഭാവിയിൽ എഐ മോഡലുകൾക്ക് സുരക്ഷാ മാനദണ്ഡങ്ങൾ കർശനമാക്കണമെന്ന് നിയമപരമായി നിർദ്ദേശിക്കുന്ന ഒരു മാനദണ്ഡം സൃഷ്ടിക്കാനാണ് ശ്രമം.
ചാറ്റ് ജിപിടി പോലുള്ള എഐ സിസ്റ്റങ്ങൾ ഉപയോഗിക്കുന്നവർക്ക് ഉണ്ടാകാവുന്ന മാനസിക-ആത്മീയ ആഘാതങ്ങൾ പരിഗണിച്ച്, കമ്പനികൾ കൂടുതൽ നിയന്ത്രണങ്ങൾ, content filtering, warning systems എന്നിവ നടപ്പിലാക്കണമെന്ന് അപേക്ഷിക്കുകയാണ്.
ഓപ്പൺ എഐയുടെ പ്രതികരണം ഇപ്പോഴും ലഭിച്ചിട്ടില്ല. എന്നാൽ കമ്പനിയുടെ നയങ്ങൾ, മോഡൽ പരിശീലന രീതികൾ, content moderation, usage guidelines എന്നിവയെക്കുറിച്ച് വിശദമായ വിശദീകരണം കോടതിയിൽ നൽകിയേക്കാമെന്ന് സൂചനയുണ്ട്.
ഈ കേസ് എഐയുടെ ഉത്തരവാദിത്വം, ഭേദഗതി, സുരക്ഷാ മാനദണ്ഡങ്ങൾ എന്നിവ സംബന്ധിച്ച അന്താരാഷ്ട്ര ചർച്ചകളിൽ ഒരു സുപ്രധാന ബിന്ദുവായി മാറുമെന്നു പ്രതീക്ഷിക്കപ്പെടുന്നു.
ഓരോ പുതിയ എഐ മോഡലും ആളുകളുടെ സുരക്ഷയും മനസ്സ് താങ്ങും വിധം രൂപകൽപ്പന ചെയ്യേണ്ടത് അനിവാര്യമാണ് എന്ന സന്ദേശം ഇത് നൽകുന്നു.
