എഐ ഇമേജ് എഡിറ്റുകളുടെ ദുരുപയോഗം; എക്സിന് നോട്ടീസയച്ച് കേന്ദ്രം, 72 മണിക്കൂറിനകം നടപടിയെടുത്ത് മറുപടി നൽകാനും നിർദേശം
ദില്ലി: എഐ ഇമേജ് എഡിറ്റുകളുടെ ദുരുപയോഗവുമായി ബന്ധപ്പെട്ട് സമൂഹമാധ്യമ പ്ലാറ്റ്ഫോമായ എക്സിന് (X) കേന്ദ്ര ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി മന്ത്രാലയം നോട്ടീസ് അയച്ചു.
എക്സിലെ എഐ ചാറ്റ്ബോട്ടായ ‘ഗ്രോക്’ ഉപയോഗിച്ച് സ്ത്രീകളുടെയും കുട്ടികളുടെയും ചിത്രങ്ങൾ അശ്ലീലവും ലൈംഗിക ചുവയുള്ളതുമായ രീതിയിൽ എഡിറ്റ് ചെയ്യുന്നതായി വ്യാപക പരാതികൾ ഉയർന്നതിന്റെ പശ്ചാത്തലത്തിലാണ് നടപടി.
കുട്ടികളുടേതടക്കം ചിത്രങ്ങൾ ലൈംഗിക സ്വഭാവത്തിൽ എഐ വഴി മാറ്റിമറിച്ചിട്ടും ഇത്തരം ഉള്ളടക്കം നിയന്ത്രിക്കാനോ നീക്കം ചെയ്യാനോ എക്സ് യാതൊരു ഫലപ്രദമായ നടപടിയും സ്വീകരിച്ചില്ലെന്ന് കേന്ദ്രം ചൂണ്ടിക്കാട്ടി.
എഐ ദുരുപയോഗത്തിനെതിരെ ശക്തമായ വിമർശനങ്ങൾ ഉയരുന്നതിനിടെയാണ് മന്ത്രാലയത്തിന്റെ ഇടപെടൽ. 72 മണിക്കൂറിനകം വിശദമായ മറുപടിയും സ്വീകരിച്ച നടപടികളുടെ വിവരങ്ങളും നൽകണമെന്നാണ് നിർദ്ദേശം.
2000-ലെ ഇൻഫർമേഷൻ ടെക്നോളജി ആക്ടും 2021-ലെ ഐടി ചട്ടങ്ങളും അനുസരിച്ച് പാലിക്കേണ്ട നിയമപരമായ ജാഗ്രത എക്സ് പാലിച്ചിട്ടില്ലെന്ന വിലയിരുത്തലിലാണ് നോട്ടീസ്.
സ്ത്രീകളെ ലക്ഷ്യമിട്ട് അശ്ലീലവും ലൈംഗികത പ്രകടമാക്കുന്നതുമായ ഉള്ളടക്കം സൃഷ്ടിക്കാനും പ്രചരിപ്പിക്കാനും ഗ്രോക് ദുരുപയോഗം ചെയ്യപ്പെടുന്നതിൽ മന്ത്രാലയം ഗുരുതര ആശങ്ക രേഖപ്പെടുത്തി.
ഗ്രോക് ഉപയോഗിച്ച് സിന്തറ്റിക് ചിത്രങ്ങളും വീഡിയോകളും സൃഷ്ടിച്ച് വ്യക്തികളുടെ സ്വകാര്യതയും അന്തസ്സും ലംഘിക്കുന്നുവെന്ന് നോട്ടീസിൽ വ്യക്തമാക്കുന്നു.
ഇത്തരം നിയമവിരുദ്ധ ഉള്ളടക്കം തടയുന്നതിനായി ഗ്രോകിന്റെ സാങ്കേതിക സംവിധാനങ്ങളും ഭരണ നിയന്ത്രണങ്ങളും സമഗ്രമായി അവലോകനം ചെയ്യണമെന്ന് കേന്ദ്രം നിർദേശിച്ചു.
കുറ്റകരമായ ഉള്ളടക്കം തെളിവുകൾ നശിപ്പിക്കാതെ ഉടൻ നീക്കം ചെയ്യണമെന്നും ആവശ്യപ്പെട്ടു.
സ്ത്രീ സുരക്ഷ ഉറപ്പാക്കാൻ എക്സിന്റെ എഐ സേവനങ്ങളിൽ ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങൾ ഉൾപ്പെടുത്തണമെന്നാവശ്യപ്പെട്ട് ശിവസേന (യുബിടി) എംപി പ്രിയങ്ക ചതുർവേദി നേരത്തെ കേന്ദ്രത്തെ സമീപിച്ചിരുന്നു.
ഇതിന് പിന്നാലെയാണ് കേന്ദ്ര ഐടി മന്ത്രാലയത്തിന്റെ നടപടി.
English Summary
India’s Ministry of Electronics and Information Technology has issued a notice to social media platform X over the alleged misuse of its AI chatbot Grok to create obscene and sexually explicit images of women and children. The ministry accused X of failing to comply with the IT Act 2000 and IT Rules 2021, and directed the company to remove illegal content immediately and respond within 72 hours. The notice also calls for a comprehensive review of Grok’s safeguards to prevent AI-driven violations of privacy, dignity, and child safety.
india-it-ministry-notice-x-grok-ai-image-abuse
X Platform, Grok AI, AI Image Abuse, IT Ministry Notice, Women Safety, Child Protection, IT Act 2000, Social Media Regulation
