‘കുഞ്ഞുങ്ങളുടെ നഗ്നത വരെ? പോൺ ഫാക്ടറിയാകുന്ന മസ്കിന്‍റെ ഗ്രോക്

2025 ഡിസംബർ അവസാനമായിരുന്നു ഡിജിറ്റൽ സാങ്കേതികവിദ്യയുടെ ഏറ്റവും വലിയ ദുരുപയോഗം കണ്ട് ലോകമാകെ ഞെട്ടിയത്. ഇലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള എഐ ചാറ്റ്ബോട്ട് ആയ 'ഗ്രോക്കിന്' (Grok) ഉപയോഗിച്ച് സ്ത്രീകളുടെയും കുട്ടികളുടെയും അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കുകയും അത് സോഷ്യൽ മീഡിയ പ്ലാറ്റ്ഫോമായ എക്സിലൂടെ പ്രചരിക്കുകയും ചെയ്തു.

അനുമതിയില്ലാത സ്ത്രീകളുടെയും കുട്ടികളുടെയും ലൈംഗികച്ചുവയുള്ള ചിത്രങ്ങൾ വ്യാപകമായി ഇത്തരത്തിൽ നിർമിക്കപ്പെട്ടതോടെയാണ് ഇതിന്‍റെ അപകടത്തെ കുറിച്ച് പലരും ബോധവാന്മാരായത്. എക്സിൽ പോസ്റ്റ് ചെയ്ത ചിത്രങ്ങൾ ടാഗ് ചെയ്തുകൊണ്ടായിരുന്നു ഗ്രോക്കിനോട് അവ എഡിറ്റു ചെയ്തു തരാൻ ആളുകൾ ആവശ്യപ്പെട്ടത്. ആദ്യം സെലിബ്രിറ്റികളുടെ ചിത്രങ്ങളാണ് ഇത്തരത്തിൽ നിർമ്മിച്ചതെങ്കിൽ പിന്നീടത് സാധാരണക്കാരായ ആളുകളെ കൂടി ബാധിച്ചതോടെ മസ്കിനെതിരെയും ഗ്രോകിനെതിരെയും വലിയ രീതിയിൽ പ്രതിഷേധം ഉയര്‍ന്നു.

ഗ്രോക്കിലുണ്ടായിരുന്ന 'സ്പൈസി മോഡ്' എന്ന ഓപ്ഷനായിരുന്നു എല്ലാത്തിനും തുടക്കമിട്ടത്. പ്രോംപ്റ്റുകള്‍ നൽകിയാൽ യഥാർഥ വ്യക്തികളുടെ ഏത് രീതിയിലുള്ള അശ്ലീല ചിത്രങ്ങൾ ഗ്രോക് നിര്‍മിച്ചു നൽകി. ഇതോടെ ഇന്ത്യയടക്കമുള്ള രാജ്യങ്ങൾ ശക്തമായ ഭാഷയിൽ എക്സിനെയും മസ്കിനെയും വിമർശിക്കുകയും ഇത്തരം ചിത്രങ്ങൾ എത്രയും പെട്ടന്ന് നീക്കം ചെയ്യാൻ മുന്നറിയിപ്പ് നൽകുകയും ചെയ്തു..

മണിക്കൂറിൽ 6,700-ലധികം അശ്ലീല ചിത്രങ്ങൾ

Grok-ന്റെ സ്വതന്ത്ര ആപ്പിലും വെബ്സൈറ്റിലും നിർദേശങ്ങൾ ടെക്സ്റ്റ് രൂപത്തിൽ നൽകി അശ്ലീല ചിത്രങ്ങളും വിഡിയോളും ആളുകൾ നിർമിച്ചു. അതിനേക്കാള്‍ ഞെട്ടിക്കുന്നതായിരുന്നു വെറും അഞ്ചുദിവസത്തിനുള്ളില്‍ ഗ്രോക് നിര്‍മിച്ച 20,000 ചിത്രങ്ങളില്‍ രണ്ടു ശതമാനം ചിത്രങ്ങളും 18 വയസിന് താഴെയുള്ളവരാണെന്ന കണ്ടെത്തല്‍.സന്നദ്ധ സംഘടനയായ ഫൊറന്‍സിക്സ് ആണ് ഡിസംബര്‍ 25 മുതല്‍ ജനുവരി ഒന്നുവരെയുള്ള ചിത്രങ്ങള്‍ വിശകലനം ചെയ്ത് ഈ കണ്ടെത്തല്‍ നടത്തിയത്.

ബ്രസീലിയൻ സംഗീതജ്ഞ ജൂലി യുകാരിയുടെ ഫോട്ടോയാണ് ബിക്കിനി രൂപത്തിലാക്കി എക്സിൽ വ്യാപകമായി പ്രചരിച്ച ചിത്രങ്ങളിലൊന്ന്.പുതുവത്സര രാത്രിയില്‍ അവര്‍ എക്സില്‍ പങ്കുവെച്ച ഫോട്ടോയാണ് ഗ്രോക്കിലൂടെ എഡിറ്റ് ചെയ്ത് പ്രചരിച്ചത്. നെറ്റ്ഫ്ലിക്സ് സീരിസായ സ്ട്രെയ്ഞ്ചര്‍ തിങ്സിലെ കഥാപാത്രമായ പതിനാലുകാരിയുടെ ചിത്രവും സമാനമായി നിര്‍മ്മിക്കപ്പെട്ടു. ഇതും വ്യാപകമായി പ്രചരിച്ചു.

പിന്നാലെ തന്‍റെ കുട്ടിയുടെ പിതാവ് ഇലോണ്‍ മസ്കാണെന്ന് വെളിപ്പെടുത്തിയ എഴുത്തുകാരി ആഷ്‍ലി സെന്‍റ് ക്ലെയറിന്‍ ബാല്യകാല ഫോട്ടോകളും ഇത്തരത്തിൽ നിർമിക്കപ്പെട്ടു.ഇതിനെതിരെ നിയമനടപടിയുമായി മുന്നോട്ട് പോകുമെന്ന് അവര്‍ അറിയിക്കുകയും ചെയ്തു.ഗ്രോക്കിന്‍റെ നടപടി ഭയപ്പെടുത്തുന്നതാണെന്നും അവര്‍ സോഷ്യല്‍മീഡിയ പോസ്റ്റിലൂടെ പറഞ്ഞു. പിന്നാലെ നിരവധി രാഷ്ട്രീയക്കാർ,സെലിബ്രിറ്റികൾ,മാധ്യമപ്രവർത്തകർ,കുട്ടികള്‍ തുടങ്ങിയവരും ഈ 'ഡിജിറ്റൽ റേപ്പിന്' വിധേയരായി.

സ്വന്തം ബിക്കിനി ചിത്രം നിര്‍മിച്ച് രസിച്ച മസ്ക്

യൂസർമാരുടെ പിഴവാണെന്നായിരുന്നു മസ്ക് ആദ്യം ഈ വിവാദത്തോട് പ്രതികരിച്ചത്. കുട്ടികളുടെ നഗ്ന ചിത്രങ്ങൾ നിർമിക്കുന്നത് തൻറെ ശ്രദ്ധയിൽപ്പെട്ടിട്ടില്ലെന്നും മസ്ക് വാദിച്ചു.പിന്നാലെ ഗ്രോക്ക് ഉപയോഗിച്ച് തന്‍റെ സ്വന്തം ബിക്കിനി ചിത്രം നിര്‍മിക്കുകയും 'പെര്‍ഫെക്ട്' എന്ന അടിക്കുറിപ്പോടെ അത് എക്സില്‍ പോസ്റ്റ് ചെയ്യുകയും ചെയ്തു.ഇതും ഏറെ വിവാദമായി. മസ്ക് അശ്ലീല ചിത്രങ്ങള്‍ നിര്‍മിക്കുന്നതിനെ പിന്തുണക്കുകയാണെന്നും ഇത്രയും ഗൗരവകരമായ വിഷയത്തെ വളരെ നിസാരമായി കണ്ടെന്നും വിമര്‍ശനം ഉയര്‍ന്നു.

ലോകത്തിന്‍റെ വിവിധ കോണുകളില്‍ നിന്ന് പ്രതിഷേധം കനത്തതോടെ ചിത്രങ്ങള്‍ നിര്‍മിക്കാനും അവയില്‍ മാറ്റം വരുത്താനുമുള്ള സൗകര്യം പണമടച്ച് വരിക്കാര്‍ ആയവര്‍ക്ക് മാത്രമാണെന്ന് ഗ്രോക് എക്സ് ഉപയോക്താക്കളെ അറിയിച്ചു. എക്സിലെ പോസ്റ്റുകള്‍ക്കും കമന്‍റുകള്‍ക്കും മറുപടിയായി ഗ്രോക് ചിത്രങ്ങള്‍ നിര്‍മിക്കുന്നത് തടയുമെന്നാണ് മസ്ക് ഇതിനെ വിശദീകരിച്ചത്. പക്ഷേ വിവാദം അവിടം കൊണ്ട് അവസാനിച്ചില്ല. ഗ്രോക് ടാബ് വഴി നേരിട്ട് പ്രോപ്ട് നല്‍കിയാല്‍ അശ്ലീല ചിത്രങ്ങള്‍ നിര്‍മിക്കാനായി സാധിച്ചിരുന്നു.നിയമവിരുദ്ധ ഉള്ളടങ്ങള്‍ നേരിട്ട് അപ്ലോഡ് ചെയ്യുന്ന സമയത്ത് ഉണ്ടാകുന്ന പ്രത്യാഘാതങ്ങള്‍ ഗ്രോക്കില്‍ നിയമവിരുദ്ധ ഉള്ളടങ്ങള്‍ നിര്‍മിക്കുന്നവരും നേരിടേണ്ടി വരുമെന്ന് മസ്ക് വീണ്ടും മുന്നറിയിപ്പ് നല്‍കി.

ഗ്രോക്കിനെ തൂക്കിയെറിഞ്ഞ് മലേഷ്യയും ഇന്തോനേഷ്യയും

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗിച്ച് അശ്ലീല ഉള്ളടക്കങ്ങൾ സൃഷ്ടിക്കുന്നു എന്ന കണ്ടെത്തലിനെത്തുടർന്ന് ഗ്രോകിനെതിരെ കര്‍ശന നടപടിയാണ് ഇന്തോനേഷ്യയും മലേഷ്യയും എടുത്തത്.. ഗ്രോക്കിനെ നിരോധിക്കുന്ന ലോകത്തിലെ ആദ്യ രാജ്യങ്ങളാണ് ഇവ. ഗ്രോക്കിന് ഇന്തോഷ്യന്‍,മലേഷ്യന്‍ സര്‍ക്കാറുകള്‍ താല്‍ക്കാലിക വിലേക്കേര്‍പ്പെടുത്തി.

വിഷയത്തിൽ അടിയന്തര വിശദീകരണം നൽകണമെന്ന് എക്‌സിന്റെ പ്രതിനിധികളോട് ഇന്തോനേഷ്യൻ സർക്കാർ ആവശ്യപ്പെട്ടു. ഡിജിറ്റൽ മേഖലയിലെ സുരക്ഷ ഉറപ്പാക്കുന്നതിന്റെ ഭാഗമായി കർശനമായ നിലപാടാണ് ഇന്തോനേഷ്യ സ്വീകരിച്ചിരിക്കുന്നത്.വ്യക്തികളുടെ സമ്മതമില്ലാതെ അശ്ലീല ഡീപ് ഫേക്കുകള്‍ നിര്‍മിക്കുന്നത് ഗുരുതരമായ മനുഷ്യാവകാശ ലംഘനവും പൗരന്മാരുടെ അന്തസിനെ ബാധിക്കുന്നതുമാണെന്നും ഇന്തോനേഷ്യ അഭിപ്രായപ്പെട്ടു.

"അങ്ങേയറ്റം നിന്ദ്യവും അശ്ലീലവും അസഭ്യവുമായ ഉള്ളടക്കം" പ്രചരിപ്പിച്ച എക്സ് ഉപയോക്താക്കളെ കണ്ടെത്തുമെന്ന് മലേഷ്യ അറിയിച്ചു. എക്‌സിലെ അശ്ലീല ഉള്ളടക്കങ്ങളെക്കുറിച്ച് അന്വേഷിക്കുന്നുണ്ടെന്നും കമ്പനി പ്രതിനിധിയെ വിളിച്ചുവരുത്തുമെന്നും മലേഷ്യൻ കമ്മ്യൂണിക്കേഷൻസ് ആൻഡ് മൾട്ടിമീഡിയ കമ്മീഷനും അറിയിച്ചു. ഇതിന് പിന്നാലെയാണ് വിഷയത്തില്‍ അടിയന്തര നടപടി വേണമെന്ന് എക്സിനോട് ബ്രിട്ടന്‍ ആവശ്യപ്പെട്ടത്.യൂറോപ്യന്‍ യൂണിയന്‍,ഫ്രാന്‍സ്, ബ്രസീല്‍ തുടങ്ങിയ രാജ്യങ്ങളും ശക്തമായ പ്രതിഷേധം രേഖപ്പെടുത്തി മുന്നോട്ട് വന്നു.

എക്സിനെതിരെ വടിയെടുത്ത് ഇന്ത്യയും

സ്ത്രീകളുടെ അശ്ലീല ചിത്രങ്ങൾ നിര്‍മിച്ച് ഗ്രോക്ക് ദുരുപയോഗം ചെയ്യുന്ന സംഭവങ്ങൾ വർധിച്ചുവരുന്ന സാഹചര്യത്തിൽ അടിയന്തര ഇടപെടൽ ആവശ്യപ്പെട്ട് രാജ്യസഭാംഗം പ്രിയങ്ക ചതുർവേദി കേന്ദ്രമന്ത്രി അശ്വിനി വൈഷ്ണവിന് കത്തയച്ചിരുന്നു.

സർഗ്ഗാത്മകതയുടെ മറവിൽ സ്ത്രീകളുടെ അന്തസ്സ് പരസ്യമായും ഡിജിറ്റലായും ലംഘിക്കപ്പെടുന്നത് ഒരു തരത്തിലും കണ്ടില്ലെന്ന് നടിക്കാന്‍ നമ്മുടെ രാജ്യത്തിന് കഴിയില്ലെന്നും ഇത്തരം പ്രേരണകൾ അംഗീകരിക്കാനാവില്ലെന്നും അവര്‍ വ്യക്തമാക്കി. വലിയ ടെക് പ്ലാറ്റ്‌ഫോമുകളിൽ പോലും സമാനമായ രീതികൾ പ്രത്യക്ഷപ്പെടുന്നു. സ്ത്രീകൾ ഇത്തരം പരസ്യമായ കുറ്റകൃത്യങ്ങളുടെ ഇരകളാകുന്നില്ലെന്ന് ഉറപ്പാക്കാൻ ഒരു രാഷ്ട്രമെന്ന നിലയിൽ ഇടപെടണമെന്നും പ്രിയങ്ക ആവശ്യപ്പെട്ടു.

പിന്നാലെ ഗ്രോക് എഐ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ലൈംഗികവും അശ്ലീലകരവുമായ ഉള്ളടക്കങ്ങള് നീക്കം ചെയ്യാനും റിപ്പോർട്ട് സമർപ്പിക്കാനും എക്സ് കോർപറേഷന് കേന്ദ്രസർക്കാർ അന്ത്യശാസനം നൽകിയിരുന്നു. ഗ്രോക്കിൻറെ എ ഐ ഉപയോഗിച്ച് അശ്ലീ ചിത്രങ്ങൾ നിർമിച്ച് വ്യക്തികളുടെ സ്വകാര്യതയും അന്തസും ലംഘിക്കുന്നതായി മന്ത്രാലയം എക്സിനെ അറിയിച്ചു.

എന്താണ് മസ്കിന്‍റെ ഗ്രോക്

ചാറ്റ് ജിപിടി, ഗൂഗിള്‍ ബാര്‍ഡ് എന്നിവയ്ക്കു ബദലായാണ് ഇലോണ്‍ മസ്‌ക്കിന്റെ എക്‌സ്.എ.ഐ (xAI) എന്ന കമ്പനി 'ഗ്രോക്' എന്ന ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് സംവിധാനം ആരംഭിച്ചത്. എക്സ് പ്ലാറ്റ്ഫോമിലേക്ക് നേരിട്ട് പ്രവേശിക്കാന്‍ സാധിക്കുന്ന എഐ ചാറ്റ് സംവിധാനമാണിത്. ചാറ്റ് ജി.പി.ടി പോലെ ചോദ്യങ്ങള്‍ ചോദിച്ചാല്‍ ഗ്രോക് എ.ഐ മറുപടി നല്‍കും. ഇത് എക്‌സ് പ്ലാറ്റ്‌ഫോമില്‍ വരുന്ന ഡേറ്റ ഉപയോഗിച്ചാണ് പ്രവര്‍ത്തിക്കുന്നത്.

ഒടുവില്‍ ഗ്രോകിന്‍റെ ആ ഫീച്ചറിന് പൂട്ടിട്ട് മസ്ക്

യഥാർഥ ആളുകളുടെ ഫോട്ടോകൾ എഡിറ്റ് ചെയ്ത് ബിക്കിനി പോലുള്ള വസ്ത്രങ്ങളിലേക്കാന്‍ ഗ്രോക്കിനെ അനുവദിക്കില്ലെന്നും ഇത് തടയാന്‍ സാങ്കേതിക നടപടികള്‍ നടപ്പിലാക്കിയെന്നും എക്സ് അറിയിച്ചു. ഗ്രോക്ക് അക്കൗണ്ടിലൂടെയും എക്‌സിലെ ഗ്രോക്കിലൂടെയും ബിക്കിനി, അടിവസ്ത്രം, സമാനമായ വസ്ത്രങ്ങൾ എന്നിവ ധരിച്ച യഥാർഥ ആളുകളുടെ ചിത്രങ്ങൾ സൃഷ്ടിക്കാനുള്ള എല്ലാ ഉപയോക്താക്കളുടെയും കഴിവ് ഞങ്ങൾ ഇപ്പോൾ ജിയോബ്ലോക്ക് ചെയ്യുന്നു," എക്സ് പ്രസ്താവനയിൽ പറഞ്ഞു .

കുട്ടികൾ ഉൾപ്പെടെയുള്ള ലൈംഗികവൽക്കരിക്കപ്പെട്ട AI ഡീപ്ഫേക്കുകളുടെ വ്യാപനത്തെക്കുറിച്ച് അന്വേഷിക്കുന്നുണ്ടെന്ന് കാലിഫോർണിയയിലെ ഉന്നത പ്രോസിക്യൂട്ടർ പറഞ്ഞതിന് പിന്നാലെയാണ് നിര്‍ണായകമായ തീരുമാനമെടുക്കാന്‍ മസ്കും എക്സും തയ്യാറായതെന്നാണ് റിപ്പോര്‍ട്ടുകള്‍.

അതേസമയം, എക്സിന്‍റേത് ഒരുപാട് വൈകിയുള്ള തീരുമാനമെന്നായിരുന്നു പൊതുവെയുള്ള വികാരം.ആയിരക്കണക്കിന് സ്ത്രീകളാണ് ഇരയാക്കപ്പെട്ടതെന്നും അവരുടെ ചിത്രങ്ങള്‍ ഇപ്പോഴും ഓണ്‍ലൈനുകളില്‍ സൂക്ഷിക്കപ്പെടുന്നുണ്ടാകാമെന്നും വിദഗ്ധര്‍ പറയുന്നു. എക്സ് അതിന്റെ മാറ്റങ്ങൾ എങ്ങനെ നടപ്പിലാക്കുമെന്ന് കണ്ടറിയേണ്ടതാണെങ്കിലും,ഇരകളാക്കപ്പെട്ടവരുടെയും ഭരണകൂടങ്ങളുടെയും ശക്തമായ ഇടപെടല്‍ ഡിജിറ്റല്‍ പ്ലാറ്റ്ഫോമുകളെ നടപടികളെടുക്കാന്‍ പ്രേരിപ്പിക്കുന്നത് എങ്ങനെയാണെന്ന് ഈ സംഭവം കാണിച്ചു തന്നുവെന്നാണ് വിലയിരുത്തല്‍. എന്നാല്‍ ഇതുപോലുള്ള ദുരുപയോഗങ്ങള്‍ ഇനിയും സംഭവിക്കാമെന്നും ഡിജിറ്റല്‍ പ്ലാറ്റ്ഫോമുകള്‍ക്ക്,പ്രത്യേകിച്ച് എഐക്ക് നിര്‍ബന്ധിത സുരക്ഷാ ഓഡിറ്റ് വേണമെന്ന ആവശ്യം കൂടുതല്‍ ശക്തമായിരിക്കുകയാണ്.