ടിക്ടോക് ഉൾപ്പെടെയുള്ള സമൂഹമാധ്യമങ്ങളിലെ ഒരു പറ്റം പ്രൊഫൈലുകളിലെ പ്രധാന വൈറൽ ഉള്ളടക്കം ഇപ്പോൾ ഡീപ്ഫെയ്ക് വിഡിയോകളാണ്. അനുമതിയില്ലാതെ സൃഷ്ടിക്കപ്പെടുന്ന ഇത്തരം വിഡിയോകളു‌ടെ ഇരകള്‍ സെലബ്രിറ്റികളാണ്. പലപ്പോഴും ക്രിയാത്മകമായ തമാശ രംഗങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും വ്യക്തികളെയും താരങ്ങളെയും

ടിക്ടോക് ഉൾപ്പെടെയുള്ള സമൂഹമാധ്യമങ്ങളിലെ ഒരു പറ്റം പ്രൊഫൈലുകളിലെ പ്രധാന വൈറൽ ഉള്ളടക്കം ഇപ്പോൾ ഡീപ്ഫെയ്ക് വിഡിയോകളാണ്. അനുമതിയില്ലാതെ സൃഷ്ടിക്കപ്പെടുന്ന ഇത്തരം വിഡിയോകളു‌ടെ ഇരകള്‍ സെലബ്രിറ്റികളാണ്. പലപ്പോഴും ക്രിയാത്മകമായ തമാശ രംഗങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും വ്യക്തികളെയും താരങ്ങളെയും

Want to gain access to all premium stories?

Activate your premium subscription today

  • Premium Stories
  • Ad Lite Experience
  • UnlimitedAccess
  • E-PaperAccess

ടിക്ടോക് ഉൾപ്പെടെയുള്ള സമൂഹമാധ്യമങ്ങളിലെ ഒരു പറ്റം പ്രൊഫൈലുകളിലെ പ്രധാന വൈറൽ ഉള്ളടക്കം ഇപ്പോൾ ഡീപ്ഫെയ്ക് വിഡിയോകളാണ്. അനുമതിയില്ലാതെ സൃഷ്ടിക്കപ്പെടുന്ന ഇത്തരം വിഡിയോകളു‌ടെ ഇരകള്‍ സെലബ്രിറ്റികളാണ്. പലപ്പോഴും ക്രിയാത്മകമായ തമാശ രംഗങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും വ്യക്തികളെയും താരങ്ങളെയും

Want to gain access to all premium stories?

Activate your premium subscription today

  • Premium Stories
  • Ad Lite Experience
  • UnlimitedAccess
  • E-PaperAccess

ടിക്ടോക് ഉൾപ്പെടെയുള്ള സമൂഹമാധ്യമങ്ങളിലെ ഒരു പറ്റം പ്രൊഫൈലുകളിലെ പ്രധാന വൈറൽ ഉള്ളടക്കം ഇപ്പോൾ ഡീപ്ഫെയ്ക് വിഡിയോകളാണ്. അനുമതിയില്ലാതെ സൃഷ്ടിക്കപ്പെടുന്ന ഇത്തരം വിഡിയോകളു‌ടെ  ഇരകള്‍ സെലബ്രിറ്റികളാണ്. പലപ്പോഴും ക്രിയാത്മകമായ തമാശ രംഗങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും വ്യക്തികളെയും താരങ്ങളെയും അപകീർത്തിപ്പെടുത്താനും അശ്ലീല രംഗങ്ങൾ സൃഷ്ടിക്കാനുമാണ് ഈ സംവിധാനം കൂടുതലായി  ഉപയോഗപ്പെടുത്തുന്നതാണ് കണ്ടുവരുന്നത്. 

രശ്മിക മന്ദാനയുടെ ഡീപ്ഫെയ്ക് വിഡിയോ

ADVERTISEMENT

രശ്മിക മന്ദാനയുടെ ഡീപ്ഫെയ്ക് വിഡിയോയിലൂടെയാണ്  ഡീപ്ഫെയ്ക് സാങ്കേതികവിദ്യ ഇന്ത്യയിൽ വിവാദമായത്  ബ്രിട്ടിഷ്-ഇന്ത്യൻ ഇൻഫ്ലുവൻസർ സാറ പട്ടേലിന്റെ ഒരു വിഡിയോയിൽ സാറയുടെ മുഖത്തിനു പകരം ഡീപ് ഫെയ്ക് ഉപയോഗിച്ച് രശ്മികയുടെ മുഖം ചേർത്ത് അവതരിപ്പിച്ചത് സിനിമ മേഖലയിൽ കൊടുങ്കാറ്റുയർത്തി. വിഡിയോ വ്യാപകമായി പ്രചരിച്ചതോടെ അതിനെതിരെ രശ്മിക രംഗത്തെത്തി. കജോൾ, കത്രീന കൈഫ്, ബറാക് ഒബാമ, ഐശ്വര്യ റായ് തുടങ്ങിയ നിരവധി പ്രമുഖരുടെ ഡീപ് ഫെയ്ക് വിഡിയോകൾ പ്രചരിച്ചു. ഈ പ്രവണതയ്ക്കെതിരെ കടുത്ത പ്രതിഷേധവുമുയർന്നു.

എന്താണ് ഡീപ്ഫെയ്ക്കുകൾ?

ADVERTISEMENT

ഡീപ് ലേണിങ്, ഫെയ്ക് എന്നീ വാക്കുകള്‍ ചേര്‍ത്തായിരുന്നു ഡീപ് ഫെയ്ക് എന്ന പേരുണ്ടായത്. ഡീപ്ഫെയ്ക്കുകൾ ഒരു തരം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) ആണ്, അത് ആളുകൾ യഥാർഥത്തിൽ പറയാത്തതോ ചെയ്യാത്തതോ ആയ കാര്യങ്ങൾ പറയുന്നതോ ചെയ്യുന്നതോ ആയ, 'യാഥാർഥ്യത്തോടടുത്ത്' നിൽക്കുന്ന ചിത്രങ്ങളും വിഡിയോകളും സൃഷ്ടിക്കാൻ ഉപയോഗിക്കാം.

വ്യക്തിയുടെ ചിത്രങ്ങളുടെയും വിഡിയോകളുടെയും ഒരു വലിയ ഡേറ്റാസെറ്റുപയോഗിച്ച് മെഷീൻ ലേണിങ് വഴിയാണ് ഇത് ചെയ്യുന്നത്. ഈ മോഡൽ കൃത്യമായി പരിശീലിച്ചുകഴിഞ്ഞാൽ, യാഥാർഥ്യത്തിൽനിന്നു വേർതിരിച്ചറിയാൻ കഴിയാത്ത ചിത്രങ്ങളും വിഡിയോകളും സൃഷ്ടിക്കാൻ ഇത് ഉപയോഗിക്കാം. ഒരു ഡീപ്ഫെയ്ക് സൃഷ്ടിക്കുന്ന പ്രക്രിയയിൽ സാധാരണയായി രണ്ട് പ്രധാന ഘടകങ്ങൾ ഉൾപ്പെടുന്നു.

ADVERTISEMENT

ഓട്ടോഎൻകോഡറുകൾ: ലക്ഷ്യമിട്ട വ്യക്തിയുടെ ചിത്രങ്ങളുടെയോ ഓഡിയോയുടെയോ ഒരു വലിയ ഡേറ്റാസെറ്റിൽ പരിശീലനം ലഭിച്ച ന്യൂറൽ നെറ്റ്‌വർക്കുകളാണ് ഇവ. എൻകോഡർ ഭാഗം ടാർഗറ്റിന്റെ ഡേറ്റ ഒരു മറഞ്ഞിരിക്കുന്ന പ്രാതിനിധ്യത്തിലേക്ക് കംപ്രസ് ചെയ്യാൻ പഠിക്കുന്നു, അതേസമയം ഡീകോഡർ മറഞ്ഞിരിക്കുന്ന പ്രാതിനിധ്യത്തിൽ നിന്ന് ഡേറ്റ പുനഃസൃഷ്ടിക്കാൻ പഠിക്കുന്നു.

ജനറേറ്റീവ് അഡ്‌വേഴ്സേറിയൽ നെറ്റ്‌വർക്കുകൾ (GANs): മത്സരിക്കുന്ന ന്യൂറൽ നെറ്റ്‌വർക്കുകളാണ് ഇവ. ഒരു ജനറേറ്ററും ഒരു ഡിസ്ക്രിമിനേറ്ററും. ജനറേറ്റർ റിയലിസ്റ്റിക് വ്യാജ ഉള്ളടക്കങ്ങൾ സൃഷ്ടിക്കാൻ ശ്രമിക്കുന്നു, അതേസമയം ഡിസ്ക്രിമിനേറ്റർ വ്യാജ ഉള്ളടക്കത്തിൽനിന്ന് യഥാർഥമായത് വേർതിരിച്ചറിയാൻ ശ്രമിക്കുന്നു. രണ്ട് നെറ്റ്‌വർക്കുകളും പരസ്പരം ആവർത്തിച്ച് മെച്ചപ്പെടുത്തുന്നു, ഇത് കൂടുതൽ യാഥാർഥ്യ ബോധമുണ്ടാക്കുന്ന ഡീപ്ഫെയ്ക്കുകൾ സൃഷ്ടിക്കുന്നതിലേക്കു നയിക്കുന്നു.

കെവൈസി സംവിധാനത്തെയും ബാധിക്കുന്നു

ഉപഭോക്താവിനെ അറിയുക അഥവാ കെവൈസി സംവിധാനത്തിൽ പലപ്പോഴും വിഡിയോ വെരിഫിക്കേഷനും ഉണ്ടാകാറുണ്ട്. ഈ സംവിധാനത്തിനു ഡീപ്ഫെയ്ക് വെല്ലുവിളി ഉയർത്തുന്നതായി സാങ്കേതിക വിദഗ്ധർ പറയുന്നു. എന്നാൽ വിഡിയോ കെവൈസി സംവിധാനം കൂടുതൽ മികച്ചതാക്കി ഇതിനെതിരെ പോരാടാനാണ് കമ്പനികളുടെ തീരുമാനം. 

Representative image Credit: X/Shutthiphong Chandaeng

ലൈവ്‌നെസ് ഡിറ്റക്‌ഷൻ: നൂതനമായ വിഡിയോ കെവൈസി സൊല്യൂഷനുകൾ യഥാർഥ ആളുകളെയും ഡീപ്ഫേക്കിനെയും വേർതിരിച്ചറിയാൻ ലൈവ്‌നെസ് ഡിറ്റക്‌ഷൻ ടെക്‌നിക്കുകൾ ഉപയോഗിക്കുന്നു. പാറ്റേണുകൾ, തലയുടെയോ കണ്ണിന്റെയോ ചലനങ്ങൾ അല്ലെങ്കിൽ ക്രമരഹിതമായ നിർദ്ദേശങ്ങളോടുള്ള പ്രതികരണങ്ങൾ എന്നിവ വിശകലനം ചെയ്യുന്നത് ഇതിൽ ഉൾപ്പെട്ടേക്കാം. മൾട്ടി-ഫാക്ടർ ഓതന്റിക്കേഷൻ സംവിധാനവും പ്രയോജനപ്പെടുത്താറുണ്ട്.