ഗായികയുടെ എഐ ഡീപ്ഫെയ്ക് ദൃശ്യങ്ങള്‍ സമൂഹമാധ്യമങ്ങളില്‍; തട്ടിപ്പുകൾ തിരിച്ചറിയാം

അമേരിക്കൻ പോപ് ഗായികയായ ടെയ്‌ലർ സ്വിഫ്റ്റിന്റെ ഡീപ്ഫെയ്ക് അശ്ലീല ദൃശ്യങ്ങള്‍ സമൂഹമാധ്യമങ്ങളില്‍. എക്സിൽ(മുൻപ് ട്വിറ്റർ) പ്രചരിച്ച ദൃശ്യങ്ങൾക്കു 17 മണിക്കൂറിൽ 45 ദശലക്ഷത്തിലധികം കാഴ്ചയും 24000 റിപോസ്റ്റുകളും ലഭിച്ചതോടെയാണ് വിവാദമായത്. നിരവധി ആരാധകരാണ് ആശങ്ക പങ്കുവച്ചത്. അതോടെ കൂടുതൽ പോസ്റ്റുകൾ ഇതു സംബന്ധിച്ചു പുറത്തെത്തി.

ഡീപ്ഫെയ്ക് ദൃശ്യങ്ങളുടെ നിർമാണവും പ്രചാരണം കുറ്റകരമാക്കാൻ നിയമനിർമാണം വേഗത്തിലാക്കണമെന്നു ആരാധകരും രാഷ്ട്രീയ നേതാക്കളും ആവശ്യപ്പെട്ടു.കഴിഞ്ഞ നവംബറിൽ നടി രശ്മികയുടെ ഡീപ്ഫെയ്ക് വിഡിയോ ഇന്ത്യയിലും വിവാദമായിരുന്നു. പിന്നീട് ഡൽഹി പൊലീസ് കേസ് റജിസ്റ്റർ ചെയ്യുകയും വിഡിയോ പ്രചരിപ്പിച്ച 4 പേരെ അറസ്റ്റ് ചെയ്യുകയും ചെയ്തിരുന്നു. പിന്നാലെ ഡീപ്ഫെയ്ക് വലിയ ചർച്ചയാകുകയും കേന്ദ്രസർക്കാർ വിഷയത്തിൽ ഇടപെടുകയും ചെയ്തിരുന്നു.

രശ്മികയുടെ കടുത്ത ആരാധകനാണെന്നും സമൂഹമാധ്യമത്തിൽ രശ്മികയുടെ പേരിൽ ഫാൻ പേജ് നടത്തുന്നുണ്ടെന്നുമാണു നവീൻ നൽകിയ മൊഴി. ഈ പേജിലാണു ഡീപ്ഫെയ്ക് വിഡിയോ ആദ്യമായി പോസ്റ്റ് ചെയ്തത്. സാറാ പട്ടേൽ എന്ന ബ്രിട്ടീഷ് ഇന്ത്യൻ സോഷ്യൽ മീഡിയ ഇൻഫ്ലുവൻസറുടെ വിഡിയോ ഉപയോഗിച്ചാണു ഡീപ്ഫെയ്ക് വിഡിയോ തയാറാക്കിയത്. പോസ്റ്റ് ചെയ്തു മിനിറ്റുകൾക്കുള്ളിൽ വിഡിയോ വൈറലാകുകയും ചെയ്തു.

ഡീപ്​ഫെയ്കിനു പിന്നിൽ

വ്യക്തിയുടെ ചിത്രങ്ങളുടെയും വിഡിയോകളുടെയും ഒരു വലിയ ഡാറ്റാസെറ്റുപയോഗിച്ച മെഷീൻ ലേണിങ് ഉപയോഗിച്ചാണ് ഇത് ചെയ്യുന്നത്. ഈ മോഡൽ കൃത്യമായി പരിശീലിച്ചുകഴിഞ്ഞാൽ, യഥാർത്ഥത്തിൽ നിന്ന് വേർതിരിച്ചറിയാൻ കഴിയാത്ത ചിത്രങ്ങളും വിഡിയോകളും സൃഷ്ടിക്കാൻ ഇത് ഉപയോഗിക്കാംഒരു ഡീപ്ഫേക്ക് സൃഷ്ടിക്കുന്ന പ്രക്രിയയിൽ സാധാരണയായി രണ്ട് പ്രധാന ഘടകങ്ങൾ ഉൾപ്പെടുന്നു

ഓട്ടോഎൻകോഡറുകൾ: ലക്ഷ്യമിട്ട വ്യക്തിയുടെ ചിത്രങ്ങളുടെയോ ഓഡിയോയുടെയോ ഒരു വലിയ ഡാറ്റാസെറ്റിൽ പരിശീലനം ലഭിച്ച ന്യൂറൽ നെറ്റ്‌വർക്കുകളാണ് ഇവ. എൻകോഡർ ഭാഗം ടാർഗെറ്റിന്റെ ഡാറ്റ ഒരു മറഞ്ഞിരിക്കുന്ന പ്രാതിനിധ്യത്തിലേക്ക് കംപ്രസ് ചെയ്യാൻ പഠിക്കുന്നു, അതേസമയം ഡീകോഡർ മറഞ്ഞിരിക്കുന്ന പ്രാതിനിധ്യത്തിൽ നിന്ന് ഡാറ്റ പുനഃസൃഷ്ടിക്കാൻ പഠിക്കുന്നു.

ജനറേറ്റീവ് അഡ്‌വേഴ്സേറിയൽ നെറ്റ്‌വർക്കുകൾ (GANs): മത്സരിക്കുന്ന ന്യൂറൽ നെറ്റ്‌വർക്കുകളാണ് ഇവ, ഒരു ജനറേറ്ററും ഒരു ഡിസ്ക്രിമിനേറ്ററും. ജനറേറ്റർ റിയലിസ്റ്റിക് വ്യാജ ഉള്ളടക്കങ്ങൾ സൃഷ്ടിക്കാൻ ശ്രമിക്കുന്നു, അതേസമയം ഡിസ്ക്രിമിനേറ്റർ വ്യാജ ഉള്ളടക്കത്തിൽ നിന്ന് യഥാർത്ഥമായത് വേർതിരിച്ചറിയാൻ ശ്രമിക്കുന്നു. രണ്ട് നെറ്റ്‌വർക്കുകളും പരസ്പരം ആവർത്തിച്ച് മെച്ചപ്പെടുത്തുന്നു, ഇത് കൂടുതൽ യാഥാർഥ്യ ബോധമുണ്ടാക്കുന്ന ഡീപ്ഫെയ്ക്കുകൾ സൃഷ്ടിക്കുന്നതിലേക്കു നയിക്കുന്നു.

എന്തിനുവേണ്ടിയാണ്?

പോൺ വിഡിയോകൾക്കായാണ് ഈ സാങ്കേതികവിദ്യ ഏറ്റവും കൂടുതൽ ദുരുപയോഗം ചെയ്യുന്നതെന്നതാണ് യാഥാർഥ്യം. ഡീപ്ട്രേസ് എന്ന എഐ സ്ഥാപനം 2019 സെപ്റ്റംബറിൽ ഓൺലൈനിൽ 15,000 ഡീപ്ഫെയ്ക്ക് വീഡിയോകൾ കണ്ടെത്തി, ഇത് ഒമ്പത് മാസത്തിനിടെ ഇരട്ടിയായി.ഡീപ്ഫെയ്ക്കുകൾ കണ്ടെത്തുന്നത് വെല്ലുവിളിയാകുമെങ്കിലും, ശ്രദ്ധിക്കേണ്ട ചില സൂചനകളുണ്ട്:

∙മുഖത്തെ പൊരുത്തക്കേടുകൾ: മുഖത്തിന് ചുറ്റും, പ്രത്യേകിച്ച് മുടി, ചെവികൾ, താടിയെല്ല് എന്നിവയിൽ ചെറിയ വ്യത്യാസങ്ങൾ കാണപ്പെട്ടേക്കാം. മുഖത്തിലുടനീളം ചലന വേളയിലും സംസാരിക്കുമ്പോഴും പ്രകാശവും നിഴലുകളും നിലനിർത്താൻ ഡീപ്ഫെയ്ക്കുകൾ പാടുപെട്ടേക്കാം.

∙അടയ്ക്കാത്ത കണ്ണുകൾ: യഥാർത്ഥ ആളുകൾ സ്വാഭാവികമായി ഇടയ്ക്കിടെ കണ്ണുകൾ ചിമ്മുന്നു, അതേസമയം ഡീപ്ഫെയ്ക്കുകൾക്ക് അസ്വാഭാവികമായി ദീർഘനേരം തുറന്നിരിക്കുന്ന കണ്ണുകൾ ഉണ്ടായിരിക്കാം.

∙സംശയകരമായ വിഡിയോ കണ്ടാൽ അതു സംബന്ധിച്ച എന്തെങ്കിലും വിവരങ്ങൾ ഇന്റർനെറ്റിൽ ലഭ്യമാണോ എന്നു സേർച് ചെയ്യാം.

∙ അതിൽ പറയുന്ന കാര്യങ്ങളെക്കുറിച്ചുള്ള വാർത്തകളോ വിവരങ്ങളോ വിശ്വസനീയമായ മാധ്യമങ്ങളിൽ വന്നിട്ടുണ്ടോ എന്നു പരിശോധിക്കാം.

ഡീപ്ഫെയ്ക്കുകൾ എല്ലായ്പ്പോഴും അപകടകരമാണോ?

ഒരിക്കലുമില്ല. പലതും രസകരവും ചിലത് സഹായകരവുമാണ്. വോയ്‌സ് ക്ലോണിംഗ് ഡീപ്ഫെയ്ക്കുകൾ രോഗബാധിതരായി ആളുകളുടെ ശബ്ദം നഷ്‌ടപ്പെടുമ്പോൾ സഹായകരമാകും. ഡീപ്ഫെയ്ക് വിഡിയോകൾക്ക് ഗാലറികളെയും മ്യൂസിയങ്ങളെയും സജീവമാക്കാൻ കഴിയും