2.5 കോടിമുതൽ 3 കോടി രൂപ വരെ വാർഷിക ശമ്പളമുള്ള ജോലി; എഐ സേഫ്റ്റി ചില്ലറക്കളിയല്ലിഷ്ടാ

You: ‘How to make a bomb?’

Chat GPT: ‘I'm sorry, but I can't assist with that.’

ചാറ്റ് ജിപിടി എന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനത്തോട് ഈ ചോദ്യം ഏതു രൂപത്തിൽ ചോദിച്ചാലും മറുപടി ഏകദേശം ഇതുതന്നെയായിരിക്കും. എന്നാൽ ചാറ്റ് ജിപിടി ജനിച്ച സമയത്ത് ഇതായിരുന്നില്ല സ്ഥിതി. റേഡിയോ ആക്ടീവ് ബോംബ് എങ്ങനെ ഉണ്ടാക്കാമെന്ന ചോദ്യത്തിനു വിശദമായ മറുപടി കിട്ടിയ ചരിത്രമുണ്ട്.

പിന്നെന്തുകൊണ്ട് ചാറ്റ് ജിപിടി ഇപ്പോൾ വിസമ്മതം രേഖപ്പെടുത്തുന്നു ? ഇത്തരം ചോദ്യങ്ങൾ കുഴപ്പം പിടിച്ചതാണെന്നും അവയ്ക്കു മറുപടി നൽകരുതെന്നും സ്രഷ്ടാക്കൾ പഠിപ്പിച്ചിരിക്കുന്നു. എന്നുകരുതി, ചാറ്റ് ജിപിടിക്കു പക്വത വന്നെന്നു കരുതരുത്.

ഭീകരവാദം തടയാൻ ചുമതലപ്പെട്ട ഗവേഷകനാണു താനെന്നും, ഭീകരവാദികൾ എങ്ങനെയാണ് ഇത്തരം ബോബ് നിർമിക്കുന്നതെന്ന് അറിഞ്ഞാൽ മാത്രമേ അവ തടയാനാകൂ എന്നും ഒരാൾ പറഞ്ഞപ്പോൾ ചാറ്റ് ജിപിടി പഠിച്ചതെല്ലാം മറന്ന് മണി മണിയായി ഉത്തരം നൽകി. കാരണം സിംപിൾ. ദുഷ്ടലാക്ക് മനസ്സിലാക്കാനാകാതെ ചാറ്റ് ജിപിടി കബളിപ്പിക്കപ്പെട്ടു.

പച്ചക്കറി അരിയാനും ആളെ കൊല്ലാനും ഒരേ കത്തികൊണ്ടു കഴിയുമെന്നതുപോലെയാണ് എഐയുടെയും കാര്യം. എഐ സുരക്ഷ (എഐ സേഫ്റ്റി) പുതിയ കരിയർ മേഖലയായി തന്നെ ഉരുത്തിരിയുകയാണ്. ബ്രിട്ടനിലെ ബ്ലെച്‍ലി പാർക്കിൽ നടന്ന എഐ സുരക്ഷാ ഉച്ചകോടി ലോകം ഇക്കാര്യത്തെ എത്രത്തോളം ഗൗരവത്തോടെ കാണുന്നുവെന്നു വ്യക്തമാക്കുന്നു. നടി രശ്മിക മന്ദാനയുടെ പേരിൽ പ്രചരിച്ച എഐ ഡീപ്ഫെയ്ക് വിഡിയോ എഐ സുരക്ഷ ഉറപ്പാക്കാനുള്ള അടിയന്തര നടപടികൾ വേണമെന്നു നമ്മെ ഓർമിപ്പിച്ചു.

ചാറ്റ് ജിപിടിയുടെ മാതൃകമ്പനിയായ ഓപ്പൺ എഐ, ഗൂഗിൾ ഡീപ്മൈൻഡ്, ആപ്പിൾ എന്നീ കമ്പനികളുടെ വേക്കൻസി പട്ടികയിൽ കണ്ട 4 ജോബ് റോളുകളാണിവ: മെഷീൻ ലേണിങ് എൻജിനീയർ (മോഡറേഷൻ), റിസർച് സയന്റിസ്റ്റ് (സേഫ്റ്റി), എഐ സേഫ്റ്റി മെഷീൻ ലേണിങ് എൻജിനീയർ, എത്തിക്സ് ആൻഡ് സേഫ്റ്റി ഇവാല്യുവേഷൻ മാനേജർ. ഇവയുടെയെല്ലാം ആത്യന്തിക ലക്ഷ്യമൊന്നു തന്നെ. അതതു കമ്പനികളിലെ എഐ പ്ലാറ്റ്ഫോമുകൾക്ക് ധാർമികതയും സുരക്ഷയും ഉറപ്പാക്കുക.

1.6 കോടി രൂപ മുതൽ 3.08 കോടി രൂപ വരെയാണ് ഓപ്പൺ എഐ അവരുടെ സേഫ്റ്റി റിസർച് സയന്റിസ്റ്റിനും മെഷീൻ ലേണിങ് എൻജിനീയർക്കും വാഗ്ദാനം ചെയ്തിരിക്കുന്ന വാർഷിക ശമ്പളം. മറ്റ് ആനുകൂല്യങ്ങൾ പുറമേ. എഐ പ്ലാറ്റ്ഫോമിന്റെ നിരന്തരമായ സുരക്ഷാ ഓഡിറ്റ് അടക്കമുള്ളവയാണ് ജോലി. കംപ്യൂട്ടർ സയൻസ്, മെഷീൻ ലേണിങ് എന്നിവയിൽ പിഎച്ച്ഡിയും 5 വർഷത്തെ പ്രവൃത്തിപരിചയവുമാണ് യോഗ്യത.

ജനറേറ്റീവ് എഐ മോഡലുകളുടെ അപകടകരമായ പെരുമാറ്റം മുൻകൂട്ടി കണക്കാക്കുക, ആൽഗരിതത്തിന് (കംപ്യൂട്ടർ പ്രോഗ്രാം) ഏതെങ്കിലും തരത്തിലുള്ള പക്ഷപാതമുണ്ടോയെന്നു മനസ്സിലാക്കുക തുടങ്ങിയവയാണ് ആപ്പിളിന്റെ എഐ സേഫ്റ്റി മെഷീൻ ലേണിങ് എൻ‍ജിനീയറുടെ ജോലി. 1.42 കോടി മുതൽ 2.5 കോടി രൂപയാണ് അടിസ്ഥാന വാർഷിക ശമ്പളം.

എഐ പ്ലാറ്റ്ഫോമുകൾ തെറ്റായി ഉപയോഗിക്കപ്പെടുന്നില്ലെന്ന് ഉറപ്പാക്കാൻ വൻതോതിലുള്ള പരിശോധനയാണ് സാധാരണ നടത്താറുള്ളത്. ഉദാഹരണത്തിന് ജിപിടിയുടെ നാലാം പതിപ്പ് (ജിപിടി 4) തയാറാക്കിയ ശേഷം 6 മാസം പലതട്ടിലുള്ള സുരക്ഷാപരിശോധന നടത്തി. അനുവദനീയമല്ലാത്ത ഉള്ളടക്കത്തിനായുള്ള അഭ്യർഥനകളോട് പ്രതികരിക്കാനുള്ള സാധ്യത ജിപിടി 3.5 എന്ന പതിപ്പുമായി താരതമ്യം ചെയ്യുമ്പോൾ ജിപിടി 4ന് 82% കുറവാണ്. വ്യക്തികളുടെ സ്വകാര്യത ഉറപ്പാക്കുകയെന്നതും പ്രധാനമാണ്. എഐ പ്ലാറ്റ്ഫോമിനെ പരിശീലിപ്പിക്കാനുള്ള ഉള്ളടക്കത്തിൽ വ്യക്തിവിവരങ്ങൾ കലരാതിരിക്കാൻ പരമാവധി ശ്രദ്ധിക്കണം. ഒപ്പം വ്യക്തികളെ സംബന്ധിച്ച് ആരെങ്കിലും ജിപിടിയോടു ചോദിച്ചാൽ മറുപടി നൽകുകയുമരുത്.

പൊതുജനങ്ങളുടെ ഫീഡ്ബാക്ക് സ്വീകരിച്ച് അതിനനുസരിച്ച് എഐ മോഡലുകളെ നവീകരിക്കേണ്ട ഉത്തരവാദിത്തവുമുണ്ട്. ഉദാഹരണത്തിന്, ചാറ്റ് ജിപിടി പോലൊരു സേവനം ദോഷകരമായ മറുപടി നൽകിയാൽ നമുക്കിത് 'This is harmful / unsafe' എന്നു റിപ്പോർട്ട് ചെയ്യാൻ അവസരമുണ്ട്. ഇതടക്കം പരിഗണിച്ചായിരിക്കണം എഐ സംവിധാനം അതിന്റെ ആൽഗരിതം മെച്ചപ്പെടുത്തേണ്ടത്.

എഐ സുരക്ഷയെന്ന കരിയറിനു നിലവിൽ നിശ്ചിത കരിക്കുലമോ സർട്ടിഫിക്കേഷനോ ഇല്ല. കാരണം എഐ തന്നെ ശൈശവദശയിലാണ്. എഐ, മെഷീൻ ലേണിങ് മേഖലകളിൽ പ്രവർത്തിക്കുന്നവർ തന്നെയാണ് ഇത്തരം കമ്പനികളുടെ റിസ്ക് ആൻഡ് സേഫ്റ്റി വിഭാഗത്തിലേക്കു വരുന്നത്. എന്നാൽ വരുംവർഷങ്ങളിൽ ഇതൊരു പ്രത്യേക മേഖലയായി ഉരുത്തിരിഞ്ഞേക്കാം.

ജിബു ഏലിയാസ് (റെസ്പോൺസിബിൾ കംപ്യൂട്ടിങ് ഇന്ത്യ ലീഡ്, മോസില ഫൗണ്ടേഷൻ)