scorecardresearch
Latest News

ടിക് ടോക്കിന്റെ അല്‍ഗോരിതങ്ങളും ഉള്ളടക്ക നിയന്ത്രണ മോഡലുകളും ഓഡിറ്റ് ചെയ്യുന്നത് എന്തുകൊണ്ട്?

ടിക് ടോക്കിന്റെ അല്‍ഗോരിതങ്ങളും ഉള്ളടക്ക നിയന്ത്രണ മോഡലുകളും ഒറാക്കിള്‍ ഓഡിറ്റ് ചെയ്യുമെന്നു യുഎസ് പ്രസിദ്ധീകരണമായ ആക്‌സിയോസിന്റെ റിപ്പോർട്ടിൽ പറയുന്നു

ടിക് ടോക്കിന്റെ അല്‍ഗോരിതങ്ങളും ഉള്ളടക്ക നിയന്ത്രണ മോഡലുകളും ഓഡിറ്റ് ചെയ്യുന്നത് എന്തുകൊണ്ട്?

ലോകത്തിലെ ഏറ്റവും ജനപ്രിയമായ ഷോര്‍ട്ട്-വീഡിയോ പ്ലാറ്റ്ഫോമാണെങ്കില്‍ പോലും ടിക്‌ടോക്ക് എന്നാല്‍ ചൈനീസ് സര്‍ക്കാരുമായുള്ള ബന്ധം സംബന്ധിച്ച് വിവിധ രാജ്യങ്ങളില്‍ സൂക്ഷ്മപരിശോധന നേരിടുകയാണ്.

യുഎസ് പ്രസിദ്ധീകരണമായ ആക്‌സിയോസിന്റെ റിപ്പോര്‍ട്ട് അനുസരിച്ച്, ടിക് ടോക്കിന്റെ അല്‍ഗോരിതങ്ങളും ഉള്ളടക്ക നിയന്ത്രണ മോഡലുകളും ഒറാക്കിള്‍ ഓഡിറ്റ് ചെയ്യും. ആക്സിയോസിനു നല്‍കിയ പ്രസ്താവനയിലാണു ടിക് ടോക്ക് ഇക്കാര്യം സ്ഥിരീകരിച്ചത്. എന്താണ് ഈ ഓഡിറ്റ്, എന്തുകൊണ്ടാണ് ടിക്‌ടോക്ക് ഈ സൂക്ഷ്മപരിശോധന നേരിടുന്നത്? വിശദായി പരിശോധിക്കാം.

എന്തുകൊണ്ടാണ് ടിക് ടോക്കിന്റെ അല്‍ഗോരിതം ഓഡിറ്റ് നേരിടുന്നത്?

ചൈനീസ് സര്‍ക്കാരുമായുള്ള ടിക് ടോക്കിന്റെ ബന്ധങ്ങള്‍ പരിശോധിക്കുന്നതിനാണ് ഒറാക്കിളിന്റെ ഓഡിറ്റ് രൂപകല്‍പ്പന ചെയ്തിരിക്കുന്നതെന്നാണു റിപ്പോര്‍ട്ട് വ്യക്തമാക്കുന്നത്. ‘ടിയാന്‍മെന്‍ സ്‌ക്വയര്‍’, ‘ടിബറ്റന്‍ സ്വാതന്ത്ര്യം’ എന്നിവ പരാമര്‍ശിക്കുന്ന വീഡിയോകള്‍ നിരോധിക്കാനോ സെന്‍സര്‍ ചെയ്യാനോ ടിക് ടോക്ക് ശ്രമിച്ചതായി മുമ്പ് റിപ്പോര്‍ട്ടുകള്‍ ഉണ്ടായിരുന്നു. രാഷ്ട്രീയ പ്രസംഗങ്ങളുളള വീഡിയോകളെ ടിക് ടോക്ക് പ്രോത്സാഹിപ്പിക്കില്ലെന്നും റിപ്പോര്‍ട്ടില്‍ പറയുന്നു. വേണ്ടത്ര ആകര്‍ഷകമല്ലെന്ന് കരുതുന്ന ഉപയോക്താക്കളില്‍ നിന്നോ ദരിദ്രരോ വികലാംഗരോ ആയവരില്‍ നിന്നോ ഉള്ളടക്കം മറയ്ക്കാന്‍ ടിക്‌ടോക്ക് ശ്രമിച്ചതായി മുമ്പ് റിപ്പോര്‍ട്ടുണ്ടായിരു്ന്നു.

മുന്‍കാലങ്ങളില്‍ ഈ റിപ്പോര്‍ട്ടുകളില്‍ ഭൂരിഭാഗവും ടിക്‌ടോക്ക് നിഷേധിച്ചിരുന്നു. എങ്കിലും ടിക്‌ടോക്ക് യു എസില്‍ കൂടുതല്‍ പരിശോധനയ്ക്കു വിധേയമായി. സെനറ്റ് ഇന്റലിജന്‍സ് കമ്മിറ്റി ചൈനീസ് സര്‍ക്കാരുമായുള്ള ബന്ധം പരിശോധിച്ചു.

യു എസ് ഡേറ്റ ചൈന ആവര്‍ത്തിച്ച് ആക്സസ് ചെയ്തതായി ആഭ്യന്തര രേഖകള്‍ സ്ഥിരീകരിച്ച ഈ വര്‍ഷം ജൂലൈയിലെ ബസ്ഫീഡ് റിപ്പോര്‍ട്ടിനെത്തുടര്‍ന്ന് സൂക്ഷ്മപരിശോധന വര്‍ധിച്ചു. ചൈനയിലെ എന്‍ജിനീയര്‍മാര്‍ക്ക് യുഎസ് ഉപയോക്താക്കളുടെ ഡേറ്റയിലേക്ക് ആക്സസ് ഉണ്ടെന്ന് റിപ്പോര്‍ട്ട് അവകാശപ്പെടുന്നു. എന്നാല്‍ ബസ്ഫീഡ് ആരോപണങ്ങള്‍ അസത്യമാണെന്നാണു യു എസ് സെനറ്റര്‍മാര്‍ക്ക് രേഖാമൂലമുള്ള പ്രതികരണത്തില്‍ ടിക് ടോക്ക് പറഞ്ഞത്.

ചൈനീസ് സര്‍ക്കാരുമായുള്ള ബന്ധത്തിന്റെ പേരില്‍ ടിക് ടോക്ക് നിരോധിക്കുമെന്ന് തന്റെ ഭരണകാലത്ത് മുന്‍ യുഎസ് പ്രസിഡന്റ് ഡൊണാള്‍ഡ് ട്രംപ് ഭീഷണിപ്പെടുത്തിയിരുന്നു.

ഈ ഓഡിറ്റ് ടിക്‌ടോക്കിനു സഹായകരമാവുന്നത്?

ചൈനീസ് ഭീമനായ ബൈറ്റ്ഡാന്‍സ് ഉടമസ്ഥതയിലുള്ള ടിക്‌ടോക്ക് അതിന്റെ ആപ്പും അല്‍ഗോരിതങ്ങളും ചൈനീസ് സര്‍ക്കാര്‍ നിയന്ത്രിക്കുകയോ ആക്സസ് ചെയ്യുകയോ ചെയ്തിട്ടില്ലെന്നു തെളിയിക്കേണ്ടതുണ്ട്. എല്ലാ യുഎസ് ഉപയോക്തൃ ഡാറ്റയും ഒറാക്കിളിന്റെ ഇന്‍ഫ്രാസ്ട്രക്ചറിലേക്കു മാറ്റുമെന്നു ജൂണില്‍ ടിക് ടോക്ക് പ്രഖ്യാപിച്ചിരുന്നു. ‘പ്രൊജക്റ്റ് ടെക്സാസി’ന് കീഴിലാണു ടിക്‌ടോക്ക് ഈ മുന്‍കൈ സ്വീകരിക്കുന്നതെന്നു ആക്സിയോസ് പറയുന്നു. 2022 ജൂണ്‍ 30നു യു എസ് സെനറ്റര്‍മാര്‍ക്ക് അയച്ച കത്തിലാണു ടിക് ടോക്ക് ‘പ്രൊജക്റ്റ് ടെക്സാസ്’ പ്രഖ്യാപിച്ചത്.

‘ഉപയോക്താക്കളുമായും പ്രധാന പങ്കാളികളുമായുമായുള്ള വിശ്വാസം വളര്‍ത്തിയെടുക്കാന്‍ സഹായിക്കാനും’ യുഎസ് സര്‍ക്കാരുമായി ഒത്തുപോകുന്നതുമായി ബന്ധപ്പെട്ട് പുരോഗതി കൈവരിക്കുന്നതിനും ഉദ്ദേശിച്ചുള്ളതാണു പ്രൊജക്ട് ടെക്‌സാസ് എന്നാണു കത്ത് വ്യക്തമാക്കുന്നത്.

‘ഉപയോക്തൃ ഡേറ്റയും യു എസ് ദേശീയ സുരക്ഷാ താല്‍പ്പര്യങ്ങളും’ കമ്പനി ‘പൂര്‍ണമായി’ സംരക്ഷിക്കുന്നുവെന്ന് ഉറപ്പാക്കുന്നതിനാണ് പ്രൊജക്റ്റ് ടെക്‌സാസ് ഉദ്ദേശിക്കുന്നതെന്ന് ടിക് ടോക്ക് പറഞ്ഞു.

‘ഒറാക്കിള്‍ ക്ലൗഡ് എന്‍വയോണ്‍മെന്റില്‍ സ്ഥിരസ്ഥിതിയായി 100 ശതമാനം യു എസ് ഉപയോക്തൃ ഡേറ്റ’ സംഭരിക്കുന്നുവെന്നും ‘സമീപ ഭാവിയില്‍ അന്തിമമാക്കുമെന്നു തങ്ങള്‍ പ്രതീക്ഷിക്കുന്ന പുതിയ, നൂതന ഡേറ്റാ സുരക്ഷാ നിയന്ത്രണങ്ങളില്‍ ഒറാക്കിളുമായി’ പ്രവര്‍ത്തിക്കുകയാണെന്നും കത്തില്‍ ടിക് ടോക്ക് അവകാശപ്പെട്ടു.

ഒറാക്കിള്‍ പതിവായി ഓഡിറ്റ് ചെയ്യുന്നതിലൂടെ, അല്‍ഗോരിതത്തില്‍ ചൈനീസ് അധികൃതര്‍ കൃത്രിമം കാണിക്കുന്നില്ലെന്ന കാര്യത്തില്‍ കുറച്ച് വിശ്വാസമുണ്ടാകുമെന്നാണു ടിക്‌ടോക്ക് പ്രതീക്ഷിക്കുന്നത്. ഇത് ആപ്പ് നിരോധിക്കപ്പെടുന്നില്ലെന്ന് ഉറപ്പാക്കുമെന്നും കമ്പനി പ്രതീക്ഷിക്കുന്നു. അല്ലെങ്കില്‍ മോശമായി, ബൈറ്റ്ഡാന്‍സ് അതിന്റെ ഏറ്റവും ജനപ്രിയമായ ഉല്‍പ്പന്നം വിദേശ സ്ഥാപനത്തിന് വില്‍ക്കാന്‍ നിര്‍ബന്ധിതരാകേണ്ടി വരും.

ടിക്‌ടോക്കിന്റ അല്‍ഗോരിതത്തിലെ പ്രശ്‌നങ്ങള്‍ എന്തൊക്കെ?

ചൈനീസ് സര്‍ക്കാരുമായുള്ള എല്ലാ ബന്ധങ്ങളും സംബന്ധിച്ച വിഷയങ്ങള്‍ ഇല്ലാതാക്കാന്‍ ടിക്‌ടോക്ക് പ്രതീക്ഷിക്കുന്നുണ്ടെങ്കിലും, അല്‍ഗോരിതവും അതു പ്രവര്‍ത്തിക്കുന്ന രീതിയും ഉയര്‍ത്തിക്കാട്ടുന്ന പ്രശ്‌നങ്ങളെക്കുറിച്ചു നിരവധി റിപ്പോര്‍ട്ടുകളുണ്ട്. ടിക് ടോക്കിന്റെ അല്‍ഗോരിതം ആസക്തി ഉളവാക്കുന്നതും അപകടകരവുമായ ഉള്ളടക്കം നല്‍കുമെന്ന് ആരോപണമുണ്ട്.

ഉദാഹരണത്തിന്, ഉപയോക്താക്കള്‍ കാണുന്ന ശീലങ്ങളെക്കുറിച്ച് കൂടുതലറിയുന്നതിനാണ് അല്‍ഗോരിതം രൂപകല്‍പ്പന ചെയ്തിരിക്കുന്നതെന്നും പലപ്പോഴും ഉപദ്രവകരമാകുന്ന വീഡിയോകള്‍ നല്‍കുന്നതായും വാള്‍ സ്ട്രീറ്റ് ജേണലിന്റെ ഒരു റിപ്പോര്‍ട്ട് പറയുന്നു. ഈ ആവശ്യത്തിനായി 100 ബോട്ടുകള്‍ സൃഷ്ടിച്ചു. അവയില്‍ ചിലത് തെറ്റായ ഭക്ഷണശീലങ്ങള്‍, പ്രായപൂര്‍ത്തിയാകാത്തവരിലെ ലൈംഗിക വല്‍ക്കരണം എന്നിവ പ്രോത്സാഹിപ്പിക്കുന്നതും ആത്മഹത്യയെക്കുറിച്ച് ചര്‍ച്ചചെയ്യുന്നതുമായ വീഡിയോകള്‍ നല്‍കി.

അടുത്തതായി എന്ത് വീഡിയോ കാണണമെന്ന് നിര്‍ദേശിക്കുന്ന ടിക് ടോക്കിന്റെ റെക്കമെന്‍ഡേഷന്‍ എഞ്ചിനാണ് ഉപഭോഗം ചെയ്യുന്ന ഉള്ളടക്കത്തിന്റെ ഭൂരിഭാഗവും നയിക്കുന്നതെന്ന് അന്വേഷണത്തില്‍ കണ്ടെത്തി. ഈ വര്‍ഷം ജൂലൈയില്‍, അപകടകരമായ ഉള്ളടക്കം കുട്ടികള്‍ക്ക് നല്‍കുന്ന അല്‍ഗോരിതത്തിനെതിരെ ടിക്‌ടോക്കിനെതിരെ കേസ് ഫയല്‍ ചെയ്യാന്‍ മരിച്ച രണ്ട് പെണ്‍കുട്ടികളുടെ മാതാപിതാക്കള്‍ തീരുമാനിച്ചു. ലോസ് ഏഞ്ചല്‍സ് കൗണ്ടിയില്‍ ഫയല്‍ ചെയ്ത വ്യവഹാരത്തില്‍, തങ്ങളുടെ ഉല്‍പ്പന്നം ആസക്തിയുള്ളതാണെന്നു ടിക്‌ടോക്കന് അറിയാമായിരുന്നുവെന്നും എന്നാല്‍ ‘കുട്ടികളെ ദോഷകരമായ ഉള്ളടക്കത്തിലേക്ക് നയിക്കുന്നു’ എന്ന് മുന്നറിയിപ്പ് നല്‍കിയില്ലെന്നും ന്യൂയോര്‍ക്ക് ടൈംസ് റിപ്പോര്‍ട്ട് പറയുന്നു. കഴിഞ്ഞ വര്‍ഷം ഒരു ബ്ലാക്ക്ഔട്ട് ചലഞ്ചില്‍ പങ്കെടുത്തതിനെത്തുടര്‍ന്നാണു പെണ്‍കുട്ടികള്‍ മരിച്ചത്. അബോധാവസ്ഥയിലാകുന്നതുവരെ ശ്വാസം വിടാതിരിക്കാന്‍ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിക്കുന്നതാണ് ഈ ചലഞ്ച്.

ചില ആരോപണങ്ങള്‍ നേരിടാന്‍ ചെയ്യാന്‍ ടിക് ടോക്ക് ശ്രമിച്ചിട്ടുണ്ട്. സ്വന്തം സുതാര്യത റിപ്പോര്‍ട്ട് കമ്പനി പുറത്തുവിട്ടിരുന്നു. ഗവേഷകര്‍ക്ക് ‘ഉള്ളടക്കവും ട്രെന്‍ഡുകളും തിരിച്ചറിയുന്നതിനും വിലയിരുത്തുന്നതിനും അല്ലെങ്കില്‍ തങ്ങളുടെ പ്ലാറ്റ്ഫോമിന്റെ പരിശോധനകള്‍ നടത്തുന്നതിനുമുള്ള കൃത്യമായ വഴികള്‍’ നല്‍കുമെന്ന് ഒരു ബ്ലോഗ് പോസ്റ്റില്‍ ടിക്‌ടോക്ക് പറഞ്ഞിരുന്നു.

ഈ വര്‍ഷാവസാനത്തോടെ പ്ലാറ്റ്ഫോമിലെ ‘ഉള്ളടക്കത്തെയും പ്രവര്‍ത്തനത്തെയും കുറിച്ചുള്ള അജ്ഞാത ഡേറ്റയിലേക്ക്’ ഗവേഷകര്‍ക്കു പ്രവേശനം നല്‍കാന്‍ ടിക്‌ടോക്ക് പദ്ധതിയിടുന്നുണ്ട്. ഗവേഷകര്‍ക്ക് കൂടുതല്‍ ഉള്ളടക്ക മോഡറേഷന്‍ സംവിധാനങ്ങളിലേക്കു പ്രവേശനം നല്‍കാനും ടിക്‌ടോക്ക് പദ്ധതിയിടുന്നു.

Stay updated with the latest news headlines and all the latest Explained news download Indian Express Malayalam App.

Web Title: Tiktok algorithms content moderation model audit