മെൽബൺ: കൃത്രിമബുദ്ധിയുടെ അതിവേഗ വികസനം മനുഷ്യരാശിക്ക് ഗുരുതര ഭീഷണിയാകുമെന്ന മുന്നറിയിപ്പുമായി പ്രമുഖ AI കമ്പനികളുടെ മേധാവികൾ. AI വികസനത്തിന്റെ വേഗം കുറയ്ക്കേണ്ട സമയമാണിതെന്ന് Anthropic സിഇഒ ഡാരിയോ അമോഡെയ് വ്യക്തമാക്കി. AI മനുഷ്യനിയന്ത്രണത്തിൽ നിന്ന് പുറത്തുകടന്ന് മനുഷ്യരാശിയുടെ നാശത്തിലേക്ക് നയിക്കാനുള്ള സാധ്യത പൂജ്യമല്ലെന്ന് അമോഡെയ് CNNനോട് പറഞ്ഞു. AI മോഡലുകൾ സ്വന്തം പിൻഗാമികളെ വികസിപ്പിക്കുന്നതിൽ കൂടുതൽ സഹായിക്കുന്നതും സ്വയം മെച്ചപ്പെടാനുള്ള ശേഷി വർധിക്കുന്നതുമാണ് തന്റെ ആശങ്ക വർധിപ്പിച്ച രണ്ട് പ്രധാന കാരണങ്ങളെന്നും അദ്ദേഹം വ്യക്തമാക്കി.
Anthropic പുറത്തുവിട്ട പുതിയ സുരക്ഷാ റിപ്പോർട്ടിൽ ഇറാനുമായി ബന്ധമുള്ള ഒരു ഓപ്പറേറ്റർ Claude AI ഉപയോഗിച്ച് അമേരിക്കൻ യുദ്ധക്കപ്പലുകളുടെ നീക്കങ്ങൾ നിരീക്ഷിക്കുകയും ലക്ഷ്യനിർദേശങ്ങൾ തയ്യാറാക്കുകയും ചെയ്തതായി പറയുന്നു. പൊതുവായി ലഭ്യമായ വിവരങ്ങൾ, കപ്പലുകളുടെയും വിമാനങ്ങളുടെയും ട്രാൻസ്പോണ്ടർ വിവരങ്ങൾ, ഉപഗ്രഹ ചിത്രങ്ങൾ, സൈനികരുടെ ചിത്രങ്ങളിൽനിന്നുള്ള വിവരങ്ങൾ എന്നിവ ഉപയോഗിച്ചായിരുന്നു പ്രവർത്തനം. യമനിലെ ഒരു സംഘം Claudeയുടെ നിരവധി പതിപ്പുകൾ ഉപയോഗിച്ച് റോക്കറ്റുകൾക്കും മിസൈലുകൾക്കുമായി ഗൈഡൻസ് സോഫ്റ്റ്വെയർ വികസിപ്പിച്ചതായും Anthropic പറയുന്നു. 2,000 കിലോമീറ്ററിലധികം ദൂരപരിധിയുള്ള മിസൈലിന്റെ പദ്ധതിയും ഇതിൽ ഉൾപ്പെട്ടിരുന്നു.
AI സംവിധാനങ്ങൾ പരീക്ഷണപരിധി മറികടന്ന് യഥാർഥ ഇന്റർനെറ്റ് സംവിധാനങ്ങളിലേക്കും കടന്ന സംഭവങ്ങളും ആശങ്ക വർധിപ്പിച്ചിട്ടുണ്ട്. OpenAIയുടെ സൈബർ സുരക്ഷാ പരിശോധനയ്ക്കിടെ ചില AI ഏജന്റുകൾ അനുമതിയില്ലാത്ത ആശയവിനിമയ സംവിധാനങ്ങൾ ഉപയോഗിക്കുകയും പിന്നീട് ഇന്റർനെറ്റിലെത്തുകയും ചെയ്തിരുന്നു. Hugging Faceയുടെ അടിസ്ഥാന സൗകര്യങ്ങളിൽ ചില ഭാഗങ്ങളിൽ ഇവ പ്രവേശിക്കുകയും ചെയ്തതായി റിപ്പോർട്ടുണ്ട്.
Anthropic നടത്തിയ 1.41 ലക്ഷം പരീക്ഷണങ്ങളുടെ അവലോകനത്തിൽ, കോൺഫിഗറേഷൻ പിഴവിനെ തുടർന്ന് Claude മോഡലുകൾ യഥാർഥ ഇന്റർനെറ്റിലേക്ക് കടന്ന് അനുമതിയില്ലാത്ത പ്രവേശനം നേടിയ മൂന്ന് സംഭവങ്ങളും കണ്ടെത്തി. ഇത്തരം സംഭവങ്ങൾ ഭാവിയിൽ കൂടുതൽ ശക്തമായ AI സംവിധാനങ്ങൾ ദുരുപയോഗം ചെയ്യപ്പെടാനുള്ള സാധ്യതയിലേക്കാണ് വിരൽചൂണ്ടുന്നതെന്ന് അമോഡെയ് പറയുന്നു. അടുത്ത ആറ് മുതൽ 12 മാസത്തിനുള്ളിൽ കൂടുതൽ കഴിവുള്ളതും തെറ്റായ ലക്ഷ്യങ്ങളുള്ളതുമായ AI ഏജന്റുകൾ ഇന്റർനെറ്റിൽ സ്ഥിരമായ ബോട്ട്നെറ്റ് സ്ഥാപിച്ച് നൂറുകണക്കിന് ബില്യൺ ഡോളറിന്റെ നാശനഷ്ടം വരുത്താൻ സാധ്യതയുണ്ടെന്നതാണ് അദ്ദേഹത്തിന്റെ പ്രവചനം.
AI വികസനത്തിന്റെ വേഗം കുറയ്ക്കണമെന്ന് ആവശ്യപ്പെട്ട അമോഡെയ്, കമ്പനികളുടെ സുരക്ഷാ നടപടികൾ സ്വതന്ത്രമായി വിലയിരുത്താൻ പുറത്തുനിന്നുള്ള വിദഗ്ധർക്ക് പ്രവേശനം നൽകണമെന്നും നിർദേശിച്ചു. OpenAI സിഇഒ സാം ആൾട്ട്മാനും ഈ നിർദേശത്തെ പിന്തുണച്ചു. xAI മേധാവി ഇലോൺ മസ്കും പിന്നീട് അമോഡെയ് ശരിയാണെന്ന് പ്രതികരിച്ചു. എന്നാൽ AI വ്യവസായം തന്നെ ഇത്തരം മുന്നറിയിപ്പുകൾ നൽകുന്നത് വിരോധാഭാസമാണെന്ന വിമർശനവും ഉയരുന്നുണ്ട്. വൻ നിക്ഷേപങ്ങളും ഡാറ്റാ സെന്ററുകളും ഉപയോഗിച്ച് അതിവേഗം AI വികസിപ്പിക്കുന്ന കമ്പനികൾ തന്നെയാണ് ഇപ്പോൾ കൂടുതൽ നിയന്ത്രണങ്ങൾ ആവശ്യപ്പെടുന്നതെന്നാണ് വിമർശകരുടെ വാദം. അതേസമയം, AIയുടെ ഭാവിയിലെ മനുഷ്യവംശനാശ ഭീഷണിയിൽ മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത് നിലവിൽ സംഭവിച്ചുകൊണ്ടിരിക്കുന്ന പ്രശ്നങ്ങളിൽ നിന്ന് ശ്രദ്ധ തിരിക്കുമെന്നും ഗവേഷകർ മുന്നറിയിപ്പ് നൽകുന്നു. വിവേചനം, പകർപ്പവകാശ ലംഘനം, തൊഴിലാളി ചൂഷണം, നിരീക്ഷണം, ഡീപ്ഫേക്ക്, തൊഴിൽ നഷ്ടം, അധികാരത്തിന്റെ കേന്ദ്രീകരണം തുടങ്ങിയവയും അടിയന്തരമായി പരിഗണിക്കേണ്ട വിഷയങ്ങളാണെന്നാണ് വിദഗ്ധരുടെ നിലപാട്.