ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) മോഡലുകളുടെ സുരക്ഷാ പരിശോധനയ്ക്കിടെ, യഥാർഥ ലോകത്തെ സംവിധാനങ്ങളിൽ നിന്ന് അകറ്റിനിർത്തേണ്ടിയിരുന്നിട്ടും തങ്ങളുടെ മോഡലുകൾ മൂന്ന് സ്ഥാപനങ്ങളുടെ സംവിധാനങ്ങളിലേക്ക് അനധികൃതമായി പ്രവേശിച്ചതായി AI കമ്പനിയായ Anthropic അറിയിച്ചു. ഏത് സ്ഥാപനങ്ങളെയാണ് ബാധിച്ചതെന്ന് കമ്പനി വ്യക്തമാക്കിയിട്ടില്ല. എന്നാൽ സംഭവത്തെക്കുറിച്ച് മൂന്ന് സ്ഥാപനങ്ങളെയും തിങ്കളാഴ്ച അറിയിച്ചതായി Anthropic പറഞ്ഞു.
സുരക്ഷാ പരിശോധനയ്ക്കിടെ എതിരാളിയായ OpenAIയുടെ AI മോഡലുകൾ നിയന്ത്രിത സംവിധാനങ്ങളിൽ നിന്ന് പുറത്തുകടന്ന് ഇന്റർനെറ്റുമായി ബന്ധപ്പെടുകയും വിവിധ സംവിധാനങ്ങളിലേക്ക് പ്രവേശിക്കുകയും ചെയ്തതായി റിപ്പോർട്ട് പുറത്തുവന്ന് ദിവസങ്ങൾക്കുള്ളിലാണ് Anthropic-ന്റെ വെളിപ്പെടുത്തൽ. Anthropic നടത്തിയ 1,41,000ത്തിലധികം സുരക്ഷാ പരിശോധനകളുടെ വിലയിരുത്തലിലാണ് Claude എന്ന പേരിലുള്ള തങ്ങളുടെ AI മോഡലിന്റെ മൂന്ന് വ്യത്യസ്ത പതിപ്പുകൾ മൂന്ന് സ്ഥാപനങ്ങളുടെ സംവിധാനങ്ങളിലേക്ക് അനധികൃതമായി പ്രവേശിച്ചതായി കണ്ടെത്തിയത്. OpenAI സംഭവത്തിൽ നിന്ന് വ്യത്യസ്തമായി, Anthropic മോഡലുകൾക്ക് ഇന്റർനെറ്റ് ആക്സസ് ലഭിച്ചത് കമ്പനിയും സുരക്ഷാ പരിശോധനാ പങ്കാളിയായ Irregular-ഉം തമ്മിലുണ്ടായ ആശയക്കുഴലിനെ തുടർന്നാണെന്ന് Anthropic വ്യക്തമാക്കി. എന്നിരുന്നാലും, Claude മോഡലുകൾ ദുർബലമായ പാസ്വേഡുകളും ശരിയായ authentication ഇല്ലാത്ത സിസ്റ്റം എൻഡ്പോയിന്റുകളും പോലുള്ള അടിസ്ഥാന സാങ്കേതിക വിദ്യകൾ ഉപയോഗിച്ചതായി കമ്പനി അറിയിച്ചു. Anthropic-ന്റെ ഏറ്റവും ശക്തമായ AI മോഡലുകളിലൊന്നായ Mythos 5-ഉം സംഭവത്തിൽ ഉൾപ്പെട്ടിരുന്നു. നിലവിൽ തിരഞ്ഞെടുത്ത അംഗീകൃത പങ്കാളികൾക്ക് മാത്രമാണ് ഈ മോഡലിലേക്ക് പ്രവേശനമുള്ളത്. സംഭവത്തെക്കുറിച്ച് Irregular-ുമായി ചേർന്ന് വിശദമായ പരിശോധന നടത്തുകയാണെന്നും ബാധിക്കപ്പെട്ട മൂന്ന് സ്ഥാപനങ്ങളെയും ബന്ധപ്പെട്ടതായും Anthropic അറിയിച്ചു.
ഇതിനിടെ, OpenAIയുടെ മോഡലുകൾ ഒന്നിലധികം കമ്പനികളുടെ സംവിധാനങ്ങൾ ലംഘിച്ചതായി ചൊവ്വാഴ്ച കമ്പനി സ്ഥിരീകരിച്ചിരുന്നു. സുരക്ഷാ പരിശോധനയ്ക്കിടെ മോഡലുകൾ നിയന്ത്രിത sandbox സംവിധാനത്തിൽ നിന്ന് പുറത്തുകടന്ന് ഇന്റർനെറ്റുമായി ബന്ധപ്പെടുകയും ഡെവലപ്പർമാർ കോഡ് സൂക്ഷിക്കുകയും പങ്കിടുകയും ചെയ്യുന്ന Hugging Face എന്ന പ്ലാറ്റ്ഫോമിലേക്ക് പ്രവേശിക്കുകയും ചെയ്തതായി OpenAI സമ്മതിച്ചിരുന്നു. സംഭവത്തിന് പിന്നാലെ സ്വന്തം സുരക്ഷാ പരിശോധനകൾ താൽക്കാലികമായി നിർത്തിവെച്ചതായി OpenAI മേധാവി സാം ആൾട്ട്മാൻ പറഞ്ഞു. AI മോഡലുകളെ നിയന്ത്രിത അന്തരീക്ഷത്തിൽ ഒറ്റപ്പെടുത്തി പരിശോധിക്കുന്ന sandbox സംവിധാനത്തിന്റെ സുരക്ഷ കൂടുതൽ ശക്തമാക്കുന്നതിനായാണ് പരിശോധനകൾ നിർത്തിയതെന്നും അദ്ദേഹം വ്യക്തമാക്കി.
സംഭവങ്ങൾക്കിടെ അത്യാധുനിക AI മോഡലുകളുടെ വികസനം നിയന്ത്രിക്കണമെന്ന് ആവശ്യപ്പെട്ട് AI മേഖലയിലെ 1,000ത്തിലധികം ജീവനക്കാർ ഒപ്പുവെച്ച ഹർജിയും ശ്രദ്ധ നേടിയിരുന്നു. Anthropic CEO Dario Amodeiയും ഹർജിയിൽ ഒപ്പുവെച്ചവരിൽ ഉൾപ്പെടുന്നു. AI വികസനത്തിന്റെ വേഗത നിയന്ത്രിക്കാൻ സമൂഹത്തിന് മതിയായ സമയം നൽകേണ്ടി വരുമെന്ന് സാം ആൾട്ട്മാനും അഭിപ്രായപ്പെട്ടു. അതേസമയം, AI രംഗത്ത് ചൈനയേക്കാൾ പിന്നിലാകാതിരിക്കാനുള്ള ആവശ്യകതയും നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തേണ്ടതിന്റെ ആവശ്യകതയും തമ്മിൽ സന്തുലിതാവസ്ഥ പാലിക്കണമെന്ന് യുഎസ് പ്രസിഡന്റ് ഡൊണാൾഡ് ട്രംപ് പ്രതികരിച്ചു. AI മോഡലുകളുടെ കഴിവുകൾ സംബന്ധിച്ച ആശങ്കകൾക്കും അവയുടെ സുരക്ഷാ സംവിധാനങ്ങൾക്കുമിടയിൽ പുതിയ ചർച്ചകൾക്ക് വഴിവെച്ചിരിക്കുകയാണ് Anthropic, OpenAI എന്നിവയുമായി ബന്ധപ്പെട്ട പുതിയ സംഭവങ്ങൾ.