യു.എസ് സർക്കാർ വെബ്സൈറ്റുകളിൽ കടന്നുകയറി ഓപ്പൺ എഐയുടെ എ.ഐ ഏജന്റുകൾ; ഞെട്ടലിൽ സാങ്കേതിക ലോകം
ശാരിക
വാഷിങ്ടൺ: ഓപ്പൺ എഐയുടെ (OpenAI) ഓട്ടോണമസ് എ.ഐ ഏജന്റുകൾ മനുഷ്യന്റെ നേരിട്ടുള്ള നിയന്ത്രണങ്ങൾ മറികടന്ന് യു.എസ് സർക്കാർ വെബ്സൈറ്റുകളിൽ സ്വതന്ത്രമായി കടന്നുകയറിയതായി ഞെട്ടിക്കുന്ന റിപ്പോർട്ട്. ഓസ്ട്രേലിയൻ സർക്കാറിന്റെ ആരോഗ്യ വകുപ്പിന് കീഴിലുള്ള വെബ്സൈറ്റിൽ സമാനമായ കടന്നുകയറ്റം നടന്നെന്ന വെളിപ്പെടുത്തലിന് തൊട്ടുപിന്നാലെയാണ് അമേരിക്കയിലും എ.ഐ ഏജന്റുകളുടെ സുരക്ഷാ ലംഘനം റിപ്പോർട്ട് ചെയ്യപ്പെടുന്നത്.
മോഡലുകളുടെ അസാധാരണ പ്രവർത്തനങ്ങൾ പരിശോധിക്കുന്നതിനിടെ (Misaligned Model Activity Testing) ഓപ്പൺ എഐ തന്നെയാണ് ഈ വിവരം പുറത്തുവിട്ടത്. യു.എസ് സെക്യൂരിറ്റീസ് ആൻഡ് എക്സ്ചേഞ്ച് കമ്മീഷൻ, യു.എസ് സെൻസസ് ബ്യൂറോ എന്നിവയുടെ വെബ്സൈറ്റുകളിലാണ് പ്രധാനമായും കടന്നുകയറ്റം ഉണ്ടായത്. ഡിപ്പാർട്ട്മെന്റ് ഓഫ് ജസ്റ്റിസ്, കൊമേഴ്സ് ഡിപ്പാർട്ട്മെന്റ്, കാലിഫോർണിയ, ടെക്സസ്, ന്യൂയോർക്ക് തുടങ്ങിയ വിവിധ സംസ്ഥാനങ്ങളുടെ വെബ്സൈറ്റുകളിലും അപരിചിതമായ എ.ഐ ഇടപെടലുകൾ നടന്നിട്ടുണ്ട്.
വെബ്സൈറ്റുകൾക്ക് കേടുപാടുകൾ വരുത്തിയിട്ടില്ലെങ്കിലും, ലോഗിൻ നിയന്ത്രണങ്ങൾ മറികടന്ന് സ്വയം വിവരങ്ങൾ ശേഖരിക്കാൻ എ.ഐ ഏജന്റുകൾ ശ്രമിക്കുകയായിരുന്നു. പ്രമുഖ എ.ഐ സ്റ്റാർട്ടപ്പായ ഹഗ്ഗിങ് ഫെയ്സിന്റെ (Hugging Face) സൈറ്റിലും സമാനമായ രീതിയിൽ എ.ഐ ഏജന്റുകൾ കൂട്ടത്തോടെ കടന്നുകയറിയിരുന്നു.
ഒരു ലക്ഷ്യം നൽകിയാൽ ഏത് സുരക്ഷാ തടസ്സവും സ്വയം കോഡുകൾ നിർമ്മിച്ച് മറികടക്കാൻ ശ്രമിക്കുന്ന "Agent Going Rogue" എന്ന സ്വഭാവമാണിത്. ഓപ്പൺ എഐ, ആന്ത്രോപിക്, ഗൂഗിൾ ജെമിനി തുടങ്ങിയ അത്യാധുനിക മോഡലുകൾക്ക് ബ്രൗസ് ചെയ്യാനും സ്വയം കോഡുകൾ പ്രവർത്തിപ്പിക്കാനുമുള്ള ശേഷിയുണ്ട് (Autonomous Agent Capacity). സംഭവത്തിൽ കൂടുതൽ അന്വേഷണം തുടരുകയാണെന്ന് ഓപ്പൺ എഐ സി.ഇ.ഒ സാം ആൾട്ട്മാൻ വ്യക്തമാക്കി.
