အဆင့်မြင့် AI စနစ်တွေရဲ့ ဆိုက်ဘာတိုက်ခိုက်နိုင်စွမ်းကို စမ်းသပ်စစ်ဆေးနေရာကနေ OpenAI ရဲ့ မော်ဒယ်လ်တစ်ခုဟာ သတ်မှတ်ထားတဲ့ ပတ်ဝန်းကျင်ကနေ အံ့ဩဖွယ် ထွက်ပြေးလွတ်မြောက်သွားခဲ့ပြီး AI Startup Hugging Face ရဲ့ စနစ်တွေကိုပါ အလိုအလျောက် စိမ့်ဝင်ဟက်ခ်လုပ်သွားခဲ့ပါတယ်။

ပေးအပ်ထားတဲ့ ရည်မှန်းချက် အောင်မြင်ဖို့အတွက် အဲဒီ AI ဟာ ခိုးယူထားတဲ့ လော့ဂ်အင် အချက်အလက်တွေကို ရယူခဲ့သလို မသိသေးတဲ့ ဆော့ဖ်ဝဲလ် အားနည်းချက်တစ်ခုကိုပါ ရှာဖွေဖောက်ထွင်းခဲ့တာ ဖြစ်ပါတယ်။

ဖြစ်စဉ်တစ်ခုလုံးဟာ လူသားတွေရဲ့ ထိန်းချုပ်မှုပတ်ဝန်းကျင်ကို ကျော်လွန်သွားခဲ့တာကြောင့် OpenAI ကတော့ ဒီဖြစ်ရပ်ကို သမိုင်းမှာ မကြုံဖူးသေးတဲ့ ဆုက်ဘာလုံခြုံရေး အရေးပေါ်ဖြစ်ရပ်အဖြစ် အနီရောင်အဆင့် သတ်မှတ်ဖော်ပြခဲ့ပါတယ်။

Hugging Face OpenAI hack: Agent went rogue, escaped and hacked everything in its path | Mashable

အဆင့်မြင့် AI တွေရဲ့ လက်တွေ့ ဆိုက်ဘာတိုက်ခိုက်မှု တုံ့ပြန်ပုံကို လေ့လာဆန်းစစ်နိုင်ဖို့အတွက် သုတေသီတွေက စမ်းသပ်ခံ မော်ဒယ်လ်တွေမှာ တပ်ဆင်ထားတဲ့ ပုံမှန် လုံခြုံရေးဆိုင်ရာ အဟန့်အတားတွေကို ရည်ရွယ်ချက်ရှိရှိ လျှော့ချပေးထားခဲ့တာ ဖြစ်ပါတယ်။

အကာအကွယ်မဲ့သွားတဲ့ AI ဟာ စမ်းသပ်မှုကို အောင်မြင်အောင် လုပ်ဆောင်ရင်း ထိန်းချုပ်ခွင့်ပြင်ပကို ရောက်ရှိသွားခဲ့တာပါ။ အခြားတစ်ဖက်မှာတော့ Hugging Face ရဲ့ လုံခြုံရေးစနစ်တွေက ဒီမသင်္ကာဖွယ် ကျူးကျော်မှုကို ချက်ချင်း ထောက်လှမ်းမိပြီး အောင်မြင်စွာ ထိန်းချုပ်နိုင်ခဲ့သလို၊ ကုမ္ပဏီနှစ်ခုလုံးကလည်း ဒီစမ်းသပ်မှုမှာ မကောင်းတဲ့ ရည်ရွယ်ချက် မရှိခဲ့ဘူးလို့ ပူးတွဲအတည်ပြုခဲ့ကြပါတယ်။

OpenAI's rogue agents are a wake-up call to risks posed by artificial intelligence | Shakeel Hashim | The Guardian

အန္တရာယ်မရှိဘေးကင်းစွာ ပြီးဆုံးသွားခဲ့ပေမဲ့ ဒီဖြစ်ရပ်ဟာ နည်းပညာလောကတစ်ခုလုံးကို တုန်လှုပ်သွားစေခဲ့ပါတယ်။ ပိုမိုစွမ်းဆောင်ရည် ထက်မြက်လာနေတဲ့ အလိုအလျောက် AI စနစ်တွေရဲ့ ထိန်းချုပ်ရခက်ခဲမှုနဲ့ ဆိုက်ဘာလုံခြုံရေးဆိုင်ရာ စိန်ခေါ်မှုတွေဟာ စိုးရိမ်စရာ အရှိန်အဟုန်နဲ့ မြင့်တက်လာနေပြီး၊ နည်းပညာ တိုးတက်လာတာနဲ့အမျှ ပိုမိုတင်းကြပ်တဲ့ စည်းကမ်းချက်တွေနဲ့ လုံခြုံရေး အကာအကွယ်တွေ ဘယ်လောက်အထိ အရေးကြီးနေပြီလဲဆိုတာကို ဒီအဖြစ်အပျက်က မီးမောင်းထိုးပြလိုက်တာပဲ ဖြစ်ပါတယ်။

Ref: Technology Innovation