NAL

Meta ရဲ့ Latest Text Generation ဖြစ်တဲ့ LLaMa 2 Open Source Large Language Model ကို July 18 ရက်က ထုတ်ပြန်ကြော်ငြာခဲ့ပြီး စိတ်ဝင်စားစရာကောင်းတဲ့ အချက်တွေကိုအောက်မှာ တင်ပြပေးသွားပါမယ်။

1. LLaMa 2 Model ကို Tech Giant Microsoft နဲ့ Longstanding Partnership, Preferred Partner လို့သုံးနှုန်းထားပြီး ပွဲထွက်လာတာပါ။ Microsoft က ခု LLaMa ရဲ့ ပြိုင်ဖက်ဖြစ်တဲ့ OpenAI မှာ Billion နဲ့ချီပြီး ရင်းနှီးမြှပ်နှံထားတဲ့ Corporation ကြီး ၁ ခုပါ။

2. Open Source အနေနဲ့ အသုံးပြုခွင့်ပေးထားတာက မထူးခြားဘူးလို့ ပြောလို့ရပေမယ့် Research and Commercial Use အတွက်လည်း အခမဲ့ အသုံးပြုခွင့်ပေးထားတာပါ။ Falcon Model ဆိုရင်ထွက်ခါစကာလမှာ Commercial အတွက်အသုံးပြုရင် ဝင်ငွေ ဒေါ်လာ ၁ သန်းကျော်တာနဲ့ Royalties ကြေး အနေနဲ့ ကောက်ခံဖို့ စီစဉ်ခဲ့တာမျိုး ရှိပါတယ်ခဗျ။

3. ထည့်သွင်း တည်ဆောက်ထားတဲ့ Parameters 7B, 13B နဲ့ 70B ဆိုပြီး ပမာဏ ၃ မျိုးထွက်ရှိလာပါတယ်။ အကြမ်းဖျင်းအားဖြင့် Parameters ပမာဏပေါ်မူတည်ပြီး လုပ်ဆောင်နိုင်စွမ်းတွေလည်းကွာခြားသွားတာပါ။ အောက်က ပုံထဲမှာ တခြားနာမည်ကြီး LLM တွေဖြစ်တဲ့ MPT, Falcon တို့နဲ့ Reasoning, Coding, Knowledge Testing တွေရဲ့ Benchmark တွေကို နှိုင်းယဉ်ပြထားပြီး ရလဒ်တွေအရတော့ Parameters ပမာဏတူတာချင်းနိှုင်းယှဥ်ရင် ရလဒ် သိသိသာသာ ကောင်းမွန်နေတာကိုလည်း တွေ့ရပါတယ်။

4. LLaMa 2 ကိုစတင် စီစဉ်တုန်းက 33B Parameters ပါဝင်ပေမယ့် Public မှာ Safety ရှိရှိ သုံးစွဲဖို့အတွက် Result မလုံလောက်သေးလို့ ချန်ထားခဲ့တာကိုလည်း တွေ့ရပါတယ်။

အပေါ်မှာ ပြောခဲ့တဲ့ Meta ရဲ့ LLaMa 2 ကို အသုံးပြုဖို့ဆိုရင် မူရင်း Meta website မှာ Download ချနိုင်သလို Hugging Face နဲ့ Github မှာလည်း Access ပေးထားတာကို တွေ့ရပါတယ်။ 7B Parameters ကို ချောချောမွေ့မွေ့ လည်ပတ်ဖို့ GPU Memory 16GB နဲ့ 70B parameters ကို ချောချောမွေ့မွေ့ လည်ပတ်ဖို့ GPU Memory 48 GB အနည်းဆုံးလိုအပ်မယ်လို့ Google Bard ကနေတဆင့် ခန်မှန်းသိရှိရပါတယ်။

အရမ်စိတ်ဝင်စားလို့ GPU တွေ မဝယ်ဘဲ Instance တွေကို ဈေးသက်သာတဲ့ Runpod လိုနေရာမှာ ငှားရမ်းသုံးစွဲရင်တောင် ၁ နာရီကို 3$ ကနေ 7$ ကြားကျသင့်နိုင်ပါတယ်။ လစဉ်ဆို ကုန်ကျစရိတ် Dollar 2000 ကနေ 5000 ကြား ကုန်ကျသွားနိုင်ခြေရှိပါတယ်။

ဒါပေမယ့် အလုပ်လည်းမရှုပ်ချင်ဘူး ၊ ကုန်ကျစရိတ်လည်း မများချင်ဘဲ စမ်းသပ်သုံးစွဲချင်တဲ့သူတွေအတွက် နည်းလမ်း ၁ ခုတော့ရှိပါတယ်။ အဲဒါကတော့ labs.perplexity.ai မှာ အခမဲ့ စမ်းသပ်သုံးစွဲလို့ရတယ် ဆိုတဲ့အကြောင်းလေးလည်း သတင်းကောင်းပါးလိုက်ပါရစေခဗျာ။

နောက်ရက်တွေမှာကော (မြန်မာ) ChatGPT AI Chatbot လေးကို ဘာတွေ မေးမြန်းခိုင်းစေလို့ရလဲဆိုတာလေးတွေကို ဆက်လက်တင်ပြနေမှာမို့လို့ Page ကို Like and Follow လေးလုပ်ထားပေးကြပါဉီး။