سات مفت آزاد سورس GPT ماڈلز جاری کئے گئے ہیں

سلیکن ویلی آرٻ آئی کمپنی سیریبراس نے سات کھلے سورس GPT ماڈلز جاری کیئے ہیں تاکہ آج کے ٹائٹلی کنٹرول اور خصوصی نظاموں کا ایک متبادل پیش کریں۔

سلطانیہ فری اوپن سورس جی پی ٹی ماڈلز، جن میں وزن اور تربیت کا فارمولہ شامل ہوتا ہے، سلیکن ویلی بیسڈ ای آئی انفراسٹرکچر فار اے آئی ایپلیکیشنز کمپنی سیریبراس کے زیر نگرانی بہت آسان Apache 2.0 لائسنس کے تحت ریلیز کیے گئے ہیں۔

ایک خاص حد تک، سات GPT ماڈلز سریبرس اینڈرومیڈا اینٹیلیجنس سپر کمپیوٹر کے تھیوری کی تصدیق ہیں۔

سیریبراس کی ساختاریات جیسے چیزو کو پابند رکھتی ہےوہ اپنے صارفین کو مثل جسپر AI کاپی رائٹرکو خود اپنے تخصیصی زبانی ماڈلز کو تیزی سے ٹرین کرنے کی اجازت دیتا ہے۔

ایک سیریبراس ویبسائٹ پر بھارتی ٹیکنالوجی کے بارے میں نکتہ ضمنیہ۔

"ہم نے تمام سیربراس-GPT ماڈلز کواینڈرومیڈا نام کے 16x سی ایس-2 سیربراس ویفر-اسکیل کلسٹر پر تربیت دی".

یہ کلسٹر تمام تجارب کو بغیر GPU کلسٹر پر ریکتیف نظم تنظیمی اور ماڈل متوازی آٹھارن کے بغیر جلد مکمل ہونے کی اجازت دیتی ہے.

سب سے زیادہ اہم بات یہ ہے کہ یہ ہمارے تحقیق کاروں کو تقسیم شدہ نظام کی جگہ ارتکاز کرنے کی بجائے ایم ایل کے ڈیزائن پر توجہ دینے کی اجازت دیتی ہے. ہمیں یقین ہے کہ بڑے ماڈلز کو آسانی سے تربیت کرنے کی صلاحیت براڈ کمیونٹی کیلئے اہم ہے، لہذا ہم نے سیربراس ویفر-اسکیل کلسٹر کو سیربراس ای ای ماڈل سٹوڈیو کے ذریعہ بادل کے لئے دستیاب کرایا ہے"

Cerebras GPT ماڈلز اور شفافیت

Cerebras نے AI ٹیکنالوجی کی ملکیت کی توجہ کے صرف چند کمپنیوں کی طرف اشاعت گرانے کو سات عمومی مفت GPT ماڈلوں کے تخلیق کا سبب بنایا ہے۔

OpenAI, Meta اور Deepmind اپنے انتظامی نظم اور اطلاعات کا بڑا حصہ نجی اور مضبوط طور پر رکھتے ہیں، جس سے اختراع محدود ہوتی ہے کہ تینوں کارپوریشنز کے مطابق دیگر لوگ ان کی ڈیٹا کے ساتھ کچھ بھی نہیں کر سکتے۔

کیا ایک بند کیوس سسٹم خود کار اصلے میں بہتر ہے یا آئی کی میں خلاصہ منتشری کیلئے ہمارا مستقبل؟

سیرابراس لکھتا ہے:

"LLMs میں ٹیکنالوجی کو کھولنے اور رسائل استعمال کرنے کیلئے یقینی بنانے کے لئے ، ہمارے خیال میں اہم ہے کہ ہمیں تازہ ترین تکنیکوں اور کھلے ڈیٹا سے تربیت پانے والے ماجروں تک رسائل تک استعمال ہونے والے نمونے کا ادانہ ہو۔"

"اس تحفے کو ہم نے چنچلا فارمولہ کا استعمال کرکے ٹرانسفارمر نمونوں کی یک خاندان تربیت دی تھی ، اور ہم اسے Cerebras-GPT کہتے ہیں۔"

"یہ نمونے گی پی ٹی کے پہلے خاندان ہیں جنہیں چنچلا فارمولہ استعمال کرکے اور Apache 2.0 لائسنس کے ذریعے جاری کیا گیا ہے۔"

اس طرح یہ ساتھ میں سات ماڈلز ہگنگ فیس اور گِٹ ہب پر ریلیز کیے گئے ہیں تاکہ عموم کو اے آئی ٹیکنالوجی کی کھلی رسائی کے ذریعے مزید تحقیق کا اعانت ہو سکے۔

یہ نمونے سیریبراس کے اینڈرومیڈا AI سپر کمپیوٹر کے ساتھ تربیت یافتہ ہوئے، ایک آپریشن جسے پورے ہفتوں میں مکمل کیا گیا۔

Cerebras-GPT مکمل طور پر کھلا اور شفاف ہے ، جبکہ OpenAI (GPT-4) ، Deepmind اور Meta OPT سے تازہ ترین GPT نمونوں کے برعکس۔

OpenAI اور ڈیپمائنڈ چنچلا ماڈلوں کے استعمال کے لئے لائسنس نہیں فراہم کرتے ہیں۔ میٹا OPT صرف غیر تجارتی لائسنس فراہم کرتا ہے۔

OpenAI کے GPT-4 کے بارے میں بالکل شفافیت نہیں ہے کے وہ اپنی ٹریننگ ڈیٹا کا استعمال کیا ہے. کیا وہ Common Crawl ڈیٹا استعمال کرتے ہیں? کیا وہ انٹرنیٹ پر ڈھونڈ کر اپنا خود کا ڈیٹا بناتے ہیں؟

OpenAI اس معلومات (اور اس سے زیادہ) کو خفیہ رکھ رہا ہے، جو کہ Cerebras-GPT کے رواں شفاف تقریب کے مخالف ہے۔

مندرجہ ذیل سب کھلے اور شفاف ہے:

• ماڈل تجزیہ فنیات
• تربیتی ڈیٹا
• ماڈل ویٹس
• چیک پوائنٹس
• کمیوٹ کا بہترین تربیتی حالت (ہاں)
• استعمال کے لئے لائسنس: ایپاچی 2.0 لائسنس

سات روپ ہوتے ہیں جن میں 111 ایم، 256 ایم، 590 ایم، 1.3 بی، 2.7 بی، 6.7 بی، اور 13 بی ماڈلز ہیں۔

یہ اعلان کیا گیا:

“ایک پہلے دیکھنے میں، سیریبراس کے حر مین کمپنیوں میں سے ایک، اینڈرومیڈا AI سپرکمپیوٹر پر7 جی پی ٹی ماڈلز کی تربیت کرنے کا خیرمقدم کیا گیا جس میں 111M، 256M، 590M، 1.3B، 2.7B، 6.7B، اور 13B پیرامیٹر استعمال ہوئے گئے.”

معمولی طور پر ان ماڈلز کی تربیت اندازاً کیچ ماہ کا پروگرام ہوتا ہے لیکن سیریبراس سی ایس-2 سسٹم کی بے حد تیز رفتار اور سیریبراس کی وزن سٹریمنگ ایرکھیٹیکچر کی صلاحیت کی بدولت یہ کام کچ ہفتوں میں مکمل ہوا.”

یہ نتائج ثابت کرتے ہیں کہ سیریبراس کے سسٹمز آج کے تربیتی لوڈز کوسب سے تربیت دے سکتے ہیں جو سب سے بڑے اور پیچیدہ AI ورک لوڈز ہیں.

یہ پہلی دفعہ ہے کہ GPT ماڈلز کا سیٹ، نئی تربیت کی کارکردگی تکنیک استعمال کرتے ہوئے منظر عام پر لائے جا رہے ہیں.”

یہ ماڈلز ایک دیئے گئے کمپیوٹ بجٹ کے لئے اعلىٰ اکیوریٹی کے ساتھ تربیت کیے جاتے ہیں (یعنی چنچلا ریسیپی کا استعمال کر سفرائے جا رہے ہیں) لہذا ان کے تربیت وقت کم ہوتا ہے، تربیت کی لاگت کم ہوتی ہے اور ان کا انجن کم بجت استعمال کرتا ہے موجودہ کسی بھی عمومی ماڈلز کی نسبت سے.”

چھیڑخانہ آئی

موزیلا فاؤنڈیشن، فائرفاکس جیسے اوپن سورس سافٹ ویئر بنانے والی کمپنی، نے موزیلا ای آئی نامی کمپنی کی تشکیل دی ہے جو اعتماد کے قابل اور پرائیویسی کا خیال رکھتے ہوئے اوپن سورس چھوٹا گپٹی اور تجاویز کنندہ سسٹم بنانے کا کام کرتی ہے۔

ڈیٹابرکس نے حال ہی میں ڈالی کے نام سے ایک مفت و شائقانہ منڈی ڈھانچہ (گیچی کلون) بھی جاری کیا ہے جو "چیٹ جی پی ٹی" کی "جادو" کو عوامی بنانے کا مقصد رکھتا ہے۔

ان سات سریبراس GPT ماڈلز کے علاوہ ، نومیک اے آئی نے گیپی ٹی4 آول ، جو ایک اوپن سورس گیپی ٹی ہے جو لیپ ٹاپ پر چل سکتا ہے ، جاری کیا۔

کھلے سورس AI تحریک ابھی اپنے سیاہ تقریبی مرحلے میں ہیں لیکن رفتار پکڑ رہی ہے۔

GPT ٹیکنالوجی مختلف تعدادی حرفت اور انڈسٹریوں کے اندر بڑی تبدیلیوں کی وجہ بن رہی ہے اور یہ ممکن ہے، شاید غیر مشروط، کہ اوپن سورس کے مدد سے صنعتیں جب بھی یہ تبدیلی لے رہی ہوں کا چہرہ بدل دیتیں۔

اگر خلاق منصوبہ جات کی تیزی سے ترقی جاری رہتی ہے تو ہم عنقریب ایک تبدیلی کی گواہی دینے کے قریب ہوسکتے ہیں جو اسے چند کمپنیوں کے ہاتھوں سے پیدا کرتا ہے ، سے علویات کی بھرمار ختم کرتا ہے۔

رسمی اعلان پڑھیں:

Cerebras سسٹمز سی-2 ویفر اسکیل سسٹم پر تربیت یافتہ سات نئے GPT ماڈلز جاری کرتی ہے