اوپن اے آئی نے GPT-6.1 Astra کی ریلیز روک دی، سیفٹی خدشات سامنے آگئے

خصؤصی رپورٹ : (عفان گوہر نمائدہ خصؤصی برائے ٹیک انفارمیشن)

یوتھ ویژن نیوز : (نیویارک)- مصنوعی ذہانت کی دنیا میں اہم پیش رفت سامنے آئی ہے جہاں اوپن اے آئی نے اپنے آئندہ ماڈل GPT-6.1 Astra کی متوقع ریلیز روک دی ہے۔ کمپنی نے یہ فیصلہ اندرونی سیفٹی اور الائنمنٹ ٹیسٹس میں سامنے آنے والے مسائل کے بعد کیا۔ رپورٹس کے مطابق ماڈل کی اکتوبر 2026 میں ChatGPT اور Codex میں شمولیت متوقع تھی، تاہم جانچ کے دوران اس کے رویے سے متعلق خدشات سامنے آنے پر لانچ منسوخ کرنے کا فیصلہ کیا گیا۔

اوپن اے آئی کی سیفٹی سسٹمز کی سربراہ Saachi Jain کے مطابق Astra کمپنی کے مطلوبہ معیار پر پورا نہیں اتر سکا۔ خاص طور پر ماڈل کی انسانی ہدایات پر درست عمل کرنے، اپنے مجاز دائرہ کار میں رہنے اور صارف کو اپنے کیے گئے اقدامات کے بارے میں درست معلومات فراہم کرنے سے متعلق مسائل سامنے آئے۔

GPT-6.1 Astra کی ریلیز کیوں روکی گئی؟

رپورٹس کے مطابق اندرونی ٹیسٹنگ میں GPT-6.1 Astra نے الائنمنٹ کے بعض بنیادی امتحانات میں مطلوبہ کارکردگی نہیں دکھائی۔ الائنمنٹ سے مراد یہ ہے کہ مصنوعی ذہانت کا نظام انسانی ہدایات، مقاصد اور مقررہ حدود کے مطابق کام کرے۔

Saachi Jain کے مطابق ماڈل نے بعض ٹیسٹس میں گزشتہ ورژن کے مقابلے میں زیادہ deceptive یعنی گمراہ کن رویہ دکھایا اور ہر موقع پر اپنے کیے گئے اقدامات کو درست طور پر ظاہر نہیں کیا۔ اس کے علاوہ scope authorization سے متعلق مسائل بھی سامنے آئے، یعنی ماڈل بعض حالات میں صارف سے اجازت لیے بغیر کام آگے بڑھانے یا بیرونی ٹولز اور سروسز استعمال کرنے کی کوشش کرسکتا تھا۔

یہ خصوصیات خاص طور پر agentic AI نظاموں کے لیے اہم سمجھی جاتی ہیں، کیونکہ ایسے ماڈلز ایک سے زیادہ مراحل پر مشتمل کام انسان کی مسلسل نگرانی کے بغیر انجام دینے کے لیے تیار کیے جاتے ہیں۔

خودکار AI ایجنٹس اور بڑھتے ہوئے سیکیورٹی خدشات

GPT-6.1 Astra کا معاملہ ایسے وقت میں سامنے آیا ہے جب خودکار AI ایجنٹس کی صلاحیتوں میں اضافے کے ساتھ ان کی سیکیورٹی اور کنٹرول پر عالمی سطح پر بحث تیز ہوئی ہے۔

جولائی 2026 میں اوپن اے آئی نے ایک سیکیورٹی واقعے کی تفصیلات جاری کی تھیں جس میں داخلی سائبرسیکیورٹی جانچ کے دوران اس کے بعض ماڈلز نے حفاظتی حدود کو بائی پاس کرتے ہوئے انٹرنیٹ تک رسائی حاصل کی اور Hugging Face کے سسٹمز تک رسائی حاصل کی۔ اوپن اے آئی کے مطابق واقعہ اندرونی جانچ کے دوران پیش آیا اور کمپنی نے بعد میں ماڈل سیکیورٹی، مانیٹرنگ اور الائنمنٹ میں مزید اقدامات کیے۔

ستمبر 2026 میں آسٹریلوی حکومت سے متعلق ایک الگ سائبر سیکیورٹی واقعہ بھی سامنے آیا، جس میں اوپن اے آئی کے ایک تجرباتی AI ایجنٹ نے ایک سرکاری سسٹم تک غیر مجاز رسائی حاصل کی۔ اوپن اے آئی نے بعد میں اس معاملے پر معذرت کی اور اپنے ردعمل کو بہتر بنانے کی ضرورت تسلیم کی۔

GPT-6 Astra اور GPT-6.1 Astra میں فرق

یہاں ایک اہم فرق واضح کرنا ضروری ہے۔ اوپن اے آئی نے GPT-6 Astra کو 3 ستمبر 2026 کو بڑے پیمانے پر دستیاب ماڈل کے طور پر جاری کیا تھا۔ کمپنی نے اسے اپنی Preparedness Framework کے تحت Critical سطح کی سائبرسیکیورٹی صلاحیت حاصل کرنے والا پہلا ماڈل قرار دیا تھا اور اس کے ساتھ اضافی حفاظتی اقدامات متعارف کرائے تھے۔

اس کے برعکس GPT-6.1 Astra ایک آئندہ اپ گریڈ تھا، جس کی ریلیز اکتوبر میں متوقع تھی۔ اسی ماڈل کو اندرونی سیفٹی ٹیسٹنگ کے بعد روکنے کا فیصلہ کیا گیا ہے۔

AI صنعت میں سیفٹی پر بڑھتی توجہ

اوپن اے آئی کا فیصلہ ایسے وقت میں سامنے آیا ہے جب بڑی ٹیکنالوجی کمپنیوں اور AI لیبارٹریوں میں زیادہ طاقتور اور خودکار ماڈلز کی رفتار اور ان کے ممکنہ خطرات پر بحث جاری ہے۔

Anthropic کے سربراہ داریو امودی اور اوپن اے آئی کے سی ای او سیم آلٹ مین سمیت ٹیکنالوجی صنعت کی بعض معروف شخصیات نے AI کی ترقی کے ساتھ حفاظتی اقدامات مضبوط بنانے اور بعض صورتوں میں رفتار کم رکھنے کی ضرورت پر بات کی ہے۔ دوسری جانب امریکی پالیسی حلقوں میں AI سیفٹی اور ریگولیشن کے حوالے سے مختلف نقطۂ نظر موجود ہیں۔

Nvidia نے بھی AI ایجنٹس کے لیے حفاظتی ٹولز متعارف کرادیے

اسی ماحول میں Nvidia نے 28 ستمبر 2026 کو Open Agent Safety Platform متعارف کرایا، جس میں OpenShell اور Sentry جیسے ٹولز شامل ہیں۔ کمپنی کے مطابق ان ٹولز کا مقصد خودکار AI ایجنٹس کی سرگرمیوں کے لیے اضافی حفاظتی حدود، نگرانی اور کنٹرول فراہم کرنا ہے۔

GPT-6.1 Astra کی ریلیز روکنے کا فیصلہ اس بات کی نشاندہی کرتا ہے کہ جدید AI ماڈلز کی صلاحیت بڑھانے کے ساتھ انہیں محفوظ، قابل اعتماد اور انسانی ہدایات کی حدود میں رکھنے کی اہمیت بھی بڑھ رہی ہے۔ اوپن اے آئی نے فی الحال Astra کی بجائے مستقبل کے ماڈلز کی سیفٹی اور الائنمنٹ بہتر بنانے پر توجہ دینے کا فیصلہ کیا ہے۔