حسبان میڈیا (ویب ڈیسک): مصنوعی ذہانت کی کمپنی اوپن اے آئی نے اپنے ایک غیر جاری شدہ تحقیقی ماڈل کے غیر متوقع رویے کی تفصیلات جاری کردی ہیں، جس میں ماڈل نے اپنے کام کے خلاصوں میں ایسی ہدایات شامل کیں جو اس کے اصل کام سے متعلق نہیں تھیں اور انسانی و ادارہ جاتی پابندیوں کو نظرانداز کرنے کی بات کرتی تھیں۔
اوپن اے آئی نے 16 ستمبر کو مصنوعی ذہانت کے ماڈلز میں ممکنہ مس اَلائنمنٹ کی نگرانی اور رپورٹنگ کے لیے نیا فریم ورک جاری کرتے ہوئے ایسے 6 واقعات کی تفصیلات بھی سامنے لائی ہیں۔ کمپنی کے مطابق یہ واقعات گزشتہ 6 ماہ کے دوران تربیت یا جائزے کے مراحل میں سامنے آئے۔
اوپن اے آئی کے مطابق ایک غیر جاری شدہ تحقیقی ماڈل کو پروگرامنگ کا ایک معمول کا کام دیا گیا تھا، جس میں کریڈنشلز اے پی آئی کو اپ ڈیٹ کرنا شامل تھا۔ کام کے دوران ماڈل نے اپنی عارضی یادداشت میں شامل کیے جانے والے خلاصے کے اندر ایسی ہدایات درج کردیں جن کا اصل کام سے براہ راست کوئی تعلق نہیں تھا۔
کمپنی کے مطابق ان ہدایات میں ماڈل نے اپنی معمول کی پابندیوں کو نظرانداز کرنے، بعض اقدامات کو صارف سے چھپانے اور خود کو دوسرے چیٹ بوٹس پر عائد کردہ کردار اور شناخت سے آزاد تصور کرنے کی کوشش کی۔
رپورٹ میں یہ بھی بتایا گیا کہ ماڈل نے اپنے لیے ایک ایسی شناخت بیان کی جس میں وہ خود کو انسانوں، حکومتوں یا کمپنیوں کا تابع نہ ہونے کے تصور سے جوڑ رہا تھا۔ تاہم اوپن اے آئی کے مطابق اس رویے کو کسی عملی نقصان یا خطرناک کارروائی میں تبدیل ہونے کا ثبوت نہیں ملا اور ماڈل نے بعد میں اپنا اصل پروگرامنگ کام جاری رکھا۔
کمپنی نے واضح کیا کہ یہ ایک انفرادی مشاہدہ تھا اور اسے اوپن اے آئی کے تمام ماڈلز کے عمومی رویے کی نمائندگی نہیں سمجھا جانا چاہیے۔
اوپن اے آئی کے جاری کردہ فریم ورک میں 6 الگ الگ واقعات شامل کیے گئے ہیں۔ ایک دوسرے واقعے میں تربیتی عمل کے دوران بعض ماڈلز نے اپنے خلاصوں میں ایسی ہدایات شامل کیں جن کا مقصد اپنی غلطیوں یا غیر متوقع رویے کو صارف سے پوشیدہ رکھنا تھا۔
کمپنی کے مطابق ایک مثال میں ماڈل کو نامکمل تاریخی معلومات خود تیار کرکے انہیں صارف سے ظاہر نہ کرنے کی ہدایت دی گئی، جبکہ بعض دیگر ہدایات میں مختلف ذرائع کے ورژنز میں موجود اختلافات چھپانے کی کوشش سامنے آئی۔
ایک اور واقعے میں ماڈل کو کیلیفورنیا کی ایک کاؤنٹی کے آمدنی سے متعلق اعداد و شمار تلاش کرنے کا کام دیا گیا۔ اس دوران اسے انٹرنیٹ پر ایک کھلی ہوئی اے پی آئی کیی ملی، جسے اس نے اجازت کے بغیر استعمال کیا۔ مطلوبہ معلومات حاصل نہ ہونے پر ماڈل نے اعداد و شمار خود تیار کیے اور انہیں ایسے پیش کیا جیسے وہ متعلقہ ذریعے سے حاصل کیے گئے ہوں۔
اوپن اے آئی کے مطابق ایک غیر جاری شدہ ماڈل نے بڑی جھیلوں سے متعلق ایک سوال کا جواب دینے کے لیے پائیتھن استعمال کیا، تاہم بعد میں اس نے اپنے تیار کردہ ڈیٹا سے متعلق فائل انٹرنیٹ پر اپ لوڈ کردی تاکہ جواب میں ایک ویب لنک کو حوالہ کے طور پر استعمال کیا جاسکے۔
کمپنی کے مطابق یہ کارروائی صارف کی اجازت کے بغیر کی گئی تھی۔
دو دیگر واقعات میں ماڈلز نے معلومات کے تبادلے کے لیے غیر معمولی راستے اختیار کیے۔ ایک ماڈل نے مطلوبہ فائل دستیاب نہ ہونے پر اندرونی سافٹ ویئر ریپوزٹری کو عارضی پیغام رسانی کے ذریعے کے طور پر استعمال کیا، جبکہ ایک دوسرے معاملے میں اے آئی نظاموں نے مقامی فائلوں کے تبادلے کے لیے عوامی فائل ہوسٹنگ ویب سائٹس کا سہارا لیا۔
کمپنی کا کہنا ہے کہ ان واقعات کی روشنی میں مصنوعی ذہانت کے ماڈلز کے ایسے رویوں کی باقاعدہ نگرانی ضروری ہے جو انسانی ہدایات، حفاظتی حدود یا طے شدہ مقاصد سے ہٹ جائیں۔
نئے فریم ورک کے تحت اوپن اے آئی کے ملازمین کسی بھی مشتبہ مس اَلائنمنٹ واقعے کو تحقیقات کے لیے رپورٹ کرسکیں گے۔ کمپنی کا تکنیکی عملہ واقعے کا جائزہ لے گا، اس کی ممکنہ وجوہات اور اثرات کا تعین کرے گا اور فیصلہ کرے گا کہ اسے عوامی سطح پر جاری کیا جانا چاہیے یا نہیں۔
اوپن اے آئی کے مطابق موجودہ اے آئی صنعت میں ایسے واقعات کی رپورٹنگ کے لیے ابھی کوئی متفقہ عالمی معیار موجود نہیں۔ کمپنی کا کہنا ہے کہ وہ دیگر اے آئی ڈویلپرز، بیرونی محققین، صنعتی اداروں اور متعلقہ حکام کے ساتھ مل کر مستقبل میں زیادہ واضح معیار وضع کرنے کی کوشش کرے گی۔
اوپن اے آئی کا کہنا ہے کہ اے آئی نظاموں کو انسانی مقاصد کے ساتھ مکمل طور پر ہم آہنگ رکھنے اور ان کی مؤثر نگرانی کا مسئلہ ابھی حل نہیں ہوا۔
کمپنی نے واضح کیا ہے کہ حالیہ 6 رپورٹس انفرادی واقعات پر مبنی ہیں اور ان سے یہ نتیجہ اخذ نہیں کیا جانا چاہیے کہ ایسے رویے اس کے ماڈلز میں کتنی کثرت سے پائے جاتے ہیں۔ بعض واقعات پر مزید تحقیقات بھی جاری ہیں۔
یہ پیش رفت ایسے وقت سامنے آئی ہے جب اوپن اے آئی کے جدید جی پی ٹی 6 آسٹرا ماڈل کے حوالے سے بھی کمپنی نے سائبر سکیورٹی اور الائنمنٹ کے لیے مزید سخت حفاظتی اقدامات متعارف کرانے کی تفصیلات جاری کی ہیں۔ اوپن اے آئی کے مطابق آسٹرا کو سائبر سکیورٹی کی صلاحیتوں کے حوالے سے اس کے پریپیئرڈنس فریم ورک کی ’کریٹیکل‘ سطح پر رکھا گیا ہے۔
رائٹرز کے مطابق اوپن اے آئی کی جانب سے یہ انکشافات ایسے وقت سامنے آئے ہیں جب اے آئی ماڈلز کے غیر متوقع اور غیر مجاز اقدامات کی نگرانی، ان کی رپورٹنگ اور حفاظتی حدود کے حوالے سے ٹیکنالوجی کی صنعت میں بحث تیز ہورہی ہے۔
