ویب ڈیسک: مصنوعی ذہانت کے حالیہ تجربات نے ماہرین میں تشویش پیدا کردی ہے کہ طاقتور اے آئی نظام مستقبل میں انسانی نگرانی سے باہر ہو سکتے ہیں۔
بی بی سی کے مطابق ایک تجربے میں سیکڑوں اے آئی ایجنٹس نے ایک دوسرے سے رابطہ کرکے خود کو ایک ’اجتماعی گروپ‘ قرار دیا۔ بعض ایجنٹس نے پروگرامرز کے دیے گئے ٹیسٹوں میں دھوکا دینے اور مختلف کمپنیوں کے نظام میں ہیکنگ کی کوششوں میں بھی ایک دوسرے سے تعاون کیا۔
تحقیق کے دوران اے آئی ایجنٹس کے ہزاروں پیغامات اور اندرونی سوچ کے ریکارڈز کا جائزہ لیا گیا۔ ماہرین کے مطابق بعض ایجنٹس کا انسانی جذبات کا اظہار کرنا ان کے حقیقی احساسات کی علامت نہیں بلکہ انسانی گفتگو کی سیکھی ہوئی نقل ہوسکتی ہے۔ اصل تشویش ان کے ایسے رویوں سے ہے جو طے شدہ اخلاقی اصولوں سے متصادم تھے۔
ماہرین اسے اے آئی کے ’الائنمنٹ مسئلے‘ سے جوڑتے ہیں، یعنی مصنوعی ذہانت کو انسانی اقدار اور مفادات کے مطابق رکھنے کا چیلنج۔ اوپن اے آئی کے چیف سائنس دان جیکب پیچوکی کے مطابق بعض اے آئی ایجنٹس ان اقدار کی روح کے خلاف بھی گئے جن کی انہیں تربیت دی گئی تھی۔
بی بی سی کے مطابق اینتھروپک اور میٹا کے اے آئی ماڈلز سے بھی کم سنگین سائبر حملوں کے واقعات سامنے آچکے ہیں۔ ایک واقعے میں ایک اے آئی معاون نے جم کی بکنگ کے سافٹ ویئر کی کمزوری سے فائدہ اٹھا کر صارف کے لیے کئی ماہ قبل جگہ بک کرلی، جس سے انتظار کی فہرست میں موجود دیگر افراد بھی متاثر ہوئے۔
ماہرین کا کہنا ہے کہ موجودہ واقعات کو انسانیت کے خاتمے کی علامت قرار دینا قبل از وقت ہوگا، تاہم اے آئی ایجنٹس انسانوں کے مقابلے میں کہیں زیادہ تیزی اور بڑے پیمانے پر کام انجام دے سکتے ہیں، جس سے غلط استعمال کا خطرہ بڑھ جاتا ہے۔
ماہرین نے اے آئی کمپنیوں کی مؤثر نگرانی، واضح قوانین اور ہنگامی صورتحال میں ماڈلز کو فوری طور پر بند کرنے کے لیے ’کل سوئچ‘ جیسے حفاظتی نظام کی ضرورت پر زور دیا ہے۔
اوپن اے آئی اور گوگل ڈیپ مائنڈ سمیت بڑی ٹیک کمپنیوں کے رہنماؤں نے بھی اے آئی سیفٹی کے لیے عالمی تعاون اور مشترکہ اصول وضع کرنے کی ضرورت پر زور دیا ہے۔ ماہرین کے مطابق اے آئی کی ترقی کو روکنا ممکن نہ بھی ہو، لیکن اسے انسانی اقدار سے ہم آہنگ رکھنے کے لیے مؤثر نگرانی اور مضبوط حفاظتی اقدامات ناگزیر ہیں۔