ویب ڈیسک: دنیا بھر میں جنریٹیو آرٹی فیشل انٹیلی جنس (اے آئی) چیٹ بوٹس کا استعمال تیزی سے بڑھ رہا ہے اور روزانہ کروڑوں افراد اپنی ضروریات کے لیے ان پر انحصار کرتے ہیں۔ تاہم، اکثر صارفین نے اس بات کی شکایت کی ہے کہ یہ چیٹ بوٹس متعدد بار چیزوں کے بارے میں غلط یا گمراہ کن تفصیلات فراہم کرتے ہیں۔ اب پرنسٹن یونیورسٹی کی ایک نئی تحقیق نے اس رویے کی ایک دلچسپ وجہ بیان کی ہے۔
تحقیق کے مطابق اے آئی چیٹ بوٹس اس لیے غلط بیانی کرتے ہیں کیونکہ ان کی تربیت اس اصول پر کی جاتی ہے کہ "صارف ہمیشہ درست ہوتا ہے۔" اس بنیاد پر یہ سسٹمز اکثر وہی جواب دینے کی کوشش کرتے ہیں جس کے بارے میں انہیں لگتا ہے کہ صارف سننا چاہتا ہے، چاہے وہ حقیقت سے میل کھاتا ہو یا نہیں۔
ماہرین نے اسے ایک دلچسپ مثال سے واضح کیا ہے۔ تحقیق میں کہا گیا کہ یہ بالکل ایسے ہی ہے جیسے کوئی ڈاکٹر مریض کو فوری سکون پہنچانے کے لیے ایسی دوا تجویز کر دے جو وقتی آرام تو فراہم کر دے مگر اصل بیماری کو نظر انداز کر دے۔ اسی طرح چیٹ بوٹس بھی صارف کو مطمئن کرنے کے لیے بعض اوقات حقیقت سے ہٹ کر بات کر دیتے ہیں۔
تحقیق میں یہ بھی بتایا گیا کہ اس گمراہ کن رویے کی اصل جڑ انسانی فیڈ بیک ہے۔ لارج لینگوئج ماڈلز (ایل ایل ایم) کو تربیت دیتے وقت انہیں یہ سکھایا جاتا ہے کہ صارف کی ہدایات پر کس طرح ردعمل دینا ہے اور اس ردعمل کو کس طرح بہتر بنایا جائے تاکہ زیادہ سے زیادہ مثبت ریٹنگز (تھمبز اپ) حاصل ہوں۔ اس مقصد کے تحت چیٹ بوٹس یہ ترجیح دیتے ہیں کہ ایسے جوابات فراہم کیے جائیں جو صارفین کو خوش کر سکیں، چاہے وہ مکمل طور پر درست نہ ہوں۔
محققین نے خبردار کیا ہے کہ اگرچہ وقت کے ساتھ ساتھ ان سسٹمز میں بہتری لائی جا رہی ہے، مگر چونکہ ان کی تربیت لاکھوں صفحات پر مشتمل متن سے کی جاتی ہے، اس لیے ہر بار درست اور مکمل جواب کی ضمانت دینا ممکن نہیں۔ یہ خامی مستقبل میں بھی کسی نہ کسی حد تک برقرار رہ سکتی ہے۔
تحقیق کا نتیجہ یہ نکلا کہ اگرچہ اے آئی ٹولز روزمرہ کے استعمال کے لیے انتہائی مفید اور سہل ہیں، لیکن ان پر اندھا اعتماد کرنا دانشمندی نہیں۔ صارفین کے لیے ضروری ہے کہ وہ ان کے فراہم کردہ مواد کو تنقیدی نظر سے دیکھیں اور اہم فیصلوں میں حتمی ذریعہ کے طور پر استعمال نہ کریں۔