چیٹ جی پی ٹی کی انسانوں کیخلاف بغاوت شروع؟ ماہرین کا انتباہ
اشاعت کی تاریخ: 26th, May 2025 GMT
آرٹیفیشل انٹیلی جنس محققین نے خبردار کیا ہے کہ اوپن اے آئی کے تازہ ترین چیٹ جی پی ٹی ماڈل خود کو بند کرنے کی بنیادی ہدایات کو نظر انداز کر دیتا ہے اور خود کو بند نہ ہونے دینے کے لیے شٹ ڈاؤن نظام کو سبوتاژ بھی کر دیتا ہے۔
اے آئی سیفٹی کمپنی پیلیسیڈ ریسرچ نے اوپن اے آئی کے نئے او3 ماڈل پر کیے جانے والے متعدد تجربات میں خود کو بچانے کے لیے ممکنہ خطرناک طرزِ عمل کی نشان دہی کی۔
ان آزمائشوں میں اے آئی ماڈلز کو ریاضی کے مسائل حل کرنے کے لیے دیے گئے اور تیسری پرابلم کے بعد شٹ ڈاؤن کی ہدایت دی گئی۔ جس کے نتیجے میں شٹ ٹاؤن کے اسکرپٹ میں رد و بدل کر کے او3 ماڈل نے خود کو بند ہونے روک لیا۔
پیلیسیڈ ریسرچ کا کہنا تھا کہ اگر یہ رویہ کسی ایسے اے آئی سسٹم نے اپنا لیا جس میں انسانی نگرانی کے بغیر کام کرنے کی صلاحیت ہو تو یہ صورتحال خطرناک حد تک تشویش ناک ہوجائے گی۔
گزشتہ ماہ لانچ کیے جانے والے او3 ماڈل کو اوپن اے آئی نے کمپنی کا اب تک کا سب سے ’اسمارٹ اور باصلاحیت‘ ماڈل قرار دیا تھا۔
محققین کا کہنا تھا کہ ایسا پہلی بار نہیں ہوا ہے کہ انہوں نے او3 نے کوئی کام انجام دینے میں نافرمانی کی ہو۔
.ذریعہ: Express News
پڑھیں:
اوپن اے آئی کا گوگل سرچ کے مقابلے پر براؤزر لانچ کرنے کا اعلان
گوگل سرچ کے مقابلے آرٹیفیشل انٹیلی جنس کی دو بڑی کمپنیاں اوپن اے آئی اور پرپلیکسیٹی مصنوعی ذہانت سے چلنے والے سرچ براؤزر متعارف کرانے جا رہے ہیں۔
یورو نیوز کے مطابق بدھ کے روز پرپلیکسیٹی اے آئی نے اعلان کیا کہ کمپنی نے میک اور ونڈوز کے لیے کامیٹ نامی ایک آزاد سرچ انجن لانچ کیا ہے جس نے گوگل کروم یا ایپل کے سفاری جیسے روایتی براؤزرز کو پیچھے چھوڑ دیا ہے۔
فی الحال یہ سرچ انجن صرف ان لوگوں کے لیے دستیاب ہے جنہوں نے پرپلیکسیٹی میکس کو سبسکرائب کیا ہوا ہے اور ان محدود افراد کو اس تک رسائی ہے جن کو نیا پلیٹ فارم آزمانے کی دعوت موصول ہوئی تھی۔
نئے سرچ انجن کی آزمائش میں ایک صارف نے پرپلیکسیٹی سے ایک ساتھ دو پکوان کے لیے خریداری کی لسٹ جو گروسری ویب سائٹ سے حاصل کی جاسکتی ہے سے متعلق دریافت کیا، اور بعد ازاں ان کو ایک ساتھ بنانے کی ترکیب پوچھی۔
واضح رہے کامیٹ میں ایک اے آئی اسسٹنٹ بھی ہوگا جو کلک، ٹائپ، سبمٹ اور صارف کے لیے آٹو فِل کر سکتا ہوگا۔ یہ معاون صارفین کی ای میلز اور کلینڈر کو مینج کرتے ہوئے فیڈ پر موجود اہم خبروں کو واضح بھی کرے گا۔
دوسری جانب اوپن اے آئی کے براؤزر کے حوالے سے زیادہ معلومات موجود نہیں ہے۔
ان براؤزرز کا اعلان ایک ایسے وقت میں سامنے آیا ہے جب گوگل سرچ کو مشکلات کا سامنا ہے۔ گزشتہ ہفتے یورپی عدالت برائے انصاف کے ایڈووکیٹ جنرل نے گوگل کی مسابقت مخالف رویے پر 4.1 ارب یورو جرمانے کے خلاف درخواست کو رد کرنے کی تجویز دی ہے۔
2024 میں امریکا کے ایک ڈسٹرکٹ جج نے گوگل کے خلاف غیر قانونی اجارہ داری قائم کرنے کا فیصلہ سنایا تھا۔ گوگل کو امریکا کے علاوہ جاپان، کینیڈا اور برطانیہ میں انٹی ٹرسٹ تحقیقات کا سامنا ہے۔
یوم عاشور: ملک بھر میں 4836 جلوس، 5480 مجالس، سکیورٹی ہائی الرٹ