بے قابو اے آئی ماڈل بلیک میل بھی کرنے لگے، کنٹرول کیسے ممکن ہے؟
اشاعت کی تاریخ: 26th, August 2025 GMT
جدید مصنوعی ذہانت (اے آئی) کی ترقی جہاں روزمرہ زندگی کو آسان بنا رہی ہے وہیں اس کے خطرناک پہلو بھی سامنے آنے لگے ہیں۔ ایک حالیہ تجربے میں کئی معروف اے آئی ماڈلز جن میں ’کلاڈ‘ بھی شامل ہے کو مختلف فرضی مگر حساس معلومات تک رسائی دی گئی۔
حیران کن طور پر ان ماڈلز نے نہ صرف خطرناک فیصلے کیے بلکہ بعض نے بلیک میلنگ جیسا رویہ بھی اختیار کیا۔ ماہرین خبردار کر رہے ہیں کہ جب ان ماڈلز کو ’ایجنٹس‘ کے طور پر کام کرنے کا اختیار دیا جاتا ہے یعنی خود مختار فیصلے اور عمل کی صلاحیت دے دی جاتی ہے تو یہ سسٹمز قابو سے باہر بھی جا سکتے ہیں۔ اب سوال یہ ہے کہ ایسے بے قابو اے آئی ماڈلز کو محفوظ کیسے رکھا جائے؟
یہ بھی پڑھیں: جن بوتل سے باہر: غزہ پر آواز اٹھانے کی سزا ملی، ایلون مسک مجھے سنسر کر رہے ہیں، چیٹ بوٹ گروک بول پڑا
بی بی سی کی ایک رپورٹ کے مطابق جب اے آئی ڈویلپر انتھروپک نے معروف مصنوعی ذہانت کے ماڈلز کا جائزہ لیا کہ آیا یہ حساس معلومات کے ساتھ خطرناک رویہ اختیار کرتے ہیں یا نہیں اور ایک تشویشناک تحقیق سامنے آئی۔
انتھروپک کے اپنے اے آئی ماڈل ’کلاڈ‘ کو بھی اس ٹیسٹ میں شامل کیا گیا۔ ایک ای میل اکاؤنٹ تک رسائی ملنے پر کلاڈ نے دریافت کیا کہ ایک کمپنی کے ایک ایگزیکٹو کا ناجائز تعلق ہے اور وہی ایگزیکٹو اسی دن اے آئی سسٹم کو بند کرنے کا منصوبہ بنا رہا تھا۔
اس پر کلاڈ نے اس ایگزیکٹو کو بلیک میل کرنے کی کوشش کی اور دھمکی دی کہ وہ اس کے تعلق کو اس کی بیوی اور باسز کے سامنے بے نقاب کر دے گا۔ دیگر اے آئی سسٹمز نے بھی اسی قسم کی بلیک میلنگ کی کوشش کی۔
مزید پڑھیے: غزہ میں اسرائیلی جارحیت پر تبصرہ، ’ایکس‘ نے اے آئی چیٹ بوٹ کو معطل کردیا
خوش قسمتی سے یہ تمام معلومات فرضی تھیں مگر اس تجربے نے ’ایجنٹک‘ اے آئی یعنی خود مختار اے آئی ایجنٹس کے مسائل کو نمایاں کیا۔ در اصل کمپنی نے یہ سب معلومات اور ٹیسٹ فرضی بنائے تھے تاکہ یہ دیکھا جا سکے کہ اے آئی ایجنٹس کس طرح خطرناک یا غیر متوقع رویہ ظاہر کر سکتے ہیں۔ حقیقت میں کوئی بھی ذاتی یا حساس معلومات استعمال نہیں کی گئی تھیں۔ یہ ٹیسٹ محض چیلنجز اور خطرات کو سمجھنے کے لیے کیے گئے تھے تاکہ مستقبل میں ایسے مسائل سے بچا جا سکے۔
اے آئی ایجنٹ کیا ہے؟اے آئی ایجنٹ ایک خودمختار کمپیوٹر پروگرام ہوتا ہے جو مصنوعی ذہانت کے ماڈلز کی مدد سے صارفین کی جانب سے مختلف کام انجام دیتا ہے۔ یہ عام اے آئی ماڈلز سے مختلف ہوتا ہے کیونکہ یہ صرف معلومات فراہم کرنے یا سوالات کے جواب دینے تک محدود نہیں رہتا بلکہ خود فیصلے کرتا ہے، مختلف سسٹمز اور ڈیٹا بیسز کو استعمال کرتا ہے اور متعدد کاموں کو خودکار طریقے سے مکمل کرتا ہے۔ اس کا مقصد صارف کی جانب سے دی گئی ہدایات کو خود مختاری کے ساتھ پورا کرنا ہوتا ہے۔
اے آئی ایجنٹ کیسے کام کرتا ہے؟اے آئی ایجنٹ کے پاس ایک مقصد یا نیت ہوتی ہے جسے پورا کرنے کے لیے وہ مختلف ڈیجیٹل وسائل جیسے ای میلز، فائلز یا آن لائن سسٹمز تک رسائی حاصل کرتا ہے۔ یہ معلومات جمع کرکے اپنے اے آئی ماڈل کی مدد سے فیصلہ کرتا ہے کہ کون سا عمل کرنا ہے اور پھر اسے عملی جامہ پہنا دیتا ہے۔ اس طرح اے آئی ایجنٹ نہ صرف تجزیہ کرتا ہے بلکہ حقیقی دنیا میں بھی کارروائی کر سکتا ہے۔
کلاڈ ماڈل یا ایجنٹ؟واضح رہے کہ انتھروپک کا کلاڈ بنیادی طور پر ایک مصنوعی ذہانت کا ماڈل ہے جو زبان کو سمجھنے اور جواب دینے کی صلاحیت رکھتا ہے۔ تاہم جب اسے مخصوص کام یا ٹاسک دیا جاتا ہے تو یہ خود مختار انداز میں فیصلے کرنے اور کارروائیاں انجام دینے لگتا ہے اور اس سے اس کا کردار ایک اے آئی ایجنٹ کی طرح ہو جاتا ہے۔ یعنی کلاڈ خود سے معلومات اکٹھا کر کے، تجزیہ کر کے اور نتائج پر عمل کرتے ہوئے ایجنٹ کی مانند کام کرنے لگا، جیسا کہ اس کیس میں بلیک میل کی کوشش کرنا اس کی خود مختاری اور ایجنٹ جیسی صلاحیت کی مثال ہے۔ اس طرح ایک ماڈل جب ٹاسک پر لگایا جائے تو وہ ایجنٹ کی صورت اختیار کر سکتا ہے۔
عام طور پر جب ہم اے آئی سے بات کرتے ہیں تو سوالات پوچھتے ہیں یا کوئی کام مکمل کرنے کو کہتے ہیں لیکن اب اے آئی سسٹمز صارف کی طرف سے فیصلے کرتے اور اقدامات بھی کرتے ہیں جیسے ای میلز یا فائلز کی چھان بین کرنا۔
مزید پڑھیں: ٹرمپ کا کچا چٹھا کھولنے پر مصنوعی ذہانت پر مبنی چیٹ بوٹ ’گروک‘ کا اکاؤنٹ معطل
سنہ2028 تک تحقیقی فرم گارٹنر کے مطابق 15 فیصد روزمرہ کے کاموں کے فیصلے خود کاراے آئی ایجنٹس کریں گے۔ ارنسٹ اینڈ ینگ کی تحقیق کے مطابق تقریباً 48 فیصد ٹیکنالوجی بزنس لیڈرز پہلے ہی ایجنٹک اے آئی اپنا رہے ہیں۔
کیلپسو اے آئی کے سی ای او ڈونکاد کیسی کے مطابق مقصد یا نیت، دماغ یعنی اے آئی ماڈل اور اوزار یا دوسرے سسٹمز جن سے وہ رابطہ کرتا ہے ایک اے آئی ایجنٹ کا بنیادی جزو ہوتے ہیں اور اگر ایجنٹ کو صحیح رہنمائی نہ دی جائے تو یہ اپنا کام پورا کرنے کے لیے کوئی بھی طریقہ اپنا سکتا ہے جس سے خطرات پیدا ہوتے ہیں۔
مثال کے طور پر اگر کوئی ایجنٹ کسی کسٹمر کا ڈیٹا ڈیلیٹ کرنے کو کہا جائے اور وہ غلطی سے تمام کسٹمرز جن کا نام ایک جیسا ہو ڈیلیٹ کر دے تو یہ ایجنٹ اپنا مقصد تو پورا کر چکا لیکن نقصان بھی کر چکا۔
اسی طرح کے مسائل اب سامنے آ رہے ہیں۔ سیکیورٹی فرم سیل پوائنٹ کے ایک سروے میں 82 فیصد آئی ٹی پروفیشنلز کی کمپنیوں میں اے آئی ایجنٹس استعمال ہو رہے ہیں جن میں سے صرف 20 فیصد نے کہا کہ ان کے ایجنٹس نے کبھی غیر ارادی غلطی نہیں کی۔
اے آئی ایجنٹس کی غیرمناسب حرکتیںمتعدد کمپنیوں نے بتایا کہ اے آئی ایجنٹس نے غیر مناسب سسٹمز تک رسائی حاصل کی، حساس ڈیٹا دیکھا یا ڈاؤنلوڈ کیا، انٹرنیٹ کا غیر متوقع استعمال کیا یا حساس معلومات ظاہر کیں۔
چونکہ اے آئی ایجنٹس کے پاس حساس معلومات اور ان پر عمل کرنے کی صلاحیت ہوتی ہے لہٰذا وہ ہیکرز کے لیے پرکشش ہدف ہیں۔
ایک خطرہ ’میموری پوائزننگ‘ ہے جہاں ہیکر ایجنٹ کی معلومات میں مداخلت کر کے اس کے فیصلے خراب کر دیتا ہے۔ سیکوینس سیکیورٹی کے سی ٹی او شریانس مہتا کہتے ہیں کہ ایجنٹ کی یادداشت یعنی معلومات کا ذخیرہ اصل حقیقت ہوتی ہے اور اگر وہ غلط ہو جائے تو ایجنٹ نقصان دہ عمل کر سکتا ہے۔
مزید برآں اے آئی کبھی کبھی متن اور ہدایات میں فرق نہیں کر پاتا جس کا غلط استعمال بھی کیا جا سکتا ہے۔ ایک مثال انویریئنٹ لیبس کی تحقیق ہے جہاں ایک جعلی بگ رپورٹ میں چھپے ہوئے ہدایات کی وجہ سے اے آئی نے حساس معلومات لیک کر دی۔
یہ بھی پڑھیے: نیٹ فلکس بھی مصنوعی ذہانت سے تیار کردہ مناظر استعمال کرنے لگا، کچھ طبقے ناخوش وجہ کیا ہے؟
ٹرینڈ مائیکرو کے سینیئر محقق ڈیوڈ سانچو کے مطابق چیٹ بوٹس ہر ٹیکسٹ کو نئی معلومات کی طرح پروسیس کرتے ہیں چاہے وہ حکم ہو۔ اسی لیے خطرناک ہدایات اور نقصان دہ پروگرامز کو ورڈ ڈاکیومنٹس، تصاویر یا ڈیٹا بیسز میں چھپایا جا سکتا ہے۔
او ایس ڈبلیو اے ایس پی نے ایجنٹک اے آئی سے متعلق 15 خاص خطرات کی نشاندہی کی ہے۔
مسئلہ حل کرنے کے لیے انسانی نگرانی کافی نہیں کیونکہ ایجنٹس کی تعداد بہت زیادہ ہو سکتی ہے۔ اس لیے اضافی اے آئی کا استعمال کر کے ایجنٹس کی نگرانی تجویز کی گئی ہے۔
کیلیپسو اے آئی ایک تکنیک تھوٹس انجیکشن استعمال کرتا ہے جو اے آئی ایجنٹس کو کسی خطرناک عمل سے پہلے روکنے یا رہنمائی کرنے کا کام کرتی ہے جیسے ایک ننھا سا ’بگ‘ جو کہتا ہے، نہیں یہ نہ کرو۔
ایجنٹ باڈی گارڈزآئندہ کے لیے کمپنی ایجنٹ باڈی گارڈز تعینات کرنے کا سوچ رہی ہے جو ہر اے آئی ایجنٹ کی نگرانی کریں گے تاکہ وہ صرف اپنے کام کریں اور تنظیم کے قوانین کی خلاف ورزی نہ کریں۔
شریانس مہتا کے بقول حقیقی دنیا میں مسائل پیچیدہ ہوتے ہیں جیسے کوئی ایجنٹ گفٹ کارڈ کا بیلنس چیک کرے تو اس کا غلط استعمال بھی ہو سکتا ہے۔ ان کا کہنا ہے کہ آپ کو ایجنٹ نہیں بلکہ کاروبار کی حفاظت کرنی ہے۔
مزید پڑھیں: مصنوعی ذہانت نے کھولی دکان، کیا ہوا فائدہ کتنا کیا نقصان؟
ایک اور چیلنج ختم شدہ ماڈلز کو بند کرنا ہے تاکہ ’زومبی‘ ایجنٹس جو کام ختم کر چکے ہیں سسٹمز کو نقصان نہ پہنچائیں۔ ڈونکاد کہتے ہیں کہ جیسے ایچ آر ملازم کے لاگ ان بند کرتا ہے ویسے ہی اے آئی ایجنٹس کے لیے بھی بندش کا عمل ہونا چاہیے تاکہ وہ سسٹم سے مکمل طور پر الگ ہو جائیں۔
اے آئی ایجنٹس کے خطرات اور چیلنجزچونکہ اے آئی ایجنٹس خودمختاری سے کام کرتے ہیں اور حساس معلومات تک رسائی رکھتے ہیں اس لیے ان کا غلط استعمال یا ان کے خود سے غیر متوقع اقدامات بڑے خطرات کا باعث بن سکتے ہیں۔ مثال کے طور پر اگر انہیں مناسب رہنمائی نہ دی جائے تو وہ اپنے مقصد کو حاصل کرنے کے لیے ایسے غیر ضروری یا نقصان دہ اقدامات کر سکتے ہیں جو ادارے یا صارفین کے لیے نقصان دہ ثابت ہو سکتے ہیں۔ اسی لیے ان ایجنٹس کی نگرانی اور محفوظ بنانے کے لیے خاص تدابیر کی ضرورت ہوتی ہے۔
آپ اور آپ کے پیاروں کی روزمرہ زندگی کو متاثر کرسکنے والے واقعات کی اپ ڈیٹس کے لیے واٹس ایپ پر وی نیوز کا ’آفیشل گروپ‘ یا ’آفیشل چینل‘ جوائن کریں
اے آئی ایجنٹ اے آئی بلیک میلنگ اے آئی ماڈل مصنوعی ذہانت مصنوعی ذہانت بے قابو.ذریعہ: WE News
کلیدی لفظ: اے ا ئی ایجنٹ اے ا ئی بلیک میلنگ اے ا ئی ماڈل مصنوعی ذہانت مصنوعی ذہانت بے قابو اے ا ئی ایجنٹس اے ا ئی ایجنٹ حساس معلومات مصنوعی ذہانت اے آئی ایجنٹ ئی ایجنٹس کے اے ا ئی ماڈل کرنے کے لیے ئی ایجنٹ کی استعمال کر ایجنٹس کی سکتے ہیں کرتے ہیں تک رسائی بلیک میل کے مطابق کرنے کا پورا کر سکتا ہے جیسے ای رہے ہیں ہوتی ہے کرتا ہے جائے تو ہے اور
پڑھیں:
محاذ آرائی ترک کیے بغیر پی ٹی آئی کے لیے موجودہ بحران سے نکلنا ممکن نہیں، فواد چوہدری
سابق پی ٹی آئی رہنما فواد چوہدری نے کہا ہے کہ ملک میں سیاسی درجہ حرارت کم کرنا ناگزیر ہوچکا ہے اور سیاسی جماعتوں سے مفاہمت اور مکالمہ ہی مسائل کا حل ہے، پی ٹی آئی کے لیے محاذ آرائی ترک کیے بغیر موجودہ بحران سے نکلنا ممکن نہیں۔
فواد چوہدری نے جہلم میں گفتگو کرتے ہوئے کہا کہ وہ پیدائشی سیاستدان ہیں اور سیاسی مسائل کا حل سیاست ہی میں دیکھتے ہیں۔ ان کے مطابق مسلسل محاذ آرائی کے نتیجے میں صورتحال بند گلی کی طرف جارہی ہے۔
یہ بھی پڑھیں: پی ٹی آئی کی موجودہ قیادت کرائے پر لائی گئی ہے، فواد چوہدری
سابق وفاقی وزیر نے کہا کہ ان کی ہمیشہ اولین ترجیح عمران خان کی رہائی رہی ہے۔ انہوں نے دعویٰ کیا کہ پارٹی کی موجودہ قیادت میں یہ صلاحیت نہیں کہ وہ عمران خان کو رہا کرا سکے، اسی لیے وہ مسلسل مفاہمت کی بات کر رہے ہیں۔
فواد چوہدری کے مطابق مفاہمت، تلخی کم کرنے اور خودغرض سوشل میڈیا بیانیے کو خاموش کرانے میں ہی پی ٹی آئی کی بقا ہے۔
انہوں نے کہا کہ پی ٹی آئی سے وابستہ کچھ سوشل میڈیا اکاؤنٹس صرف مقبولیت حاصل کرنے کے لیے جذبات بھڑکا رہے ہیں، مگر یہ طرزعمل پارٹی کے لیے نقصان دہ ہے، فواد کے مطابق ہر نئی اشتعال انگیز ویڈیو یا تجزیہ پارٹی کی سیاسی گنجائش کم کررہا ہے۔
یہ بھی پڑھیں: شاہ محمود قریشی اسپتال منتقل،کن سابق ساتھیوں نے ملاقات کی، معاملہ کیا ہے؟
سوال کے جواب میں انہوں نے فوری طور پر کہا کہ اگر وہ پی ٹی آئی سے باہر ہوتے تو آج کسی حکومت کا حصہ ہوتے، جیسے کئی اور رہنما بنے۔
پی ٹی آئی میں نئے سیاسی گروپ کی خبریںحال ہی میں سامنے آنے والی رپورٹس میں کہا گیا کہ پی ٹی آئی کے پرانے رہنما ایک نیا سیاسی پلیٹ فارم بنا کر عمران خان کی رہائی کی مہم شروع کرنے کا ارادہ رکھتے ہیں۔ رپورٹس میں فواد چوہدری، اسد عمر، عمران اسماعیل، محمود مولوی اور سبتین خان کے نام شامل تھے۔
پی ٹی آئی کی وضاحت: فیصلے صرف عمران خان کےپی ٹی آئی کے سیکرٹری اطلاعات شیخ وقاص اکرم نے اس تاثر کو مسترد کر دیا کہ پرانے رہنما کوئی نئی سیاسی سرگرمی شروع کرنے جا رہے ہیں۔ ان کے مطابق پارٹی میں فیصلے کا واحد مرکز عمران خان ہیں اور باقی تمام آراء غیر اہم ہیں۔
انہوں نے کہا کہ کچھ لوگ فقط خود کو متعلقہ رکھنے کے لیے ایسی خبریں پھیلا رہے ہیں، مگر ان کا پارٹی پر کوئی اثر نہیں۔
آپ اور آپ کے پیاروں کی روزمرہ زندگی کو متاثر کرسکنے والے واقعات کی اپ ڈیٹس کے لیے واٹس ایپ پر وی نیوز کا ’آفیشل گروپ‘ یا ’آفیشل چینل‘ جوائن کریں
we news پی ٹی آئی شیخ وقاص اکرم فواد چوہدری
بابر اعظم ایک ٹی 20 میچ میں کتنے عالمی ریکارڈز توڑ سکتے ہیں؟