بے قابو اے آئی ماڈل بلیک میل بھی کرنے لگے، کنٹرول کیسے ممکن ہے؟
اشاعت کی تاریخ: 26th, August 2025 GMT
جدید مصنوعی ذہانت (اے آئی) کی ترقی جہاں روزمرہ زندگی کو آسان بنا رہی ہے وہیں اس کے خطرناک پہلو بھی سامنے آنے لگے ہیں۔ ایک حالیہ تجربے میں کئی معروف اے آئی ماڈلز جن میں ’کلاڈ‘ بھی شامل ہے کو مختلف فرضی مگر حساس معلومات تک رسائی دی گئی۔
حیران کن طور پر ان ماڈلز نے نہ صرف خطرناک فیصلے کیے بلکہ بعض نے بلیک میلنگ جیسا رویہ بھی اختیار کیا۔ ماہرین خبردار کر رہے ہیں کہ جب ان ماڈلز کو ’ایجنٹس‘ کے طور پر کام کرنے کا اختیار دیا جاتا ہے یعنی خود مختار فیصلے اور عمل کی صلاحیت دے دی جاتی ہے تو یہ سسٹمز قابو سے باہر بھی جا سکتے ہیں۔ اب سوال یہ ہے کہ ایسے بے قابو اے آئی ماڈلز کو محفوظ کیسے رکھا جائے؟
یہ بھی پڑھیں: جن بوتل سے باہر: غزہ پر آواز اٹھانے کی سزا ملی، ایلون مسک مجھے سنسر کر رہے ہیں، چیٹ بوٹ گروک بول پڑا
بی بی سی کی ایک رپورٹ کے مطابق جب اے آئی ڈویلپر انتھروپک نے معروف مصنوعی ذہانت کے ماڈلز کا جائزہ لیا کہ آیا یہ حساس معلومات کے ساتھ خطرناک رویہ اختیار کرتے ہیں یا نہیں اور ایک تشویشناک تحقیق سامنے آئی۔
انتھروپک کے اپنے اے آئی ماڈل ’کلاڈ‘ کو بھی اس ٹیسٹ میں شامل کیا گیا۔ ایک ای میل اکاؤنٹ تک رسائی ملنے پر کلاڈ نے دریافت کیا کہ ایک کمپنی کے ایک ایگزیکٹو کا ناجائز تعلق ہے اور وہی ایگزیکٹو اسی دن اے آئی سسٹم کو بند کرنے کا منصوبہ بنا رہا تھا۔
اس پر کلاڈ نے اس ایگزیکٹو کو بلیک میل کرنے کی کوشش کی اور دھمکی دی کہ وہ اس کے تعلق کو اس کی بیوی اور باسز کے سامنے بے نقاب کر دے گا۔ دیگر اے آئی سسٹمز نے بھی اسی قسم کی بلیک میلنگ کی کوشش کی۔
مزید پڑھیے: غزہ میں اسرائیلی جارحیت پر تبصرہ، ’ایکس‘ نے اے آئی چیٹ بوٹ کو معطل کردیا
خوش قسمتی سے یہ تمام معلومات فرضی تھیں مگر اس تجربے نے ’ایجنٹک‘ اے آئی یعنی خود مختار اے آئی ایجنٹس کے مسائل کو نمایاں کیا۔ در اصل کمپنی نے یہ سب معلومات اور ٹیسٹ فرضی بنائے تھے تاکہ یہ دیکھا جا سکے کہ اے آئی ایجنٹس کس طرح خطرناک یا غیر متوقع رویہ ظاہر کر سکتے ہیں۔ حقیقت میں کوئی بھی ذاتی یا حساس معلومات استعمال نہیں کی گئی تھیں۔ یہ ٹیسٹ محض چیلنجز اور خطرات کو سمجھنے کے لیے کیے گئے تھے تاکہ مستقبل میں ایسے مسائل سے بچا جا سکے۔
اے آئی ایجنٹ کیا ہے؟اے آئی ایجنٹ ایک خودمختار کمپیوٹر پروگرام ہوتا ہے جو مصنوعی ذہانت کے ماڈلز کی مدد سے صارفین کی جانب سے مختلف کام انجام دیتا ہے۔ یہ عام اے آئی ماڈلز سے مختلف ہوتا ہے کیونکہ یہ صرف معلومات فراہم کرنے یا سوالات کے جواب دینے تک محدود نہیں رہتا بلکہ خود فیصلے کرتا ہے، مختلف سسٹمز اور ڈیٹا بیسز کو استعمال کرتا ہے اور متعدد کاموں کو خودکار طریقے سے مکمل کرتا ہے۔ اس کا مقصد صارف کی جانب سے دی گئی ہدایات کو خود مختاری کے ساتھ پورا کرنا ہوتا ہے۔
اے آئی ایجنٹ کیسے کام کرتا ہے؟اے آئی ایجنٹ کے پاس ایک مقصد یا نیت ہوتی ہے جسے پورا کرنے کے لیے وہ مختلف ڈیجیٹل وسائل جیسے ای میلز، فائلز یا آن لائن سسٹمز تک رسائی حاصل کرتا ہے۔ یہ معلومات جمع کرکے اپنے اے آئی ماڈل کی مدد سے فیصلہ کرتا ہے کہ کون سا عمل کرنا ہے اور پھر اسے عملی جامہ پہنا دیتا ہے۔ اس طرح اے آئی ایجنٹ نہ صرف تجزیہ کرتا ہے بلکہ حقیقی دنیا میں بھی کارروائی کر سکتا ہے۔
کلاڈ ماڈل یا ایجنٹ؟واضح رہے کہ انتھروپک کا کلاڈ بنیادی طور پر ایک مصنوعی ذہانت کا ماڈل ہے جو زبان کو سمجھنے اور جواب دینے کی صلاحیت رکھتا ہے۔ تاہم جب اسے مخصوص کام یا ٹاسک دیا جاتا ہے تو یہ خود مختار انداز میں فیصلے کرنے اور کارروائیاں انجام دینے لگتا ہے اور اس سے اس کا کردار ایک اے آئی ایجنٹ کی طرح ہو جاتا ہے۔ یعنی کلاڈ خود سے معلومات اکٹھا کر کے، تجزیہ کر کے اور نتائج پر عمل کرتے ہوئے ایجنٹ کی مانند کام کرنے لگا، جیسا کہ اس کیس میں بلیک میل کی کوشش کرنا اس کی خود مختاری اور ایجنٹ جیسی صلاحیت کی مثال ہے۔ اس طرح ایک ماڈل جب ٹاسک پر لگایا جائے تو وہ ایجنٹ کی صورت اختیار کر سکتا ہے۔
عام طور پر جب ہم اے آئی سے بات کرتے ہیں تو سوالات پوچھتے ہیں یا کوئی کام مکمل کرنے کو کہتے ہیں لیکن اب اے آئی سسٹمز صارف کی طرف سے فیصلے کرتے اور اقدامات بھی کرتے ہیں جیسے ای میلز یا فائلز کی چھان بین کرنا۔
مزید پڑھیں: ٹرمپ کا کچا چٹھا کھولنے پر مصنوعی ذہانت پر مبنی چیٹ بوٹ ’گروک‘ کا اکاؤنٹ معطل
سنہ2028 تک تحقیقی فرم گارٹنر کے مطابق 15 فیصد روزمرہ کے کاموں کے فیصلے خود کاراے آئی ایجنٹس کریں گے۔ ارنسٹ اینڈ ینگ کی تحقیق کے مطابق تقریباً 48 فیصد ٹیکنالوجی بزنس لیڈرز پہلے ہی ایجنٹک اے آئی اپنا رہے ہیں۔
کیلپسو اے آئی کے سی ای او ڈونکاد کیسی کے مطابق مقصد یا نیت، دماغ یعنی اے آئی ماڈل اور اوزار یا دوسرے سسٹمز جن سے وہ رابطہ کرتا ہے ایک اے آئی ایجنٹ کا بنیادی جزو ہوتے ہیں اور اگر ایجنٹ کو صحیح رہنمائی نہ دی جائے تو یہ اپنا کام پورا کرنے کے لیے کوئی بھی طریقہ اپنا سکتا ہے جس سے خطرات پیدا ہوتے ہیں۔
مثال کے طور پر اگر کوئی ایجنٹ کسی کسٹمر کا ڈیٹا ڈیلیٹ کرنے کو کہا جائے اور وہ غلطی سے تمام کسٹمرز جن کا نام ایک جیسا ہو ڈیلیٹ کر دے تو یہ ایجنٹ اپنا مقصد تو پورا کر چکا لیکن نقصان بھی کر چکا۔
اسی طرح کے مسائل اب سامنے آ رہے ہیں۔ سیکیورٹی فرم سیل پوائنٹ کے ایک سروے میں 82 فیصد آئی ٹی پروفیشنلز کی کمپنیوں میں اے آئی ایجنٹس استعمال ہو رہے ہیں جن میں سے صرف 20 فیصد نے کہا کہ ان کے ایجنٹس نے کبھی غیر ارادی غلطی نہیں کی۔
اے آئی ایجنٹس کی غیرمناسب حرکتیںمتعدد کمپنیوں نے بتایا کہ اے آئی ایجنٹس نے غیر مناسب سسٹمز تک رسائی حاصل کی، حساس ڈیٹا دیکھا یا ڈاؤنلوڈ کیا، انٹرنیٹ کا غیر متوقع استعمال کیا یا حساس معلومات ظاہر کیں۔
چونکہ اے آئی ایجنٹس کے پاس حساس معلومات اور ان پر عمل کرنے کی صلاحیت ہوتی ہے لہٰذا وہ ہیکرز کے لیے پرکشش ہدف ہیں۔
ایک خطرہ ’میموری پوائزننگ‘ ہے جہاں ہیکر ایجنٹ کی معلومات میں مداخلت کر کے اس کے فیصلے خراب کر دیتا ہے۔ سیکوینس سیکیورٹی کے سی ٹی او شریانس مہتا کہتے ہیں کہ ایجنٹ کی یادداشت یعنی معلومات کا ذخیرہ اصل حقیقت ہوتی ہے اور اگر وہ غلط ہو جائے تو ایجنٹ نقصان دہ عمل کر سکتا ہے۔
مزید برآں اے آئی کبھی کبھی متن اور ہدایات میں فرق نہیں کر پاتا جس کا غلط استعمال بھی کیا جا سکتا ہے۔ ایک مثال انویریئنٹ لیبس کی تحقیق ہے جہاں ایک جعلی بگ رپورٹ میں چھپے ہوئے ہدایات کی وجہ سے اے آئی نے حساس معلومات لیک کر دی۔
یہ بھی پڑھیے: نیٹ فلکس بھی مصنوعی ذہانت سے تیار کردہ مناظر استعمال کرنے لگا، کچھ طبقے ناخوش وجہ کیا ہے؟
ٹرینڈ مائیکرو کے سینیئر محقق ڈیوڈ سانچو کے مطابق چیٹ بوٹس ہر ٹیکسٹ کو نئی معلومات کی طرح پروسیس کرتے ہیں چاہے وہ حکم ہو۔ اسی لیے خطرناک ہدایات اور نقصان دہ پروگرامز کو ورڈ ڈاکیومنٹس، تصاویر یا ڈیٹا بیسز میں چھپایا جا سکتا ہے۔
او ایس ڈبلیو اے ایس پی نے ایجنٹک اے آئی سے متعلق 15 خاص خطرات کی نشاندہی کی ہے۔
مسئلہ حل کرنے کے لیے انسانی نگرانی کافی نہیں کیونکہ ایجنٹس کی تعداد بہت زیادہ ہو سکتی ہے۔ اس لیے اضافی اے آئی کا استعمال کر کے ایجنٹس کی نگرانی تجویز کی گئی ہے۔
کیلیپسو اے آئی ایک تکنیک تھوٹس انجیکشن استعمال کرتا ہے جو اے آئی ایجنٹس کو کسی خطرناک عمل سے پہلے روکنے یا رہنمائی کرنے کا کام کرتی ہے جیسے ایک ننھا سا ’بگ‘ جو کہتا ہے، نہیں یہ نہ کرو۔
ایجنٹ باڈی گارڈزآئندہ کے لیے کمپنی ایجنٹ باڈی گارڈز تعینات کرنے کا سوچ رہی ہے جو ہر اے آئی ایجنٹ کی نگرانی کریں گے تاکہ وہ صرف اپنے کام کریں اور تنظیم کے قوانین کی خلاف ورزی نہ کریں۔
شریانس مہتا کے بقول حقیقی دنیا میں مسائل پیچیدہ ہوتے ہیں جیسے کوئی ایجنٹ گفٹ کارڈ کا بیلنس چیک کرے تو اس کا غلط استعمال بھی ہو سکتا ہے۔ ان کا کہنا ہے کہ آپ کو ایجنٹ نہیں بلکہ کاروبار کی حفاظت کرنی ہے۔
مزید پڑھیں: مصنوعی ذہانت نے کھولی دکان، کیا ہوا فائدہ کتنا کیا نقصان؟
ایک اور چیلنج ختم شدہ ماڈلز کو بند کرنا ہے تاکہ ’زومبی‘ ایجنٹس جو کام ختم کر چکے ہیں سسٹمز کو نقصان نہ پہنچائیں۔ ڈونکاد کہتے ہیں کہ جیسے ایچ آر ملازم کے لاگ ان بند کرتا ہے ویسے ہی اے آئی ایجنٹس کے لیے بھی بندش کا عمل ہونا چاہیے تاکہ وہ سسٹم سے مکمل طور پر الگ ہو جائیں۔
اے آئی ایجنٹس کے خطرات اور چیلنجزچونکہ اے آئی ایجنٹس خودمختاری سے کام کرتے ہیں اور حساس معلومات تک رسائی رکھتے ہیں اس لیے ان کا غلط استعمال یا ان کے خود سے غیر متوقع اقدامات بڑے خطرات کا باعث بن سکتے ہیں۔ مثال کے طور پر اگر انہیں مناسب رہنمائی نہ دی جائے تو وہ اپنے مقصد کو حاصل کرنے کے لیے ایسے غیر ضروری یا نقصان دہ اقدامات کر سکتے ہیں جو ادارے یا صارفین کے لیے نقصان دہ ثابت ہو سکتے ہیں۔ اسی لیے ان ایجنٹس کی نگرانی اور محفوظ بنانے کے لیے خاص تدابیر کی ضرورت ہوتی ہے۔
آپ اور آپ کے پیاروں کی روزمرہ زندگی کو متاثر کرسکنے والے واقعات کی اپ ڈیٹس کے لیے واٹس ایپ پر وی نیوز کا ’آفیشل گروپ‘ یا ’آفیشل چینل‘ جوائن کریں
اے آئی ایجنٹ اے آئی بلیک میلنگ اے آئی ماڈل مصنوعی ذہانت مصنوعی ذہانت بے قابو.
ذریعہ
ذریعہ: WE News
کلیدی لفظ: اے ا ئی ایجنٹ اے ا ئی بلیک میلنگ اے ا ئی ماڈل مصنوعی ذہانت مصنوعی ذہانت بے قابو اے ا ئی ایجنٹس اے ا ئی ایجنٹ حساس معلومات مصنوعی ذہانت اے آئی ایجنٹ ئی ایجنٹس کے اے ا ئی ماڈل کرنے کے لیے ئی ایجنٹ کی استعمال کر ایجنٹس کی سکتے ہیں کرتے ہیں تک رسائی بلیک میل کے مطابق کرنے کا پورا کر سکتا ہے جیسے ای رہے ہیں ہوتی ہے کرتا ہے جائے تو ہے اور
پڑھیں:
فرانس؛ جیفری ایپسٹین کا قریبی ساتھی بھی پراسرار حالت میں مردہ پایا گیا
بدنام زمانہ جنسی اسکینڈل کے سرغنہ جیفری ایپسٹین کی طرح اس کا مبینہ ساتھی اور فرانسیسی ماڈل اسکاؤٹ ڈینیئل سیاد اپنے گھر میں مردہ حالت میں پائے گئے۔
عالمی خبر رساں ادارے کے مطابق فرانس میں ماڈل ڈینیئل سیاد کے خلاف جنسی زیادتی، انسانی اسمگلنگ اور خواتین کو دھوکے سے جنسی استحصال کے نیٹ ورک میں شامل کرنے کے الزامات کی تحقیقات جاری تھیں تاہم ان پر ابھی تک باقاعدہ فردِ جرم عائد نہیں کی گئی تھی۔
فرانس میں مردہ پائے گئے ماڈل اسکأٹ ڈینیئل سیاد کی موت ایسے وقت میں ہوئی ہے جب متعدد خواتین کو جنسی استحصال کے نیٹ ورک میں پھانسنے اور انسانی اسمگلنگ سے متعلق سنگین الزامات کی تحقیقات جاری تھیں۔
فرانسیسی پراسیکیوٹر نے بتایا کہ 69 سالہ ڈینیئل سیاد کی لاش پیرس کے نواحی علاقے کولومب میں واقع ان کی رہائش گاہ سے برآمد ہوئی۔ موت کی وجوہات جاننے کے لیے باضابطہ تحقیقات شروع کر دی ہیں۔
لاش کو پوسٹ مارٹم کے لیے اسپتال منتقل کردیا گیا۔ فرانزک ٹیسٹس بھی کرائے جائیں گے تاکہ موت کی وجہ معلوم کی جاسکے۔
ڈینیئل سیاد پر الزام تھا کہ وہ ماڈلنگ کے شعبے سے وابستہ نوجوان خواتین کا تعارف جیفری ایپسٹین سے کراتا تھا۔
متعدد متاثرہ خواتین کا کہنا ہے کہ سیاد نے انہیں ایپسٹین سے ملوایا جس کے بعد وہ مبینہ طور پر جنسی استحصال کا شکار ہوئیں۔
سیاد کے وکیل کا کہنا ہے کہ اگر پوسٹ مارٹم سے دل کا دورہ موت کی وجہ ثابت ہوتا ہے تو اس میں کئی برسوں سے جاری قانونی دباؤ، ذہنی تناؤ اور غیر یقینی صورتحال کا بھی کردار ہو سکتا ہے۔
ایپسٹین کیس سے منسلک متعدد خواتین نے ڈینیئل سیاد کی موت پر افسوس کا اظہار کرتے ہوئے کہا کہ ان کی گواہی سے اس پورے نیٹ ورک کے بارے میں مزید اہم معلومات سامنے آ سکتی تھیں۔
سابق فرانسیسی ماڈل جولیٹ نے دعویٰ کیا کہ 2004 میں سیاد نے ان کا تعارف جیفری ایپسٹین سے کرایا تھا۔ ان کا کہنا تھا کہ سچ تک پہنچنے اور اس نیٹ ورک کے تمام کرداروں کو بے نقاب کرنے کی ایک اہم کڑی ختم ہوگئی۔
اسی طرح سابق سویڈش ماڈل ایبّا کارلسن نے بھی اس امید پر رواں برس فروری میں سیاد کے خلاف شکایت درج کرائی تھی کہ جلد گرفتاریاں ہوں گی اور انصاف ملے گا لیکن ان کی اچانک موت سے یہ امید کمزور پڑگئی ہے۔
خیال رہے کہ ماڈل سیاد کا اپنے خلاف عائد الزامات کی تردید کرتے ہوئے کہنا تھا کہ انھیں ایپسٹین کی مجرمانہ سرگرمیوں کا علم نہیں تھا اور خود بھی وہ اس کے دھوکے کا شکار ہوئے۔
ڈینیئل سیاد کے وکیل مینیا عرب ٹیگرین کا کہنا تھا کہ فرانسیسی تفتیش کاروں نے ابھی تک سیاد سے باقاعدہ پوچھ گچھ نہیں کی تھی لیکن وہ اپنی صفائی پیش کرنے کے لیے تیار تھے۔
عدالتی ریکارڈ کے مطابق امریکی عدالت کی جانب سے جاری کی گئی تقریباً دو ہزار سے زائد دستاویزات میں بھی ڈینیئل سیاد کا نام سامنے آیا تھا۔
ان دستاویزات میں مبینہ طور پر بتایا گیا کہ سیاد مختلف ممالک کے دوروں کے دوران خواتین کی تصاویر اور معلومات ایپسٹین کو بھیجتے تھے۔
2014 کی ایک ای میل جو عدالتی ریکارڈ کا حصہ بنی تھی اس میں سیاد نے اپنی سرگرمیوں کو ماہی گیری سے تشبیہ دیتے ہوئے لکھا تھا کہ بعض اوقات شکار آسانی سے مل جاتا ہے اور بعض اوقات ایک بھی مچھلی ہاتھ نہیں آتی۔
استغاثہ نے اس زبان کو خواتین کی تلاش سے تعبیر کیا جبکہ سیاد نے اس کی مختلف تشریح پیش کی تھی۔
یاد رہے کہ یہ پہلا موقع نہیں کہ جیفری ایپسٹین سے وابستہ کسی اہم شخصیت کی موت نے سوالات کو جنم دیا ہو وہ خود 2019 میں نیویارک کی جیل میں مردہ پائے گئے تھے جہاں وہ جنسی اسمگلنگ کے مقدمے کا سامنا کر رہے تھے۔
امریکی حکام نے جیفری ایپسٹین کی موت کو خودکشی قرار دیا تھا تاہم اس پر آج بھی مختلف سوالات اور سازشی نظریات زیرِ بحث رہتے ہیں۔
اسی طرح ایک اور فرانسیسی ماڈلنگ ایجنٹ اور ایپسٹین کے قریبی ساتھی ژاں لوک برونیل بھی 2022 میں پیرس کی جیل میں مردہ پائے گئے تھے۔ حکام نے ان کی موت کو بھی خودکشی قرار دیا تھا۔
بھارت سے جنگ اور افغانستان میں کارروائی خارج ازامکان نہیں، وزیردفاع