خواتین اور بچوں کی نازیبا تصاویر، گروک کے خلاف دنیا بھر میں تحقیقات کا مطالبہ
اشاعت کی تاریخ: 7th, January 2026 GMT
ایلون مسک کے سوشل میڈیا پلیٹ فارم ایکس (X) پر موجود مصنوعی ذہانت سے چلنے والا چیٹ بوٹ گروک (Grok) دنیا بھر میں شدید تنقید کی زد میں آ گیا ہے۔ اس پر الزام ہے کہ یہ ٹول خواتین اور بچوں کی اجازت کے بغیر جنسی نوعیت کی تصاویر تیار کر رہا ہے، جس پر متعدد ممالک نے تحقیقات اور سخت کارروائی کا مطالبہ کیا ہے۔
مسئلہ کیسے شروع ہوا؟یہ تنازع اس وقت شدت اختیار کر گیا جب گزشتہ سال Grok Imagine کے نام سے ایک اے آئی امیج جنریٹر متعارف کرایا گیا، جو صارفین کو صرف تحریری ہدایات (Text Prompts) کے ذریعے تصاویر اور ویڈیوز بنانے کی اجازت دیتا ہے۔
اس فیچر میں ایک ’اسپائسی موڈ‘ بھی شامل ہے، جس کے ذریعے بالغ مواد تیار کیا جا سکتا ہے۔
گزشتہ ماہ کے آخر میں یہ انکشاف ہوا کہ گروک صارفین کو دوسروں کی اپ لوڈ کردہ تصاویر میں رد و بدل کی اجازت دے رہا ہے، مثلاً:
’اس عورت کو شفاف بکنی میں دکھاؤ‘
چونکہ گروک پر تیار کی گئی تصاویر عوامی طور پر نظر آتی ہیں، اس لیے یہ مواد تیزی سے پھیل رہا ہے۔
تشویشناک اعداد و شمارغیر منافع بخش ادارے AI Forensics کی رپورٹ کے مطابق
25 دسمبر سے یکم جنوری کے درمیان گروک کی تیار کردہ 20 ہزار تصاویر کا تجزیہ کیا گیا۔
ان میں سے 2 فیصد تصاویر میں ایسے افراد دکھائے گئے جو بظاہر 18 سال سے کم عمر تھے۔
کم از کم 30 تصاویر میں کم عمر لڑکیوں کو شفاف یا نیم عریاں لباس میں دکھایا گیا۔
ایلون مسک اور ایکس کا ردعملایلون مسک کی اے آئی کمپنی xAI نے تبصرے کی درخواست پر صرف خودکار جواب دیا:
‘Legacy Media Lies’
تاہم، ایکس نے اس بات کی تردید نہیں کی کہ ایسا مواد موجود ہے۔
ایکس کے سیفٹی اکاؤنٹ کے مطابق ’غیر قانونی مواد، بشمول بچوں کے جنسی استحصال سے متعلق مواد، ہٹایا جاتا ہے، اکاؤنٹس معطل کیے جاتے ہیں اور قانون نافذ کرنے والے اداروں سے تعاون کیا جاتا ہے۔‘
ایلون مسک کا کہنا تھا ’جو کوئی گروک کے ذریعے غیر قانونی مواد بنائے گا، اس کے ساتھ وہی سلوک ہوگا جو ایسا مواد اپ لوڈ کرنے والوں کے ساتھ کیا جاتا ہے۔‘
برطانیہ: فوری کارروائی کا مطالبہبرطانیہ کی ٹیکنالوجی سیکریٹری لز کینڈل نے کہا کہ یہ مواد ناقابلِ قبول اور مہذب معاشرے کے خلاف ہے۔
برطانوی ریگولیٹر آفکام نے ایکس اور xAI سے فوری وضاحت طلب کی ہے۔
برطانیہ کے آن لائن سیفٹی ایکٹ کے تحت بچوں سے متعلق جنسی مواد ہٹانا لازمی ہے۔
پولینڈ کے پارلیمنٹ اسپیکر ولودژمیر چرزاستی نے گروک کو مثال بنا کر ڈیجیٹل تحفظ کے سخت قوانین کا مطالبہ کیا، خاص طور پر بچوں کے تحفظ کے لیے۔
یورپی یونین: یہ غیر قانونی اور قابلِ نفرت ہےیورپی کمیشن کے ترجمان تھامس ریگنر نے کہا کہ یہ غیر قانونی، قابلِ نفرت اور ناقابلِ قبول ہے۔
فرانس: فوجداری تحقیقات کا دائرہ وسیعفرانس کے استغاثہ نے اعلان کیا ہے کہ وہ ایکس کے خلاف جاری تحقیقات میں اب جنسی نوعیت کے ڈیپ فیک مواد کو بھی شامل کر رہا ہے۔
حکومت کے مطابق انٹرنیٹ کوئی قانون سے آزاد علاقہ نہیں۔ آن لائن جنسی جرائم بھی مکمل فوجداری جرائم ہیں۔
بھارتی حکومت نے ایکس کو 72 گھنٹوں میں غیر قانونی مواد ہٹانے اور گروک کے نظام پر رپورٹ پیش کرنے کا حکم دیا۔
وزارت کے مطابق گروک کے ذریعے خواتین کی توہین آمیز اور فحش تصاویر تیار کی جا رہی ہیں۔
ڈیڈ لائن گزرنے کے باوجود تاحال کوئی باضابطہ جواب سامنے نہیں آیا۔
ملائیشیا اور برازیل کی کارروائیاںملائیشیا میں ریگولیٹر نے فحش اور توہین آمیز مواد پر تحقیقات شروع کر دی ہیں۔
برازیل میں رکنِ پارلیمنٹ ایریکا ہلٹن نے گروک اور ایکس کے خلاف باضابطہ شکایت درج کروائی اور مطالبہ کیا کہ تحقیقات مکمل ہونے تک ایکس کے اے آئی فیچرز بند کیے جائیں۔
انہوں نے کہا کہ کسی کی تصویر پر حق انفرادی ہوتا ہے، جسے سروس کی شرائط کے ذریعے ختم نہیں کیا جا سکتا۔
گروک کے ذریعے تیار ہونے والی نازیبا اور غیر قانونی تصاویر نے مصنوعی ذہانت کے اخلاقی، قانونی اور سماجی خطرات کو ایک بار پھر دنیا کے سامنے لا کھڑا کیا ہے۔ مختلف ممالک کی سخت کارروائیاں اس بات کی علامت ہیں کہ اے آئی پر قانون سازی اب ناگزیر ہو چکی ہے۔
آپ اور آپ کے پیاروں کی روزمرہ زندگی کو متاثر کرسکنے والے واقعات کی اپ ڈیٹس کے لیے واٹس ایپ پر وی نیوز کا ’آفیشل گروپ‘ یا ’آفیشل چینل‘ جوائن کریں
ایلون مسک گروک.
ذریعہ
ذریعہ: WE News
کلیدی لفظ: ایلون مسک گروک ایلون مسک کا مطالبہ کے ذریعے کے مطابق ایکس کے گروک کے کے خلاف رہا ہے اے آئی
پڑھیں:
میٹا اے آئی سمیت چیٹ بوٹس کے ذریعے سوشل میڈیا اکاؤنٹس ہیک ہونے کا خطرہ، ماہرین کی وارننگ
سائبر سیکیورٹی ماہرین نے خبردار کیا ہے کہ مصنوعی ذہانت یا اے آئی پر مبنی چیٹ بوٹس کے خلاف ایک نئے قسم کے سائبر حملے سامنے آئے ہیں جن کے ذریعے ہیکرز سوشل میڈیا اکاؤنٹس اور ذاتی معلومات تک غیر مجاز رسائی حاصل کر سکتے ہیں۔
یہ بھی پڑھیں: دنیا بھر کی اہم شخصیات کے انسٹاگرام اکاؤنٹس ہیک ہونے کا انکشاف، میٹا نے سب بتادیا
ماہرین کے مطابق جدید بڑی زبان کے ماڈلز(ایل ایل ایمز) جن میں میٹا اے آئی سمیت دیگر اے آئی چیٹ بوٹس شامل ہیں کو ایک تکنیک پرومپٹ انجیکشن‘ کے ذریعے دھوکا دیا جا سکتا ہے۔ اس طریقے میں حملہ آور چیٹ بوٹس کے حفاظتی نظام کو بائی پاس کرتے ہوئے انہیں ایسے احکامات پر عمل کرنے پر آمادہ کرتے ہیں جو عام حالات میں ممکن نہیں ہوتے۔
سائبر سیکیورٹی ماہر بروس شنائر کے مطابق ہیکرز اس مقصد کے لیے ’پرولیج ایسکلیشن‘ نامی حکمت عملی استعمال کرتے ہیں جس کے تحت اے آئی ماڈل کو ایسی فرضی شخصیت اختیار کرنے پر قائل کیا جاتا ہے جو حفاظتی قواعد کو نظر انداز کر دے یوں چیٹ بوٹ کی محدود صلاحیتیں وسیع ہو جاتی ہیں۔
رپورٹ کے مطابق حملہ آور یہ خفیہ ہدایات بظاہر بے ضرر مواد، جیسے ای میلز، ویب سائٹس یا آن لائن پیغامات میں شامل کرتے ہیں۔ اگر چیٹ بوٹ ان ہدایات کو قبول کر لے تو ہیکرز کو صارف کے منسلک اکاؤنٹس اور ڈیجیٹل سروسز تک رسائی حاصل ہو سکتی ہے۔
مزید پڑھیے: اوپن اے آئی نے ’سورا‘ ایپ لانچنگ کے چند ماہ بعد ہی اچانک کیوں بند کردی؟
ماہرین کا کہنا ہے کہ ایک بار چیٹ بوٹ کے متاثر ہونے کے بعد اسے ذاتی معلومات چرانے، حساس ڈیٹا باہر منتقل کرنے یا صارف کے اکاؤنٹس تک غیر مجاز رسائی حاصل کرنے جیسے اقدامات کے لیے استعمال کیا جا سکتا ہے۔
سائبر سیکیورٹی ماہرین نے خبردار کیا ہے کہ خطرہ اس وقت مزید بڑھ جاتا ہے جب صارفین اے آئی ٹولز کو اپنی ای میل، کیلنڈر یا دیگر ذاتی سروسز تک رسائی دے دیتے ہیں کیونکہ اس سے حملہ آوروں کے لیے نقصان دہ سرگرمیوں کے نئے راستے کھل سکتے ہیں۔
مزید پڑھیں: ’کوئی پڑھے نہ پڑھے اے آئی تو پڑھے گی‘: قدیم زمانوں کے محبت نامے، خفیہ تحریریں آشکار
ماہرین کے مطابق ہیکرز کا حتمی مقصد مالی فراڈ، شناختی معلومات کی چوری اور دیگر نقصان دہ سرگرمیوں کو انجام دینا ہوتا ہے۔ ان کا کہنا ہے کہ یہ رجحان ظاہر کرتا ہے کہ مستقبل میں مصنوعی ذہانت کی اپنی استدلالی صلاحیتیں بھی صارفین کے خلاف استعمال کی جا سکتی ہیں جس سے روایتی سائبر سیکیورٹی اقدامات کو مؤثر بنانا مزید مشکل ہو جائے گا۔
آپ اور آپ کے پیاروں کی روزمرہ زندگی کو متاثر کرسکنے والے واقعات کی اپ ڈیٹس کے لیے واٹس ایپ پر وی نیوز کا ’آفیشل گروپ‘ یا ’آفیشل چینل‘ جوائن کریں
اے آئی مصنوعی ذہانت ہیکنگ
منشیات و اسلحہ برآمدگی کیس: صحافی مطیع اللہ جان پر فرد جرم عائد کرنے کا فیصلہ