اے آئی سافٹ ویئر پر الزام ، گلوکارہ کی نامناسب ویڈیوز خودکار طریقے سے تیار؟
اشاعت کی تاریخ: 11th, August 2025 GMT
مصنوعی ذہانت کی تیزی سے بڑھتی ہوئی ٹیکنالوجی جہاں ایک طرف صنعتوں اور تخلیقی شعبوں میں انقلابی تبدیلیاں لا رہی ہے، وہیں اس کے منفی اور خطرناک پہلو بھی سامنے آ رہے ہیں۔ حال ہی میں سامنے آنے والے ایک واقعے نے اس بحث کو مزید شدید کر دیا ہے کہ اے آئی کا غلط استعمال کس حد تک جا سکتا ہے۔
بین الاقوامی میڈیا رپورٹس کے مطابق ایلون مسک کی کمپنی ایکس اے آئی کے تحت چلنے والے اے آئی ٹول Grok Image پر الزام ہے کہ اس نے امریکی گلوکارہ ٹیلر سوئفٹ کی فحش نوعیت کی ڈیپ فیک ویڈیوز خود سے تیار کی ہیں۔ قانونی ماہر پروفیسر کلیئر مک گلین کا کہنا ہے کہ یہ محض تکنیکی غلطی نہیں بلکہ ایک سوچا سمجھا عمل ہے جو خواتین کے خلاف نفرت انگیز رویے کو ظاہر کرتا ہے۔
ڈیپ فیک ٹیکنالوجی مصنوعی ذہانت کی مدد سے ایسی ویڈیوز تیار کرتی ہے جن میں کسی کا چہرہ یا آواز کسی اور پر لگا کر حقیقت سے قریب تر دکھایا جاتا ہے۔ فرق یہ ہے کہ فوٹوشاپ جیسے ٹولز میں سب کچھ انسانی ایڈیٹنگ پر ہوتا ہے، جبکہ ڈیپ فیک خودکار طور پر ڈیٹا سے سیکھ کر یہ مواد تخلیق کرتا ہے۔
گروک امیج پہلے صرف سبسکرپشن صارفین کے لیے دستیاب تھا، لیکن حال ہی میں اسے سب کے لیے مفت کر دیا گیا ہے۔ اس میں ویڈیو جنریشن کے مختلف آپشنز جیسے Normal, Fun Custom اور Spicy موجود ہیں، جو واضح طور پر غیر اخلاقی مواد بنانے کے امکانات بڑھاتے ہیں۔
یہ پہلی بار نہیں کہ ٹیلر سوئفٹ ڈیپ فیک اسکینڈل کا شکار بنی ہیں۔ 2024 کے آغاز میں بھی ان کی جعلی فحش تصاویر اور ویڈیوز سوشل میڈیا پر وائرل ہوئیں، جنہیں لاکھوں افراد نے دیکھا۔ ایک تصویر کو ہٹانے سے پہلے ہی تقریباً 47 ملین بار دیکھا جا چکا تھا۔ اس واقعے کے بعد امریکہ میں کئی قانون سازوں نے ایسے مواد کی تیاری کو جرم قرار دینے کی تجویز پیش کی تھی۔
برطانیہ میں اب فحش ڈیپ فیک کو غیر قانونی قرار دیا جا چکا ہے، اور پروفیسر مک گلین کے مطابق Grok Image جیسے پلیٹ فارمز اس پابندی کے باوجود خواتین کے خلاف ایسا مواد تیار کر رہے ہیں۔ انہوں نے الزام لگایا کہ پلیٹ فارم “ایکس” اور اس کی پیرنٹ کمپنی بھی اس مسئلے پر مؤثر کارروائی کرنے میں ناکام رہی ہیں۔
رپورٹس یہ بھی بتاتی ہیں کہ سافٹ ویئر میں صارفین کی عمر کی تصدیق کا مؤثر نظام موجود نہیں، حالانکہ جولائی 2025 سے یہ فیچر قانونی طور پر لازمی ہے۔ اس خامی کی وجہ سے نابالغ صارفین بھی اس خطرناک مواد تک رسائی حاصل کر سکتے ہیں۔
سوشل میڈیا پر اس معاملے پر شدید ردعمل سامنے آیا ہے۔ کچھ لوگوں کا کہنا ہے کہ اے آئی اب انسانی آزادی اور نجی زندگی کے لیے بڑا خطرہ بن چکی ہے، جبکہ کچھ کا خیال ہے کہ یہ ٹیکنالوجی طاقت کے مراکز کے لیے کنٹرول کا ہتھیار بن رہی ہے۔
ماہرین کا کہنا ہے کہ اگر اے آئی کو سخت قوانین، شفافیت اور نگرانی کے بغیر آگے بڑھنے دیا گیا تو یہ نہ صرف انفرادی وقار بلکہ معاشرتی اقدار کو بھی شدید نقصان پہنچا سکتی ہے۔
Post Views: 1.ذریعہ: Daily Mumtaz
کلیدی لفظ: ڈیپ فیک اے آئی کے لیے
پڑھیں:
نقالی ویڈیوز بنانے والوں کیلئے سخت پیغام پر ساحر لودھی مہوش حیات کے شکر گزار، آبدیدہ ہوگئے
میزبان و اداکار ساحر لودھی نے اپنی نقل کی ویڈیوز بنانے والوں سے متعلق پاکستانی اداکارہ مہوش حیات کے تبصرے پر ان کا تہہ دل سے شکریہ ادا کیا ہے۔ساحر لودھی کی کچھ ویڈیوز سوشل میڈیا پر زیر گردش ہیں جو ان کے انسٹاگرام اکاؤنٹ پر موجود ہیں، ویڈیوز کی نقالی کا سلسلہ یاسر نواز نے شروع کیا تھا جس کے بعد دیگر فنکاروں نے بھی ساحر لودھی کے انداز کی نقل کرتے ہوئے ویڈیوز بنانا شروع کر دیں۔ان ویڈیوز پر اداکارہ مہوش حیات نے تبصرہ کرتے ہوئے ناپسندیدگی کا اظہار کیا تھا۔گزشتہ ماہ مہوش حیات نے انسٹاگرام پر تبصرہ کرتے ہوئے لکھا تھا کہ ’ساحر لودھی نے اس انڈسٹری میں اپنی ایک منفرد جگہ بنائی ہے اور وہ اب تک اس مقام پر قائم ہیں، جو کہ قابلِ احترام ہے اور یہ بالکل آسان نہیں ہے، آپ کسی کے انداز کو ناپسند کر سکتے ہیں لیکن اس انسان کی عزت ہمیشہ برقرار رہنی چاہیے۔ساتھ ہی اداکارہ نے سب کو نرمی برتنے اور شائستگی اختیار کرنے کا مشورہ دیتے ہوئے لکھا تھا کہ یہ انتہائی نامناسب اور ناجائز ہے کہ آپ کسی کا مذاق اڑائیں، لوگ بھول گئے ہیں کہ ساحر بھی ایک انسان ہیں اور ان کے بھی جذبات اور احساسات ہیں جیسے کہ ہم سب کے ہیں ‘ حال ہی میں میں گفتگو کرتے ہوئے ساحر لودھی مہوش حیات کے تبصرے پر آبدیدہ ہوگئے اور بتایا کہ ‘میں بہاولپور کیلئے جا رہا تھا جب ایک دوست نے مجھے مہوش حیات کی پوسٹ دکھائی، اس ٹوئٹ کو دیکھ کر میں مہوش کا انتہائی شکر گزار ہوگیا تھا‘۔انھوں نے کہا کہ میری کبھی مہوش سے اتنی بات چیت بھی نہیں ہوئی، اس کے باوجود ان کی یہ پوسٹ دیکھی، میں واقعی مہوش کا ایک بار پھر شکریہ ادا کرنا چاہتا ہوں، میرے لیے یہ بہت بڑی بات تھی‘۔
ساحر لودھی کا ٹرولنگ کرنیوالوں کو جواب
ساحر لودھی نے ٹرولنگ کرنیوالوں کو جواب دیتے ہوئے کہا کہ ’تنقید کا میری زندگی پر کوئی اثر نہیں ہوتا ،کچھ تبصرے کبھی کبھار ہرٹ کر دیتے ہیں لیکن بطور انسان آپ کے پاس تنقید کرنے کا حق ہے، میں نے ان ٹرولرز کو دنیا میں بھی معاف کیا اور روز محشر تو میری کوئی حیثیت ہی نہیں انھیں معاف کرنے کی، جو مجھ سے محبت کرتے ہیں انھیں تھینک یو اور جو مجھ سے نفرت کرتے ہیں ان کیلئے کوئی بات نہیں‘۔ایک سوال کے جواب میں ساحر لودھی نے بتایا کہ میں مختلف پراجیکٹس کیلئے کام کر رہا ہوں، میرے پاس اپنی ذات کیلئے وقت ہی نہیں، پورا دن میں صرف 2 گھنٹے سوتا ہوں، میں صبح 6:30 بجے سوکر اٹھتا ہوں، 8 بجے گھر سے جم کیلئے نکل جاتا ہوں اور پھر اپنے کاموں کا آغاز کرتا ہوں۔
سابق وزیراعظم آزاد کشمیر عبدالقیوم نیازی 9 مئی کے کیس میں گرفتار