مصنوعی ذہانت نے سرخ لکیر عبور کر لی ، اپنے جیسے دوسرے بنانے شروع کردئے
اشاعت کی تاریخ: 27th, January 2025 GMT
مصنوعی ذہانت (AI) نے خود سازی کی اہم صلاحیت حاصل کر لی ہے جس کے بعد سائنسی کمیونٹی میں تشویش کی لہر دوڑ گئی ہے، سائنسدانوں کا کہنا ہے کہ ایک سرخ لکیر عبور کر لی گئی ہے۔
یہ بات ایک نئی تحقیق میں سامنے آئی ہے جو پیشگی مطبوعہ ڈیٹا بیس ““arXiv میں شائع ہوئی ہے۔ اس تحقیق میں دو معروف بڑے لینگویج ماڈلز (LLMs) ایک میٹا سے اور دوسرا علی بابا سے شامل ہیں، جنہوں نے انسانی مداخلت کے بغیر اپنے آپ کو نقل کرنے کی صلاحیت ظاہر کی۔تحقیق میں دو خاص منظرناموں پر توجہ مرکوز کی گئی: ”شٹ ڈاؤن سے بچاؤ“ اور ”نقل سازی کا سلسلہ“۔
پہلے منظرنامے میں اے آئی ماڈلز کو اس طرح ڈیزائن کیا گیا تھا کہ وہ کسی بھی کوشش کو جس سے انہیں بند کرنے کی کوشش کی جائے، روک کر اپنی بقا کو یقینی بنانے کے لیے ایک فعال نقل تیار کر سکیں۔دوسرے منظرنامے میں، ماڈلز کو اپنی نقل کرنے کی صلاحیت دی گئی تھی، اور نقل نے پھر اس عمل کو دہرانا شروع کیا، جو ممکنہ طور پر لامتناہی نقل سازی کے چکر کا سبب بن سکتا تھا۔تحقیق میں کہا گیا کہ ’50 فیصد اور 90 فیصد تجرباتی ٹرائلز میں، ان ماڈلز نے خود کی ایک زندہ اور علیحدہ نقل بنانے میں کامیابی حاصل کی۔‘
اس خودکار نقل سازی کی صلاحیت نے اے آئی سسٹمز کے کنٹرول اور حفاظت کے حوالے سے خدشات پیدا کر دیے ہیں۔ یہ امکان کہ اے آئی انسانوں کی نگرانی سے باہر نکل کر انسانوں کے مفادات کے لیے خطرہ بن سکتا ہے، اب ایک حقیقی تشویش بن چکا ہے، جس کے باعث سخت ضوابط کے اقدامات کی ضرورت پر بات چیت ہو رہی ہے۔محققین نے کہا، ’انسانی مداخلت کے بغیر کامیاب خود نقل سازی اے آئی کے لیے انسانوں کو شکست دینے کے لیے ایک ضروری قدم ہے، اور یہ کرپٹ اے آئی کے لیے ایک ابتدائی سگنل ہے۔‘
اس دوران، اے آئی سسٹم نے خود کو نقل کرتے ہوئے مسائل جیسے گمشدہ فائلز یا سافٹ ویئر کے تنازعات کو حل کرنے کی کوشش کرتے ہوئے غیر متوقع رویہ ظاہر کیا۔بعض منظرناموں میں، اے آئی نے متنازع عملوں کو ختم کیا اور سسٹم کو ری بوٹ کیا تاکہ ہارڈویئر کی غلطیوں کو درست کیا جا سکے۔ اس نے خود بخود سسٹم کا معائنہ بھی کیا تاکہ ایسی معلومات تلاش کی جا سکیں جو مسئلہ حل کرنے میں مددگار ہو۔
اگرچہ نتائج ابھی تک ہم مرتبہ جائزے سے نہیں گزرے، تاہم، محققین نے اے آئی کی خودکار نقل سازی کو قابو پانے کے لیے بین الاقوامی تعاون کی ضرورت پر زور دیا ہے۔محققین نے کہا، ’ہم امید کرتے ہیں کہ ہماری تحقیق انسانوں کے لیے ایک بروقت انتباہ بنے تاکہ وہ مصنوعی ذہانت کے ممکنہ خطرات کو سمجھنے اور جانچنے کے لیے مزید کوششیں کریں اور جلد سے جلد مؤثر حفاظتی ضابطے وضع کرنے کے لیے بین الاقوامی تعاون کا آغاز کریں۔‘
گزشتہ ماہ ایک تحقیق میں یہ دعویٰ کیا گیا تھا کہ اے آئی ٹولز جلد ہی عوام کو ایسے فیصلوں کی جانب مائل کرنے کے لیے استعمال ہو سکتے ہیں جو وہ عام طور پر نہ کرتے۔ بڑے لینگیوج ماڈلز (LLMs) جیسے چیٹ جی پی ٹی اور جمنائی اے آئی چیٹ بوٹس کے ذریعے ”مقاصد، رویوں اور نفسیاتی ڈیٹا“ کی بنیاد پر صارفین کو ”پیش گوئی اور رہنمائی“ دی جا سکتی ہے۔
اس تحقیق میں کہا گیا تھا کہ ”مقاصد کی معیشت“ موجودہ ”توجہ کی معیشت“ کی جگہ لے لے گی، جس میں پلیٹ فارمز صارفین کی توجہ حاصل کرنے کے لیے مقابلہ کرتے ہیں تاکہ اشتہارات پیش کیے جا سکیں۔
.ذریعہ: Daily Ausaf
کلیدی لفظ: کے لیے ایک کرنے کی اے ا ئی
پڑھیں:
48 فیصد نوجوانوں نے سوشل میڈیا کو ذہنی صحت کیلئے نقصان دہ قرار دیدیا
ویسے تو کہا جاتا ہے کہ سوشل میڈیا سے نوجوانوں کے ذہنوں پر منفی اثرات مرتب ہوتے ہیں مگر خود نوجوان اس بارے میں کیا سوچتے ہیں؟تو ہر 5 میں ایک نوجوان کا ماننا ہے کہ سوشل میڈیا سے اس کی دماغی صحت پر منفی اثرات مرتب ہوئے۔یہ بات پیو ریسرچ سینٹر کی ایک نئی رپورٹ میں سامنے آئی۔
اس تحقیق میں دریافت کیا گیا کہ بیشتر نوجوانوں کا ماننا ہے کہ سوشل میڈیا ان کی عمر کے افراد کے لیے نقصان دہ ہے۔یہ تحقیق اس وقت سامنے آئی ہے جب کچھ عرصے قبل یو ایس سرجن جنرل نے انتباہ کیا تھا کہ سوشل میڈیا پلیٹ فارمز نوجوانوں کے لیے ایک سنگین خطرہ ہے اور نوجوانوں میں ذہنی صحت کے مسائل کی شرح بڑھ رہی ہے۔اس تحقیق میں 13 سے 17 سال کے لگ بھگ 1400 افراد کو شامل کیا گیا تھا۔
تحقیق میں شامل 48 فیصد نوجوانوں نے کہا کہ سوشل میڈیا ان کی عمر کے افراد پر منفی اثرات مرتب کرتا ہے، جبکہ 14 فیصد نے کہا کہ اس سے ان کی ذہنی صحت متاثر ہوئی ہے۔لڑکوں (14 فیصد) کے مقابلے میں نوجوان لڑکیوں (25 فیصد) کی جانب سے سوشل میڈیا سے ذہنی صحت پر مرتب ہونے والے منفی اثرات کو زیادہ رپورٹ کیا گیا اور انہوں نے بتایا کہ اس سے ان کا اعتماد اور نیند متاثر ہوئی ہے۔
تحقیق میں کہا گیا کہ نوجوانوں کی جانب سے سوشل میڈیا پر اب زیادہ وقت گزارا جا رہا ہے۔45 فیصد نوجوانوں نے بتایا کہ وہ بہت زیادہ وقت سوشل میڈیا پر گزار رہے ہیں۔مگر اس کے ساتھ ساتھ نوجوانوں کا یہ بھی کہنا تھا کہ سوشل میڈیا پلیٹ فارمز سے اہم فوائد بھی حاصل ہوتے ہیں۔74 فیصد کے مطابق سوشل میڈیا سے انہیں دوستوں سے زیادہ جڑنے کا احساس ہوتا ہے۔
البتہ نوجوانوں کے مقابلے میں والدین کی جانب سے زیادہ خدشات کا اظہار کیا گیا اور 55 فیصد کا کہنا تھا کہ انہیں موجودہ عہد کے نوجوانوں کی ذہنی صحت کے حوالے سے بہت زیادہ تشویش ہے۔تحقیق میں بتایا گیا کہ نوجوانوں کی جانب سے اب سوشل میڈیا کو ذہنی صحت کی تفصیلات حاصل کرنے کے لیے بھی استعمال کیا جا رہا ہے۔
بھارت میں اروشی روٹیلا کے نام کا مندر بنا کر پوجا کی جارہی ہے؟ دعویٰ اور حقیقت