ایلون موک نے اے این گروپ کو قائم کیا کہ 'جعلی نیوز' کے خدشات پر سافٹ ویئر جاری نہیں رہیں – ٹائمز اب

ایلون موک نے اے این گروپ کو قائم کیا کہ 'جعلی نیوز' کے خدشات پر سافٹ ویئر جاری نہیں رہیں – ٹائمز اب

ایلون مسک، اوپنائی

ایلون مسک (فائل تصویر) | تصویر کریڈٹ: آئی آئی ایس

سان فرانسسکو: ایلون موک نے غیر منافع بخش مصنوعی انٹیلیجنس (اے اے) ریسرچ گروپ اوپنائی نے اپنا نیا AI سافٹ ویئر تفصیل سے نہیں ظاہر کرنے کا فیصلہ کیا ہے، اس سے ڈرتے ہیں کہ AI کی بنیاد پر ماڈل کو ناقابل شکست جعلی نیوز بنانے میں بری اداکاروں کی طرف سے غلط استعمال کیا جا سکتا ہے. “GPT2” کے طور پر ڈوب گئے، AI-based automated text generator اعداد و شمار کے کچھ ٹکڑوں کے ساتھ کھلایا کے بعد جعلی نیوز مضامین اور بدسلوکی پوسٹس پیدا کر سکتے ہیں.

“ہم نے ایک بڑے پیمانے پر غیر جانبدار زبانی زبان کے ماڈل کو تربیت دی ہے جس میں متن کے متعدد پیراگراف پیدا ہوتے ہیں اور ابتدائی پڑھنے کی فہم، مشین ترجمہ، سوال کا جواب دینے اور خلاصہ انجام دیتے ہیں -” بغیر تمام مخصوص ٹریننگ ٹریننگ “، اوپنائی نے جمعہ کو دیر سے ایک بلاگ پوسٹ میں کہا .

آٹھ ملین ویب صفحات کے اعداد و شمار سیٹ پر تربیت دی گئی ہے، “GPT2” سٹائل اور اس متن کے مواد کو اپنانے کے لۓ آپ اسے کھانا کھلاتے ہیں. اوپنائی نے کہا کہ AI ماڈل بہت اچھا ہے اور بدسلوکی استعمال کا خطرہ بہت زیادہ ہے کہ یہ عوام کو پوری تحقیق کو جاری نہیں کر رہا ہے.

تاہم، غیر منافع بخش نے ایک چھوٹا سا ماڈل پیدا کیا ہے جو محقق کے ساتھ محققین کے تجربے کو دیکھنے کے لۓ اس کو دیکھنے کے لئے کہ کس قسم کا متن پیدا کرسکتا ہے اور کیا کام کرسکتا ہے وہ کیا کام کرسکتا ہے.

“ہم ان ماڈلز کو بدسلوکی مقاصد کے لۓ تصور کر سکتے ہیں، جن میں مندرجہ ذیل شامل ہیں: گمراہی سے خبرنامہ پیدا کرنے، دوسروں کو آن لائن کی باری، سوشل میڈیا پر پوسٹ کرنے اور سپیم / فشنگ سازی کے مواد کو خود کار طریقے سے پوسٹ کرنے کے لئے بدسلوکی یا جعلی مواد کی پیداوار کو خود کار طریقے سے بنائیں.” اوپنائی نے کہا.

آج، بدسلوکی اداکاروں – جن میں سے کچھ سیاسی طور پر فطرت ہیں – مشترکہ آن لائن اجنبیوں کو نشانہ بنانا شروع کر دیا ہے، جیسے “نفرت انگیز تبصرہ کے ساتھ ٹولک افراد، جعلی اکاؤنٹس اور سرشار ٹیموں جیسے چیزوں کا استعمال کرتے ہوئے، یا سننے یا یقین کرنے کے لئے مشکل “.

اوپنائی نے مزید کہا کہ ہمیں اس بات پر غور کرنا چاہئے کہ مصنوعی تصاویر، ویڈیوز، آڈیو اور متن کی نسل میں کس طرح تحقیقات ان برے اداکاروں کے لئے نئے طور پر ابھی تک غیر متوقع صلاحیتوں کو غیر مقفل کرنے کے لۓ مزید یکجا کر سکتے ہیں.

مسک، جو اے اے کے پریشان کن تنقید ہے اور 2016 ء میں اوپنائی نے تعاون کی ہے، 2018 میں اس کے بورڈ سے قدم رکھا تھا. اوپنائی نے کہا کہ حکومتوں کو آئن ٹیکنالوجیوں کے سماجی اثرات اور اثرات کو زیادہ منظم طریقے سے نگرانی کے لۓ حکومتوں کو توسیع یا شروع کرنے پر غور کرنا پڑتا ہے.