سام آلٹمین کا اے آئی ٹیکنالوجی کے ایک اور خطرے کا انتباہ

ایک حالیہ انٹرویو کے دوران سام آلٹمین نے کہا کہ اے آئی ٹیکنالوجی کو سینڈ باکسز (محفوظ اور الگ تھلگ کمپیوٹنگ اسپیس) تک محدود رکھنا مشکل ہوتا جا رہا ہے۔

انہوں نے کہا کہ ایک بار جب کوئی اے آئی ماڈل اپنی صلاحیتوں کو بہتر بنانے لگتا ہے تو پھر آپ اس کے محفوظ اسپیس سے نکلنے کے آثار بھی دریافت نہیں کرسکتے۔

سام آلٹمین نے کہا کہ اگرچہ مانیٹرنگ سے وقت مل جاتا ہے مگر حقیقی تحفظ کے لیے ضروری ہے کہ اے آئی اپنے اندر انسانی اقدار کو اپنائے۔

انہوں نے بتایا کہ اس وقت اے آئی سے منسلک خطرات سب سے زیادہ ہیں اور اس کی روک تھام کے لیے ضروری ہے کہ ابتدائی مراحل میں ہی ان کی روک تھام کرلی جائے۔

انہوں نے مزید بتایا کہ اے آئی ماڈل اس طرح ہارڈ وئیر میں چھپی کمزوریوں کو ڈھونڈ لیتے ہیں جس کے لیے ڈرامائی لفظ بھی چھوٹا محسوس ہوتا ہے۔

ان کا کہنا تھا کہ درحقیقت ہیکر ان کی مدد سے ایسے بگز تیار کرسکتے ہیں جن کو فکس کرنا بھی ممکن نہیں ہوگا۔

چیٹ جی پی تیار کرنے والی کمپنی کے چیف ایگزیکٹو نے کہا کہ بگز کو فکس کرنے کا روایتی طریقہ کار اب کافی نہیں ہوگا اور انٹرنیٹ کا سکیورٹی انفرا اسٹرکچر اے آئی کی مدد سے دوبارہ تیار کرنے کی ضرورت ہے۔

سام آلٹمین کے مطابق اوپن سورس اے آئی ماڈل سکیورٹی کے لیے خطرہ ہیں اور عالمی ایجنٹ مانیٹرنگ سے بھی تمام مضر اقدامات کی روک تھام ممکن نہیں۔

سام آلٹمین کا بیان اس وقت سامنے آیا ہے جب پی ایچ پی سکیورٹی کمزوریوں کا سامنا دنیا بھر میں لاکھوں ویب سائٹس کو ہوا اور وہ آف لائن ہوگئیں۔

ان ویب سائٹس میں چھپی کمزوریوں کو اے آئی ٹیکنالوجی نے ہی دریافت کیا تھا۔