مصنوعی ذہانت امتیازی سلوک کا سبب بن سکتی ہے، رپورٹ

"مصنوعی ذہانت (اے آئی) بہت سی چیزوں کو آسان بنا دیتی ہے۔ بدقسمتی سے امتیازی سلوک بھی" یہ تبصرہ جرمن حکومت کی طرف سے امتیازی سلوک کے خاتمے کے لیے مقرر کی گئی خود مختار کمشنر فردا اتمان نے بدھ کی صبح برلن میں ایک پریس کانفرنس میں کیا۔

اتمان نے اس موقع پر خودکارالگورتھمک فیصلہ سازی (ADM) پر مبنی سسٹمز کے ذریعے لوگوں کو ممکنہ امتیازی سلوک سے  تحفظ فراہم کرنے سے متعلق ایک ماہرانہ رپورٹ بھی پیش کی۔ اس رپورٹ میں اے ڈی ایم کے مصنوعی ذہانت میں استعمال کی بہت سی مثالوں کا حوالہ دیا گیا ہے۔ ان میں درخواست کے طریقہ کار، بینکوں، انشورنس کمپنیوں سے قرضے، یا سماجی بہبود جیسے ریاستی فوائد کی تقسیم وغیرہ شامل ہے۔

اے آئی کس طرح تعصبات کو ہوا دے سکتی ہے؟

امتیازی سلوک کے انسداد کی کمشنر کا کہنا تھا، "یہاں امکانی بیانات گروہی خصوصیات کی بنیاد پر ترتیب دیے جاتے ہیں۔ جو چیز پہلی نظر میں معروضی دکھائی دیتی ہے وہ تعصبات اور دقیانوسی تصورات کو ہوا دے سکتی ہے۔ کسی بھی حالت میں ہمیں ڈیجیٹل امتیاز کے خطرات کو کم نہیں سمجھنا چاہیے۔''

2019 ء میں نیدرلینڈز میں 20,000 سے زیادہ لوگوں نے تجربہ کیا کہ کبھی غلط نہ ہو سکنے کے مفروضے پر قائم ٹیکنالوجی کے استعمال سے کیا ہو سکتا ہے۔ اس دوران انہیں بھاری جرمانے کے خطرے کے تحت بچوں کے فوائد واپس کرنے کا غلط حکم دیا گیا۔ اس حوالے سے بنائے گئے سافٹ وئیر میں ایک امتیازی الگورتھم جزوی طور پر اس صورتحال کا ذمہ دار تھا اور دوہری شہریت رکھنے والے لوگ خاص طور پر اس سے متاثر ہوئے۔

اس طرح کے معاملات کو روکنے کے لیے اتمان کا مطالبہ ہے کہ کمپنیاں شفاف طریقے سے کام کریں۔ دوسرے لفظوں میں وہ  اے آئی کا استعمال کرنے والی کمپنیوں کا ڈیٹا اوران کے سسٹم کے کام کرنے کے طریقہ کار سے متعلق معلومات کی  فراہمی چاہتی ہیں۔

 قانونی اسکالر اندرا اسپیکر اور ان کے ساتھی ایمانوئل وی ٹوفگ  کی جانب سے اے آئی پر لکھی گئی اس ماہرانہ رپورٹ میں مصنوعی ذہانت پر مبنی نظام کو ایک "بلیک باکس" کے طور پر بیان کیا گیا ہے۔ اس نظام سے متاثرہ افراد کے لیے اپنی ناکامی کی وجوہات کا پتہ لگانا عملی طور پر ناممکن ہے۔

رپورٹ میں کہا گیا ہے، ''ADM کے استعمال کا ایک خاص رجحان یہ ہے کہ امتیازی سلوک کی صلاحیت پہلے سے ہی ان کے سسٹم میں موجود ہو سکتی ہے۔ اس کی وجہ ایک ڈیٹا سیٹ ہو سکتا ہے، جو ناقص، مطلوبہ مقصد کے لیے غیر موزوں، یا مسخ شدہ ہو۔

ممکنہ امتیازی خصوصیت: پوسٹل کوڈ

اس کا کیا مطلب ہے رپورٹ میں عام مثالوں کے ساتھ واضح کیا گیا ہے کہ "پوسٹل کوڈ، جو اپنے آپ میں تو امتیازی نہیں ہے لیکن وہ امتیازی خصوصیت کا ایک ذریعہ بن جاتا ہے۔ مثال کے طور پر چند تاریخی وجوہات کی بنا پر بہت سے تارکین وطن ایک مخصوص سٹی ڈسٹرکٹ میں رہتے ہیں۔"

اس کے وہاں رہنے والے لوگوں کے لیے منفی نتائج ہو سکتے ہیں۔ مثال کے طور پر اگر وہ قرضوں کے لیے درخواست دیتے ہیں تو انہیں ایک مالیاتی خطرے کے طور پر دیکھا جا سکتا ہے کہ جو ہو سکتا ہے اپنے قرضوں کی ادائیگی نہ کر سکیں۔ ماہرین اس کو "اعداد و شمار کے ذریعے امتیاز" کہتے ہیں- یہ شماریاتی ذرائع سے حاصل کردہ خصوصیات کو کسی گروپ کی اصل یا فرض شدہ اوسط قدروں کی بنیاد پر ان سے منسوب کرنے کی مشق ہے ۔

ثالثی کے ادارے کے قیام کا مطالبہ

اسی نوعیت کے مسائل کے حل کے لیے فردا اتمان اپنی ایجنسی میں ایک مفاہمت کا دفتر قائم کرنا چاہتی ہیں اور یہ مطالبہ بھی کر رہی ہیں کہ عام مساوی سلوک ایکٹ (AGG) کو لازمی مفاہمت کے طریقہ کار کے ذریعے پورا کیا جائے۔

اس رپورٹ سے اتمان کا اخذ کردہ نتیجہ سادہ ہے: "ڈیجیٹائزیشن مستقبل ہے۔ لیکن یہ ایک ڈراؤنا خواب نہیں بننا چاہیے۔ لوگوں کو اس بات پر بھروسہ کرنے کے قابل ہونا چاہیے کہ اے آئی کے ذریعے ان کے ساتھ امتیازی سلوک نہیں کیا جائے گا۔" اور یہ کہ اگر ایسا ہوتا ہے تو وہ اپنا دفاع کر سکتے ہیں۔ اس لیے اتمان کا مطالبہ ہے کہ اس حوالے سے واضح اور قابل فہم اصولوں کی ضرورت ہے۔

یہ آرٹیکل پہلی بار جرمن زبان میں تحریر کیا گیا تھا۔

ش ر/ ک م (مارسیل فیورسٹناؤ )